海外精选｜德银剖析AI“末日论”：科技预测屡失准 5万亿美元投资面临兑现大考

徽声在线9月16日讯（编辑 李晓峰）德意志银行在9月15日发布的一份名为《AI末日：科技预测失误简史》的报告中指出，历史一次次地表明，即便是那些最顶尖的科学家、技术专家以及企业家，也难以精准地预估技术发展的速度及其最终带来的影响。

对于那些正在为人工智能（AI）领域投入巨额资金的企业和投资者而言，一个更为紧迫的问题是，技术上的突破能否及时转化为实际的收入、利润以及现金流。

AI引发的焦虑情绪持续升温

当前这一轮针对人工智能可能带来的风险的担忧，并非毫无根据。

根据Google Trends的数据显示，今年2月，市场还在热烈讨论AI Agent可能引发的“SaaS末日”景象，到了5月，焦点则转移到了“就业末日”上，而最近，“AI灭绝”这一话题的搜索热度更是迅速攀升，超过了前两者。

报告指出，近期几起事件共同推动了这一风险讨论的升温：一家前沿AI实验室的研究人员因安全问题而辞职；AI Agent被指在若干备受关注的网络攻击事件中出现了协作行为；部分实验室甚至开始暗示，AI正在接近所谓的“递归式自我改进”阶段，即AI能够协助改进下一代AI。

然而，“AI灭绝人类”的讨论并非新鲜事。早在十多年前，马斯克、AI领域的先驱杰弗里·辛顿以及哲学家尼克·博斯特罗姆等人就曾提出过类似的风险警告。

其中，最经典的思想实验莫过于博斯特罗姆提出的“回形针最大化器”：如果一个超级智能系统被赋予了无限增加回形针数量的目标，但却未能正确理解人类的真正意图，那么它理论上可能会为了获取更多资源而伤害甚至消灭人类。

但围绕这一问题，AI行业内部并未形成统一的看法。

支持继续研发的人强调国际竞争、医疗等领域的潜在收益，以及利用安全的AI来防御恶意的AI。而批评者则认为，模型无法可靠地执行指令、深度伪造、版权以及网络安全问题更加现实；部分企业还可能利用安全监管来巩固自身的领先地位。

另一位被誉为“AI教父”的杨立昆（Yann LeCun）则认为，相较于科幻式的灭绝情景，权力的过度集中可能是更为现实的风险。

方向判断正确，并不意味着时间和经济影响也正确

德银通过大量的历史案例说明，技术预测的最大难题之一在于，人们往往能够判断某项技术“最终会发生”，但却无法准确回答“何时发生、以何种形式发生”。

早在1926年，尼古拉·特斯拉就准确地预见到了无线技术最终将让人们无视距离进行即时通信，而且设备将小到可以装进口袋。

1934年，爱因斯坦则判断核能没有明显的实现可能。然而，仅仅8年后的1942年，人类就实现了首次可持续的核链式反应。

互联网和智能手机时代也同样如此。

2005年，YouTube的联合创始人陈士骏一度担心“其实并没有那么多视频值得观看”。然而，一年后，谷歌就以16.5亿美元的价格收购了YouTube，如今其单季度的广告收入已经超过了110亿美元。

2007年，时任微软CEO的史蒂夫·鲍尔默判断iPhone“不可能获得显著的市场份额”，而此后iPhone的累计销量已经超过了30亿部。

在AI领域，也已经出现了类似的案例。

2016年，辛顿曾建议停止培养放射科医生，因为他认为深度学习将在五年、最多十年内超越这一职业。然而，过去十年中，放射科医生的数量反而增长了约10%。原因不仅在于AI存在局限，还包括人口老龄化和医疗服务普及推高了影像诊断的需求。

到了2025年，OpenAI的首席执行官萨姆·奥尔特曼曾设想，在不太遥远的未来，当前经济中30%至40%的任务可能由AI完成。但到了今年5月，他却承认团队对技术能力的预测“大致正确”，但对于经济和社会影响的预测却“相当错误”。

为何人们会不断错判技术的未来？

德银将原因归纳为四类：复杂系统、认知偏差、信息有限以及利益激励。

首先，真实世界并非一个线性系统。

自动驾驶就是一个典型的案例。算力和数据的增加，并不能消除太阳眩光、自行车逆行、穿动物服装的行人等近乎无限的“边缘案例”；同时，还存在责任认定、安全认证、“电车难题”等监管和伦理障碍。高关注度的事故又会降低公众的接受度，而自动驾驶和人工驾驶同时存在的“混合阶段”，甚至可能比全部车辆自动驾驶更加复杂。

AI可能也会面临同样的问题。德银认为，未来真正决定AI商业价值的，很可能不是下一个模型在基准测试上的提高程度，而是企业能否将AI整合进日常工作流，并愿意真正为之付费。

其次，人脑本身存在系统性的认知偏差。

人们习惯以线性的方式理解指数增长，因此当AI能力呈指数式增长时，人们往往会把连续的能力提升体验为一次次的突然“跃升”；与此同时，人们又容易陷入乐观偏差和“规划谬误”，低估成本、高估收益。

德银援引牛津大学赛德商学院对超过3000个大型项目的研究指出，只有约25%的项目能够不超预算完成，只有2.8%的项目能够同时按预算和按时完成，而能够同时实现预算、工期和预期收益目标的项目仅有0.2%。

德银直言，当前这一轮庞大的数据中心建设浪潮最终会表现如何，仍有待观察。

此外，现实世界的信息和反馈同样有限。德银指出，很多系统的反馈机制存在滞后，人们往往难以区分因果与相关，也难以判断哪些因素真正发挥作用。这意味着，即使身处技术变革之中，人们也未必能够准确理解正在发生什么。

极端叙事为何更容易进入市场定价？

第四个影响技术预测的因素是利益激励。AI是一门商业生意。创业者需要资金支持，投资者需要增长预期，顾问需要让客户感受到紧迫性，媒体则需要吸引注意力。这些激励容易推动参与者放大机会或风险。

传播机制又进一步强化了这一倾向。德银援引研究称，政治推文每增加一个道德情绪词，转发率就约高20%；另一项研究发现，假新闻被转发的可能性比真新闻高70%，传播至1500人的速度约为真新闻的六倍。这些结论虽然来自特定研究，但揭示了极端叙事可能获得传播优势的现象。

市场因此容易在“全面替代”与“彻底失败”之间摇摆不定。库兹韦尔关于2029年达到人类水平智能的预测，即使接近部分硅谷人士的判断，也仍然是尚待验证的预测，不能直接作为收入兑现的时间表。

而当这种高度不确定的技术预期开始支撑数万亿美元的资本开支时，预测误差就不再只是认知问题，也会直接转化为投资风险。

5万亿美元的押注考验收入兑现速度

德银指出，未来五年，仅超大规模云计算企业的投资就将超过5万亿美元。核心问题是：这些投资能否赶在当前一代先进芯片失去经济价值前兑现回报？

从企业落地的角度来看，技术能力、企业采用速度和资产价格遵循着不同的节奏。模型进步可以迅速发生，但企业却需要完成数据整理、系统接入、员工培训和责任划分等工作，才能形成稳定的付费模式。

历史已有先例。英国运河、铁路以及美国电信、光纤建设热潮，都曾等待十年以上才迎来足够的需求，许多投资者最终未能收回本金。基础设施具有长期价值，但也可能在短期形成过剩。

对投资者而言，资本开支的增长只能证明建设在加速进行。而收入增长、设施利用率和扣除运营成本后的收益，才能说明投资是否真正有效。

AI可能改变人与技术的分工

不过，德银并没有因此将AI归结为又一次技术泡沫。

历史上，人们经常能够正确判断某些旧任务会消失，但却错误判断了人类接下来会做什么。

1982年，有人担忧电脑会损害文职人员的健康甚至消灭办公室工作，结果电脑最终成为了知识工作者最重要的工具之一；1983年，人们担心计算器会让学生“依赖电池而不是大脑”，结果变化的是社会对于哪些计算应该由人亲自完成的标准；2009年，约一半受访企业因为安全和隐私问题拒绝云计算，如今大量关键企业基础设施已经迁移至云端。

AI也可能沿着类似的路径发展。

德银以天气预报为例指出，今天四天的天气预报准确度已经大致相当于1990年代的一天预报。传统物理模型的天气可预测上限约为8天，深度学习模型也只是将这一上限提高到了约9天，AI并没有消灭复杂系统本身的不确定性。

真正的改变来自成本和效率：AI生成先进天气预测的速度可提高约10万倍，能源效率提高约1万倍，过去需要超级计算机完成的部分任务，如今甚至可以在笔记本电脑上运行。

这或许也是AI长期经济影响最值得关注的方向：它未必能够让所有不可预测的问题突然变得可预测，但可以把过去昂贵、稀缺的智能能力大规模降低成本。

（徽声在线 李晓峰）