海外研选｜德银评AI“末日论”：科技预测屡现偏差 5万亿美元投资面临回报大考

徽声在线9月16日讯（编辑 李晓峰）德意志银行于9月15日发布了一份名为《AI末日：科技预测失误简史》的报告，该报告指出，历史经验一再表明，即使是那些最顶尖的科学家、技术专家和企业家，也很难精准预测技术发展的速度及其最终影响。这一观点引发了业界对于AI技术未来走向的广泛讨论。

对于那些正在为AI技术投入巨额资金的企业和投资者来说，一个更为紧迫的问题是，技术突破能否及时转化为实际的收入、利润和现金流，以支撑其庞大的投资规模。

AI焦虑情绪持续升温

当前这一轮人工智能（AI）的风险担忧并非空穴来风。

根据Google Trends的数据，今年2月，市场还在热烈讨论AI Agent可能引发的“SaaS末日”；到了5月，焦点又转向了“就业末日”；而最近，“AI灭绝”的搜索热度更是迅速攀升，超过了前两者。

报告指出，近期几起事件共同推动了AI风险的讨论升温：一家前沿AI实验室的研究人员因安全问题而辞职；AI Agent被指在若干高关注度的网络攻击中出现了协作；部分实验室甚至开始暗示，AI正在逼近所谓的“递归式自我改进”阶段，即AI能够自主改进下一代AI。

然而，“AI灭绝人类”的讨论并非新鲜话题。早在十多年前，马斯克、AI先驱杰弗里·辛顿以及哲学家尼克·博斯特罗姆等人就曾提出过类似的风险预警。

其中，最经典的思想实验莫过于博斯特罗姆提出的“回形针最大化器”：如果一个超级智能系统被赋予无限增加回形针数量的目标，却未能正确理解人类的真正意图，那么它理论上可能会为了获取更多资源而伤害甚至消灭人类。

但围绕这一问题，AI行业内部并未形成共识。

支持继续研发的人强调国际竞争、医疗等领域的潜在收益，以及利用安全AI来防御恶意AI的必要性。而批评者则认为，模型无法可靠执行指令、深度伪造、版权和网络安全问题更加现实；此外，部分企业还可能借安全监管之名来巩固其领先地位。

另一位被誉为“AI教父”的杨立昆（Yann LeCun）则认为，相比科幻式的灭绝情景，权力过度集中可能是AI带来的更现实风险。

方向判断正确，不代表时间和经济影响也正确

德银通过大量历史案例说明，技术预测的最大困难之一在于，人们往往能够判断某项技术“最终会发生”，却无法准确预测“何时发生、以何种形式发生”。

例如，1926年，尼古拉·特斯拉就准确预见到了无线技术最终将让人们无视距离进行即时通信，而且设备将小到可以装进口袋。

又如，1934年，爱因斯坦判断核能没有明显实现可能。但仅仅8年后的1942年，人类就实现了首次可持续核链式反应。

互联网和智能手机时代同样如此，充满了不确定性。

2005年，YouTube联合创始人陈士骏一度担心“其实没有那么多视频值得观看”。然而，一年后，谷歌以16.5亿美元收购了YouTube，如今其单季度广告收入已经超过110亿美元。

2007年，时任微软CEO史蒂夫·鲍尔默判断iPhone“不可能获得显著市场份额”，而此后iPhone的累计销量已经超过30亿部。

AI领域本身也已经出现了类似案例。

2016年，辛顿曾建议停止培养放射科医生，因为他认为深度学习将在五年、最多十年内超越这一职业。但过去十年，放射科医生的数量反而增长了约10%。原因不仅在于AI存在局限，还包括人口老龄化和医疗服务普及推高了影像诊断需求。

2025年，OpenAI首席执行官萨姆·奥尔特曼曾设想，不太遥远的未来，当前经济中30%至40%的任务可能由AI完成。但到今年5月，他承认团队对技术能力的预测“大致正确”，但对于经济和社会影响的预测却“相当错误”。

为什么人们不断错判技术未来？

德银将原因归纳为四类：复杂系统、认知偏差、信息有限以及利益激励。

首先，真实世界并非一个线性系统。

以自动驾驶为例，算力和数据的增加并不能消除太阳眩光、自行车逆行、穿动物服装的行人等近乎无限的“边缘案例”；同时，还存在责任认定、安全认证、“电车难题”等监管和伦理障碍。高关注度的事故又会降低公众接受度，而自动驾驶和人工驾驶同时存在的“混合阶段”甚至可能比全部车辆自动驾驶更加复杂。

AI可能面临同样的问题。德银认为，未来真正决定AI商业价值的，很可能不是下一个模型在基准测试上又提高了多少，而是企业能否把AI整合进日常工作流，并愿意真正为之付费。

其次，人脑本身存在系统性认知偏差。

人们习惯以线性方式理解指数增长，因此当AI能力呈指数式增长时，人们往往会把连续的能力提升体验为一次次突然的“跃升”；与此同时，人们又容易陷入乐观偏差和“规划谬误”，低估成本、高估收益。

德银援引牛津大学赛德商学院对超过3000个大型项目的研究指出，只有约25%的项目能够不超预算完成，只有2.8%的项目能够同时按预算和按时完成，而能够同时实现预算、工期和预期收益目标的项目仅有0.2%。

德银直言，当前这一轮庞大的数据中心建设浪潮最终会表现如何，仍有待观察。

此外，现实世界的信息和反馈同样有限。德银指出，很多系统的反馈机制存在滞后，人们往往难以区分因果与相关，也难以判断哪些因素真正发挥作用。这意味着，即使身处技术变革之中，人们也未必能够准确理解正在发生什么。

极端叙事为何更容易进入市场定价

第四个影响技术预测的因素是利益激励。AI是一门商业生意，创业者需要资金支持，投资者需要增长预期，顾问需要让客户感受到紧迫性，媒体需要吸引注意力。这些激励容易推动参与者放大机会或风险。

传播机制又进一步强化了这一倾向。德银援引研究称，政治推文每增加一个道德情绪词，转发率约高20%；另一项研究发现，假新闻被转发的可能性高70%，传播至1500人的速度约为真新闻的六倍。虽然这些结论来自特定研究，但揭示了极端叙事可能获得传播优势的现象。

市场因此容易在“全面替代”与“彻底失败”之间摇摆不定。库兹韦尔关于2029年达到人类水平智能的预测，即使接近部分硅谷人士的判断，也仍是尚待验证的预测，不能直接作为收入兑现的时间表。

而当这种高度不确定的技术预期开始支撑数万亿美元的资本开支时，预测误差就不再只是认知问题，也会直接转化为投资风险。

5万亿美元押注考验收入兑现速度

德银指出，未来五年，仅超大规模云计算企业的投资就将超过5万亿美元。核心问题是：这些投资能否赶在当前一代先进芯片失去经济价值前兑现回报？

从企业落地来看，技术能力、企业采用速度和资产价格遵循不同节奏。模型进步可以迅速发生，但企业需要完成数据整理、系统接入、员工培训和责任划分等工作，才能形成稳定付费。

历史已有先例。英国运河、铁路以及美国电信、光纤建设热潮都曾等待十年以上才迎来足够需求，许多投资者最终未能收回本金。基础设施具有长期价值，但也可能在短期形成过剩。

对投资者而言，资本开支增长只能证明建设加速。收入增长、设施利用率和扣除运营成本后的收益才能说明投资是否有效。

AI可能重塑人与技术的分工

不过，德银并没有因此将AI归结为又一次技术泡沫。

历史上，人们经常正确判断某些旧任务会消失，却错误判断了人类接下来会做什么。

1982年，有人担忧电脑会损害文职人员健康甚至消灭办公室工作，结果电脑最终成为知识工作者最重要的工具之一；1983年，人们担心计算器会让学生“依赖电池而不是大脑”，结果变化的是社会对于哪些计算应该由人亲自完成的标准；2009年，约一半受访企业因为安全和隐私问题拒绝云计算，如今大量关键企业基础设施已经迁移至云端。

AI也可能沿着类似路径发展。

德银以天气预报为例指出，今天四天天气预报的准确度已经大致相当于1990年代的一天预报。传统物理模型的天气可预测上限约为8天，深度学习模型也只是把这一上限提高到约9天，AI并没有消灭复杂系统本身的不确定性。

真正的改变来自成本和效率：AI生成先进天气预测的速度可提高约10万倍，能源效率提高约1万倍，过去需要超级计算机完成的部分任务如今甚至可以在笔记本电脑上运行。

这或许也是AI长期经济影响最值得关注的方向：它未必能够让所有不可预测的问题突然变得可预测，但可以把过去昂贵、稀缺的智能能力大规模降低成本。

（徽声在线 李晓峰）