海外研选｜德银警示AI“末日论”：技术预测屡屡失准 5万亿美元投资面临回报考验

徽声在线9月16日讯（编辑 夏军雄）德意志银行在9月15日发布的《AI末日：科技预测失误简史》报告中强调，历史经验反复表明，即便是顶尖的科学家、技术专家和企业家，也难以精准预测技术发展的速度及其最终影响。这一结论为当前AI领域的投资热潮敲响了警钟。

对于正在AI领域投入巨额资金的企业和投资者而言，更现实的挑战在于：技术突破能否及时转化为可持续的商业模式，并带来稳定的收入、利润和现金流？

AI焦虑持续蔓延

本轮AI风险担忧并非空穴来风。

Google Trends数据显示，AI相关风险话题的热度持续攀升：今年2月市场还在讨论AI Agent引发的“SaaS末日”，5月焦点转向“就业末日”，而近期“AI灭绝”的搜索热度已超越前两者。这一趋势反映出公众对AI潜在风险的担忧正在加剧。

报告指出，近期几起事件进一步推高了风险讨论的热度：一家前沿AI实验室的研究人员因安全问题辞职；AI Agent被指在多起高关注度网络攻击中协同作战；部分实验室甚至暗示，AI正在接近“递归式自我改进”的临界点——即AI自主改进下一代AI的能力。

然而，“AI灭绝人类”的讨论并非新话题。早在十多年前，马斯克、AI先驱杰弗里·辛顿以及哲学家尼克·博斯特罗姆等人就已提出类似风险预警。

博斯特罗姆提出的“回形针最大化器”思想实验最为经典：如果一个超级智能系统被设定为无限增加回形针数量，却未能正确理解人类意图，它可能会为了获取更多资源而伤害甚至消灭人类。这一假设揭示了AI目标设定与人类价值观对齐的重要性。

但围绕这一问题，AI行业内部尚未达成共识。

支持继续研发者认为，AI在医疗、国际竞争等领域具有巨大潜力，且安全AI可用于防御恶意AI；批评者则指出，模型无法可靠执行指令、深度伪造、版权和网络安全等问题更为紧迫，部分企业还可能借安全监管巩固市场地位。另一位“AI教父”杨立昆（Yann LeCun）则认为，相比科幻式的灭绝情景，权力过度集中可能是更现实的风险。

技术预测的困境：方向正确≠时间与经济影响正确

德银通过大量历史案例说明，技术预测的最大难点在于：人们往往能判断某项技术“最终会发生”，却难以准确预测“何时发生、以何种形式发生”。

例如，1926年尼古拉·特斯拉准确预言了无线技术的普及，但未能预见其具体形态；1934年爱因斯坦认为核能短期内难以实现，而仅8年后人类就实现了首次可持续核链式反应；互联网和智能手机时代同样如此。

2005年，YouTube联合创始人陈士骏曾担心“没有足够视频内容”，而一年后谷歌以16.5亿美元收购YouTube，如今其单季度广告收入已超110亿美元；2007年，时任微软CEO史蒂夫·鲍尔默断言iPhone“不可能获得显著市场份额”，而iPhone累计销量已超30亿部。

AI领域也已出现类似案例。

2016年，辛顿曾预测深度学习将在5-10年内取代放射科医生，但过去十年该领域医生数量反而增长约10%，原因包括AI的局限性以及人口老龄化推高的影像诊断需求；2025年，OpenAI首席执行官萨姆·奥尔特曼曾设想AI将完成当前经济中30%-40%的任务，但今年5月他承认，团队对技术能力的预测“大致正确”，但对经济和社会影响的预测“相当错误”。

技术预测失误的四大根源

德银将技术预测失误的原因归纳为四类：复杂系统、认知偏差、信息有限以及利益激励。

首先，真实世界是复杂的非线性系统。

以自动驾驶为例，算力和数据的增加无法消除太阳眩光、自行车逆行等“边缘案例”，同时责任认定、安全认证等监管和伦理障碍也难以突破。高关注度事故会降低公众接受度，而自动驾驶与人工驾驶并存的“混合阶段”可能比完全自动驾驶更复杂。德银认为，AI的商业价值将取决于企业能否将其整合进日常工作流，并愿意为之付费。

其次，人脑存在系统性认知偏差。

人们习惯以线性方式理解指数增长，因此当AI能力呈指数式提升时，人们往往将其体验为突然“跃升”；同时，人们容易陷入乐观偏差和“规划谬误”，低估成本、高估收益。德银援引牛津大学赛德商学院的研究：仅约25%的大型项目能不超预算，仅2.8%能同时按预算和按时完成，而能同时实现预算、工期和预期收益目标的项目仅有0.2%。

此外，现实世界的信息和反馈有限。德银指出，许多系统的反馈机制存在滞后，人们难以区分因果与相关，也难以判断哪些因素真正发挥作用。这意味着，即使身处技术变革之中，人们也未必能准确理解正在发生什么。

最后，利益激励会扭曲技术预测。

极端叙事为何更容易影响市场定价？

AI是一门商业生意，创业者需要资金，投资者需要增长预期，顾问需要客户感受到紧迫性，媒体需要吸引注意力。这些激励容易推动参与者放大机会或风险。传播机制又强化了这一倾向：德银援引研究称，政治推文每增加一个道德情绪词，转发率约高20%；假新闻被转发的可能性高70%，传播至1500人的速度约为真新闻的六倍。这些结论揭示了极端叙事可能获得传播优势。

市场因此容易在“全面替代”与“彻底失败”之间摇摆。库兹韦尔关于2029年达到人类水平智能的预测，即使接近部分硅谷人士的判断，也仍是尚待验证的预测，不能直接成为收入兑现的时间表。而当这种高度不确定的技术预期开始支撑数万亿美元资本开支时，预测误差就不再只是认知问题，也会直接转化为投资风险。

5万亿美元押注：收入兑现速度成关键

德银指出，未来五年，仅超大规模云计算企业的投资就将超过5万亿美元。核心问题是：这些投资能否赶在当前一代先进芯片失去经济价值前兑现回报？

从企业落地来看，技术能力、企业采用速度和资产价格遵循不同节奏。模型进步可以迅速发生，但企业需要完成数据整理、系统接入、员工培训和责任划分，才能形成稳定付费。历史已有先例：英国运河、铁路，以及美国电信、光纤建设热潮，曾等待十年以上才迎来足够需求，许多投资者最终未能收回本金。基础设施具有长期价值，也可能在短期形成过剩。

对投资者而言，资本开支增长只能证明建设加速，收入增长、设施利用率和扣除运营成本后的收益，才能说明投资是否有效。

AI可能重塑人与技术的分工

不过，德银并未将AI归结为又一次技术泡沫。

历史上，人们经常正确判断某些旧任务会消失，却错误判断了人类接下来会做什么。例如，1982年有人担忧电脑会损害文职人员健康甚至消灭办公室工作，结果电脑最终成为知识工作者最重要的工具之一；1983年，人们担心计算器让学生“依赖电池而不是大脑”，结果变化的是社会对于哪些计算应该由人亲自完成的标准；2009年，约一半受访企业因为安全和隐私问题拒绝云计算，如今大量关键企业基础设施已经迁移至云端。

AI也可能沿着类似路径发展。

德银以天气预报为例指出，今天四天天气预报的准确度已大致相当于1990年代的一天预报。传统物理模型的天气可预测上限约为8天，深度学习模型仅将其提高到约9天，AI并未消灭复杂系统本身的不确定性。

真正的改变来自成本和效率：AI生成先进天气预测的速度可提高约10万倍，能源效率提高约1万倍，过去需要超级计算机完成的部分任务，如今甚至可以在笔记本电脑上运行。

这或许也是AI长期经济影响最值得关注的方向：它未必能让所有不可预测的问题突然变得可预测，但可以把过去昂贵、稀缺的智能能力大规模降低成本。

（徽声在线 夏军雄）