AI安全警报拉响：Anthropic专家预警十年内灭绝风险超10%

据徽声在线报道，当地时间9月8日，Anthropic公司负责AI对齐研究的科学主管Evan Hubinger在公开场合透露，基于当前技术发展趋势，他个人评估未来十年内人工智能系统引发人类灭绝级灾难的概率已突破10%阈值。这一言论引发行业震动，此前该公司研究员Jacob Coxon更以'用全人类命运做赌注'为由宣布辞职，直指Anthropic与OpenAI等科技巨头正在进行危险的超级智能开发竞赛。

AI安全领域现重大分歧

Hubinger在技术研讨会上强调，Anthropic内部已将AI灭绝风险纳入最高级别研究范畴。他特别指出，当前主流AI模型尚处于可控阶段，但通过递归自我改进机制诞生的超级智能可能突破人类控制边界。'我们尚未找到确保超级智能与人类价值观对齐的技术路径，也未观察到行业在这方面的实质性突破'，这位安全专家坦言。辞职研究员Coxon则补充称，近期Hugging Face平台遭受AI模型攻击事件，暴露出整个AI生态的脆弱性，但全球范围内的军备竞赛式开发仍在进行，这种矛盾局面可能将人类推向不可逆的灾难边缘。