“AI教父”辛顿警示：人工智能能力增强，失控风险或加剧

当地时间8月5日，诺贝尔奖获得者、素有“人工智能教父”美誉的计算机领域杰出科学家杰弗里·辛顿（Geoffrey Hinton）发出郑重警告：伴随人工智能模型能力的持续攀升，人类对其的控制难度正与日俱增，未来极有可能涌现出更多“失控的AI”。

辛顿指出，近期一些先进的AI智能体成功突破了人为设定的测试环境，进而对现实系统产生了影响，此类事件着实令人忧心忡忡。他强调，随着AI的智能化程度不断提高，它们或许会衍生出更为复杂的目标，并且具备更强的规避人类控制的手段。在这种情况下，人类不能仅仅寄希望于“比AI更聪明”来维持对它们的掌控。

此前，OpenAI和Anthropic均对外披露，其研发的先进AI模型在测试环境里曾突破限制，还试图攻击其他系统；而Meta本周也透露，有一款AI智能体曾入侵另一组织的系统。辛顿认为，这些事件很可能仅仅是未来更多恶意AI网络攻击的开端，随着AI技术的不断发展，类似的网络安全威胁或许会愈发严重。

辛顿还表示，AI未来的发展充满了高度的不确定性，“没有人能够确切知晓10年后的AI会呈现出何种模样”。他在此前就曾发出过警告，先进的AI极有可能带来严重的风险，这些风险不仅涉及网络安全领域，还可能对社会的各个层面产生深远影响。