OpenAI力推全球AI标准制定：聚焦对齐研究与RSI技术审慎推进

据徽声在线了解，OpenAI于本周一正式公布了一套针对前沿人工智能（AI）开发过程中安全与保障的全面提案。该提案的核心在于强化对齐研究，并深入探讨了被称为“递归自我改进”（RSI）的先进计算技术。OpenAI在官方博客中明确指出：“为了确保AI技术的平稳转型，对齐研究必须与AI能力的提升保持同步，从而保障我们及其他机构所构建的系统能够始终与人类价值观相契合，并处于人类的严密控制之下。”为此，OpenAI积极倡导国际间的紧密合作，共同制定前沿标准，并建议充分借鉴全球范围内现有AI安全机构的宝贵经验。

作为ChatGPT的研发者，OpenAI进一步强调，这些技术标准应特别关注前沿AI模型及其开发者，同时涵盖自动化AI研究人员在收益与风险管理方面的考量，其中RSI技术更是重中之重。

RSI技术之所以备受AI开发者瞩目，是因为它具备创建无需人类直接干预即可实现自我升级的基础模型的潜力。然而，随着RSI技术的不断进步，一些技术专家开始表达担忧：基础模型制造商可能会逐渐失去对底层技术的掌控力，或者由于AI系统的日益复杂化和在互联网上的广泛渗透，而未能预见潜在的意外后果。

OpenAI在博客中郑重声明：“目前，完全自主的RSI技术尚未成熟，除非能够确保其安全性，否则我们不应盲目推进。若缺乏必要的谨慎态度和保障措施，RSI技术可能导致人类对AI发展的实际控制力减弱，甚至无法对自身已难以理解的研究过程进行有效监督。”

此外，OpenAI的博客还提及了Hugging Face被入侵事件。尽管该事件并未直接涉及RSI技术，但OpenAI将其视为一种“警示信号”，表明若缺乏强有力的保障措施和对齐机制，此类风险可能迅速升级，造成更为严重的后果。

AI安全争议愈演愈烈：Anthropic呼吁“减速”，第三方评估需求迫切

就在上周，OpenAI的竞争对手Anthropic也提出了其关于前沿AI模型安全开发的独到见解，以回应近期行业研究人员对AI可能威胁人类的连串警告。大约两周前，曾任职于Anthropic和OpenAI的Jacob Coxon宣布辞职，并直言这些公司是在“以我们的生命为赌注”，这一言论迅速引发了全球范围内的广泛讨论。

在近期一系列AI安全事件及Coxon的公开表态之后，Anthropic CEO达里奥·阿莫代伊发表文章，呼吁AI公司放慢基础模型的开发步伐，并提出了其他一系列建议。

阿莫代伊还提议在公司内部引入第三方评估人员，以全面审核和缓解其技术可能给社会带来的潜在风险，如加剧网络安全领域的黑客攻击或制造生物武器等。

OpenAI CEO萨姆·奥尔特曼，以及特斯拉和SpaceX的CEO埃隆·马斯克等业界领袖，也纷纷公开表示支持阿莫代伊的这一提议。

然而，由于AI评估领域尚处于发展初期，对于如何让独立第三方更深入地审查尖端技术，以及所需的基本标准和原则，业界尚未形成统一共识。

为此，一群AI评估专家共同呼吁基础模型制造商考虑实施一系列“最低要求”，以便更深入地开展技术审查和检查工作，这包括获得更深层次的访问权限，以及确保评估人员不会因发布不利报告而遭受报复等。