扎克伯格：AI开发需自主把控安全，呼吁扩大独立评估生态

当地时间9月15日，Meta公司掌门人马克·扎克伯格公开阐述了他对人工智能开发安全性的独到见解。他强调，每一个人工智能实验室都肩负着重大责任，必须依据模型安全训练的实际需求，灵活调整自身的开发进度。同时，扎克伯格建议引入独立的评估机构和专业的顾问团队，以进一步提升AI模型的安全性。他特别指出，在AI领域，信任与对齐能力正日益成为区分智能体与普通模型的关键要素，那些忽视对齐能力建设的公司，很可能会在未来的竞争中处于不利地位。

扎克伯格透露，Meta公司曾为了确保安全与安保，不惜将AI工具Muse的发布时间推迟了数月之久。但他同时表示，这并不意味着要求其他AI公司也必须同步放缓开发步伐。他认为，每个AI实验室都应独立承担起模型可能造成损害的潜在法律责任，这种责任本身就是推动它们提高安全性的强大动力。

此外，扎克伯格还提出了一个颇具前瞻性的观点，即AI公司应将更多的算力资源投入到服务用户上，而非盲目地竞相推动递归式自我改进。他坚信，通过扩大独立AI评估机构和顾问的生态规模，可以有效提升整个AI行业的安全性水平，为用户带来更加可靠、安全的AI体验。