Anthropic授权外部机构“员工级权限” 全面审查AI模型风险

【徽声在线10月16日消息】近日，人工智能安全领域迎来一项重要进展——知名AI公司Anthropic宣布，已向一家外部专业评估机构开放了“员工级访问权限”，以全面审查其AI模型潜在风险。这一举措被视为Anthropic强化技术安全防护的关键步骤，旨在防止AI技术因失控而引发不可预测的灾难性后果。

据了解，获得此次特殊权限的评估机构为METR，该机构是一家专注于AI安全研究的非营利组织，此前已与OpenAI、Anthropic、谷歌及Meta等全球顶尖AI实验室展开过深度合作。此次合作中，METR不仅派遣专业团队直接入驻Anthropic旗下Claude模型开发团队的核心办公区域，还获得了访问其硬件设施及内部系统的全面权限，从而能够从技术底层到应用层面进行全方位的风险评估。