Anthropic提交AI安全新规草案 拟建立高危模型发布审查机制

【徽声在线10月17日消息】据内部人士透露，人工智能初创企业Anthropic PBC近期已向美国国会议员提交了一份关于人工智能安全监管的详细法案草案。该草案的核心内容聚焦于构建AI模型发布前的安全评估机制，特别针对可能引发重大公共安全风险的高危模型设立了严格的准入门槛。根据提案内容，若某款AI系统经评估存在现实且紧迫的威胁——包括但不限于可能造成50人以上伤亡或直接经济损失超10亿美元的潜在风险，监管部门将有权启动紧急干预程序，暂停该模型的商业化部署直至安全隐患彻底排除。