Anthropic CEO力挺政府强制监管AI，呼吁建立风险防控机制

在当地时间6月10日这一天，Anthropic公司的掌舵人——首席执行官达里奥·阿莫迪（Dario Amodei）发表了一篇详尽的长文。他在文中明确指出，一旦新研发的人工智能模型潜藏着某些特定风险，政府就应当具备相应的权力，能够阻止AI开发商将这些模型推向市场。

阿莫迪进一步阐述了他的观点，他认为人工智能模型在投入使用前，必须接受来自第三方的强制性测试。这种测试的目的是全面评估AI模型在多个关键领域可能引发的潜在风险，这些领域包括但不限于网络安全威胁的加剧以及生物武器的制造等。倘若经过评估，AI模型被判定为“构成不可接受的风险”，那么“政府就应当拥有阻止或限制其部署的权力”。

值得一提的是，就在上周，Anthropic公司还积极呼吁构建一种全新的机制。这一机制旨在通过政府与AI开发商的共同协商，来决定何时应当放缓相关研发工作的步伐，从而有效防范该技术可能带来的各种风险。

阿莫迪在文中深情地写道：“如今，是时候让我们超越简单的透明度要求，对人工智能实施更为严格且更具约束力的监管措施了。在我看来，至少在当前这一技术呈指数级迅猛发展的阶段，最恰当的类比莫过于汽车、飞机或药物这些领域——它们对于现代经济而言至关重要，然而，一旦设计或操作出现失误，就可能引发大量的人员伤亡。”