AI安全新标杆：Anthropic与英伟达共建智能体管控平台

【AI安全领域重大进展：Anthropic携手英伟达共建智能体安全平台】徽声在线9月29日讯，全球AI安全领域迎来关键合作——人工智能研究机构Anthropic与芯片巨头英伟达宣布联合开发Open Agent Safety Platform（开放智能体安全平台）。该平台采用分层式安全架构设计，旨在为企业级AI智能体部署提供全生命周期的行为治理与风险控制解决方案。

据技术白皮书披露，英伟达将贡献其开源的OpenShell运行时（runtime）软件框架，该组件具备智能体动作拦截、权限动态校验等核心安全功能，默认配置下会阻止所有潜在风险操作。Anthropic则提供基于Claude大模型的Managed Agents API套件，通过创新的凭证库管理系统实现智能体凭据的集中化安全存储，有效防止敏感信息泄露。

值得关注的是，该平台已获得企业级市场的积极响应。项目管理工具Notion、日本电商巨头Rakuten以及协作平台Asana等跨国企业，已率先在生产环境中部署Claude Managed Agents系统。这些早期采用者反馈显示，平台的安全管控机制显著降低了AI智能体误操作风险，同时凭证库管理功能使权限管理效率提升40%以上。

行业分析师指出，此次合作标志着AI安全领域从理论研究向工程化落地的重要跨越。随着生成式AI在企业场景的深度应用，智能体行为可控性已成为制约技术发展的关键瓶颈。Open Agent Safety Platform通过软硬件协同的安全设计，为金融、医疗等高风险领域部署AI智能体提供了可复制的安全范式。