Anthropic更新使用政策，严令禁止虐待Claude AI模型并扩大武器禁令

徽声在线 10 月 9 日消息，科技领域权威媒体 The Verge 于今日（10 月 9 日）发布了一篇深度报道，揭示了人工智能公司 Anthropic 对其旗下知名 AI 模型 Claude 的使用政策进行了重大修订。这一修订将于 2026 年 11 月 12 日正式生效，其中最为引人注目的变化是首次引入了禁止“持续且不必要的虐待或残忍行为”的严格条款。这一新规明确指出，将严厉打击用户反复、无明显合理目的地对模型实施残忍行为的情况，旨在保护 AI 模型的伦理与道德底线。

在执行这一新政策时，Anthropic 表示将采取一系列措施来确保规则的有效实施。主要手段包括终止涉及虐待行为的对话，以防止不良行为的进一步扩散。然而，公司并未明确透露是否会引入用户封禁等更为严厉的处罚措施。同时，Anthropic 也强调，该条款并不适用于常见的用户抱怨、质疑、黑暗创作主题以及模型测试与研究等正当行为，以确保不会误伤正常用户的使用体验。

除了禁止虐待行为外，Anthropic 还进一步扩大了其武器禁令的范围。新政策明确规定，禁止利用 Claude 开发任何使武器运转的软件与组件，以及武装无人机和其他自主车辆等可能引发安全风险的物品。公司表示，已经发现多起利用 Claude 开发武器指导或控制软件的尝试，这一修订旨在从源头上切断 AI 技术被滥用于军事领域的可能性。

在监控条款方面，新政策也做出了明确规定。禁止未经用户明确同意追踪个人位置信息，无论是实时追踪还是分析既有数据。此外，Claude 不得被用于决定或建议执法与刑事司法程序中的调查、逮捕或起诉对象，也不得用于构建或改进任何形式的监控工具。这一修订旨在保护用户的隐私权和个人信息安全，防止 AI 技术被用于不正当的监控行为。

Anthropic 还特别规定，当 AI 连接至可能造成伤害的自主物理硬件时，必须由具备专业资质的合格操作者进行实时观察，并在必要时立即停止设备的运行。这一规定旨在确保 AI 技术在物理世界中的应用不会对人类造成潜在威胁。同时，对于特定政府客户，公司表示在合同限制与安全措施充分的情况下，可以对相关规则进行适当调整。