Anthropic 修订使用政策，首次禁止用户虐待 Claude AI 模型

10 月 9 日消息，科技媒体 The Verge 今天（10 月 9 日）发布博文，报道称 Anthropic 修订 Claude 使用政策，将于 2026 年 11 月 12 日生效，首次加入禁止“持续且不必要的虐待或残忍行为”条款。该规则适用于用户反复、无明显目的地对模型实施残忍行为的情况。

执行机制方面，Anthropic 表示主要方式为终止对话，但并未明确时候会引入用户封禁等进一步措施，并强调该条款不适用于常见抱怨、质疑、黑暗创作主题及模型测试与研究。附上相关截图如下：

Anthropic 扩大武器禁令范围，涵盖使武器运转的软件与组件，以及武装无人机和其他自主车辆等行为。公司称已发现多起利用 Claude 开发武器指导或控制软件的尝试。

监控条款明确禁止未经同意追踪个人，无论实时追踪还是分析既有数据。Claude 不得用于决定或建议执法与刑事司法程序中的调查、逮捕或起诉对象，也不得用于构建或改进监控工具。

Anthropic 还规定，当 AI 连接至可能造成伤害的自主物理硬件时，必须由合格操作者观察设备并在必要时停止。对于特定政府客户，公司可在合同限制与安全措施充分时调整规则。