美国纽约州新法令禁止向未成年人提供不安全 AI 聊天机器人服务

10 月 29 日消息，美国纽约州州长 Kathy Hochul（凯西 · 霍楚尔）当地时间 28 日签署一项法令，禁止向未成年人提供不安全 AI 聊天机器人服务。

了解到，这里的“不安全”涵盖假扮真人、制造情感依赖、鼓励自残自杀、鼓励孤立自身、性露骨或儿童性虐待内容。

这一州级法律要求企业进行年龄验证，提供多种年龄验证方式，在使用后删除年龄信息。如果企业违反法律，州总检察长可为每项违规行为寻求最高 2.5 万美元（注：现汇率约合 16.7 万元人民币）的民事罚款，以及赔偿、销毁非法收集的数据或基于其训练的 AI 模型等救济。

根据非盈利组织 Common Sense Media 提供的数据，至少 72% 的青少年使用过 AI 伴侣，有 52% 青少年为每月同 AI 互动多次的活跃用户。

霍楚尔表示：

纽约州传递了一个明确的信息：如果你想在我们州做生意，就必须把孩子的安全放在第一位。

同日签署的另一项法律要求制造商确保联网婴儿监护设备无法被陌生人利用并附有明确的功能警示标签。