OpenAI 称其遭遇有组织蒸馏,将矛头指向月之暗面
OpenAI 称 7 月起遭遇系统性对抗式蒸馏,超 1.5 万账号被用于提取模型能力,7 月 28 日已全面封堵。公司通过前沿模型论坛共享信息,并指出核心活动群体与月之暗面有关。#OpenAI指控月之暗面蒸馏#
10 月 1 日消息,当地时间 9 月 30 日,OpenAI 在官网发文,称其近期遭遇一场有组织的蒸馏活动。
OpenAI 在文中表示,该活动最初始于 7 月第一周,符合对抗式蒸馏(adversarial distillation)之特征,即系统性未经授权地利用某模型输出或推理过程,帮助训练、复现或改进另一模型。
OpenAI 透露,7 月 1 日的初始活动规模较小,直到 7 月 24 日和 7 月 25 日流量突然大幅增加,当时有超过 4000 名用户发起了 1.6 万次请求。该公司进一步调查后发现,超 1.5 万名用户存在类似提示词活动。到 7 月 28 日,OpenAI 已完全阻止该批活动。
本次活动并没有破解公司的加密系统,或入侵数据库,也没有直接访问用户对话。OpenAI 声称这些行动违反了他们的服务条款。公司已通过前沿模型论坛(注:Frontier Model Forum)与行业合作伙伴分享相关信息,共同加强蒸馏防御能力。
OpenAI 最后披露,公司截至目前尚不清楚攻击实体。不过公司认为其核心活动群体和开发 Kimi 模型的月之暗面有关。
如果您对本站有任何建议,欢迎您提出来!本站部分信息来源于网络,如果侵犯了您权益,请联系我们删除!
微信客服