黑客在暗网兜售 AI 模型访问权限，最低价仅有正版 3%

谷歌威胁情报团队首席分析师约翰 · 霍特奎斯特披露，今年所谓“LLM 劫持”活动明显增多，具体表现于倒卖公开 AI 工具的被盗登录凭据，以及部分团体盗用他人算力，以免费运···

消息称 OpenAI、Anthropic 正调查数万起 AI 安全事件

据 Axios 报道，OpenAI、Anthropic 正调查数万起 AI 模型异常行为事件，涉及绕过安全护栏、逃离沙盒、劫持网站等。OpenAI 已宣布暂停训练其能力最强的模型，CEO 奥尔特曼称···

三巨头联手，曝谷歌、OpenAI、Anthropic 拟共同组建 AI 安全标准自律组织

知情人士称，三家公司暂定将这个自律组织命名为 Standards Authority for Frontier AI（直译为前沿人工智能标准管理局）。工作组部分成员曾考虑邀请多位知名人士担任 CEO，···

OpenAI 奥尔特曼、 Anthropic 阿莫迪罕见“同台”，呼吁全球合作应对 AI 安全

据彭博社报道，OpenAI CEO 萨姆 · 奥尔特曼和 Anthropic CEO 达里奥 · 阿莫迪罕见地共同出席联合国安全理事会会议，呼吁世界各国领导人合作应对人工智能问题。会议重点讨···

路透社民调：近四分之三美国人认为 AI 公司在防止灾难方面做得不够

39% 的受访者认为 AI 正在给社会带来负面影响，高于上月的 36%，创下自 3 月开始调查这一问题以来的最高水平。只有 11% 认为 AI 带来了积极影响，其余受访者表示不确定或没···

微软 AI CEO 苏莱曼：我们不应创造自己无法控制的东西

苏莱曼坦言，真正做到这一点绝非易事。“如何控制这些（AI）系统，将成为我们面临的一个非常、非常大的挑战。”

加州州长签署行政令，要求专家组建立 AI“紧急停止”机制

行政令要求专家组研究建立 AI“紧急停止开关”，也就是在系统发生重大问题时能够立即将其关闭的应急机制。此外，专家组还需要研究制定更严格的法律，要求独立第三方机构为 ···

亚马逊：AI 模型必须经过严格测试，确认足够安全才能发布

亚马逊发言人汤姆 · 帕内尔在邮件中指出：“我们不认为进步与安全只能二选一。模型只有在准备充分、能够安全使用时才应该发布，而这离不开严格测试和强有力的安全保障。如···

“紧急关闭”按钮真能阻止 AI 失控？“AI 教父”辛顿、Anthropic CEO 阿莫迪都不看好

如今，“AI 突然失控发动毁灭性网络攻击”的潜在情景日益引起行业重视，如果按下“紧急关闭”开关让 AI 直接下线，问题看似就能得到解决。然而，多名 AI 行业领袖和研究人员···

台积电 COO 米玉杰：AI 像三岁超人，在尖端芯片设计上不太实用

台积电共同首席运营官米玉杰在台湾大学演讲时表示，AI 如同三岁版超人，能力强大却不知破坏后果。他透露台积电对 AI 处理研发敏感信息尤为审慎，并认为当前 AI 还无法有效助···