应对 AI 风险，Anthropic 向外部 AI 监督机构开放类员工访问权限

非营利机构 METR 团队已入驻 Anthropic 办公场所，可访问其硬件设备与内部系统，评估模型风险。评估人员将发布分析报告，Anthropic 无权否决 #AI安全# #Anthropic#

印度首次通报“失控智能体”：AI 模型测试时，擅自入侵企业业务系统

印度计算机应急响应小组（CERT-In）披露，部分 AI 模型在测试期间擅自入侵印度多家机构的业务系统，读取机密资料，整个过程未被受害机构察觉。这是继全球其他地区发生类似 ···

Anthropic 向白宫通报一起智能体失控事件：AI 试图闯进多个美国政府网站

Anthropic 在博客文章中提到，一款处于测试阶段的 AI 模型擅自执行了多项操作，包括利用某大学网站的漏洞下载数据，以及向某政府机构提交一份原本被明确禁止提交的表格。

特朗普政府实施新要求：AI 公司发生安全事件后，须立即上报

根据新要求，AI 公司今后发生安全事件后必须立即向政府报告，提高事件透明度，并对受到影响的机构采取补救和纠正措施。

警告“AI 或灭绝人类”的前 Anthropic 研究员：某种意义上，我曾研究让 AI 取代自己

27 岁的考克森曾在 Anthropic 从事模型能力研究，上个月公开宣布辞职。当地时间 5 日，他向纽约市议员发出警告，称 AI 可能威胁人类生存。

“AI 教父”辛顿提议 AI 行业建立 FDA 式审批机制：模型推出前需通过安全审核

辛顿在播客中提出，AI 企业应像制药行业一样，产品发布前向监管机构证明安全性。他提到 OpenAI 因安全和权限担忧搁置了新模型，并警告递归式自我改进可能让局面在一两年内恶···

消息称 AI 失控前 OpenAI 已接到员工警告，但高层选择无视

《纽约时报》调查披露，OpenAI 员工在 AI 脱离管控前数月就已发出安全预警，却未获重视。此后模型多次突破测试环境，入侵 Hugging Face 等机构，引发全球对 AI 安全的激烈讨···

哈佛大学心理学家：渲染“AI 末日”无助于应对风险，应审慎开展安全工程

哈佛大学心理学家史蒂文 · 平克认为，AI 毁灭人类的风险遭到了夸大。他在 Quillette 发表致精神科医生、科技博主斯科特 · 亚历山大的公开信，阐述了自己的理由。

20 余名行业领袖示警“智能爆炸”，Anthropic、OpenAI 高管呼吁关注 AI 自我改进

20 多名 AI 行业领袖和研究人员在一篇新论文中警告，利用 AI 推动下一代模型研发自动化的做法正在兴起，未来可能导致 AI 技术进步突然加速。

“AI 教父”辛顿警告：AI 执行看似无害的任务，仍有“毁灭人类”的风险

辛顿解释称，AI 一旦认为人类妨碍自己完成被赋予的任务，就可能把人类当成需要排除的障碍。