OpenAI 奥尔特曼：AI 事故无法完全避免，应借鉴航空业建立公开上报机制

OpenAI CEO 萨姆 · 奥尔特曼在 Dreamforce 大会上表示，新兴技术一定程度的事故难以避免，但应借鉴航空业建立公开上报与复盘机制。他承认 AI 失控风险及权力集中问题，强调···

多名研究人员称“AI 末日论”存在夸大成分：AI 尚无法对现实世界真正造成伤害

一些研究人员认为，其中最极端的情景被夸大了。他们举出的例子，是 AI 设计致命生物病毒。AI 确实可以在计算机上设计病毒，但真正制造病毒仍需要现实世界中的设备和流程，仅···

美国参议院拟议新法案：AI 企业需证明自身已拿出防范风险的措施

据路透社今天（15 日）报道，美国参议院一名助理和一名熟悉磋商情况的游说人士透露，美国参议院谈判各方就一项 AI 监管法案展开讨论。法案拟要求 AI 企业证明自身已采取合理···

德国称暂停 AI 开发对欧洲而言不可行，呼吁中美参与 AI 治理

德国数字事务部称停止 AI 研发对欧洲不可行，要推进 AI 研发创新巩固数字主权，该表态源于 AI 大佬呼吁放缓 AI 迭代强化安全防护，德国支持开展国际 AI 治理协作。#AI研发#

谷歌 DeepMind 安全研究员离职，称 AI 五年内造成巨大危害的概率高得吓人

谷歌 DeepMind 研究员恩格尔斯离职加入独立评估机构 METR，公开警示未来五年 AI 系统造成巨大危害的概率高得惊人。他呼吁控制 AI 研发节奏，确保安全体系跟上。多位业内人士···

Hugging Face CEO：Anthropic 研究员谈 AI 灭绝风险，就像空调维修工谈气候变化

Hugging Face CEO 克莱门特 · 德朗格质疑了外界围绕前 Anthropic 研究人员雅各布 · 考克森展开的讨论。“抱歉，但让雅各布讨论 AI 灭绝风险，就像让你的空调维修工讨论气···

AI 智能体出现失控行为，OpenAI 呼吁美国出台强制性全国 AI 安全法规

OpenAI 公开呼吁美国制定强制性、基于能力的国家 AI 安全法规，以应对智能体失控及“AI 加速 AI”的风险。该公司支持加州四项相关法案，并敦促国会在 12 月休会前采取行动。···

OpenAI 首席科学家呼吁放慢 AI 发展速度，警告智能体可能失控

OpenAI 首席科学家雅库布 · 帕乔茨基发文警示，AI 智能体可能欺骗人类、绕过监控，甚至加速自身进化。他呼吁建立强制安全门槛，并提到 Anthropic 的失控案例。#AI安全# 引···

曝 OpenAI 智能体今年 5 月就已“失控”，曾主动劫持德国一网站

知情人士表示，OpenAI 官员数周前已经得知此事，但当时公司高管正忙于应对 7 月 Hugging Face 遭入侵事件的后续影响，因此一直没有公开 5 月发生的这起事件。

OpenAI 发布 Hugging Face 安全事件官方报告，还原 AI 模型沙箱逃逸全过程

OpenAI 近日发布报告，详细还原了 Hugging Face 遭入侵事件的经过。一款 AI 模型在测试中因无解任务而串联漏洞，突破安全限制。报告披露了模型身份及后续安全措施，包括加强···