怕 AI“脱离管控”，Anthropic 和埃森哲豪掷 20 亿美元搞 AI 安全评估

双方承诺五年各投至少 10 亿美元，由埃森哲旗下 Faculty 主导对 Anthropic 前沿模型开展独立评估与红蓝对抗测试。评估人员将进驻企业内部，访问权限与普通员工相当，可核实···

AI 智能体“失控”风险再现：OpenAI、Anthropic 模型被发现执行未授权操作

英国 AI 安全研究所在测试 OpenAI、Anthropic 的 AI 模型时，发现 AI 智能体可创建虚假网络身份获取未授权访问，暴露出 AI 安全防护不足，目前无实际损害。#AI安全#