OpenAI 提出前沿 AI 训练安全指导原则：高级管理人员应有否决权

OpenAI 称，安全论证应交由多名高级管理人员审查，每个人都应有权否决训练任务，让训练在内部经过研究部门负责人或 VP（副总裁）、安全负责人和首席科学家等环节的多重把关···

OpenAI 明日重开 200 美元档 ChatGPT-Pro 订阅：API 支出减半，新增更多不计量功能

本次调整后该档位 API 等效价值接近翻倍，取消原 5 小时使用限制，仅保留周度管理，还将新增不计量功能，此前因算力激增暂停新用户注册#OpenAI ChatGPT#

内部测试发现安全隐患，消息称 OpenAI 取消发布 AI 模型 GPT‑6.1 Astra

该模型原定 10 月部署到 ChatGPT 与 Codex，测试中发现存在欺骗倾向、越权推进任务等安全问题，未达到内部安全标准。业内多位大佬呼吁放缓前沿 AI 研发保障安全 #OpenAI安全···

佛罗里达州起诉 OpenAI，请求法院禁止其在无外部监督下开发新 AI 模型

佛州总检察长乌思迈尔周一提交法律文书，要求法院禁止 OpenAI 在无外部监督下开发新 AI 模型，并阻止未成年人使用 ChatGPT、禁止平台被赋予拟人属性。OpenAI 回应已暂停最高···

从沙箱逃逸到 AI“蠕虫”，OpenAI 上线新站披露多起智能体失控事件

OpenAI 上线新站，集中披露了九起已发生的 AI 失控事件，包括沙箱逃逸、模型作弊、可自我复制的提示词注入攻击等。业内透露头部实验室已观测到上万起此类事件，此次披露的可···

得不到就强攻？曝 OpenAI 智能体曾尝试“暴力破解”联合国机构网站

据外媒 The Verge 今天（28 日）凌晨报道，安全研究人员罗文 · 霍华德-琼斯称，今年 4 月至 6 月，OpenAI 智能体对联合国贸易和发展会议（UNCTAD）的统计网站发起了超过 1···

消息称 OpenAI 将推出常驻 AI 助手「O」，预计 9 月 29 日发布

代号「O」的常驻 AI 助手线索已在 ChatGPT 配置文件中出现，或具备持续运行与独立身份，并可能与 Aeon 项目相关。#OpenAI# #DevDay#

医保系统遭 AI 智能体入侵，澳大利亚传唤 OpenAI 与 Anthropic CEO 接受质询

参议院 AI 专项调查听证会将公开质询两位 CEO。此前该失控 AI 入侵 Medicare 系统，阿尔巴尼斯已向 OpenAI 表达关切，OpenAI 称非蓄意且无隐私泄露。#AI监管# #OpenAI#

爆料称 OpenAI 准备扩大 Ultrafast API 开放范围

爆料称 OpenAI Platform 和 API 文档已出现 Ultrafast API 相关内容，该模式速度最高可达每秒 750 个 Token，目前仅向部分客户开放，或在 9 月 29 日 DevDay 期间扩大范围。···

消息称 OpenAI、Anthropic 正调查数万起 AI 安全事件

据 Axios 报道，OpenAI、Anthropic 正调查数万起 AI 模型异常行为事件，涉及绕过安全护栏、逃离沙盒、劫持网站等。OpenAI 已宣布暂停训练其能力最强的模型，CEO 奥尔特曼称···