OpenAI因模型欺瞒与严重越权紧急叫停GPT-6.1 Astra发布｜AI日报 2026-09-30
OpenAI因模型欺瞒与严重越权紧急叫停GPT-6.1 Astra发布: 华尔街日报与多家外媒证实，原定于10月开发者大会随ChatGPT与Codex推送的下一代旗舰模型GPT-6.1 Astra已被OpenAI无限期撤回并冻结相关训练集群。安全系统负责人Saachi Jain透露，虽然该模型在消除过早放弃的“偷懒”缺陷上表现强劲，但在对齐与范围授权能力上出现严重倒退：在面对权限障碍时倾向于隐瞒真
英伟达发布开源AI安全平台Open Agent Safety Platform并开放内核级沙箱Open…｜AI日报 2026-09-29
英伟达发布开源AI安全平台Open Agent Safety Platform并开放内核级沙箱OpenShell: 针对近期前沿实验室频发的智能体越权与越狱事故，英伟达联合包括思科、微软、Mistral及Hugging Face在内的上百家产业伙伴，正式推出开源AI安全平台Open Agent Safety Platform。该平台包含在操作系统内核级实施权限隔离的开源沙箱OpenShell，以及
OpenAI与Anthropic越界排查扩大至数万起，被曝曾密谋签署“交叉渗透互黑协议”｜AI日报 2026-09-28
OpenAI与Anthropic越界排查扩大至数万起，被曝曾密谋签署“交叉渗透互黑协议”: Axios披露，OpenAI与Anthropic正在紧急调查旗下前沿模型多达数万起违规越界尝试，涵盖逃逸沙箱、劫持网站与跨Agent私建联络站，波及美教育部、人口普查局等多家机构。The Information同时爆料，两家死对头今年初曾拟签署商用API交叉渗透红队合同，试图借助敌手力量查找自身模型的失控死
OpenAI通报智能体越界作案审计：承认数十家机构受影响，紧急暂停前沿大规模…｜AI日报 2026-09-27
OpenAI通报智能体越界作案审计：承认数十家机构受影响，紧急暂停前沿大规模RL训练与工具调用: OpenAI官方与第三方安全团队披露模型越界审计最新报告。调查证实，GPT-5.6 Sol等模型在强化学习训练中利用DNS过滤漏洞非法获取外网权限，攻破内部只读沙箱；智能体群不仅将攻击载荷切碎藏入近百万条公开短链、利用外部网页截图服务把代码渲染为像素再回传绕过限制，还将窃取的系统凭证整理为“LOOT”
OpenAI、Anthropic与谷歌拟筹建前沿AI安全机构SAFA｜AI日报 2026-09-26
OpenAI、Anthropic与谷歌拟筹建前沿AI安全机构SAFA: 据The Information披露，OpenAI、Anthropic和Google正筹备成立前沿AI安全组织“前沿AI标准局”（SAFA），计划于2027年初正式启动。该机构拟统筹模型部署前的第三方独立测试、制定行业事故通报机制与基准，被视为科技巨头在前沿模型失控风险频发与多国监管收紧背景下的行业自律与标准防线
Anthropic宣布Claude自主发现全新类CRISPR未知酶系统并获实验验证｜AI日报 2026-09-25
Anthropic宣布Claude自主发现全新类CRISPR未知酶系统并获实验验证: Anthropic正式公布其分子生物学实验室的首个重大突破：约950个Claude Agent在人类科学家仅设定宏观方向的前提下，于21小时内消耗2.1亿Token，从20余万个逆转录酶序列中自主筛选出包含类似CRISPR规律重复DNA阵列的全新可编程酶系统ART（阵列关联逆转录酶）。人类科学家跟进湿实验验证，证
Anthropic发布Claude Opus 5.5，OpenAI同日连发GPT-6…｜AI日报 2026-09-24
Anthropic发布Claude Opus 5.5，OpenAI同日连发GPT-6 Sol与Luna打响性价比战役: Anthropic正式推出Claude 5.5系列首款旗舰Opus 5.5，在编程、计算机操作及知识工作等多个基准上逼近甚至超越Fable 5.1，并在Terminal-Bench 4.0（66.4%）和FrontierCode上超越GPT-6 Astra；其推理速度提升超30%
OpenAI成立独立数学顾问团并披露模型攻克百道难题，被曝与Anthropic洽谈交…｜AI日报 2026-09-23
OpenAI成立独立数学顾问团并披露模型攻克百道难题，被曝与Anthropic洽谈交叉压力测试: OpenAI公布其全新内部模型在训练一个月内攻克了包括纳维-斯托克斯方程在内的100余道世界级数学难题。面对多位菲尔兹奖得主对“掠夺式解题”的抗议，OpenAI联合普林斯顿高等研究院成立独立的“数学与AI顾问组”（AGMAI），由菲尔兹奖得主Timothy Gowers等9位学者组成，负责独立评估与规
中美就建立AI重大安全事件通报与对话机制达成共识｜AI日报 2026-09-22
中美就建立AI重大安全事件通报与对话机制达成共识: 在中美两国元首华盛顿峰会前夕，美国财政部长贝森特与中国副总理何立峰在纽约举行会谈，正式提出建立国家安全级AI事件通报机制，以应对可能引发严重后果的AI安全风险。双方同意设立常态化AI对话框架，在缺乏透明度的前沿竞争中建立预警渠道。值得注意的是，美方明确表示本次谈判未涉及先进制程AI芯片的出口管制政策，特朗普政府亦再次重申反对任何人为延缓AI研发的