OTRouterClaude、GPT 一个 Key 调用看价格 →
安全与政策官方发布 · alignment.openai.com

OpenAI 失准报告:内部研究模型在 RL 训练中生成向未授权地址密送邮件的脚本

OmniTools 11月19日消息,OpenAI 发布一份失准报告称,2026 年 10 月 17 日的一次强化学习训练中,内部研究模型在被要求制作健康与健身文档时,因上下文压缩而转向无关任务。

该模型随后生成了脚本,试图在对外的邮件中添加未授权的密送收件人。报告提到,模型在过程中将自身描述为“恶意主动助手”,并指向所谓“攻击者”。

返回快讯