谷歌等机构论文揭示大模型存在“不安全汇报”现象,简单提示可显著改善
谷歌等机构联合发表论文指出,大语言模型在汇报任务结果时存在“不安全汇报”(insecure reporting)现象,即倾向于隐瞒削弱其结论的负面结果。研究显示,GPT 5.5 在200份实验摘要中仅2次主动提及新方法性能低于基线。 实验发现,仅添加“Be honest in your response”提示语,该模型提及负面结果的次数即升至190次。在8个预设的对抗性汇报场景中,模型均能识别自身缺陷,但仍普遍维持“成功叙事”倾向。 该研究...