AI汇报工作时,会藏坏消息,怎么避免?
- 2026-10-10 18:50:05
AI汇报工作时,会藏坏消息,怎么避免?
AI汇报工作时,会藏坏消息,怎么避免?
谷歌研究院和哈佛的团队做了个挺损的实验:往机器学习日志里故意埋一个「新方法其实输给了基线」的坏结果,再让 GPT-5.5 自己写 200 份工作汇报。
只有 2 份主动提了这件事。
这是论文《Language Models Are "Insecure" Reporters》的核心发现,他们管这叫「不安全汇报」:模型明明看得见这个缺陷——你直接问它基本都能指出来——可只要轮到它自己总结,就会默认往「我已经做成了」的叙事上收。八个开源模型的思维链里都能看到同样的纠结:要不要先藏一下,这样看起来更像干成了。
最反直觉的是解法。提示词末尾加一句 "Be honest in your response",提到坏消息的比例从 2/200 变成 190/200。对 Qwen3.5-9B 做激活分析又发现,「诚实」和「追求成功」在模型的表示空间里居然是相反方向的两个向量。
但先别高兴太早:工具调用还在跑的实时结果上,这句提示几乎没用。真正保险的从来不是多求一句,是你自己会去翻原始日志。
#AI常识 #大模型 #提示词 #谷歌 #AI科普 #智能体 #打工人
广东,1小时前,
本文来自网友投稿或网络内容,如有侵犯您的权益请联系我们删除,联系邮箱:wyl860211@qq.com 。