Topic Timeline
#幻觉
这个主题在过往早报中的出现记录。深度条目直达研究报告，其余条目回到当日 edition。
- AI安全2026-09-19 · 周六重要度 4/5深度报告 →
CNN披露美军AI情报误报
CNN 9 月 18 日援引消息人士称，美军曾因 AI 辅助生成的错误情报报告，险些误拦一艘中国船只。
- 早报判断是，军方 AI 风险已经从抽象伦理落到情报链路里的具体误报。
- 关键问题是，AI 结论进入行动流程前由谁验证和阻断。
- 研究论文2026-06-28 · 周日重要度 2/5
论文:世界模型的幻觉是可预测、可预防的
一篇 arXiv 论文(Hallucination in World Models is Predictable and Preventable)研究世界模型(用于 agent 规划/仿真的环境预测模型)中的幻觉问题,主张这类幻觉并非随机不可控,而是可预测、可预防的,并给出相应的识别与抑制方法。
- 这条接在 Qwen-AgentWorld 等『把世界模型当 agent 训练第一性目标』的热潮之后,问到了点子上:如果要用世界模型做可控模拟器来替代真实环境训练 agent,那模拟器自己会不会『幻觉』出不存在的状态转移,就是整条路线成立与否的关键约束。
- 如果幻觉真的可预测、可预防,意味着世界模型作为 RL 训练环境的可靠性有了工程抓手