BeeGee2026-06-15 06:53

+ 关注

大语言模型都有幻觉。我们本来都是想以为通过加上它搜索的工具、加上 API 、接上 RAG 这些东西就能解决幻觉问题。但文中提了一个反常识的观点: "工具并没有消除对忠实不确定性的需求，反而放大了它。" 主要的原因是接入这些工具或者是数据库，外部数据库，其实解决的是数据或者是存储的问题。但是这些工具同时会引入了一个控制的问题，也就是什么时候该搜索，什么时候停止搜索？这个边界在哪里？ 作者提出了元认知，也就是让大语言模型或者是智能体能通过"内省"和"调节"这两方面来进行动态控制。"内省"是问自己，我对这个答案的确定性是否稳定？如果不确定就老实的说不确定并进入下一个调节的环节，而不是像之前的大语言模型中，如果不确定的话就直接拒绝回答，或是直接编造。"调节"是指收到内省的信号以后，决定后面该怎么做: 是继续搜索，拒绝回答，继续推理，或者直接说我不确定。也就是真正做到能诚实面对自己。做到有意识并诚实面对自己, 这个难度其实加大了非常多, 但我认为这是正确的方向，这样才能正确的让大模型以及将建立在其上的智能体能真正有效地落地。

Hallucinations Undermine Trust; Metacognition is a Way Forward

Abstract page for arXiv paper 2605.01428: Hallucinations Undermine Trust; Metacognition is a Way Forward