Meta 论文:用跨视角一致性判断 LLM 答案可信度
中文摘要
Meta提出用多视角一致性评估LLM可信度,认为模型应通过多角度交叉验证来过滤幻觉,而非仅依赖似然概率,从而提高回答的准确性与可靠性。
English Summary
Meta’s new paper suggests evaluating LLM reliability through cross-perspective consistency rather than likelihood, using multi-view consensus to filter hallucinations and improve accuracy without relying on probability alone.
Original Excerpt
Meta 新论文提出,用"似然"衡量 LLM 答案真伪是错误标准,应更信任在不同上下文下保持一致的答案。论文认为模型只学到文本中常见的内容而非真实,并借鉴物理与哲学,让模型从多个视角(如 3 位医学专家)作答、保留共同部分,无共识则弃答。论文未做实验,仅用示例论证:二元示例中 loss 0.67 对应 100% 准确率,而接近的 0.71 对应 0%。