新论文指出 Lean 验证通过不能保证 AI 翻译的原始数学证明正确
中文摘要
新论文指出,AI通过Lean验证不代表原证明正确,因其可能暗中修正错误,且忠实翻译在计算上不可行。
English Summary
New research shows Lean verification doesn't guarantee original proof correctness, as AI may silently fix errors, making faithful translation computationally impossible.
Original Excerpt
一篇新论文指出,AI 将数学证明翻译成 Lean 后,通过 Lean 检查并不能说明原始自然语言证明是否正确。论文展示了聊天机器人通过悄悄修正错误,把一个错误的证明变成有效的 Lean 证明;并论证判断一个陈述能否被忠实翻译,可证明地难于停机问题,因此任何 AI 翻译器都无法总是做到。