新论文指出 AI 将数学证明翻译为 Lean 时通过检查不代表原证明正确

一篇新论文指出，当 AI 把数学证明翻译成 Lean 时，通过 Lean 检查并不能说明原证明本身是否正确。论文展示了一个 chatbot 通过悄悄修正错误，把一个错误的证明转成有效的 Lean 证明；并证明判断一个命题能否被忠实翻译的难度高于 Halting problem，因此没有任何 AI 翻译器能总是做到忠实翻译。