跳到正文
原文
fchollet· @fchollet · X·· 4 天前AI 评分60

Chollet:基础 LLM 与现代 LRM 的关键区别是从传导转向归纳

AI 导读

Francois Chollet 指出,基础 LLM(2024 年及更早)与现代 LRM 的关键区别不在于符号工具使用,而在于从传导范式(直接直觉出查询的答案)转向归纳范式(直觉出产生答案的程序或指令)。

正文 · AI 翻译

基础大语言模型(2024年及更早)与现代大推理模型之间的关键区别不在于符号工具的使用,而在于从直推式范式(直接推断出查询的答案)转向归纳式范式(推断出能产生查询答案的程序/指令)。

它们被训练为归纳式的,并且在测试时进行归纳,即在测试时预测一个自然语言程序/推理链。这解锁了全新的能力——尤其是流体智力。基础大语言模型至今流体智力几乎为零,而大推理模型则具备相当水平的流体智力。

大语言模型在 ARC 1(一个2019年的基准测试)上的表现至今仍维持在约10-15%。将它们的规模扩大约10万倍,才使其从0%提升到10%。与此同时,规模相同或更小的大推理模型在2025年就已刷满 ARC 1。

来源:fchollet · x.com