Nathan Lambert：前沿节奏控制不可行

AI 导读

我认为控制前沿节奏这个想法原则上不错，但作为实际可执行的方案是行不通的。我们要决定哪些 benchmark 可以提升吗？谁来参与？如果我们停止推动"能力"，我们会对 swarms + 效率做大量研究，这会带来其他风险。它让人忽视了 AI 风险很大程度上只是来自扩散我们已有的东西，我们应该投资于 preparedness，推动实验室更加谨慎，等等。改变我的想法？

正文 · AI 翻译

我认为在原则上，"放慢前沿步伐"这个想法是好的，但作为实际可行的做法根本行不通。我们要怎么决定哪些基准测试可以改进？谁来参与？

如果我们停止推进"能力"，我们会在群体智能和效率方面做大量研究，而这会带来其他风险。

这会让人忽视一个事实：AI风险很大程度上仅仅来自于我们现有技术的扩散，我们应该投资于防范准备、推动实验室更加谨慎等等。

谁能说服我？

来源：natolambert · x.com