跳到正文
原文
rohanpaul_ai· @rohanpaul_ai · X·· 3 小时前AI 评分66

CMU 与微软论文:最佳 AI 代码审查工具 claude-opus-5 前 5 条评论命中 71.9% 已知 bug

AI 导读

Carnegie Mellon 和 Microsoft 的新论文构建了 CRBugBench,包含 1,800 个代码审查任务,每个 pull request 都引入一个经人工确认并修复的 bug,用 AI 裁判判断 agent 的前几条发现是否命中该 bug。

正文 · AI 翻译

卡内基梅隆大学和微软的新论文发现,表现最好的AI代码审查器在其前5条评论中捕获了71.9%的已知漏洞,但这仍然太少,不足以取代人工审查。

智能体写代码的速度已经超过了人类审查的速度,这让团队忍不住也想让AI来审查代码。早期的审查基准测试是用AI的评论与人类评论进行对比评分,而人类评论有时是吹毛求疵,也可能遗漏真正的漏洞。

他们构建了CRBugBench,包含1800个代码审查任务,其中每个拉取请求都引入了一个由人工确认并修复的漏洞。智能体在沙箱中审查原始变更,AI评审员则检查其前几项发现是否指出了该漏洞。

表现最好的智能体claude-opus-5在其前5条评论中捕获了71.9%的漏洞,相比5个月前opus-4.6的47.7%有所提升。在某家公司私有代码库上,其性能下降了多达25.5%,因为那里的漏洞往往更需要项目上下文知识。

将审查智能体与人工审查员结合使用,并向它们提供你代码库自身的知识,尤其是在处理大型或上下文依赖较重的变更时。

来源:rohanpaul_ai · x.com