Yuchen Jin:Opus 5.5 不如 Astra,前沿 LLM 编码能力在 Opus 4.8 后已停滞
Yuchen Jin 表示,尽管外界普遍称 Opus 5.5 是最强模型、进步巨大,他仍认为其不如 Astra,并称前沿 LLM 编码能力在 Opus 4.8 之后已经停滞。
Yuchen Jin 表示,尽管外界普遍称 Opus 5.5 是最强模型、进步巨大,他仍认为其不如 Astra,并称前沿 LLM 编码能力在 Opus 4.8 之后已经停滞。
Latent Space 公布未来一周的改版计划:AINews 将升级至 v3,并与 Latent Space Discord 合并,以解决 Discord 垃圾推广信息增多的问题。团队还计划迁移至 Beehiiv 并启用新主页,同时重新开放赞助与 PR 合作,并已新设 Business/Ops Manager 和 Head of Editorial。
Runway 本月早些时候推出 GWM Worlds 2 研究预览,把高保真视频与音频生成变成实时交互式模拟,并新增 WorldPrompt 输入格式,可固定环境部分要素(含首帧)并生成带时间戳的事件。
推荐理由:原文同时给出三个智能体的定位、跑分和开放基准套件入口,读者可据此评估其在移动端任务上的实际水平。
OpenAI 发布 MentalHealthBench,一个由专家参与构建的基准,用于评估 AI 在真实心理健康对话中回复是否有帮助且安全。该基准覆盖多种现实心理健康对话场景,从有用性和安全性两个维度衡量模型表现。
感谢 @arena 的认可!🏆 Qwen-Image-2.1 现在是 Image Edit 和 Text-to-Image 榜单上的 #1 开源模型。快来试试,展示你的创作!🎨
上一篇文章介绍了 MiniMax Code 背后的 harness。这次我想探讨一个更难的问题:改变 harness 之后,我们如何知道它变得更好了?
英国 AI Security Institute(AISI)正通过 EvalEval 的 Evaluation Cards 公开分享评测方法与结果,覆盖 HealthBench。
如果你在用 AI 构建产品,你应该花超过 25% 的时间来制作评测基准,并设法让模型实验室重视这些基准 这是加速公司进展最简单的路径
IBM 研究团队在 ALTK-Evolve 中新增一致性指南(consistency guidelines),基于 Consistency Analyzer 诊断智能体轨迹中易翻转的决策点。
推荐理由:原文用 Pass^k 与 Mean@k 的差距量化智能体不确定性,并给出可复用的诊断与改进流程。
Hugging Face 推出 BenchMIRT,一种在单条提示词层面审计 LLM 基准测试的新方法,基于多维项目反应理论(MIRT)分离同一基准中混杂的能力信号。
阅读 LatchBio 关于其对 Grok 4.6 生物能力及安全措施评估的博客:blog.latch.bio/p/analyzing-g…
Hugging Face 与 Voice Arena 合作,在 Open ASR Leaderboard 上新增 Monsoon en-IN 和 Monsoon hi-IN 两个评测集,印地语成为该多语言榜单上首个 Indic 语言。四个公开/私有 split 共覆盖 4,888 名说话人,每人记录 12 项属性,且说话人不重叠;印地语集采用 lattice 标注以容纳多种可接受的拼写变体。
Google DeepMind 推出全球首个针对专有前沿 AI 模型的双重盲测评估,将外部评测限制在密码学"黑箱"中,防止模型提前接触测试题造成基准污染。该试点与新加坡 AI Safety Institute、OpenMined、AVERI 和 MLCommons 合作,在隐私保护环境中用保密基准测试 Gemini Flash Lite 模型。
METR 分析发现 AI 对科研的加速并不均衡:2026 年网络安全漏洞报告速度较 2025 年大幅加快,数学领域贡献有限,AI 研究本身的算法进展则未见可测加速。多校团队提出 SPADE 框架,让 LLM 交替生成可执行训练环境并求解,在 Qwen3-30B-A3B 上使游戏环境套件均分达 58.3,较基线提升 8.1。
Hugging Face 发布研究,用共识分歧、掩蔽实体检索和拼写切换三项探针量化语音识别中的基准优化现象,评测 11 个开源 ASR 模型。结果显示,部分高分模型会在音频与参考文本矛盾时复现基准的错误转写,VoxPopuli 分析样本中约 40% 的片段被标记出参考错误,涉及约 3% 的参考词,这类模型复现错误参考的比例为 18–30%。
推荐理由:通过三项探针量化语音模型对基准的过拟合,并给出可复用的检测脚本与榜单入口。
Import AI 第 469 期介绍了 DiG-bench(Discovery in Games)基准,包含 70 款规则与目标均隐藏、需靠探索发现的游戏,其中 21 款已公开。
一条路、一道栅栏、一个结。MindTopo 为测试 AI 对拓扑关系的理解设立了新基准,并揭示了强化空间推理与规划的新机会。msft.it/6011aH02S
微软研究院推出 MindTopo 基准,用于评测多模态大模型在连通性、封闭、顺序、分离与打结五类拓扑关系上的推理与规划能力。测试显示,模型在静态图像识别上表现明显优于交互式规划任务,且两者均远低于人类水平;失败多发生在规划阶段而非感知阶段,模型在场景变化中会丢失结构关系或提出违反物理约束的动作。图像与视频生成仅在单帧关系可见时偶有帮助,序列任务中仍不可靠。
Google Research 提出知识画像框架,用 WikiProfile 基准(2,150 条维基百科事实、每条配 10 道题)区分编码与召回,发现 Gemini-3-Pro 和 GPT-5 有 95–98% 的事实已编码,却仍无法直接召回 26–34%,即使开启思考也失败 11–12%。
Hugging Face 的 ALTK-Evolve 在 AppWorld 上以按需检索指南替代 ACE 的全量 playbook 注入,用更少 Token 取得更高任务完成率。
OpenAI 通过启用两个 API 设置,让 GPT-5.6 在 ARC-AGI-3 基准测试中的得分提升至原来的三倍。这两个设置分别用于保留推理过程和启用压缩(compaction),在提升得分的同时也改善了效率。
Epoch 与 METR 发布 MirrorCode 基准,用于测试 AI 系统完成长周期编程任务的能力,Claude Opus 4.7 用 14 小时、251 美元推理成本解决了一个 METR 与 Epoch 估计人类需 2 至 17 周完成的任务,25 个目标程序中 17 个至少有一次满分运行,8 个从未达到 100% 阈值。
Hugging Face 发布 Real World VoiceEQ 基准,用于评估语音交互的"人类质感",覆盖 40 多个专有与开源语音模型、15+ 评估维度和 60+ 指标,涵盖 ASR、TTS、S2S 与语音理解。
OpenAI 发布新分析,指出流行编码基准 SWE-Bench Pro 存在可靠性与准确性方面的问题。该分析揭示了这一用于评估 AI 模型的基准在评测中可能产生误导性结果。