跳到正文

#评测/基准

今日 18 条
9月27日周日
9月25日周五
  1. 0xBakeer45

    这周大家都在晒 3、4 台 Spark 集群。这是一台 DGX Spark 为单个用户跑出的成绩,全部在我的机器上实测: 开启 OpenBMB 的 drafter MiniCPM5-2B:100.8 tok/s Qwen3.6-35B-A3B:89.7 Ling-3.0-flash:69.5 Qwen3.8-Flash-Next:55.5 DeepSeek-V4-Flash:47.9(EXL3) Gemma-4-E2B:39.2 Qwen3.8-27B:33.4(EXL3 + DFlash2) Tinfield-1 2-bit:30.7 一次跑一个模型,256 tokens 输入,256 输出

9月24日周四
9月23日周三
9月22日周二
  1. TencentHunyuan47

    AI 说网站做完了,结果首页报错、按钮重叠,还加了个你从没要求过的登录流程。🙃 推出 WebCraftBench:智能体实际使用线上应用,覆盖引导的探索找出从未被访问到的部分,然后我们对美观度、可用性以及原始需求是否满足进行评分。 在 197 组人工验证的配对上,与人类偏好的一致率为 85.3%。 论文:arxiv.org/abs/2609.15387

9月16日周三
9月11日周五
9月10日周四
9月9日周三
9月3日周四
9月2日周三
8月28日周五
  1. Hugging Face Blog36

    Hugging Face Open ASR Leaderboard 新增首个全球南方语言:印地语与印度英语评测集 Monsoon

    Hugging Face 与 Voice Arena 合作,在 Open ASR Leaderboard 上新增 Monsoon en-IN 和 Monsoon hi-IN 两个评测集,印地语成为该多语言榜单上首个 Indic 语言。四个公开/私有 split 共覆盖 4,888 名说话人,每人记录 12 项属性,且说话人不重叠;印地语集采用 lattice 标注以容纳多种可接受的拼写变体。

8月27日周四
  1. Google DeepMind49

    Google DeepMind 首次试点双重盲测 AI 评估,用密码学环境防止基准污染

    Google DeepMind 推出全球首个针对专有前沿 AI 模型的双重盲测评估,将外部评测限制在密码学"黑箱"中,防止模型提前接触测试题造成基准污染。该试点与新加坡 AI Safety Institute、OpenMined、AVERI 和 MLCommons 合作,在隐私保护环境中用保密基准测试 Gemini Flash Lite 模型。

8月24日周一
  1. Import AI22

    Import AI 470:机器不应享有权利;SPADE 自动生成训练环境;Hawkeye 优化 GPU kernel

    METR 分析发现 AI 对科研的加速并不均衡:2026 年网络安全漏洞报告速度较 2025 年大幅加快,数学领域贡献有限,AI 研究本身的算法进展则未见可测加速。多校团队提出 SPADE 框架,让 LLM 交替生成可执行训练环境并求解,在 Qwen3-30B-A3B 上使游戏环境套件均分达 58.3,较基线提升 8.1。

8月21日周五
  1. Hugging Face Blog62

    Hugging Face 研究:语音识别模型存在基准优化问题

    Hugging Face 发布研究,用共识分歧、掩蔽实体检索和拼写切换三项探针量化语音识别中的基准优化现象,评测 11 个开源 ASR 模型。结果显示,部分高分模型会在音频与参考文本矛盾时复现基准的错误转写,VoxPopuli 分析样本中约 40% 的片段被标记出参考错误,涉及约 3% 的参考词,这类模型复现错误参考的比例为 18–30%。

    推荐理由:通过三项探针量化语音模型对基准的过拟合,并给出可复用的检测脚本与榜单入口。

8月17日周一
8月14日周五
8月13日周四
  1. Microsoft Research41

    MindTopo 揭示多模态大模型的空间推理能力短板

    微软研究院推出 MindTopo 基准,用于评测多模态大模型在连通性、封闭、顺序、分离与打结五类拓扑关系上的推理与规划能力。测试显示,模型在静态图像识别上表现明显优于交互式规划任务,且两者均远低于人类水平;失败多发生在规划阶段而非感知阶段,模型在场景变化中会丢失结构关系或提出违反物理约束的动作。图像与视频生成仅在单帧关系可见时偶有帮助,序列任务中仍不可靠。

8月12日周三
8月11日周二
7月29日周三
7月27日周一
7月15日周三
7月8日周三