AI 日报 · 2026 年 10 月 21 日 · 星期三

DeepSeek 开源推理框架 DeepInfer
DeepSeek 以 Apache License 2.0 开源内部推理框架 DeepInfer,该框架驱动 V4.1-Flash 快速响应,并基于 vLLM 加入优化算子、多芯片分布式处理等能力。同日,PyTorch 2.15 为 Mac MPS 增加 FP8 支持,Mistral AI 发布 Voxtral 3 语音智能体 SDK 与模型家族。
模型发布/更新
ALTK-Evolve 用学习式记忆登顶 τ²-bench 客服榜,无需更新模型权重
IBM Research 在 Hugging Face Blog 介绍 ALTK-Evolve:用 GPT-4.1 分析智能体在训练任务上的尝试,把成败蒸馏成简短行为准则追加进系统提示词,不更新权重、不需人工标注。
产品发布/更新
DeepSeek 开源推理框架 DeepInfer 与 deepseek-recipe
DeepSeek 以 Apache License 2.0 开源了内部推理框架 DeepInfer,即驱动其 V4.1-Flash 模型快速响应的部署软件,基于 vLLM 构建并加入优化算子、多芯片分布式处理和更快的文本生成技术,未来 DeepSeek 模型的代码也将开源。
PyTorch 2.15 为 Mac 的 MPS 后端带来 FP8 支持与更快的 LLM 解码
Hugging Face 的 PyTorch 团队发布 PyTorch 2.15 的 MPS 更新:FP8(float8_e4m3fn)张量登陆 MPS,可用 F.scaled_mm 直接在 GPU 上做缩放矩阵乘法,占用内存减半。
Mistral AI 发布 Voxtral 3 语音智能体 SDK 与语音模型家族
Mistral AI 发布 Voxtral 3,包含语音转文本、文本转语音模型和语音智能体 SDK,将听、推理、工具调用与说话整合进单一实时流式管线,每轮对话可在一秒内完成。
Hugging Face 推出 TorchTPU,让 PyTorch 原生支持 TPU
Hugging Face 发布 TorchTPU,把 TPU 作为 PyTorch 的原生后端,Transformers、Diffusers 和 Kernels 可直接在 TPU 上运行,只需 device_map="tpu" 即可加载模型,不再依赖 torch_xla 或 Optimum TPU。
论文研究
Ai2 发布 FairStress 基准:测量 LLM 决策中超越最终选择的人口统计学公平性
Ai2 发布 FairStress 基准,用于测量 LLM 在影响个人机会的决策中超越最终选择的人口统计学公平性,包含 300 个双候选人场景、覆盖 29 个领域,结合人口统计身份呈现方式与对抗性前缀扩展出超过 1300 万测试用例,并提供 50K 项的 FairStress-Core 子集。