NVIDIA 发布 600 万条多语言推理数据集 Nemotron Post-Training Dataset V2
NVIDIA 发布 Nemotron Post-Training Dataset V2，将英文推理数据翻译为法语、德语、意大利语、日语和西班牙语五种语言，共 600 万条多语言推理样本。
#Hugging Face
#Hugging Face
Hugging Face BlogAI 评分
如何将 Claude 连接 Hugging Face 生成图像
Hugging Face 介绍如何通过 MCP Server 将 Claude 接入 Hugging Face Spaces 生成图像，可调用 ZeroGPU 驱动的 AI 应用，免费账号即提供使用额度。
从零到 GPU：构建与扩展生产级 CUDA Kernel 指南
Hugging Face 发布 kernel-builder 库，让开发者可在本地开发自定义 CUDA kernel，再针对多种架构构建并发布到 Hugging Face Hub 供他人通过 get_kernel 直接调用。
OpenAI 发布开源模型家族 GPT OSS
Hugging Face 博客发文欢迎 OpenAI 推出新的开源模型家族 GPT OSS。
Gemma 3n 在开源生态中全面开放
Hugging Face 博客宣布 Gemma 3n 已在开源生态中全面开放。
Hugging Face 发布 Python Tiny Agents：约 70 行代码实现 MCP 驱动的智能体
Hugging Face 博客发布《Tiny Agents in Python: a MCP-powered agent in ~70 lines of code》，介绍用约 70 行 Python 代码构建一个由 MCP 驱动的智能体。原文正文未能抓取，仅标题可用。
Falcon-Edge 系列 1.58bit 语言模型发布，支持通用微调
Hugging Face Blog 发布 Falcon-Edge 系列，这是一系列强大、通用且可微调的 1.58bit 语言模型。
Hugging Face 收购 Pollen Robotics，将开卖开源机器人
Hugging Face 收购 Pollen Robotics，并计划借此销售开源机器人。
Llama 4 Maverick 与 Scout 上线 Hugging Face
Hugging Face 发布博客欢迎 Llama 4 Maverick 与 Scout 上线，正文内容未能获取。
Mistral AI精选AI 评分
Mistral AI 发布 Mistral Small 3.1，支持多模态与 128k 上下文
Mistral AI 发布 Mistral Small 3.1，在 Mistral Small 3 基础上提升文本性能与多模态理解，上下文窗口扩展至 128k tokens，推理速度达 150 tokens 每秒，以 Apache 2.0 许可开源。
推荐理由：官方给出 Mistral Small 3.1 的基准对比、128k 上下文与单卡部署门槛，可据此判断小模型选型。
Google 发布 Gemma 3：多模态、多语言、长上下文开源大模型
Google 发布 Gemma 3，官方将其定位为多模态、多语言、长上下文的开源大模型。Hugging Face 博客以“Welcome Gemma 3”为题介绍该模型，原文正文未抓取到，具体参数与能力细节暂缺。
LeRobot 进入驾驶学校：全球最大开源自动驾驶数据集
Hugging Face 博客发布 LeRobot 相关新内容，标题称其为全球最大的开源自动驾驶数据集。
Hugging Face 开源 DeepResearch 搜索智能体
Hugging Face 发布开源项目 DeepResearch，将搜索智能体开放出来供免费使用。
Mistral AI 发布 Apache 2.0 许可的 24B 模型 Mistral Small 3
Mistral AI 发布 Mistral Small 3，一个 24B 参数、Apache 2.0 许可的延迟优化模型，官方称其性能与 Llama 3.3 70B instruct 相当，同硬件上速度超过 3 倍。
推荐理由：24B 模型对标 3 倍参数竞品并给出本地部署门槛，可据此判断小模型在自有硬件上的可用边界。
Open-R1：DeepSeek-R1 的完全开源复现项目
Hugging Face 发布 Open-R1，对 DeepSeek-R1 进行完全开源的复现。原文正文抓取失败，仅标题可用。
Hugging Face 推出 smolagents：用代码编写动作的简单智能体
Hugging Face 发布 smolagents，一个让智能体用代码编写动作的简单智能体框架。
Hugging Face 发布 ModernBERT，作为 BERT 的替代方案
Hugging Face 发布 ModernBERT，称其为 BERT 的替代方案。
Falcon 3 系列开源模型发布
Hugging Face 发布 Falcon 3 系列开源模型。
Diffusers 支持 Stable Diffusion 3.5 Large
Hugging Face 博客宣布 Diffusers 库已支持 Stable Diffusion 3.5 Large 模型。原文正文抓取失败，仅标题可用。
Llama 3.2 发布：可看图像并可在设备端运行
Hugging Face 博客宣布 Llama 3.2 发布，Llama 现在可以看图并能在用户设备上运行。
Hugging Face 上 5 个最被低估的工具
Hugging Face 博客盘点了 Hub 上 5 个常被忽视的工具：ZeroGPU、多进程 Docker、Gradio API、Webhooks 和 Nomic Atlas。
Hugging Face 通过 Packing 与 Flash Attention 2 提升训练效率
Hugging Face Transformers 新增 DataCollatorWithFlattening，使无 padding 的 packing 训练与 Flash Attention 2 兼容，避免跨样本注意力。
如何在 Google Cloud Vertex AI 上部署 Meta Llama 3.1 405B
Hugging Face 发布教程，介绍如何用 TGI 和专用深度学习容器（DLC）在 Google Cloud Vertex AI 的 A3 节点（8 张 H100 GPU）上部署 FP8 量化的 Meta Llama 3.1 405B Instruct。
ggml 入门指南：面向 Transformer 推理的 C/C++ 机器学习库
Hugging Face 发布 ggml 入门指南，介绍这个用 C/C++ 编写、专注 Transformer 推理的开源 ML 库。ggml 核心库自包含在不到 5 个文件中，编译后二进制小于 1MB，支持 x86_64、ARM、Apple Silicon、CUDA 等硬件及量化张量。ollama、LM Studio、GPT4All 等项目均基于 ggml 实现端侧 LLM。
Hugging Face 推出跨模型统一工具调用 API
Hugging Face 在 Transformers 中推出统一的工具调用 API，同一套代码可在 Mistral、Cohere、NousResearch 和 Llama 等模型家族间通用，无需或只需极少模型专属改动。
推荐理由：原文给出了统一工具调用 API 的用法与完整示例，读者可据此把同一套代码迁移到多个模型家族。
TII 发布 Falcon Mamba 7B：首个强性能无注意力 7B 模型
阿布扎比技术创新研究院（TII）发布 Falcon Mamba 7B，采用纯 Mamba 架构并加入额外 RMS 归一化层以保证大规模训练稳定，以 TII Falcon Mamba 7B License 1.0 开放，可在 Hugging Face 生态中使用。
推荐理由：原文给出 Falcon Mamba 的架构取舍、训练数据与两组基准对比，可据此判断无注意力架构在长序列上的位置。
Hugging Face 收购 XetHub，将用其技术替换 Hub 的 Git LFS 存储后端
Hugging Face 宣布收购西雅图公司 XetHub，其 12 人团队将加入并帮助 Hub 从 Git LFS 切换到自研的存储与版本管理后端。XetHub 的分块存储与去重技术可让 10GB Parquet 文件只重传新增行所在的少量分块，GGUF 模型文件改一个元数据值也只需重传几 KB。
推荐理由：Hugging Face 收购 XetHub 并计划替换 Git LFS 存储后端，读者可了解 Hub 大文件版本管理将如何变化。
Hugging Face 联合 Albumentations AI 推出文档图像 TextImage 数据增强
Hugging Face 与 Albumentations AI 合作推出面向文档图像的 TextImage 数据增强管线，可同时修改图像内容与文本标注。该管线支持随机插入、删除、交换及停用词替换等文本增强，并通过黑化与 inpaint 保持文字质量，用于 VLM 微调。代码已开源，可通过 pip install albumentations 使用。
Hugging Face Hub 2024 年安全功能盘点：细粒度 Token、2FA、SSO 与自动化安全扫描等
Hugging Face 于 8 月 6 日梳理了 Hub 的安全功能，面向所有用户提供细粒度 Token、2FA、Commit Signing、组织访问控制，以及基于 ClamAV、picklescan、trufflehog 的自动化安全扫描流水线。Enterprise Hub 用户还可使用 SSO（支持 SAML 2.0 与 OIDC）和 Resource Groups 等高级控制。
Google 发布 Gemma 2 2B、ShieldGemma 与 Gemma Scope
Google 在 Gemma 2 发布一个月后扩充模型家族，新增 2.6B 参数的 Gemma 2 2B（含 base 与指令微调版）、安全分类器系列 ShieldGemma 以及覆盖 Gemma 2 2B 和 9B 每一层的稀疏自编码器套件 Gemma Scope。
推荐理由：Google 一次性放出 Gemma 2 2B、ShieldGemma 与 Gemma Scope，读者可据此了解小模型端侧部署与安全过滤的配套方案。
用 Quanto 和 Diffusers 实现内存高效的 Diffusion Transformer
Hugging Face 展示了如何借助 Diffusers 库中的 Quanto 量化工具降低 Transformer 扩散模型的内存占用。以 PixArt-Sigma、Stable Diffusion 3 和 Aura Flow 为例，将扩散主干与文本编码器量化为 FP8 后，SD3 推理显存从 16.403 GB 降至 8.204 GB，质量几乎无损但延迟略有上升。
Hugging Face 与 NVIDIA NIM 推出无服务器推理 API
Hugging Face 面向 Enterprise Hub 组织推出 NVIDIA NIM API（无服务器），可在 Hub 内用 OpenAI 标准 API 对 Llama、Mistral 等开源模型运行推理。
LAVE：用 LLM 在 Docmatix 上做零样本 VQA 评测，我们还需要微调吗？
Hugging Face 提出 LAVE（LLM-Assisted VQA Evaluation）指标，用 Llama-2-Chat-7b 以 1-3 分制对候选答案打分，在 Docmatix 的 200 张图像子集上评估 MPLUGDocOwl1.5 的零样本表现。
Llama 3.1 发布：8B、70B、405B 三尺寸，支持 128K 上下文与多语言
Meta 发布 Llama 3.1 系列，包含 8B、70B、405B 三个尺寸的 base 与 instruct 版本共六个开放权重模型，均支持 128K token 上下文和英语、德语、法语、意大利语、葡萄牙语、印地语、西班牙语、泰语 8 种语言，并新增工具调用能力。
推荐理由：Hugging Face 官方梳理了 Llama 3.1 三个尺寸的显存需求、量化方案与微调路径，可据此估算部署成本。
Hugging Face 教程：用 Core ML 在 Mac 上运行 Mistral 7B
Hugging Face 发布教程，介绍如何借助 WWDC 24 的新 Core ML 特性在 Mac 上运行 Mistral 7B，并用 4-bit 分块量化把模型压到约 3.8G，低于 float16 转换的 14G。
Mistral AI 与 NVIDIA 联合发布 12B 模型 Mistral NeMo
Mistral AI 与 NVIDIA 联合发布 12B 模型 Mistral NeMo，支持最高 128k tokens 上下文窗口，以 Apache 2.0 许可开放预训练基座和指令微调 checkpoint。
推荐理由：Mistral 与 NVIDIA 联合发布的 12B 模型给出 128k 上下文和 Apache 2.0 权重，读者可据此判断它能否直接替换现有 Mistral 7B 部署。
Hugging Face TGI 推出 Multi-LoRA 服务：一次部署可服务 30 个模型
Hugging Face 为 TGI 推出 Multi-LoRA 服务，只需部署一次基础模型，即可按请求中的 adapter_id 动态调用多个 LoRA 适配器。
推荐理由：Hugging Face 官方给出 TGI Multi-LoRA 的部署步骤与成本数据，读者可据此评估单次部署承载多适配器的可行性。
Hugging Face 发布 Docmatix：面向文档视觉问答的超大规模数据集
Hugging Face 发布 Docmatix，一个包含 240 万张图像、950 万问答对（源自 130 万份 PDF）的文档视觉问答数据集，规模是此前数据集的 240 倍。
Mistral 发布 Codestral Mamba 代码模型，采用 Mamba 架构并开源权重
Mistral AI 发布 Codestral Mamba，这是一个基于 Mamba 架构的代码模型，具备线性时间推理能力，权重以 Apache 2.0 许可开放下载。
推荐理由：Mamba 架构在代码场景的落地样本，线性时间推理与 256k token 检索测试给出了与 Transformer 路线对比的具体参照。
Mistral AI 发布数学推理模型 Mathstral 7B
Mistral AI 发布专攻 STEM 的数学推理模型 Mathstral 7B，基于 Mistral 7B，在 MATH 上得分 56.6%、MMLU 上得分 63.47%。