Hugging Face 用 🤗 Evaluate 评估语言模型偏见
Hugging Face 在 🤗 Evaluate 库中新增偏见指标与测量方法，用于评估 GPT-2、BLOOM 等因果语言模型的偏见。工作流分两步：用 🤗 Datasets 上的预定义提示词提示模型，再用 🤗 Evaluate 的指标评估生成内容，示例覆盖毒性、语言极性和伤害性三类任务。
#Hugging Face
#Hugging Face
Hugging Face BlogAI 评分
从 PyTorch DDP 到 Accelerate 再到 Trainer：轻松掌握分布式训练
Hugging Face 发布教程，演示如何通过三个逐级抽象的层次实现多 GPU 分布式训练：原生 PyTorch DDP（torch.distributed）、🤗 Accelerate 对 pytorch.distributed 的轻量封装，以及 🤗 Transformer 的高层 Trainer API。
Hugging Face 发布 MTEB：大规模文本嵌入基准
Hugging Face 推出 MTEB（Massive Text Embedding Benchmark），一个覆盖 8 类任务、56 个数据集、最多 112 种语言的文本嵌入模型评测基准，排行榜已汇总超 2000 条结果。用户可通过 `pip install mteb` 对任意嵌入模型进行评测，并将结果提交至公开排行榜。
Hugging Face Inference Endpoints 入门指南
Hugging Face 推出 Inference Endpoints，可从 Hub 直接一键将模型部署到所选云平台的托管基础设施上，支持公有、受保护、私有三种访问级别。
Hugging Face Diffusers 0.5.1 支持 Flax，可在 TPU 上并行推理 Stable Diffusion
Hugging Face Diffusers 自 0.5.1 版本起支持 Flax，可在 Google TPU 上实现快速推理。
推荐理由：Hugging Face 官方给出在 TPU 上跑 Stable Diffusion 的完整代码路径，可迁移到多设备并行推理。
BLOOM 推理优化实录：延迟降低 5 倍、吞吐提升 50 倍
Hugging Face 分享了 BLOOM（176B 参数、bf16 下 352GB）推理服务的优化过程，数周内将延迟降低 5 倍、吞吐提升 50 倍。
Hugging Face 为模型和数据集引入 DOI
Hugging Face 宣布用户可直接在 Hub 上为模型或数据集生成 DOI，该功能已与 DataCite 合作实现。注册用户填写必要元数据后即可获得 DOI，他人可通过模型或数据集页面上的“Cite this model/dataset”按钮引用其工作。带 DOI 的数据集和模型将被永久保留，仅可在向官方支持提交请求后删除。
rinna 发布日语版 Stable Diffusion 模型
rinna 通过对 Stable Diffusion 进行微调，开发出支持日语提示词的文本生成图像模型 Japanese Stable Diffusion，模型已在 Hugging Face 和 GitHub 发布，代码基于 🧨 Diffusers。
Hugging Face 在 Hub 上线零样本评测，支持 66B 参数模型
Hugging Face 在 Evaluation on the Hub 上线零样本分类评测，由 AutoTrain 驱动，无需写代码即可评测 Hub 上的任意因果语言模型，目前支持最大 66B 参数模型。
Hugging Face AutoTrain 新增图像分类任务，支持零代码训练模型
Hugging Face AutoTrain 新增图像分类任务，用户无需编写代码即可上传数据训练模型，AutoTrain 会自动尝试多种模型架构并挑选最优方案。演示中 5 个候选模型里表现最佳者达到 84% 准确率，训练少于 500 张图片、5 个候选模型时免费。
Hugging Face Accelerate 如何借助 PyTorch 运行超大模型
Hugging Face 的 Accelerate 利用 PyTorch 的 meta device 先创建无权重空模型，再逐层加载权重并按设备映射分配，从而在内存和单卡显存不足时也能运行超大模型。
Hugging Face 联合 Intel Labs 推出 SetFit：无需提示词的高效少样本学习框架
Hugging Face 与 Intel Labs、UKP Lab 合作推出 SetFit，一个面向 Sentence Transformers 的高效少样本微调框架，无需提示词或 verbaliser。
推荐理由：原文给出 SetFit 的两阶段训练流程与 RAFT 基准对比，读者可了解无提示词少样本分类的实现方式与成本。
Hugging Face 发布 Ethics and Society Newsletter #1
Hugging Face 推出《Ethics and Society Newsletter》，按季节在春分秋分和夏至冬至发布，由公司内部跨部门开放小组“Ethics and Society regulars”撰写。
用 DeepSpeed 和 Accelerate 实现极快的 BLOOM 推理
Hugging Face 发布教程，展示如何用 DeepSpeed-Inference、Accelerate 和 DeepSpeed ZeRO 为 176B 参数的 BLOOM 模型做推理，并给出各方案在 8x80GB A100 上的吞吐与加载耗时基准。
推荐理由：文章给出 BLOOM 176B 在多种 GPU 配置下的吞吐与加载耗时对比，可据此选择部署方案。
Hugging Face diffusers 0.3 发布：新增图生图、文本反转与 inpainting
Hugging Face 发布 diffusers 0.3，为扩散模型工具箱新增图生图 pipeline、文本反转、实验性 inpainting pipeline、ONNX 导出器与 Mac 支持。其中显存优化让 Stable Diffusion 只需 3.2GB 显存，代价是约 10% 的速度损失；文本反转支持用 3-5 张样本个性化模型，社区几天内分享了 200 多个概念。
推荐理由：梳理 diffusers 0.3 新增的图生图、文本反转、inpainting 与显存优化，可据此判断扩散模型工具链的可用边界。
如何训练你的第一个 Decision Transformer
Hugging Face 发布教程，教你用 transformers 库从零训练一个离线 Decision Transformer，让 HalfCheetah 在 Gym 环境中奔跑。
如何用 Megatron-LM 训练语言模型
Hugging Face 发布教程，讲解如何在 NVIDIA GPU 上用 Megatron-LM 训练 GPT2 语言模型并接入 Transformers。Megatron-LM 通过高效 DataLoader、Fused CUDA Kernels 和 Apex 的 Fused AdamW 实现加速，但使用门槛高于 Accelerate 和 Trainer。
Hugging Face 支持的 OpenRAIL：面向开放且负责任的 AI 许可框架
RAIL Initiative 推出、Hugging Face 支持的 OpenRAIL 是一类 AI 专用许可框架，允许免版税访问、下游使用与再分发，同时嵌入针对特定关键场景的使用限制。该许可借鉴 BigScience、开源与 Creative Commons 的做法，试图在广泛开放 ML 模型与约束有害用途之间划出界线，并赋予许可方在发现滥用时的执行能力。
如何在 Hugging Face Spaces 上用 3Dmol.js 可视化蛋白质
Hugging Face 发布教程，介绍如何用 3Dmol.js 和 Gradio 的 HTML 组件在 Hugging Face Spaces 中可视化蛋白质结构。用户可输入 4 位 PDB 代码或上传 PDB 文件，应用会从 RCSB Protein Databank 获取结构并渲染。文章还提到可用 Molecule3D Gradio 自定义组件简化这一流程。
用 Hugging Face Transformers 和 Habana Gaudi 预训练 BERT
Hugging Face 发布教程，演示如何在 AWS DL1 实例上借助 Habana Gaudi 从零预训练 BERT-base，使用 Transformers、Optimum Habana 和 Datasets 库完成掩码语言建模任务。
如何用 Diffusers 运行 Stable Diffusion 并自定义推理管线
Hugging Face 发布教程，介绍如何用 Diffusers 库运行 Stable Diffusion 文生图模型，安装 diffusers==0.10.2 后通过 StableDiffusionPipeline.from_pretrained 加载 CompVis/stable-diffusion-v1-4 即可生成图像。
推荐理由：原文给出 Stable Diffusion 在 Diffusers 中的完整调用方式与自定义推理管线代码，可迁移到其他扩散模型。
如何在 Vertex AI 上部署 🤗 ViT
Hugging Face 展示了如何将 TensorFlow 版 ViT B/16 模型部署到 Google Cloud 的 Vertex AI 平台，用比 Kubernetes 更少的代码实现同等扩展性。
Hugging Face Optimum Graphcore 上的 Vision Transformer 深度实践
Hugging Face 发布教程，演示如何在 Graphcore IPU 上用 Optimum Graphcore 库微调预训练 ViT 模型，并以 ChestX-ray14 数据集训练胸部 X 光分类器为例提供完整 notebook。
用 transformers、accelerate 和 bitsandbytes 实现 8-bit 矩阵乘法入门
Hugging Face 将 LLM.int8() 集成进 transformers 和 accelerate，用 8-bit 矩阵乘法把大模型显存占用降到约四分之一且不损失推理性能。
推荐理由：文章把 8-bit 量化原理、LLM.int8() 的离群值分解和 transformers 集成细节讲透，便于理解大模型显存占用来源。
Hugging Face 的 TensorFlow 哲学
Hugging Face 阐述了其 transformers 库在 TensorFlow 上的设计哲学：所有 TensorFlow 模型都是 Keras Model 对象，所有层都是 Keras Layer 对象，因此可直接调用 fit()、compile() 和 predict()。
Hugging Face 推出 Skops：在 Hub 上托管 scikit-learn 模型
Hugging Face 发布新库 Skops，可将 scikit-learn 模型托管到 Hugging Face Hub，并生成模型卡进行文档记录与协作。Skops 通过 hub_utils.init 生成含模型文件与环境配置的本地仓库，后端使用 joblib 加载模型，支持 pickle 等序列化方式。
用 TF Serving 在 Kubernetes 上部署 🤗 ViT
Hugging Face 发布教程，讲解如何用 Docker 和 Kubernetes 将本地部署的 Vision Transformer（ViT）模型扩展为可服务多用户的线上服务。流程包括用 TensorFlow Serving 基础镜像容器化 SavedModel，再部署到 Google Kubernetes Engine（GKE）集群，Minikube 同样适用。
如何训练和微调 Sentence Transformers 模型
Hugging Face 发布教程，讲解如何从零构建或微调 Sentence Transformers 模型。模型由预训练 Transformer（如 distilroberta-base）加池化层组成，可将变长文本映射为固定长度嵌入向量；相比直接用 BERT，语义搜索 1 万句的耗时从约 65 小时降至约 5 秒。教程还介绍了四种数据集格式与对应损失函数的选择。
Hugging Face 深度强化学习课程：PPO（近端策略优化）原理与 PyTorch 实现
Hugging Face 深度强化学习课程第 8 单元讲解 Proximal Policy Optimization（PPO），通过计算新旧策略的概率比并将其裁剪在 [1−ϵ,1+ϵ] 区间内，避免策略更新过大、提升训练稳定性。
Hugging Face 推出 Private Hub：面向企业的机器学习协作平台
Hugging Face 发布 Private Hub（PH），将模型、数据集、Spaces 等 ML 工具整合到统一平台，支持企业在安全合规环境下协作开发。Hugging Face Hub 现有超 60K 模型、6K 数据集和 6K 演示应用，模型覆盖 180 种语言、支持最多 25 个 ML 库。约 90% 的机器学习模型从未进入生产环境，PH 旨在加速从研究到生产的全流程。
Nyströmformer：用 Nyström 方法以线性时间和内存近似自注意力
Nyströmformer 通过 Nyström 方法近似标准自注意力，将时间和内存复杂度从 O(n²) 降至 O(n)。它不直接对 softmax 矩阵采样，而是从 query 和 key 中用分段均值构造 landmark，仅需 32 或 64 个 landmark 即可在 n=4096 或 8192 的长序列上取得与标准自注意力及其他高效注意力机制相当的性能。
Hugging Face 就美国国家 AI 研究资源（NAIRR）中期报告提交建议
Hugging Face 于 2022 年 6 月就美国国家 AI 研究资源（NAIRR）中期报告提交反馈，建议任命技术与伦理专家担任顾问、制定模型与数据文档标准、为非技术专家提供低代码或无代码工具，并推动开源与开放科学的高风险滥用监测。其回应还建议投入法律专业能力制定负责任 AI 许可证，并以多语言资源支持多元研究者视角，BigScience 研究工坊被列为范例。
Hugging Face 为 🤗 Datasets 新增音频与视觉数据集文档
Hugging Face 为 🤗 Datasets 补充了音频和图像数据集的文档，Quickstart 新增按模态选择数据集的端到端示例，并引入 to_tf_dataset 函数，可将数据集转换为 tf.data.Dataset 供 TensorFlow 或 Keras 训练。
Hugging Face：用 TensorFlow 和 XLA 加速文本生成，最高快 100 倍
Hugging Face 的 transformers 库在 TensorFlow 下现可通过 XLA 编译文本生成，速度最高提升 100 倍，甚至快于 PyTorch。该功能需 transformers >= 4.21.0，支持采样、贪心解码、Beam Search 及 temperature、max_new_tokens 等参数控制。
用 TF Serving 在 Hugging Face 部署 TensorFlow 视觉模型
Hugging Face 与外部贡献者已在 Transformers 中加入 Vision Transformer、Masked Autoencoders、RegNet。
Hugging Face 深度强化学习课程：Advantage Actor Critic (A2C)
Hugging Face 深度强化学习课程 Unit 7 讲解 Advantage Actor Critic（A2C），一种结合基于策略与基于价值方法的混合架构，通过 Actor 控制智能体行为、Critic 评估动作好坏来降低 Reinforce 中蒙特卡洛采样带来的高方差。课程使用 Stable-Baselines3 在 PyBullet 机器人环境中训练双足步行者和蜘蛛两个智能体行走。
如何用对抗数据动态训练你的模型
Hugging Face 博客介绍动态对抗数据收集（DADC）：让用户在与模型交互中构造能骗过模型的样本，再将这些对抗样本用于训练，多轮重复以提升鲁棒性。教程以 MNIST 手写数字识别为例，用 🤗 Spaces 搭建交互 demo，模型训练 20 个 epoch 后在测试集上达到 89% 准确率，并通过 flag 机制把对抗样本存入数据集再训练。
BLOOM 训练背后的技术：176B 参数模型如何用 Megatron-DeepSpeed 完成训练
Hugging Face 披露了 176B 参数多语言模型 BLOOM 的训练技术细节，该模型基于 Megatron-DeepSpeed 的 3D 并行方案，在 384 张 80GB A100 GPU 上训练约 3.5 个月，消耗约 1M 计算时。训练数据为 59 种语言、350B token，模型词表规模 250,680，架构接近 GPT3 并加入若干改进。
如何用 Sentence Transformers 构建歌单生成器
用 Sentence Transformers 的语义搜索搭建歌单生成器：将歌词按段落切块并嵌入，以 msmarco-MiniLM-L-6-v3 生成提示词嵌入，检索最相近的段落，top_k=20 时通常能得到至少 9 首不同歌曲。整个多步 Gradio 应用基于 Blocks API 构建并托管在 Hugging Face Spaces，歌词嵌入已发布在 Hugging Face Hub 上。
Hugging Face 发布 176B 参数开放多语言模型 BLOOM
Hugging Face 发布 BLOOM，一个 176B 参数的多语言大语言模型，可生成 46 种自然语言和 13 种编程语言的文本。该模型由 70 多个国家、250 多家机构的 1000 多名研究者协作完成，在法国 Jean Zay 超算上训练 117 天，并首次公开训练中间检查点和优化器状态。
推荐理由：BLOOM 以 176B 参数覆盖 46 种自然语言，并公开训练中间检查点，可据此了解开放大模型的训练与复现路径。