Hugging Face 用 🤗 Evaluate 评估语言模型偏见
Hugging Face 在 🤗 Evaluate 库中新增偏见指标与测量方法，用于评估 GPT-2、BLOOM 等因果语言模型的偏见。工作流分两步：用 🤗 Datasets 上的预定义提示词提示模型，再用 🤗 Evaluate 的指标评估生成内容，示例覆盖毒性、语言极性和伤害性三类任务。
#教程/实践
#教程/实践
Hugging Face BlogAI 评分
从 PyTorch DDP 到 Accelerate 再到 Trainer：轻松掌握分布式训练
Hugging Face 发布教程，演示如何通过三个逐级抽象的层次实现多 GPU 分布式训练：原生 PyTorch DDP（torch.distributed）、🤗 Accelerate 对 pytorch.distributed 的轻量封装，以及 🤗 Transformer 的高层 Trainer API。
Hugging Face Inference Endpoints 入门指南
Hugging Face 推出 Inference Endpoints，可从 Hub 直接一键将模型部署到所选云平台的托管基础设施上，支持公有、受保护、私有三种访问级别。
Hugging Face Diffusers 0.5.1 支持 Flax，可在 TPU 上并行推理 Stable Diffusion
Hugging Face Diffusers 自 0.5.1 版本起支持 Flax，可在 Google TPU 上实现快速推理。
推荐理由：Hugging Face 官方给出在 TPU 上跑 Stable Diffusion 的完整代码路径，可迁移到多设备并行推理。
BLOOM 推理优化实录：延迟降低 5 倍、吞吐提升 50 倍
Hugging Face 分享了 BLOOM（176B 参数、bf16 下 352GB）推理服务的优化过程，数周内将延迟降低 5 倍、吞吐提升 50 倍。
Hugging Face Accelerate 如何借助 PyTorch 运行超大模型
Hugging Face 的 Accelerate 利用 PyTorch 的 meta device 先创建无权重空模型，再逐层加载权重并按设备映射分配，从而在内存和单卡显存不足时也能运行超大模型。
用 DeepSpeed 和 Accelerate 实现极快的 BLOOM 推理
Hugging Face 发布教程，展示如何用 DeepSpeed-Inference、Accelerate 和 DeepSpeed ZeRO 为 176B 参数的 BLOOM 模型做推理，并给出各方案在 8x80GB A100 上的吞吐与加载耗时基准。
推荐理由：文章给出 BLOOM 176B 在多种 GPU 配置下的吞吐与加载耗时对比，可据此选择部署方案。
如何训练你的第一个 Decision Transformer
Hugging Face 发布教程，教你用 transformers 库从零训练一个离线 Decision Transformer，让 HalfCheetah 在 Gym 环境中奔跑。
如何用 Megatron-LM 训练语言模型
Hugging Face 发布教程，讲解如何在 NVIDIA GPU 上用 Megatron-LM 训练 GPT2 语言模型并接入 Transformers。Megatron-LM 通过高效 DataLoader、Fused CUDA Kernels 和 Apex 的 Fused AdamW 实现加速，但使用门槛高于 Accelerate 和 Trainer。
如何在 Hugging Face Spaces 上用 3Dmol.js 可视化蛋白质
Hugging Face 发布教程，介绍如何用 3Dmol.js 和 Gradio 的 HTML 组件在 Hugging Face Spaces 中可视化蛋白质结构。用户可输入 4 位 PDB 代码或上传 PDB 文件，应用会从 RCSB Protein Databank 获取结构并渲染。文章还提到可用 Molecule3D Gradio 自定义组件简化这一流程。
用 Hugging Face Transformers 和 Habana Gaudi 预训练 BERT
Hugging Face 发布教程，演示如何在 AWS DL1 实例上借助 Habana Gaudi 从零预训练 BERT-base，使用 Transformers、Optimum Habana 和 Datasets 库完成掩码语言建模任务。
如何用 Diffusers 运行 Stable Diffusion 并自定义推理管线
Hugging Face 发布教程，介绍如何用 Diffusers 库运行 Stable Diffusion 文生图模型，安装 diffusers==0.10.2 后通过 StableDiffusionPipeline.from_pretrained 加载 CompVis/stable-diffusion-v1-4 即可生成图像。
推荐理由：原文给出 Stable Diffusion 在 Diffusers 中的完整调用方式与自定义推理管线代码，可迁移到其他扩散模型。
如何在 Vertex AI 上部署 🤗 ViT
Hugging Face 展示了如何将 TensorFlow 版 ViT B/16 模型部署到 Google Cloud 的 Vertex AI 平台，用比 Kubernetes 更少的代码实现同等扩展性。
Hugging Face Optimum Graphcore 上的 Vision Transformer 深度实践
Hugging Face 发布教程，演示如何在 Graphcore IPU 上用 Optimum Graphcore 库微调预训练 ViT 模型，并以 ChestX-ray14 数据集训练胸部 X 光分类器为例提供完整 notebook。
用 transformers、accelerate 和 bitsandbytes 实现 8-bit 矩阵乘法入门
Hugging Face 将 LLM.int8() 集成进 transformers 和 accelerate，用 8-bit 矩阵乘法把大模型显存占用降到约四分之一且不损失推理性能。
推荐理由：文章把 8-bit 量化原理、LLM.int8() 的离群值分解和 transformers 集成细节讲透，便于理解大模型显存占用来源。
Hugging Face 的 TensorFlow 哲学
Hugging Face 阐述了其 transformers 库在 TensorFlow 上的设计哲学：所有 TensorFlow 模型都是 Keras Model 对象，所有层都是 Keras Layer 对象，因此可直接调用 fit()、compile() 和 predict()。
用 TF Serving 在 Kubernetes 上部署 🤗 ViT
Hugging Face 发布教程，讲解如何用 Docker 和 Kubernetes 将本地部署的 Vision Transformer（ViT）模型扩展为可服务多用户的线上服务。流程包括用 TensorFlow Serving 基础镜像容器化 SavedModel，再部署到 Google Kubernetes Engine（GKE）集群，Minikube 同样适用。
如何训练和微调 Sentence Transformers 模型
Hugging Face 发布教程，讲解如何从零构建或微调 Sentence Transformers 模型。模型由预训练 Transformer（如 distilroberta-base）加池化层组成，可将变长文本映射为固定长度嵌入向量；相比直接用 BERT，语义搜索 1 万句的耗时从约 65 小时降至约 5 秒。教程还介绍了四种数据集格式与对应损失函数的选择。
Hugging Face 深度强化学习课程：PPO（近端策略优化）原理与 PyTorch 实现
Hugging Face 深度强化学习课程第 8 单元讲解 Proximal Policy Optimization（PPO），通过计算新旧策略的概率比并将其裁剪在 [1−ϵ,1+ϵ] 区间内，避免策略更新过大、提升训练稳定性。
Nyströmformer：用 Nyström 方法以线性时间和内存近似自注意力
Nyströmformer 通过 Nyström 方法近似标准自注意力，将时间和内存复杂度从 O(n²) 降至 O(n)。它不直接对 softmax 矩阵采样，而是从 query 和 key 中用分段均值构造 landmark，仅需 32 或 64 个 landmark 即可在 n=4096 或 8192 的长序列上取得与标准自注意力及其他高效注意力机制相当的性能。
Hugging Face：用 TensorFlow 和 XLA 加速文本生成，最高快 100 倍
Hugging Face 的 transformers 库在 TensorFlow 下现可通过 XLA 编译文本生成，速度最高提升 100 倍，甚至快于 PyTorch。该功能需 transformers >= 4.21.0，支持采样、贪心解码、Beam Search 及 temperature、max_new_tokens 等参数控制。
用 TF Serving 在 Hugging Face 部署 TensorFlow 视觉模型
Hugging Face 与外部贡献者已在 Transformers 中加入 Vision Transformer、Masked Autoencoders、RegNet。
Hugging Face 深度强化学习课程：Advantage Actor Critic (A2C)
Hugging Face 深度强化学习课程 Unit 7 讲解 Advantage Actor Critic（A2C），一种结合基于策略与基于价值方法的混合架构，通过 Actor 控制智能体行为、Critic 评估动作好坏来降低 Reinforce 中蒙特卡洛采样带来的高方差。课程使用 Stable-Baselines3 在 PyBullet 机器人环境中训练双足步行者和蜘蛛两个智能体行走。
如何用对抗数据动态训练你的模型
Hugging Face 博客介绍动态对抗数据收集（DADC）：让用户在与模型交互中构造能骗过模型的样本，再将这些对抗样本用于训练，多轮重复以提升鲁棒性。教程以 MNIST 手写数字识别为例，用 🤗 Spaces 搭建交互 demo，模型训练 20 个 epoch 后在测试集上达到 89% 准确率，并通过 flag 机制把对抗样本存入数据集再训练。
BLOOM 训练背后的技术：176B 参数模型如何用 Megatron-DeepSpeed 完成训练
Hugging Face 披露了 176B 参数多语言模型 BLOOM 的训练技术细节，该模型基于 Megatron-DeepSpeed 的 3D 并行方案，在 384 张 80GB A100 GPU 上训练约 3.5 个月，消耗约 1M 计算时。训练数据为 59 种语言、350B token，模型词表规模 250,680，架构接近 GPT3 并加入若干改进。
如何用 Sentence Transformers 构建歌单生成器
用 Sentence Transformers 的语义搜索搭建歌单生成器：将歌词按段落切块并嵌入，以 msmarco-MiniLM-L-6-v3 生成提示词嵌入，检索最相近的段落，top_k=20 时通常能得到至少 9 首不同歌曲。整个多步 Gradio 应用基于 Blocks API 构建并托管在 Hugging Face Spaces，歌词嵌入已发布在 Hugging Face Hub 上。
Hugging Face 指南：如何用代码和无代码方式做 Twitter 情感分析
Hugging Face 发布 Twitter 情感分析入门指南，介绍用 Inference API 几行代码即可批量分析推文情感，并给出无代码方案 Zapier 采集推文、调用 Inference API 分析后写入 Google Sheets。
用 PyTorch 实现策略梯度：Hugging Face 深度强化学习课程第 5 单元
Hugging Face 深度强化学习课程第 5 单元讲解策略梯度方法，并用 PyTorch 从零实现首个基于策略的算法 Reinforce，随后在 CartPole-v1、PixelCopter 和 Pong 上测试其鲁棒性。
如何用 Sentence Transformers 开启你的第一个机器学习项目
Hugging Face 发布入门指南，以 Sentence Transformers 为例讲解如何从零启动第一个 ML 项目。该库可将句子、段落和图像转为嵌入向量，并通过 util.cos_sim 计算余弦相似度，已在 GitHub 收获近 8,000 stars，超过 3,000 个项目依赖它。文中还给出选题方法：先梳理工具能力，再从 Hugging Face Hub 等渠道寻找数据。
如何用 DeepSpeed 和 Accelerate 加速大模型训练
Hugging Face 介绍如何通过 Accelerate 库调用 DeepSpeed 的 ZeRO 功能加速大模型训练，无需改动代码即可启用。
Hugging Face 教程：如何用 Embeddings 快速搭建 FAQ 语义搜索
Hugging Face 发布入门教程，演示如何用 Sentence Transformers 的 all-MiniLM-L6-v2 模型和 Inference API 为美国 Medicare FAQ 数据集生成嵌入向量，并上传至 Hub 免费托管。用户查询经嵌入后与数据集比对，即可找出语义最相似的 FAQ 条目。首次调用 API 约需 20 秒下载模型，后续请求会明显加快。
如何用 Hugging Face Optimum 将 Transformers 模型转换为 ONNX
Hugging Face 介绍了三种将 Transformers 模型转为 ONNX 的方法：底层 torch.onnx、中层 transformers.onnx 和 Optimum 高层 API。
OpenAI NewsAI 评分 训练大型神经网络的技术
OpenAI 发文梳理训练大型神经网络的技术，指出这类模型是近期多项 AI 进展的核心，但训练本身是艰巨的工程与研究挑战，需要编排一整个 GPU 集群来完成单次同步计算。
图解扩散模型：用 PyTorch 逐步实现 DDPM
Hugging Face 博客发布《The Annotated Diffusion Model》，基于 Ho 等人 2020 年的 DDPM 论文，用 PyTorch 逐步实现扩散模型。
推荐理由：以 PyTorch 逐步实现 DDPM，从数学推导到 U-Net 代码，适合想动手复现扩散模型的读者。
用 Deep Q-Learning 玩 Space Invaders：Hugging Face 深度强化学习课程第三单元
Hugging Face 深度强化学习课程第三单元讲解 Deep Q-Learning，用神经网络替代 Q-table 来近似每个动作的 Q 值，并训练智能体玩 Space Invaders 等 Atari 环境。
Hugging Face 深度强化学习课程：Q-Learning 入门（下）
Hugging Face 深度强化学习课程第二单元第二部分讲解 Q-Learning，一种基于价值的 off-policy 方法，用 TD 方式逐步更新动作价值函数。文中从零实现首个 Q-Learning 智能体，并在 Frozen Lake v1 和自动驾驶出租车两个环境中训练，为第三单元的 Deep Q-Learning 打基础。
Hugging Face 深度强化学习课程：Q-Learning 入门（第一部分）
Hugging Face 深度强化学习课程更新第二单元第一部分，讲解基于价值的方法，并区分蒙特卡洛与时序差分学习。内容涵盖状态价值函数、动作价值函数与贝尔曼方程，为后续 Q-Learning 算法及 Deep Q-Learning 打基础。
Hugging Face 深度强化学习课程：深度强化学习入门
Hugging Face 推出免费深度强化学习课程，第一单元讲解深度强化学习基础，涵盖强化学习框架、马尔可夫性质、策略与价值方法等核心概念。课程使用 Stable Baselines3、RL Baselines3 Zoo 和 RLlib 等库，并让学员训练首个登月着陆器智能体并上传至 Hugging Face Hub。
用 PyTorch FullyShardedDataParallel 加速大模型训练
Hugging Face 展示如何用 Accelerate 库无需改代码即可调用 PyTorch 的 FullyShardedDataParallel（FSDP）训练大模型。
用 Kili 与 HuggingFace AutoTrain 构建文本分类主动学习流水线
HuggingFace AutoTrain 与数据标注平台 Kili 可组合成文本分类的主动学习流水线，实现数据清洗、模型选择和超参数优化的全自动。示例用 Google Play 上约 4 万条 Medium 用户评论，在 Kili 中按 Subscription、Content、Interface、User Experience 四类标注，再对分类结果做情感分析。