Mixtral 登陆 Hugging Face：SOTA 混合专家模型
Hugging Face 发布博客欢迎 Mixtral 上线，称其为 SOTA 混合专家模型。
#Hugging Face
#Hugging Face
Hugging Face Blog精选AI 评分
Mistral AI精选AI 评分
Mistral AI 发布 7.3B 参数开源模型 Mistral 7B
Mistral AI 发布 7.3B 参数的 Mistral 7B，采用 Apache 2.0 许可，可无限制使用并支持本地、云端（AWS/GCP/Azure）及 HuggingFace 部署。
推荐理由：Mistral 7B 以 Apache 2.0 开源并给出与 Llama 2 系列的逐项对比，读者可据此判断小参数模型的性价比位置。
Falcon 180B 发布
Hugging Face 发布 Falcon 180B 模型。
Hugging Face 发布 IDEFICS：开源复现的视觉语言模型
Hugging Face 发布 IDEFICS，一个对先进视觉语言模型的开源复现。
Hugging Face 发布 Swift Transformers，可在 Apple 设备上运行端侧 LLM
Hugging Face 发布 Swift Transformers，用于在 Apple 设备上运行端侧 LLM。
Hugging Face 开源 SD-Small 与 SD-Tiny 的知识蒸馏代码和权重
Hugging Face 开源了 SD-Small 和 SD-Tiny 的知识蒸馏代码与模型权重。
Llama 2 发布，可在 Hugging Face 获取
Hugging Face 博客发布消息称 Llama 2 已发布，并可在 Hugging Face 上获取。原文正文未能抓取，除标题外暂无更多细节。
在 iPhone、iPad 和 Mac 上用 Core ML 加速 Stable Diffusion
Hugging Face 博客发布文章，介绍如何在 iPhone、iPad 和 Mac 上通过 Core ML 加速 Stable Diffusion。原文正文抓取失败，仅标题可用。
Falcon 模型已落地 Hugging Face 生态
Hugging Face 发布博客宣布 Falcon 模型已落地 Hugging Face 生态。原文正文抓取失败，仅标题可用，暂无更多细节。
Hugging Face 介绍 RWKV：兼具 Transformer 优势的 RNN
Hugging Face 发布博客介绍 RWKV，将其描述为一种兼具 Transformer 优势的 RNN。原文正文未能抓取，仅标题可用。
Hugging Face 发布代码大语言模型 StarCoder
Hugging Face 发布面向代码的大语言模型 StarCoder，标题称其在代码任务上达到当时的最先进水平。
StackLLaMA：用 RLHF 训练 LLaMA 的实操指南
Hugging Face 发布 StackLLaMA 实操指南，介绍如何用 RLHF 训练 LLaMA。
在 24GB 消费级 GPU 上用 RLHF 微调 20B 大语言模型
Hugging Face 博客介绍如何在 24GB 消费级 GPU 上通过 RLHF 微调 20B 大语言模型。
ControlNet 接入 Diffusers 库
Hugging Face 博客发布 ControlNet in 🧨 Diffusers，宣布 ControlNet 接入 Diffusers 库。
在 Apple Silicon 上用 Core ML 运行 Stable Diffusion
Hugging Face 博客发布教程，介绍如何在 Apple Silicon 上通过 Core ML 使用 Stable Diffusion。原文正文抓取失败，仅标题可用。
用 Diffusers 和 Dreambooth 训练 Stable Diffusion 的实验与调参建议
Hugging Face 发布用 Diffusers 的 Dreambooth 脚本微调 Stable Diffusion 的实验总结，指出 Dreambooth 容易过拟合，需要在训练步数和学习率之间找平衡，建议先用低学习率再逐步增加步数。
推荐理由：Hugging Face 基于多组对照实验给出 Dreambooth 微调 Stable Diffusion 的学习率、步数与先验保留建议，可直接迁移到自己的训练配置。
用 🤗 Transformers 微调 Whisper 实现多语言 ASR
Hugging Face 发布教程，讲解如何用 🤗 Transformers 对 Whisper 进行微调，以适配任意多语言 ASR 数据集。Whisper 由 OpenAI 于 2022 年 9 月发布，基于 68 万小时标注音频预训练，覆盖 96 种以上语言，并提供 tiny 到 large-v3 共 11 个 checkpoint。
Hugging Face Optimum Intel 集成 OpenVINO，加速 Transformer 模型推理
Hugging Face 将 Intel OpenVINO 加入 Optimum Intel，用户可在多种 Intel 处理器上用 OpenVINO Runtime 对 Transformers 模型执行推理，模型可托管于 Hugging Face hub 或本地。
Hugging Face 用 🤗 Evaluate 评估语言模型偏见
Hugging Face 在 🤗 Evaluate 库中新增偏见指标与测量方法，用于评估 GPT-2、BLOOM 等因果语言模型的偏见。工作流分两步：用 🤗 Datasets 上的预定义提示词提示模型，再用 🤗 Evaluate 的指标评估生成内容，示例覆盖毒性、语言极性和伤害性三类任务。
从 PyTorch DDP 到 Accelerate 再到 Trainer：轻松掌握分布式训练
Hugging Face 发布教程，演示如何通过三个逐级抽象的层次实现多 GPU 分布式训练：原生 PyTorch DDP（torch.distributed）、🤗 Accelerate 对 pytorch.distributed 的轻量封装，以及 🤗 Transformer 的高层 Trainer API。
Hugging Face 发布 MTEB：大规模文本嵌入基准
Hugging Face 推出 MTEB（Massive Text Embedding Benchmark），一个覆盖 8 类任务、56 个数据集、最多 112 种语言的文本嵌入模型评测基准，排行榜已汇总超 2000 条结果。用户可通过 `pip install mteb` 对任意嵌入模型进行评测，并将结果提交至公开排行榜。
Hugging Face Inference Endpoints 入门指南
Hugging Face 推出 Inference Endpoints，可从 Hub 直接一键将模型部署到所选云平台的托管基础设施上，支持公有、受保护、私有三种访问级别。
Hugging Face Diffusers 0.5.1 支持 Flax，可在 TPU 上并行推理 Stable Diffusion
Hugging Face Diffusers 自 0.5.1 版本起支持 Flax，可在 Google TPU 上实现快速推理。
推荐理由：Hugging Face 官方给出在 TPU 上跑 Stable Diffusion 的完整代码路径，可迁移到多设备并行推理。
BLOOM 推理优化实录：延迟降低 5 倍、吞吐提升 50 倍
Hugging Face 分享了 BLOOM（176B 参数、bf16 下 352GB）推理服务的优化过程，数周内将延迟降低 5 倍、吞吐提升 50 倍。
Hugging Face 为模型和数据集引入 DOI
Hugging Face 宣布用户可直接在 Hub 上为模型或数据集生成 DOI，该功能已与 DataCite 合作实现。注册用户填写必要元数据后即可获得 DOI，他人可通过模型或数据集页面上的“Cite this model/dataset”按钮引用其工作。带 DOI 的数据集和模型将被永久保留，仅可在向官方支持提交请求后删除。
rinna 发布日语版 Stable Diffusion 模型
rinna 通过对 Stable Diffusion 进行微调，开发出支持日语提示词的文本生成图像模型 Japanese Stable Diffusion，模型已在 Hugging Face 和 GitHub 发布，代码基于 🧨 Diffusers。
Hugging Face 在 Hub 上线零样本评测，支持 66B 参数模型
Hugging Face 在 Evaluation on the Hub 上线零样本分类评测，由 AutoTrain 驱动，无需写代码即可评测 Hub 上的任意因果语言模型，目前支持最大 66B 参数模型。
Hugging Face AutoTrain 新增图像分类任务，支持零代码训练模型
Hugging Face AutoTrain 新增图像分类任务，用户无需编写代码即可上传数据训练模型，AutoTrain 会自动尝试多种模型架构并挑选最优方案。演示中 5 个候选模型里表现最佳者达到 84% 准确率，训练少于 500 张图片、5 个候选模型时免费。
Hugging Face Accelerate 如何借助 PyTorch 运行超大模型
Hugging Face 的 Accelerate 利用 PyTorch 的 meta device 先创建无权重空模型，再逐层加载权重并按设备映射分配，从而在内存和单卡显存不足时也能运行超大模型。
Hugging Face 联合 Intel Labs 推出 SetFit：无需提示词的高效少样本学习框架
Hugging Face 与 Intel Labs、UKP Lab 合作推出 SetFit，一个面向 Sentence Transformers 的高效少样本微调框架，无需提示词或 verbaliser。
推荐理由：原文给出 SetFit 的两阶段训练流程与 RAFT 基准对比，读者可了解无提示词少样本分类的实现方式与成本。
Hugging Face 发布 Ethics and Society Newsletter #1
Hugging Face 推出《Ethics and Society Newsletter》，按季节在春分秋分和夏至冬至发布，由公司内部跨部门开放小组“Ethics and Society regulars”撰写。
用 DeepSpeed 和 Accelerate 实现极快的 BLOOM 推理
Hugging Face 发布教程，展示如何用 DeepSpeed-Inference、Accelerate 和 DeepSpeed ZeRO 为 176B 参数的 BLOOM 模型做推理，并给出各方案在 8x80GB A100 上的吞吐与加载耗时基准。
推荐理由：文章给出 BLOOM 176B 在多种 GPU 配置下的吞吐与加载耗时对比，可据此选择部署方案。
Hugging Face diffusers 0.3 发布：新增图生图、文本反转与 inpainting
Hugging Face 发布 diffusers 0.3，为扩散模型工具箱新增图生图 pipeline、文本反转、实验性 inpainting pipeline、ONNX 导出器与 Mac 支持。其中显存优化让 Stable Diffusion 只需 3.2GB 显存，代价是约 10% 的速度损失；文本反转支持用 3-5 张样本个性化模型，社区几天内分享了 200 多个概念。
推荐理由：梳理 diffusers 0.3 新增的图生图、文本反转、inpainting 与显存优化，可据此判断扩散模型工具链的可用边界。
如何训练你的第一个 Decision Transformer
Hugging Face 发布教程，教你用 transformers 库从零训练一个离线 Decision Transformer，让 HalfCheetah 在 Gym 环境中奔跑。
如何用 Megatron-LM 训练语言模型
Hugging Face 发布教程，讲解如何在 NVIDIA GPU 上用 Megatron-LM 训练 GPT2 语言模型并接入 Transformers。Megatron-LM 通过高效 DataLoader、Fused CUDA Kernels 和 Apex 的 Fused AdamW 实现加速，但使用门槛高于 Accelerate 和 Trainer。
Hugging Face 支持的 OpenRAIL：面向开放且负责任的 AI 许可框架
RAIL Initiative 推出、Hugging Face 支持的 OpenRAIL 是一类 AI 专用许可框架，允许免版税访问、下游使用与再分发，同时嵌入针对特定关键场景的使用限制。该许可借鉴 BigScience、开源与 Creative Commons 的做法，试图在广泛开放 ML 模型与约束有害用途之间划出界线，并赋予许可方在发现滥用时的执行能力。
如何在 Hugging Face Spaces 上用 3Dmol.js 可视化蛋白质
Hugging Face 发布教程，介绍如何用 3Dmol.js 和 Gradio 的 HTML 组件在 Hugging Face Spaces 中可视化蛋白质结构。用户可输入 4 位 PDB 代码或上传 PDB 文件，应用会从 RCSB Protein Databank 获取结构并渲染。文章还提到可用 Molecule3D Gradio 自定义组件简化这一流程。
用 Hugging Face Transformers 和 Habana Gaudi 预训练 BERT
Hugging Face 发布教程，演示如何在 AWS DL1 实例上借助 Habana Gaudi 从零预训练 BERT-base，使用 Transformers、Optimum Habana 和 Datasets 库完成掩码语言建模任务。
如何用 Diffusers 运行 Stable Diffusion 并自定义推理管线
Hugging Face 发布教程，介绍如何用 Diffusers 库运行 Stable Diffusion 文生图模型，安装 diffusers==0.10.2 后通过 StableDiffusionPipeline.from_pretrained 加载 CompVis/stable-diffusion-v1-4 即可生成图像。
推荐理由：原文给出 Stable Diffusion 在 Diffusers 中的完整调用方式与自定义推理管线代码，可迁移到其他扩散模型。
如何在 Vertex AI 上部署 🤗 ViT
Hugging Face 展示了如何将 TensorFlow 版 ViT B/16 模型部署到 Google Cloud 的 Vertex AI 平台，用比 Kubernetes 更少的代码实现同等扩展性。