Hugging Face 教程：用 Core ML 在 Mac 上运行 Mistral 7B
Hugging Face 发布教程，介绍如何借助 WWDC 24 的新 Core ML 特性在 Mac 上运行 Mistral 7B，并用 4-bit 分块量化把模型压到约 3.8G，低于 float16 转换的 14G。
#端侧
#端侧
Hugging Face BlogAI 评分
Hugging Face 发布 SmolLM 系列小模型，含 135M、360M 和 1.7B 三个尺寸
Hugging Face 发布 SmolLM 系列小语言模型，包含 135M、360M 和 1.7B 三个参数尺寸，并同步开源训练语料 SmolLM-Corpus。
推荐理由：原文公开了 SmolLM 三个尺寸的训练数据配方与评测对比，可据此判断小模型在端侧的表现边界。
在 Intel Meteor Lake 笔记本上运行 Phi-2 聊天机器人
Hugging Face 用 Optimum Intel 集成 Intel OpenVINO，对微软 2.7B 参数的 Phi-2 模型做 4-bit 权重量化，在搭载 Core Ultra 7 155H 的中端笔记本上实现本地推理。该方案利用 Meteor Lake 的 CPU、iGPU 与 NPU 加速，带来隐私、低延迟、离线、低成本等本地 LLM 优势。
Hugging Face 发布 Swift Transformers，可在 Apple 设备上运行端侧 LLM
Hugging Face 发布 Swift Transformers，用于在 Apple 设备上运行端侧 LLM。
在 iPhone、iPad 和 Mac 上用 Core ML 加速 Stable Diffusion
Hugging Face 博客发布文章，介绍如何在 iPhone、iPad 和 Mac 上通过 Core ML 加速 Stable Diffusion。原文正文抓取失败，仅标题可用。
在 Apple Silicon 上用 Core ML 运行 Stable Diffusion
Hugging Face 博客发布教程，介绍如何在 Apple Silicon 上通过 Core ML 使用 Stable Diffusion。原文正文抓取失败，仅标题可用。