Hugging Face Accelerate 如何统一 DeepSpeed 与 FSDP 的混合精度行为
Hugging Face Accelerate 在 0.30.0 版本中为 FSDP 加入自动 upcasting，使其在混合精度下与 DeepSpeed 行为对齐。
全部AI 动态
全部动态
Hugging Face BlogAI 评分
Diffusers 集成 Stable Diffusion 3 Medium，2B 参数模型上线 Hugging Face Hub
Stability AI 的 Stable Diffusion 3 Medium（2B 参数）已在 Hugging Face Hub 发布，并可通过 Diffusers 调用，官方同时提供 DreamBooth 与 LoRA 训练脚本。
推荐理由：原文给出 SD3 Medium 的架构变化与 Diffusers 集成细节，读者可据此判断显存占用与推理速度的取舍。
Hugging Face TRL 推出 RLOO Trainer，把强化学习重新带回 RLHF
Hugging Face 在 TRL 中推出 RLOO（REINFORCE Leave One-Out）Trainer，作为 PPO 的在线 RLHF 替代方案。RLOO 只需加载策略、参考策略和奖励模型 3 份模型，比 PPO 少约 50-70% 显存，1B 模型上快 2 倍、6.9B 模型上快达 3 倍，响应胜率与 PPO 相当并持续优于 DPO 等离线方法。
OpenAI News精选AI 评分 OpenAI 与 Apple 宣布合作，将 ChatGPT 集成进 Apple 体验
OpenAI 与 Apple 宣布达成合作，将把 ChatGPT 集成到 Apple 的各项体验中。
推荐理由：OpenAI 与 Apple 宣布合作，读者可据此了解 ChatGPT 进入 Apple 生态的官方口径。
OpenAI NewsAI 评分 OpenAI 详解 Voice Engine 工作原理与安全研究
OpenAI 详解其文本转语音模型 Voice Engine 的技术原理及配套安全研究。
Hugging Face 为 Amazon SageMaker 推出 Embedding Container
Hugging Face Embedding Container for Amazon SageMaker 正式 GA，AWS 用户可在 SageMaker 上部署嵌入模型构建 RAG 等生成式 AI 应用。
Hugging Face 为何要重新设计 Transformers 文档
Hugging Face 正在重新设计 Transformers 文档，原因是新内容不断增量叠加，导致文档体验割裂、难导航且过时。改版将面向用 AI 构建产品的开发者，采用代码优先、解决方案导向的写法，并以灵活结构取代 Diátaxis 的刚性框架，让内容整合而非追加。
Artificial Analysis 发布文生图排行榜与竞技场
Artificial Analysis 推出文生图排行榜与 Image Arena，基于超 45,000 次人类图像偏好投票计算 ELO 分数，覆盖 Midjourney、DALL·E、Stable Diffusion、Playground 等主流开源与闭源模型。
OpenAI NewsAI 评分 从 GPT-4 中提取概念
OpenAI 用可扩展稀疏自编码器的新技术，自动识别出 GPT-4 计算过程中的 1600 万个模式。
Mistral AI精选AI 评分
Mistral 在 la Plateforme 推出模型定制与微调服务
Mistral AI 在 la Plateforme 上线模型定制功能，提供三个入口：开源微调代码库 mistral-finetune、平台上的无服务器微调服务，以及面向特定客户的定制训练服务。
推荐理由：Mistral 同时给出开源微调代码库与托管微调服务，读者可据此比较自建与托管两条落地路径。
Mistral AI 举办微调黑客松，推出全新微调 API
Mistral AI 于 6 月 5 日至 30 日举办线上微调黑客松，参赛项目必须使用其全新微调 API。前三名各获 2500 欧元 Mistral API 额度，入选者可申请 100 美元免费额度，需在 6 月 10 日前提交表单。评审按影响力、技术实现、创意和展示各占 25% 打分，团队最多 4 人。
Hugging Face 推出 NPC-Playground：可与 LLM 驱动的 NPC 互动的 3D 演示
Hugging Face 上线 NPC-Playground，一个由 Cubzh 和 Gigax 打造的 3D 演示，让用户在浏览器中与 LLM 驱动的 NPC 互动，并用几行 Lua 脚本教它们新技能。
Hugging Face 为 Intel Gaudi 提供更快的辅助生成支持
Hugging Face 将辅助生成（Assisted Generation）适配并优化到 Intel Gaudi，现已集成进 Optimum Habana。该方法基于 Speculative Sampling，通过草稿模型生成 K 个 token 再由目标模型评估，对大型 Transformer 模型通常可带来约 2x 加速。
OpenAI NewsAI 评分 OpenAI 打击隐蔽影响力行动中的 AI 欺骗性使用
OpenAI 终止了与隐蔽影响力行动相关的账号，并称这些账号未因使用其服务获得显著受众增长。
OpenAI NewsAI 评分 OpenAI 推出面向高校的教育版产品 OpenAI for Education
OpenAI 发布面向大学的教育版产品 OpenAI for Education，主打可负担的定价，让高校能够负责任地将 AI 引入校园。原文未披露具体价格、模型版本或功能细节。
OpenAI NewsAI 评分 OpenAI 推出 OpenAI for Nonprofits 非营利组织计划
OpenAI 推出面向非营利组织的 OpenAI for Nonprofits 计划，为这类机构提供 ChatGPT Team 和 Enterprise 的折扣价格，以提升其工具的可及性。
OpenAI NewsAI 评分 MavenAGI 基于 GPT-4 打造 AI 客服智能体
MavenAGI 推出基于 GPT-4 的 AI 客服智能体，Tripadvisor、Clickup 和 Rho 等公司已在使用，以节省时间并更好地服务客户。
Mistral 发布首个代码模型 Codestral，22B 参数支持 80+ 编程语言
Mistral AI 发布首个代码模型 Codestral，这是一个 22B 的开源权重生成式模型，专门面向代码生成任务，支持 80+ 编程语言，包括 Python、Java、C、C++、JavaScript 和 Bash。
推荐理由：Mistral 首个代码模型给出了 22B 参数、32k 上下文与多语言基准对比，可据此判断其代码补全定位。
Mistral AI 推出非生产许可 MNPL，Codestral 率先采用
Mistral AI 发布非生产许可 MNPL，允许开发者将技术用于非商业用途并支持研究工作，Codestral 于当日在该许可下发布。Mistral 表示，此举意在让基于其技术开展业务的一方以公平可持续的方式行事，同时公司会继续以 Apache 2.0 发布模型和代码，并逐步整合 Apache 2.0 与 MNPL 两条产品线。
推荐理由：Mistral 推出 MNPL 非生产许可，读者可了解其开源与商业化的边界如何重新划分。
OpenAI NewsAI 评分 OpenAI 与 The Atlantic 达成内容与产品合作，将新闻引入 ChatGPT
The Atlantic 宣布与 OpenAI 建立战略内容与产品合作，成为 OpenAI 体系内的优质新闻来源。The Atlantic 的文章将可在 ChatGPT 等 OpenAI 产品中被发现，作为合作方，The Atlantic 还将参与塑造未来实时发现产品中新闻的呈现方式。
OpenAI NewsAI 评分 OpenAI 与 Vox Media 达成内容与产品合作
OpenAI 与 Vox Media 达成一项多层面合作协议，Vox Media 的内容将用于增强 ChatGPT 的输出，Vox Media 则将基于 OpenAI 的技术开发产品，以更好地服务其受众和广告主。
Hugging Face 如何用 TGI Benchmarking 工具评测文本生成推理
Hugging Face 发布 TGI Benchmarking 工具，可在 Hugging Face Space 中部署 TGI 并运行 CLI 基准测试，同时给出吞吐量与延迟数据。该工具随 TGI 安装，需访问服务器运行，通过预填充吞吐量-延迟散点图展示不同 batch size 下的权衡，帮助用户按需调优部署。
如何用 Sentence Transformers 训练和微调嵌入向量模型
Hugging Face 发布博客，介绍如何用 Python 库 Sentence Transformers 微调嵌入向量模型，以提升其在特定任务上的表现，也可用于从零训练新模型。
Meta 发布 CyberSecEval 2：大语言模型网络安全风险与能力评估框架
Meta 推出 CyberSecEval 2，从代码解释器滥用、攻击性网络安全能力和提示注入攻击三方面评估 LLM 的网络安全风险。相比 2023 年 12 月的首版，LLM 协助网络攻击的平均合规率已从 52% 降至 28%。测试显示提示注入仍是未解难题，LLM 目前也难以可靠完成端到端漏洞利用挑战。
TII 发布 Falcon 2：11B 预训练语言模型与 VLM，训练数据超 5000B tokens、支持 11 种语言
TII 发布第二代 Falcon 2 模型，包括 11B 基础 LLM 和具备图像理解能力的 11B VLM，LLM 训练数据超过 5000B tokens，覆盖英语及另外十种语言。
推荐理由：TII 公布 Falcon 2 的 11B LLM 与 VLM 训练细节和评测数据，可对照同尺寸开源模型看性能与许可条件。
OpenAI NewsAI 评分 OpenAI 与 News Corp 达成多年全球合作
OpenAI 与 News Corp 宣布建立多年全球合作伙伴关系，将把 News Corp 的优质新闻内容引入 OpenAI 的生成式 AI 产品与平台。
Hugging Face 支持从 Hub 在 AWS Inferentia2 上部署模型
Hugging Face 将 AWS Inferentia2 部署能力扩展到 Hub 上超 10 万个公开模型，新增 14 种模型架构和 6 类机器学习任务，并支持在 Amazon SageMaker 上部署。
OpenAI NewsAI 评分 OpenAI 的安全实践
OpenAI 阐述了其安全实践，强调通用人工智能有潜力惠及生活几乎方方面面，因此必须以负责任的方式开发和部署。
Hugging Face 在 AMD Instinct MI300 GPU 上的支持与优化
Hugging Face 宣布 AMD Instinct MI300 GPU 已在 Hugging Face 平台获得一等公民级集成，用户无需改动代码即可通过 transformers 和 text-generation-inference 在 Azure ND MI300x V5 虚拟机上部署模型。
Hugging Face 与微软深化合作：Azure 模型目录、AMD MI300X 与 VS Code 集成
Hugging Face 与微软在 Microsoft Build 上宣布深化战略合作，将 Llama 3、Mistral 7B、Command R Plus、Qwen 1.5 110B 等热门开源模型加入 Azure 模型目录的 Hugging Face Collection，支持一键部署。
Hugging Face Spaces 推出 Dev Mode，一键连接 VS Code 与 SSH
Hugging Face Spaces 上线 Dev Mode，支持一键从 VS Code 或 SSH 直连 Space，开发者无需再用 git 推送本地改动即可编辑代码。该功能目前处于 beta 阶段，仅面向 PRO 订阅用户开放，编辑后点击 Space 中的 Refresh 即可测试，满意后再 commit 和 merge 持久化。
Hugging Face 与 Dell 推出 Dell Enterprise Hub，支持本地训练和部署开源模型
Hugging Face 与 Dell 联合发布 Dell Enterprise Hub，让企业在 Dell 平台上本地训练和部署开源模型，将原本数周的工程工作缩短至几分钟。
OpenAI NewsAI 评分 ChatGPT 的声音是如何选出的
OpenAI 与业内顶尖选角及导演专业人士合作，从 400 多份投稿中筛选，最终为 ChatGPT 选定 5 种声音。
OpenAI NewsAI 评分 ChatGPT 数据分析功能更新，支持表格图表交互与 Google Drive、Microsoft OneDrive 直接导入文件
OpenAI 更新 ChatGPT 的数据分析功能，用户现在可以与表格和图表进行交互，并直接从 Google Drive 和 Microsoft OneDrive 添加文件。
OpenAI NewsAI 评分 OpenAI 与 Reddit 达成合作，将 Reddit 内容引入 ChatGPT
OpenAI 与 Reddit 达成合作，将 Reddit 的独特内容带入 ChatGPT 及 OpenAI 旗下产品。
Hugging Face 推出 KV Cache 量化，支持 LLM 更长文本生成
Hugging Face 在 Transformers 中新增 KV Cache 量化功能，通过降低 KV 缓存精度减少长上下文生成的内存占用，对生成质量影响很小。
OpenAI NewsAI 评分 Canva 如何打造 AI 驱动的 Magic Studio
Canva 推出 AI 驱动的 Magic Studio，服务其月活超 1.75 亿的视觉传播平台用户。该平台让缺乏设计训练的知识工作者也能制作演示文稿、视频、文档、网站和社交媒体图形。
OpenAI News精选AI 评分 Ilya Sutskever 将离开 OpenAI，Jakub Pachocki 被任命为首席科学家
OpenAI 宣布 Ilya Sutskever 将离开公司，同时任命 Jakub Pachocki 为首席科学家。
Hugging Face 与 LangChain 联合推出 langchain-huggingface 合作包
Hugging Face 与 LangChain 联合发布合作包 langchain-huggingface，可通过 pip install langchain-huggingface 安装。
Hugging Face 推出 Open Arabic LLM Leaderboard，评估阿拉伯语大模型
Hugging Face 发布 Open Arabic LLM Leaderboard（OALL），专门评估和比较阿拉伯语 LLM 性能，服务全球超 3.8 亿阿拉伯语使用者。