跳到正文

#端侧

今日 2 条
今天10月8日周四
  1. NVIDIA Blog74

    NVIDIA 与微软在 Windows 活动发布 RTX Spark 笔记本与 DGX Station for Windows

    在旧金山微软 Windows AI and Surface 活动上,NVIDIA CEO 黄仁勋与微软 CEO Satya Nadella 宣布双方为 Windows PC 上运行 AI 智能体共同打造软硬件。

    推荐理由:原文给出了RTX Spark与DGX Station for Windows的关键规格和本地运行模型的能力,读者可据此判断本地AI工作站对现有工作流的影响。

  2. Hugging Face Blog61

    Liquid AI 开源 d1-3B 与 d1-omni-600M 端侧决策模型

    Liquid AI 发布 d1 决策模型家族的两款开放权重模型 d1-3B 和 d1-omni-600M(实验版),在 Decision Index 0.2.1 上 d1-3B 得分 48.57,为 10B 以下最佳,超过 Decider 35B-A3B(47.11)。

    推荐理由:原文给出决策指数得分与多设备延迟数据,读者可据此判断它在端侧结构化决策场景的可用性。

10月7日周三
  1. Google DeepMind74

    Google DeepMind 发布 EmbeddingGemma 2 开源多模态嵌入模型

    Google DeepMind 发布 EmbeddingGemma 2,一个基于 Gemma 4 架构、采用 Apache 2.0 许可的 740M 参数多模态嵌入模型,将文本、代码、图像、视频和音频统一映射到共享嵌入空间。

    推荐理由:原文给出了参数规模、内存占用和上下文长度等具体指标,读者可据此评估它是否适合自己的端侧检索场景。

10月6日周二
  1. Google Research61

    Google Earth AI 开放地球人口动力学基础模型用于全球公共卫生研究

    Google Research 介绍以 Earth AI 的 Population Dynamics Foundation Model(PDFM)作为公共卫生领域的行星地理基础模型概念验证,将隐私保护的搜索趋势、人类流动、建成环境密度与环境因素压缩为月度刷新的位置嵌入,无需任务特定微调即可直接接入流行病学现有工作流。

    推荐理由:原文用五个独立合作评估展示了同一组位置嵌入在不同疾病与资源环境下的可迁移性,读者可据此判断地理基础模型在公共卫生工作流中的实际适用边界。

10月2日周五
  1. NVIDIA Blog62

    NVIDIA DGX Spark 推出 64GB 版本,10 月 23 日开售 4999 美元起

    NVIDIA 将于本月通过 Acer、ASUS、Dell、Gigabyte、HP 和 MSI 推出 64GB 统一内存版 DGX Spark,10 月 23 日开售,起售价 4999 美元,保留 GB10 Grace Blackwell 超级芯片、DGX OS 与完整 NVIDIA AI 软件栈,支持最高 1000 亿参数模型在设备本地运行。

    推荐理由:原文给出 64GB 新配置的价格、可跑模型规模与双机集群方式,便于判断本地跑智能体的硬件门槛。

9月22日周二
  1. Hugging Face Blog35

    oMLX 作者 Jun Kim 加入 Hugging Face,支持 MLX 社区

    oMLX 创作者兼维护者 Jun Kim 加入 Hugging Face,全职投入 MLX 社区建设。oMLX 将保持 Apache 2.0 开源协议并由 Jun 继续领导,从副业项目转为有资金支持的长期项目,以获得更好的稳定性和更快的开发速度。Hugging Face 希望 oMLX 成为新想法的试验场,并推动 transformers 模型定义快速转化为可供不同引擎使用的 MLX 参考实现。

8月12日周三
  1. Google DeepMind71

    Google DeepMind 发布 SL2T 手语转文本模型,率先落地 Gboard 与 Live Transcribe

    Google DeepMind 发布多语言手语转文本模型 SL2T,首次将手语 AI 带入消费级产品,在 Pixel 11 的 Gboard 和 Live Transcribe 中支持美国手语(ASL)转英文听写。

    推荐理由:SL2T 把多语言手语翻译从实验室带进 Gboard 与 Live Transcribe,读者可了解其数据规模与端侧隐私设计。

7月28日周二
6月27日周六
6月23日周二
6月11日周四
6月9日周二
6月5日周五
  1. Google Research67

    Google 研究用手机前置摄像头实现被动心率监测

    Google Research 在 Nature 发表 PHRM 研究系统,利用手机前置摄像头在面部解锁后拍摄 8 秒面部视频,通过深度学习估算心率,与心电图相比 MAPE 低于 10%,覆盖所有肤色。

    推荐理由:Google 用 35 万段手机视频训练 rPPG 模型,并公开迄今最大规模数据集,读者可了解被动心率监测的可行边界。

6月2日周二
  1. Hugging Face Blog71

    H Company 发布 Holo3.1 系列 Computer Use Agent 模型

    H Company 发布 Holo3.1 系列 Computer Use Agent 模型,基于 Qwen 家族,覆盖 0.8B、4B、9B 和 35B-A3B 四种尺寸,并首次提供 FP8、Q4 GGUF 和 NVFP4 量化权重。

    推荐理由:原文给出跨环境、跨框架与本地量化部署的具体数据,可据此判断端侧 Computer Use Agent 的落地条件。

5月28日周四
  1. Google Research31

    Google 如何用零信任聚合实现隐私分析

    Google 提出一种零信任隐私分析方案,将一次性提交的新型密码学聚合协议与 TEE 结合,使设备无需多轮在线即可安全上报数据。该设计保证 Google 只能获得群体匿名聚合结果,原始数据即使在硬件保护范围内也不会被解密或重建,TEE 证明则向参与者验证协议按公开代码正确执行。

5月27日周三
4月23日周四
4月3日周五
4月2日周四
3月5日周四
  1. Hugging Face Blog30

    Hugging Face 博客:将机器人 AI 带到嵌入式平台——数据集录制、VLA 微调与端侧优化

    Hugging Face 博客发布 NXP 的实践指南,介绍如何在嵌入式机器人平台上部署 VLA 模型,涵盖数据集录制、ACT 与 SmolVLA 策略微调以及端侧优化。文中以“把茶包放进杯子”任务为例,录制 120 个 episode,将工作空间划分为 11 个 10×10 cm 起始位置簇,并建议约 20% 训练集为恢复 episode。NXP i.MX 95 SoC 在优化后实现了实时性能。

2月20日周五
2月9日周一
1月23日周五
  1. Google Research33

    Google 研究:小模型通过分解式方法实现更优用户意图提取

    Google Research 在 EMNLP 2025 发表的论文提出一种分解式方法,将用户意图理解拆为两步:先用小型多模态 LLM 逐屏总结交互,再从摘要序列中提取意图。在移动端和网页轨迹上,该方法优于 CoT 提示和端到端微调,Gemini 1.5 Flash 8B 配合该方法的意图提取效果可与 Gemini 1.5 Pro 相当,成本与速度仅为后者一小部分。

12月3日周三
11月20日周四
10月28日周二
10月15日周三
10月11日周六
10月2日周四
9月29日周一
9月26日周五
9月4日周四
  1. Hugging Face Blog60

    Google 发布 EmbeddingGemma 多语言嵌入模型

    Google 发布 EmbeddingGemma,一个 308M 参数、2K 上下文窗口、支持 100 多种语言的多语言嵌入模型,面向端侧场景,量化后内存占用低于 200MB。

    推荐理由:原文给出 308M 参数、2K 上下文与量化后 200MB 内存等指标,可据此判断端侧多语言检索的落地空间。

3月17日周一
2月17日周一
  1. Mistral AI60

    Mistral 发布区域语言模型 Mistral Saba,24B 参数支持阿拉伯语和印度语系

    Mistral AI 发布 Mistral Saba,这是其首个专门面向区域语言的模型,24B 参数,基于中东和南亚地区精选数据集训练。官方称其回答比体积超过自身 5 倍的模型更准确相关,速度更快、成本更低,可在单 GPU 系统上部署,响应速度超过 150 tokens per second,支持阿拉伯语和多种印度语系语言,在泰米尔语等南印度语系上表现尤其突出。

    推荐理由:Mistral 首个区域语言模型给出 24B 参数、单 GPU 部署与 150 tokens/s 速度,可对照其区域化路线。

1月30日周四
10月16日周三
  1. Mistral AI62

    Mistral 发布 Ministral 3B 和 8B 两款端侧模型

    Mistral AI 发布 Ministral 3B 和 Ministral 8B 两款面向端侧与本地计算的模型,称其在 10B 以下类别中刷新知识、常识、推理、函数调用和效率表现。

    推荐理由:Mistral 在 7B 发布一周年推出两款端侧小模型,给出了上下文长度、定价和对比基准,可据此判断小模型在本地与智能体工作流中的位置。

9月25日周三
7月31日周三
  1. Hugging Face Blog62

    Google 发布 Gemma 2 2B、ShieldGemma 与 Gemma Scope

    Google 在 Gemma 2 发布一个月后扩充模型家族,新增 2.6B 参数的 Gemma 2 2B(含 base 与指令微调版)、安全分类器系列 ShieldGemma 以及覆盖 Gemma 2 2B 和 9B 每一层的稀疏自编码器套件 Gemma Scope。

    推荐理由:Google 一次性放出 Gemma 2 2B、ShieldGemma 与 Gemma Scope,读者可据此了解小模型端侧部署与安全过滤的配套方案。

7月22日周一