跳到正文

#教程/实践

今日 0 条
1月5日周一
12月18日周四
12月11日周四
12月4日周四
11月25日周二
  1. Hugging Face Blog29

    从第一性原理理解 continuous batching

    Hugging Face 发布博客,从注意力机制与 KV 缓存出发,推导出 continuous batching 这一推理优化技术。该方法通过并行处理多个对话、完成即换出,来最大化高负载场景下的吞吐量。文中指出注意力是 token 间唯一交互之处,其计算量随序列长度呈平方增长。

  2. Hugging Face Blog41

    Tavily 如何打造达到 SOTA 的 Deep Research 智能体

    Tavily 分享了构建 SOTA 深度研究智能体的经验:七个月前其第一版架构因假设过于复杂,在下一代模型到来时成为瓶颈,团队被迫推倒重建。新方案简化编排逻辑、强调自主性,并借助 Tavily Advanced Search 在工具侧完成上下文工程,只返回最相关内容块以降低模型幻觉与延迟。团队还提出将工具输出蒸馏为反思、仅在生成最终交付物时注入原始信息,以模拟人类研究方式管理上下文窗口。

11月20日周四
11月17日周一
10月30日周四
  1. OpenAI News60

    OpenAI 详解 ChatGPT Atlas 浏览器背后的 OWL 架构

    OpenAI 发文详解其 ChatGPT 浏览器 Atlas 背后的新架构 OWL。该架构将 Chromium 解耦,实现快速启动、丰富 UI 以及 ChatGPT 驱动的智能体式浏览。

    推荐理由:OpenAI 官方拆解 ChatGPT Atlas 浏览器背后的 OWL 架构,读者可了解其如何解耦 Chromium 并支撑智能体式浏览。

10月29日周三
10月28日周二
  1. Hugging Face Blog40

    Hugging Face 提出“语音同意门”:让语音克隆必须先获得本人明确同意

    Hugging Face 提出“语音同意门”机制,让语音克隆模型只有在说话人明确说出同意语句后才会启动。该方案由语言模型生成约 20 词的同意句与中性语音多样性句,经 ASR 识别同意内容后,再由 TTS 完成克隆,并建议同意音频直接来自麦克风而非上传文件。团队已提供示例 Space 和配套代码。

10月21日周二
10月16日周四
10月15日周三
10月2日周四
9月29日周一
9月22日周一
  1. Hugging Face Blog33

    Hugging Face 推出 SyGra:为 LLM 与 SLM 构建数据的一站式框架

    Hugging Face 发布低代码/无代码框架 SyGra,用于为 LLM 和 SLM 生成、转换与对齐数据集,支持 vLLM、Hugging Face TGI、Triton、Ollama 等多种推理后端。该框架覆盖从 SFT 到 DPO 的偏好对生成、知识库转 Q&A、推理增强、质量过滤及跨语言转换等场景,以 Python 库形式集成到现有 ML 工作流。

9月11日周四
9月2日周二
8月19日周二
8月18日周一
8月7日周四
8月1日周五
5月23日周五
4月13日周日
  1. OpenAI News23

    用 ChatGPT 做市场调研

    ChatGPT 可以规划调研步骤、搜索并阅读资料来源,最终整理出一份详细的市场分析研究报告。该能力展示了 ChatGPT 在市场调研场景中从规划、检索到成稿的完整工作流,可用于支持市场分析。

4月9日周三
4月8日周二
3月4日周二
2月4日周二
12月9日周一
9月10日周二
8月22日周四
8月21日周三
8月19日周一
8月14日周三