DeepLearning.AI 推出 Cerebras 快速推理新课

新课程：利用专为快速推理设计的硬件运行，构建能快速响应用户请求的 LLM 应用。这门短课程是与 @Cerebras 合作打造的，由 @zhennydez、@duerr_seb 和 @MilksandMatcha 授课。

当模型生成文本时，大部分时间都花在将权重从内存中取出并传输到计算单元上。针对推理优化的硬件能最大限度地减少这种数据搬运，使 token 生成速度比在普通 GPU 配置上快数倍。在本课程中，你将使用的硬件是 Cerebras 的晶圆级引擎（Wafer-Scale Engine），它通过让模型权重靠近计算单元来实现快速推理。

快速推理能让冗长的智能体（agentic）工作流运行得更快，还能解锁对延迟敏感的实时应用，例如实时翻译和语音助手。

你将学到的技能：

- 比较 GPU、TPU 和 Cerebras 晶圆级引擎各自如何处理内存到计算的瓶颈问题

- 构建由快速推理驱动的实时应用，包括网页个性化以及运行多步工作流来分析市场信号

- 养成借助快速推理进行智能体编码的良好习惯，让会话保持专注，并更有效地引导模型

我的团队在多个对延迟敏感的应用中使用 Cerebras。加入我们，构建能快速响应的 LLM 应用：

deeplearning.ai/courses/fast…