X:Elvis Saravia (@omarsar0, DAIR.AI)· @omarsar0·· 4 天前AI 评分
Volantis 用光学技术破解 AI 内存瓶颈,目标单用户 10000 tokens/秒推理速度
Volantis 完成 8800 万美元 A 轮融资,通过光学技术为每颗芯片提供更大容量和更高带宽的内存,目标在超过 10T 参数的模型上实现每用户最高 10000 tokens/秒的推理速度。该方案旨在解决 AI 内存瓶颈,初期可让原本耗时数小时的编程智能体在几分钟甚至几秒内完成。团队曾参与首款 CoWoS 产品、早期 HBM 及首款硅光 CPO 系统等半导体技术研发,下一代产品已完成流片。
当前提供 AI 导读,完整正文请阅读原文。
来源:X:Elvis Saravia (@omarsar0, DAIR.AI) · x.com