General Compute与Positron合作异构推理
先了解这件事
AI 综述
2026年10月21日,Rohan Paul在X上披露,General Compute将prefill与decode分配到不同芯片,对外提供单一端点:prompt读取(prefill)在GPU上运行,逐token生成(decode)则交给Positron的memory-first系统,两者打包为一个端点销售。同日,DAIR.AI的Elvis Saravia评论称,Positron AI与General Compute的合作旨在加速智能体推理,指出随着主动式、始终在线的智能体兴起及多智能体系统对复杂任务的需求增长,快速推理日益关键,异构算力变得关键,General Compute正解决这一问题,与Positron的合作非常合理。
事件进展
2 个进展
报道时间线
10月21日
- Positron AI 与 General Compute 合作加速智能体推理
快速推理对智能体正变得越来越重要。 随着主动式、始终在线的智能体兴起,以及复杂任务对多智能体系统的需求增长,异构算力变得关键。@general_compute 正在解决这一关键问题,与 @positron_ai 的合作非常合理。
- General Compute 将 prefill 与 decode 分配到不同芯片提供单一端点
General Compute 在 GPU 上运行 prompt 读取(prefill),把逐 token 生成(decode)交给 Positron 的 memory-first 系统,并将两者打包为一个端点对外销售。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。