testingcatalog· @testingcatalog · X·· 5 天前AI 评分
Recursive 发布首个开放权重编码模型 Flint
Recursive 发布首个开放权重编码模型 Flint,采用 Apache 2.0 许可,速度据称是可比替代方案的 2 倍。Flint 是面向本地编码的 40B 参数混合专家模型,在 64GB RTX Spark 上超过 220 tokens per second。Recursive 的 Eureka Machine 还生成了定制 GPU 代码,在不改变权重的情况下将 Flint 在 RTX Spark 上的速度提升 55%。
Recursive 发布了 Flint,这是其首个采用 Apache 2.0 许可证的开放权重编程模型,速度是同类替代方案的两倍。
> Flint 是一款用于本地编程的 400 亿参数混合专家(MoE)模型。
> Recursive 称,在配备 64GB 显存的 RTX Spark 上,其速度超过每秒 220 个 token。
> Recursive 的 Eureka Machine 是一套用于运行 AI 研究实验的系统,它编写了自定义 GPU 代码,在不改变模型权重的情况下,将 Flint 在 RTX Spark 上的速度提升了 55%。
来源:testingcatalog · x.com