omarsar0· @omarsar0 · X·· 5 天前AI 评分
recursive_si 发布 40B MoE 模型 Flint,开源权重并支持本地高速推理
recursive_si 发布首个模型 Flint,这是一款 40B MoE 模型,激活参数为 2.5B,并以 Apache 2.0 许可开放权重。Flint 在短上下文下可在 M4 Pro MacBook Pro 上达到 125+ tokens/s。
看好自动化 AI 研究。自我改进式 AI 的早期迹象已经出现,毫无疑问。
Flint 是 @recursive_si 推出的首个模型。他们的 Eureka Machine 参与了技术栈的几乎所有环节,从数据和训练配方到推理内核,而且团队从零开始构建它只用了不到四个月!
这是一个 40B MoE 模型,激活参数量为 2.5B,权重以 Apache 2.0 协议开放。在短上下文场景下,它能在 M4 Pro MacBook Pro 上以 125+ tokens/s 的速度运行。
强烈建议大家去了解一下。我们将在内部的自动化研究评测中测试它。
来源:omarsar0 · x.com