LysandreJik· @LysandreJik · X·· 4 小时前AI 评分
transformers serve 新增决策模型功能
transformers serve 的有趣新增：你现在可以将 250 个 LLM & VLM 模型中的任何一个变成类似 JEV 的决策模型。 /v1/systemone 用模型的 logits 对一组决策进行打分。无需生成文本！ 哪一个能让 microducks 最快冲过终点线？
transformers serve 的一个有趣新功能：你现在可以把 250 个 LLM 和 VLM 模型中的任意一个变成类似 JEV 的决策模型。
/v1/systemone 使用模型的 logits 来为一组决策打分，无需生成文本！
其中哪一个能让 microducks 最快冲过终点线？
来源：LysandreJik · x.com