ArtificialAnlys· @ArtificialAnlys · X·· 4 小时前AI 评分
Exa Dynamic Highlights 成本与能力帕累托最优
Exa(auto、lite)启用 Dynamic Highlights 后,每任务总成本分别为 $0.066 和 $0.044,均位于 Artificial Analysis Search Index 的成本-能力帕累托前沿,超越 Octen(77 分、$0.024/任务)。
每项任务的总成本包括搜索成本和模型推理成本两部分。
Exa(auto,Dynamic Highlights)每项任务成本为 $0.066,其中搜索成本约 $0.053(每千次搜索 $7),模型推理成本约 $0.012。Exa(lite,Dynamic Highlights)每项任务成本为 $0.044,其中搜索成本约 $0.031(每千次搜索 $4),模型推理成本约 $0.013。Dynamic Highlights 还通过返回更少的文本来降低模型推理成本,auto 的模型推理成本从使用标准 highlights 时的每项任务 $0.018 降至 $0.012。
使用 Dynamic Highlights 的 auto 和 lite 两款产品都位于 Artificial Analysis Search Index 的成本-能力帕累托前沿上,将前沿延伸到了 Octen(77 分,每项任务 $0.024)之外,这意味着没有任何其他搜索产品能以更低成本取得更高分数。
来源:ArtificialAnlys · x.com