跳到正文
原文
testingcatalog· @testingcatalog · X·· 18 小时前AI 评分52

Atomic Agent 演示云端模型规划、本地模型执行 28 步任务

AI 导读

Testing Catalog 转发 Atomic 的演示:云端模型只做一次规划调用,本地模型负责 28 个任务步骤,本地模型运行在 Atomic 基于 llama.cpp 的分支上并使用 Google 的 TurboQuant,公司测试称 TurboQuant 可让长对话内存占用最多降低 80%。该应用支持 Apple Silicon Mac、Windows 和 Linux,云端模型与 Fusion 使用用户自己的 API key,可在 atomicagent.io 试用。

正文 · AI 翻译

在 Atomic 的演示中,云端模型只进行了一次规划调用,而本地模型处理了 28 个任务步骤。本地模型运行在 Atomic 对 llama.cpp 的分支版本上,采用 Google 的 TurboQuant;该公司表示,在他们的测试中,TurboQuant 将长对话的内存占用最多降低了 80%。

该应用支持 Apple Silicon Mac、Windows 和 Linux。云端模型和 Fusion 使用用户自己的 API 密钥。

去试试吧 👀

atomicagent.io

来源:testingcatalog · x.com