testingcatalog· @testingcatalog · X·· 18 小时前AI 评分
Atomic Agent 演示云端模型规划、本地模型执行 28 步任务
Testing Catalog 转发 Atomic 的演示:云端模型只做一次规划调用,本地模型负责 28 个任务步骤,本地模型运行在 Atomic 基于 llama.cpp 的分支上并使用 Google 的 TurboQuant,公司测试称 TurboQuant 可让长对话内存占用最多降低 80%。该应用支持 Apple Silicon Mac、Windows 和 Linux,云端模型与 Fusion 使用用户自己的 API key,可在 atomicagent.io 试用。
在 Atomic 的演示中,云端模型只进行了一次规划调用,而本地模型处理了 28 个任务步骤。本地模型运行在 Atomic 对 llama.cpp 的分支版本上,采用 Google 的 TurboQuant;该公司表示,在他们的测试中,TurboQuant 将长对话的内存占用最多降低了 80%。
该应用支持 Apple Silicon Mac、Windows 和 Linux。云端模型和 Fusion 使用用户自己的 API 密钥。
去试试吧 👀
atomicagent.io
来源:testingcatalog · x.com