跳到正文
原文
NVIDIARTXSpark· @NVIDIARTXSpark · X·· 1 天前AI 评分58

llama.cpp 推出 Windows 应用 Llama Windows,支持本地运行模型

AI 导读

llama.cpp 推出 Windows 应用 Llama Windows,可本地运行模型并针对 NVIDIA RTX Spark 做了优化。用户可从 Hugging Face 浏览和下载模型,直接在系统托盘与本地模型对话,提示词保留在本地 PC 上。

正文 · AI 翻译

llama.cpp 现在有了 Windows 应用 🦙

Llama Windows 让本地运行模型变得轻松,并针对 NVIDIA RTX Spark 做了优化。

📥 从 Hugging Face 浏览并下载模型

💬 直接从系统托盘与本地模型对话

🔒 让你的提示词留在自己的电脑上

来源:NVIDIARTXSpark · x.com