跳到正文
原文
NVIDIARTXSpark· @NVIDIARTXSpark · X·· 1 天前AI 评分58

llama.cpp 推出 Windows 应用 Llama Windows,支持本地运行模型

AI 导读

llama.cpp 推出 Windows 应用 Llama Windows,可本地运行模型并针对 NVIDIA RTX Spark 做了优化。用户可从 Hugging Face 浏览和下载模型,直接在系统托盘与本地模型对话,提示词保留在本地 PC 上。

正文 · 原文

llama.cpp now has a Windows app 🦙

Llama Windows makes it easy to run models locally, with optimizations for NVIDIA RTX Spark.

📥 Browse and download models from Hugging Face

💬 Chat with local models right from your system tray

🔒 Keep your prompts on your PC

来源:NVIDIARTXSpark · x.com