OpenBMB· @OpenBMB · X·· 2 小时前AI 评分
面壁智能 OpenBMB 推出 Self-Replay Fine-Tuning 并开放 MiniCPM-V 4.7 全栈部署
面壁智能 OpenBMB 发布 Self-Replay Fine-Tuning,称其为一种低成本定制模型同时保留通用性能的方法,并开放 MiniCPM-V 4.7 的全栈开源。
轻松定制,跨设备部署。
针对新任务进行微调,往往会以牺牲模型的通用能力为代价。为此,我们提出了 Self-Replay Fine-Tuning——一种简单、低成本的模型定制方法,同时保留其通用性能。
到了部署阶段,MiniCPM-V 4.7 可从移动设备扩展到 PC 和边缘系统。Day-0 硬件支持覆盖 Apple、Intel、AMD、Arm 和 Rockchip,此外还通过 FlagOS 支持更多平台,包括华为、海光、摩尔线程和昆仑芯。
在整个工作流中,你可以使用熟悉的工具:
🔹 推理:SGLang、vLLM、llama.cpp、mlx-vlm 和 Ollama
🔹 微调:SWIFT 和 LLaMA-Factory
🔹 量化:GGUF、BNB、AWQ、GPTQ 和 FP8
整套技术栈均已开源:
试试 MiniCPM-V 4.7 吧,并告诉我们它在你的硬件上表现如何!
🔗 GitHub:github.com/OpenBMB/MiniCPM-V
🤗 Hugging Face:huggingface.co/collections/o…
🌐 ModelScope:modelscope.cn/collections/Op…
🧪 Web Demo:huggingface.co/spaces/openbm…
📱 Apps:github.com/OpenBMB/MiniCPM-V…
Self-Replay Fine-Tuning:openbmb-dev.modelbest.co/en/…
来源:OpenBMB · x.com