Nativ:在 Mac 本地运行 AI 模型的桌面应用
Nativ:在 Mac 本地运行 AI 模型
Nativ 是一个面向 macOS 的桌面应用,用于在 Mac 上本地运行 AI 模型。它由 Prince Canuma 开发,他此前也是 MLX-VLM 这一 Python 库的开发者;MLX-VLM 可用于在 Mac 上通过 MLX 运行视觉语言模型。
Nativ 的思路是把 MLX 封装进完整的 macOS 桌面应用中。它的产品形态与 LM Studio 有相似之处,主要提供两类能力:
- 面向用户的聊天界面;
- 用于访问模型的 localhost API 服务。
一个值得注意的细节是,应用能够识别已经存在于 Hugging Face 缓存目录中的 MLX 模型。也就是说,如果用户此前已经尝试过相关模型,Nativ 可能可以直接发现并使用这些本地缓存资源。
对于希望在 Mac 上尝试本地大模型、同时又不想完全依赖命令行工具的用户来说,Nativ 提供了一个更桌面化的入口。
浏览(4)
