Nativ:在 Mac 本地运行 AI 模型的桌面应用

发布于

Nativ:在 Mac 本地运行 AI 模型

Nativ 是一个面向 macOS 的桌面应用,用于在 Mac 上本地运行 AI 模型。它由 Prince Canuma 开发,他此前也是 MLX-VLM 这一 Python 库的开发者;MLX-VLM 可用于在 Mac 上通过 MLX 运行视觉语言模型。

Nativ 的思路是把 MLX 封装进完整的 macOS 桌面应用中。它的产品形态与 LM Studio 有相似之处,主要提供两类能力:

  • 面向用户的聊天界面;
  • 用于访问模型的 localhost API 服务。

一个值得注意的细节是,应用能够识别已经存在于 Hugging Face 缓存目录中的 MLX 模型。也就是说,如果用户此前已经尝试过相关模型,Nativ 可能可以直接发现并使用这些本地缓存资源。

对于希望在 Mac 上尝试本地大模型、同时又不想完全依赖命令行工具的用户来说,Nativ 提供了一个更桌面化的入口。

浏览(4)
评论

请登录后发表观点

暂无数据