Ollama 预览支持基于 MLX 加速 Apple Silicon

Ollama Blog15 小时前
分享到

Ollama 预览 MLX 支持

Ollama 宣布正在预览一项面向 Apple Silicon 的新能力:通过苹果的机器学习框架 MLX,为 Ollama 提供更快的本地运行体验。

MLX 是苹果面向机器学习任务推出的框架。此次预览意味着,使用搭载 Apple Silicon 的 Mac 设备运行 Ollama 时,未来可能获得更好的性能表现。

目前公开信息较为简短,核心事实包括:

  • Ollama 正在预览 Apple Silicon 上的新运行方式;
  • 该能力由苹果 MLX 机器学习框架提供支持;
  • 官方称其目标是成为在 Apple Silicon 上运行 Ollama 的最快方式。

对于关注本地大模型运行、Mac 端推理性能优化的用户,这一进展值得留意。

评论

请登录后发表观点

暂无数据