Nativ：macOS 本地 MLX 模型工作台

项目简介

Nativ 是一个原生 macOS 工作区，用 SwiftUI 编写，用于在 Apple 芯片 Mac 上本地运行 AI 模型。它内置一个 mlx-vlm 服务器，会扫描 Hugging Face 缓存（遵循 HF_HUB_CACHE 与 HF_HOME）中的可用模型，把模型发现、聊天、性能分析、系统监控和本地 API 服务整合在一个应用里。

模型下载完成后的推理全部在本机完成，可以作为私有聊天工具、模型管理器、性能面板，或兼容 OpenAI / Anthropic 的本地推理服务器供现有工具调用。

主要功能

• 本地聊天与视觉：流式对话、图片附件、推理过程输出、响应指标与持久化聊天历史。
• 多窗口：用 Command + Shift + N 打开独立工作区，共享同一个推理服务器、已加载模型与设置。
• 共享工作面板：在聊天旁打开文档、代码、HTML 与网页标签，可编辑预览、讨论选中内容，并让 agent 更新共享条目或操作同一浏览器页面。
• 图像生成与编辑：在 Images 标签中用兼容的 MLX 图像模型本地生成和编辑图片。
• 模型库：发现已安装的 MLX 模型，浏览并下载 Hugging Face 上兼容的模型（带显存适配提示），可把缓存放到外置 APFS 硬盘，查看能力、切换或删除模型，也能同时预加载语言、图像生成、语音、嵌入模型。
• 性能分析：统计请求量、token 用量、首 token 时间、解码速度、模型表现与近期活动。
• 系统监控：查看每核 CPU 负载、GPU 利用率、统一内存与 swap 压力、磁盘吞吐、容量、SMART 健康以及温度与功耗传感器。
• 本地 API：提供 OpenAI 兼容的 chat、Responses、图像、音频、嵌入与模型端点，以及 Anthropic Messages 端点。
• 编码工具集成：为 Codex、Claude Code、Aider、Goose、Qwen Code 等终端编码 agent，以及 VS Code、Cursor、Zed、JetBrains、Cline、Continue 等编辑器配置 Nativ 提供的模型服务。
• 开发者工作区：设置服务器主机与端口、添加 Hugging Face token、查看运行时详情、复制端点 URL、搜索过滤服务器日志、监控服务健康。
• 菜单栏控制：启停服务器、切换模型、查看服务统计，并固定显示 CPU、GPU、内存百分比与小图表。
• 扩展平台：安装、禁用、移除和恢复独立版本的能力扩展，音频是首个内置扩展。
• 音频扩展：任意应用中的本地语音听写，支持跟随光标的波形或摄像头凹槽胶囊动画，提供转写历史、语速与字数统计，可自定义快捷键。
• Artifacts：集中浏览各聊天中产生或上传的图片与文档，支持筛选、排序与语义搜索。
• MCP 服务器：连接 Model Context Protocol 服务器并把工具暴露给聊天，每个工具需单独授权。
• 定时任务：按计划运行保存的提示词，可指定 kit、MCP 服务器、工具与技能。
• 高级推理控制：采样参数、思考预算、结构化输出、KV-cache 量化、前缀缓存与投机解码。

安装与使用

从 GitHub Releases 下载最新 DMG，把 Nativ 拖进 Applications 后启动；也可以用 Homebrew 安装：

brew install --cask nativ

后续更新由 Sparkle 在应用内完成。首次启动时可以：

1. 选择已安装的语言模型、下载推荐模型，或按需加载。
2. 可选生成 API key 保护服务器的管理端点。
3. 提前授予麦克风、辅助功能与屏幕录制权限，或之后在设置中调整。
4. 打开 Models 下载或选择兼容模型。
5. 开始聊天、查看分析，或接入支持的编码工具。

作为本地 API 服务器

默认服务地址是 http://127.0.0.1:8080，可在 Developer 页面修改主机与端口。选中模型后可这样调用：

curl http://127.0.0.1:8080/v1/chat/completions \
  -H 'Content-Type: application/json' \
  -d '{"model": "your-model-id", "messages": [{"role": "user", "content": "Why is the sky blue?"}], "stream": false}'

如果启用了 API key，需额外发送 -H 'Authorization: Bearer your-api-key'。服务器还提供 /health、/metrics、缓存统计与重置、模型卸载等端点。

从源码构建

brew install xcodegen
make xcode-generate
make xcode-run

首次构建会由 NativServerKit 创建可重定位的 Python 运行时并安装固定版本的 mlx-vlm 依赖，因此耗时较长。

注意事项

• 运行需要 Apple 芯片 Mac 与 macOS 26 或更新版本，并准备足够容纳所选模型的统一内存。
• 下载 gated 模型需要在应用内或通过 HF_TOKEN 提供 Hugging Face token。
• 从源码构建还需要带 macOS 26 SDK 的 Xcode、Metal Toolchain（xcodebuild -downloadComponent MetalToolchain）、xcodegen、Python 3，以及首次组装 Python 包时访问 GitHub Releases 与 PyPI 的网络。
• 模型下载与首次构建依赖仍需联网，推理本身在本地完成。
• Nativ 需要辅助功能权限来检测应用外的 Control + Option + Command 双击；录音临时保存为 .wav 与同名 .txt，原始音频五分钟后（或退出应用时）自动删除，转写文本保留。

---

本作品整理自 GitHub 开源项目 Blaizzy/nativ，原作者 @Blaizzy，许可证 MIT。中文介绍由 AI 根据项目 README 整理，以原仓库为准。