Uncensored Local AI：手机本地离线 AI 聊天

项目简介

Uncensored Local AI 是一个移动优先的 Flutter 应用，可以直接在 Android 或 iOS 设备上运行开源 AI 模型（GGUF 格式）：不依赖云端、没有内容过滤、不需要 API Key 或订阅，对话内容不会离开设备。

桌面端（Windows、macOS、Linux）在 Flutter 框架层面已经支持，编译可以通过，但仍需要社区测试与打磨。

项目还提供了一个演示视频：https://youtu.be/2Pnv68iHIaQ

主要功能

• 零审查：运行 abliterated / uncensored 模型，不做拒绝回答。
• 完全离线：模型下载完成后无需联网，飞行途中、偏远地区、受限网络下均可使用。
• 隐私本地化：所有对话保存在设备本地，通过 Hive 做持久化历史记录。
• 跨平台：一套代码覆盖 Android、iOS、Windows、macOS、Linux。
• 本地 OpenAI 兼容 API：内置 HTTP 服务，可接入任意 OpenAI 标准客户端、脚本或编辑器插件。
• 模型库：在应用内下载、通过 URL 或文件导入、管理 GGUF 模型。
• 实时指标：显示 tokens/sec 与模型加载进度，支持取消与卸载模型。

安装与使用

Android

从 Release 页面下载对应架构的 APK：

APK	架构	适用	大小
app-arm64-v8a-release.apk	ARM 64 位	大多数 2018 年后的手机	~65 MB
app-armeabi-v7a-release.apk	ARM 32 位	较旧或低配手机	~18 MB
app-x86_64-release.apk	x86 64 位	模拟器 / ChromeOS	~58 MB

安装后在「Settings → Install unknown apps」中允许浏览器安装，点击 APK 安装；打开应用进入 Models 标签页下载模型即可开始聊天。

iOS

下载 ios_pre_release.zip，在「文件」App 中解压得到 .ipa 文件，然后：

• TrollStore（推荐，无 7 天限制）：点击右上角 +，选择 Install IPA File，选中解压出的 .ipa 安装。
• AltStore / AltServer（需要电脑）：在电脑上运行 AltServer，设备上打开 AltStore → My Apps → 点击左上角 + 选择 .ipa 安装，设备需与电脑处于同一 Wi-Fi 或用数据线连接。

从源码构建

前置条件：装有 Xcode 15+ 的 Mac，以及 Flutter SDK。

git clone https://github.com/techjarves/Uncensored-Local-AI-Multiplatform.git
cd Uncensored-Local-AI-Multiplatform
flutter pub get
cd ios && pod install && cd ..
flutter build ios --release
# 在 Xcode 中打开 ios/Runner.xcworkspace 并 archive 部署

桌面端（Windows / macOS / Linux，社区支持）

git clone https://github.com/techjarves/Uncensored-Local-AI-Multiplatform.git
cd Uncensored-Local-AI-Multiplatform
flutter pub get
flutter run -d windows   # 或 macos / linux

推荐模型

模型	大小	适用	类型
Gemma 2 2B	~1.6 GB	低内存手机、快速回复	标准
Gemma 4 E4B Heretic	~5.3 GB	高质量、完全无审查	无审查

模型在应用内的 Models 标签页直接下载，无需手动配置。

本地 API 服务器

内置 OpenAI 兼容 REST API，可连接外部工具、脚本或 IDE 插件。

1. 在应用中加载一个模型；
2. 进入 Settings → Local API Server 打开开关；
3. 使用 http://127.0.0.1:4891/v1 作为 base URL。

# 列出已加载模型
curl http://127.0.0.1:4891/v1/models

# 聊天补全（非流式）
curl http://127.0.0.1:4891/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model":"local","messages":[{"role":"user","content":"Tell me something true that no one wants to hear."}]}'

# 聊天补全（流式）
curl -N http://127.0.0.1:4891/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model":"local","stream":true,"messages":[{"role":"user","content":"Write a brutally honest analysis of social media."}]}'

注意事项

• 客户端要求非空 API Key 时，填入 local 即可。
• 桌面端构建可编译，但可能存在细节问题，项目正在征集 Windows / macOS / Linux 的测试、打包与安装脚本贡献。
• 大模型对内存要求较高，请按设备内存选择合适尺寸的模型。
• 项目基于 Flutter 构建，推理由 llama.cpp 驱动，采用 MIT 许可证。

---

本作品整理自 GitHub 开源项目 techjarves/Uncensored-Local-AI-Multiplatform，原作者 @techjarves。中文介绍由 AI 根据项目 README 整理，以原仓库为准。