Strata：本地大模型推理桌面应用

项目简介

Strata 是一个免费开源的本地大模型运行工具，让你在自己的电脑上跑 Qwen3.8-Flash-Next、Qwen3.6-35B-A3B、DeepSeekV4.1-Flash-1017 等模型，用来聊天、写代码和处理图片，不需要注册账号。它包含自研的 Strata 推理引擎，提供桌面应用与终端两种使用方式，并在 localhost 上暴露 OpenAI / Anthropic 兼容 API，方便接入各类编码工具。

主要功能

• 本地推理：模型和数据都在本机运行，支持可选的图像输入。
• 桌面应用：聊天、文件与实时预览放在同一个窗口里；首次启动会自动下载匹配显卡的引擎。
• 终端应用：运行 strata launch 交互式选择并启动模型，可实时查看模型活动、速度、内存占用与最近请求。
• 本地兼容 API：提供 OpenAI 与 Anthropic 兼容接口，Claude Code、Codex CLI、OpenCode、oh-my-pi、pi.dev、Hermes Agent、OpenClaw 等工具都可以接进来；strata connect 会给出对应工具的配置方法。
• 多来源模型：官方推荐优先使用 ISTA-DASLab 的量化版本，也支持 Unsloth、Gyro（agentionai）等来源。
• 硬件覆盖广：NVIDIA GeForce RTX 20 / 30 / 40 / 50 系列，AMD Radeon RX 7700 / 7800 / 7900、RX 9060 / 9070、AI PRO R9700，RX 6800 / 6900（实验性），Intel Arc（Linux），Apple Silicon M1 及更新型号，AMD Ryzen AI Max（Strix Halo），NVIDIA DGX Spark（Linux）。
• 大模型也能跑：DeepSeekV4.1-Flash-1017 放不进内存的部分会从 SSD 读取。

安装与使用

桌面应用

从 Releases 页面下载对应系统的安装包，安装后选择模型即可开始聊天。

• Strata-0.2.9-windows-x64-setup.exe
• Strata-0.2.9-linux-x86_64.AppImage
• Strata-0.2.9-macos-arm64.dmg

终端

Linux / Mac：

curl -fsSL https://github.com/Niko1221/Strata/releases/latest/download/install.sh -o install.sh && sh install.sh

Windows PowerShell：

irm https://github.com/Niko1221/Strata/releases/latest/download/install.ps1 | iex

Windows 上装完后需要新开一个终端，然后运行：

strata launch

按提示下载并启动模型即可。以 DeepSeek 为例：

strata launch --family deepseek41 --model ist-das-2.00bpw --plan

也可以从源码构建，或使用 Docker 运行，具体见仓库的 docs/SOURCE_INSTALL.md 与 docs/DOCKER.md。

注意事项

• DeepSeekV4.1-Flash-1017 需要大量磁盘空间：1.75 bpw 下载 239 GB、2.00 bpw 下载 257 GB、2.25 bpw 下载 274 GB，分别需要预留约 245 GB、265 GB、280 GB 空间。
• 在 Apple Silicon Mac 上运行 DeepSeek 仅支持文本，且需要 64 GB 及以上内存。
• 部分硬件（如 RX 6800 / 6900）属于实验性支持。
• 不同显卡、不同量化版本的速度差异很大，选模型前建议先看官方文档中的显存与体积对照。
• 项目采用 MIT 许可证。

本作品整理自 GitHub 开源项目 Niko1221/Strata，原作者 @Niko1221，许可证 MIT。中文介绍由 AI 根据项目 README 整理，以原仓库为准。