发现 
桌面应用其他
FreeLLMAPI:免费 LLM 聚合路由
面向开发者的免费 LLM 聚合路由,把 34 家提供商统一成一个 OpenAI 兼容接口。
- 浏览
- 1
- 访问
- 0
- 下载
- 0
- 版本
- v0.16.16
- 平台
- Windows、macOS
该作品还没有经过官方审核。访问演示、下载或复制命令前,请自行确认来源可信。
详细介绍
项目简介
FreeLLMAPI 把多家提供免费额度的 LLM 提供商聚合到单个 /v1 OpenAI 兼容端点。你可以把任意 OpenAI 客户端指向本地服务,由路由器在不同提供商之间透明切换。项目称覆盖 34 个免费提供商、474 个模型家族、635 个免费模型端点,合计约每月 74 亿 tokens;同时支持接入任意自定义 OpenAI 兼容的聊天、嵌入、图像和音频端点。
主要功能
- 统一端点:所有请求走一个 OpenAI 兼容的
/v1接口,密钥加密存储。 - 智能路由与故障转移:按请求选择可用模型,遇到限流自动切换提供商,并跟踪每把密钥的用量,尽量不超出免费额度。
- 自定义端点:在 Keys 页面添加 llama.cpp、LM Studio、vLLM、本地 Ollama 或远程网关等 OpenAI 兼容服务。
- 自动更新模型目录:路由器从签名源拉取模型目录,免费模型、配额变化和兼容性修复无需
git pull。免费安装使用每月快照,新模型延迟 30 天;Premium 可当天获取。 - 兼容常见客户端:可用于 Claude Code、Codex CLI、Gemini CLI、Cursor、Cline、Roo Code、OpenCode、Aider 等,以及任意 OpenAI、Anthropic、Gemini 或 Ollama 客户端。
安装与使用
- 安装桌面包(提供 macOS 和 Windows 版本),或使用 Docker 镜像
ghcr.io/tashfeenahmed/freellmapi:v0.16.15(也发布为 latest)部署稳定版;移动端可从 Google Play 或 App Store 获取。 - 启动服务后,在 Keys 页面填入各家提供商的 API key,或添加自定义 OpenAI 兼容端点。
- 把客户端的 Base URL 指向本地服务(命令示例为
http://localhost:3001),并使用统一 key。 - 以 Claude Code 为例,可用下面的命令自动读取目录、备份并合并现有配置:
npx freellmapi setup-claude --url http://localhost:3001 --api-key <unified-key>
完整模型列表和各模型限流、上下文窗口、免费 token 额度可在 freellmapi.co/models 查看。
注意事项
- 项目定位为个人实验用途(Personal experimentation only)。
- 需要自备各提供商的 API key;免费层的额度和限流会变化,实际可用性以提供商为准。
- 免费安装的模型目录是每月快照,新模型可能延迟 30 天出现;Premium 为每年 19 美元,可获取实时签名目录,可随时取消。
- 部署和客户端配置请参考项目的安装、API 参考和客户端文档。
本作品整理自 GitHub 开源项目 tashfeenahmed/freellmapi,原作者 @tashfeenahmed,许可证 MIT。中文介绍由 AI 根据项目 README 整理,以原仓库为准。
更新记录
- v0.16.16当前版本
v0.16.16 — Audio and video catalog expansion
- v0.16.15
新增 nabh.cloud 提供商,支持普通与流式聊天及面板配置;用只读模型列表检查密钥;共享账号配额、保留上游错误;目录经签名实时更新,免费用户延迟 30 天。
评论