跳到正文
发现
FreeLLMAPI:免费 LLM 聚合路由
桌面应用其他

FreeLLMAPI:免费 LLM 聚合路由

面向开发者的免费 LLM 聚合路由,把 34 家提供商统一成一个 OpenAI 兼容接口。

admin
发布于 2026-11-02
浏览
1
访问
0
下载
0
版本
v0.16.16
平台
Windows、macOS
该作品还没有经过官方审核。访问演示、下载或复制命令前,请自行确认来源可信。

详细介绍

项目简介

FreeLLMAPI 把多家提供免费额度的 LLM 提供商聚合到单个 /v1 OpenAI 兼容端点。你可以把任意 OpenAI 客户端指向本地服务,由路由器在不同提供商之间透明切换。项目称覆盖 34 个免费提供商、474 个模型家族、635 个免费模型端点,合计约每月 74 亿 tokens;同时支持接入任意自定义 OpenAI 兼容的聊天、嵌入、图像和音频端点。

主要功能

  • 统一端点:所有请求走一个 OpenAI 兼容的 /v1 接口,密钥加密存储。
  • 智能路由与故障转移:按请求选择可用模型,遇到限流自动切换提供商,并跟踪每把密钥的用量,尽量不超出免费额度。
  • 自定义端点:在 Keys 页面添加 llama.cpp、LM Studio、vLLM、本地 Ollama 或远程网关等 OpenAI 兼容服务。
  • 自动更新模型目录:路由器从签名源拉取模型目录,免费模型、配额变化和兼容性修复无需 git pull。免费安装使用每月快照,新模型延迟 30 天;Premium 可当天获取。
  • 兼容常见客户端:可用于 Claude Code、Codex CLI、Gemini CLI、Cursor、Cline、Roo Code、OpenCode、Aider 等,以及任意 OpenAI、Anthropic、Gemini 或 Ollama 客户端。

安装与使用

  1. 安装桌面包(提供 macOS 和 Windows 版本),或使用 Docker 镜像 ghcr.io/tashfeenahmed/freellmapi:v0.16.15(也发布为 latest)部署稳定版;移动端可从 Google Play 或 App Store 获取。
  2. 启动服务后,在 Keys 页面填入各家提供商的 API key,或添加自定义 OpenAI 兼容端点。
  3. 把客户端的 Base URL 指向本地服务(命令示例为 http://localhost:3001),并使用统一 key。
  4. 以 Claude Code 为例,可用下面的命令自动读取目录、备份并合并现有配置:
npx freellmapi setup-claude --url http://localhost:3001 --api-key <unified-key>

完整模型列表和各模型限流、上下文窗口、免费 token 额度可在 freellmapi.co/models 查看。

注意事项

  • 项目定位为个人实验用途(Personal experimentation only)。
  • 需要自备各提供商的 API key;免费层的额度和限流会变化,实际可用性以提供商为准。
  • 免费安装的模型目录是每月快照,新模型可能延迟 30 天出现;Premium 为每年 19 美元,可获取实时签名目录,可随时取消。
  • 部署和客户端配置请参考项目的安装、API 参考和客户端文档。

本作品整理自 GitHub 开源项目 tashfeenahmed/freellmapi,原作者 @tashfeenahmed,许可证 MIT。中文介绍由 AI 根据项目 README 整理,以原仓库为准。

更新记录

  1. v0.16.16当前版本

    v0.16.16 — Audio and video catalog expansion

  2. v0.16.15

    新增 nabh.cloud 提供商,支持普通与流式聊天及面板配置;用只读模型列表检查密钥;共享账号配额、保留上游错误;目录经签名实时更新,免费用户延迟 30 天。

评论