Darkbloom Provider：Mac 本地推理节点

项目简介

Darkbloom Provider 是 Darkbloom 的 Apple Silicon 推理节点实现，使用 Swift 编写，包含原生推理运行时集成、本地原生 API，以及配套的营销站点。它用 MLX 在本地运行模型，既可以接入 Darkbloom 网络参与推理，也可以作为本地 OpenAI 兼容 API 提供服务。项目定位是「跑在闲置 Mac 上的私密推理网络」，官网为 https://darkbloom.dev 。

主要功能

• 本地推理：基于 MLX 在 Apple Silicon 设备上运行模型，无需把计算交给远端。
• 两种使用方式：接入 Darkbloom 网络，或以 direct mode 提供本地推理；对外暴露 OpenAI 兼容 API。
• 加密缓存存储：支持加密的 SSD 缓存存储，并对每日写入量设置上限（见 cache storage 文档）。
• 原生 Swift 服务：provider-swift/ 内含 CLI、设备端服务、推理、安全与测试代码；libs/ 固定 MLX 原生依赖版本。
• 自带站点与文档：landing/ 是独立的 Next.js 营销站及其 API 路由，docs/ 存放推理节点与原生实现的说明、参考资料和运维记录。

安装与使用

官方安装脚本：

curl -fsSL https://api.darkbloom.dev/install.sh | bash

建议先阅读安装与快速开始文档：

• installation
• quickstart
• direct mode（本地推理）
• hardware requirements（模型与硬件匹配）
• cache storage

从源码开发时，工具版本写在 mise.toml，可用命令在 Makefile：

mise install
make provider-build
make provider-test

构建推理节点需要 Apple Silicon、文档指定的 Xcode 工具链以及递归的 MLX 依赖，更多说明见 build 与 test。文档总索引在 docs/README.md。

注意事项

• 推理节点本身是明文推理端点。网络加密不会对运行该进程的一方，也不会对协调器处理请求的短暂过程隐藏 prompt；安全保证请参考加密与存储信任模型和推理节点证明，不要仅从仓库拆分推断安全边界。
• 后端、控制台与管理后台代码位于独立的 darkbloom-platform 仓库，本仓库只承载推理节点与设备端 Swift API。
• 公开的 golden vectors 只校验固定的预期行为，并非跨实现的私有资格认证或线上集群运行证据。
• 许可证见仓库中的 LICENSE 与 ACKNOWLEDGEMENTS.md。

本作品整理自 GitHub 开源项目 Layr-Labs/d-inference，原作者 @Layr-Labs。中文介绍由 AI 根据项目 README 整理，以原仓库为准。