agentgateway：AI Agent 网关代理

项目简介

agentgateway 是一个基于 AI 原生协议（MCP 与 A2A）构建的开源代理，号称是面向 Agentic AI 的第一套完整连接方案。它为 agent 到 LLM、agent 到工具、agent 到 agent 之间的通信提供开箱即用的安全、可观测性与治理能力，不依赖特定框架或运行环境。

项目使用 Rust 编写，采用 Apache-2.0 许可证，是 Linux Foundation 旗下项目。

主要功能

• LLM Gateway：通过统一的 OpenAI 兼容 API 把流量路由到 OpenAI、Anthropic、Gemini、Bedrock 等主流 LLM 提供商，支持预算与支出控制、提示词增强、负载均衡与故障转移。
• MCP Gateway：通过 MCP 把 LLM 连接到工具与外部数据源，支持工具联邦、stdio/HTTP/SSE/Streamable HTTP 传输、OpenAPI 集成与 OAuth 认证。
• A2A Gateway：基于 A2A 实现安全的 agent 间通信，支持能力发现、模态协商与任务协作。
• Inference Routing：借助 Kubernetes Inference Gateway 扩展为自托管模型做智能路由，依据 GPU 利用率、KV cache、LoRA 适配器与队列深度做决策。
• Guardrails：多层内容过滤，支持正则、OpenAI moderation、AWS Bedrock Guardrails、Google Model Armor 以及自定义 webhook。
• 安全与可观测性：认证（JWT、API key、OAuth）、基于 CEL 策略引擎的细粒度 RBAC、限流、TLS，以及 OpenTelemetry 指标 / 日志 / 链路追踪。
• 内置 UI：附带可视化界面，用于查看 agent 与 agent、agent 与工具之间的连接情况。

安装与使用

根据部署环境选择对应文档：

• Standalone Quickstart：几分钟内上手。
• Kubernetes Quickstart：使用内置 controller 与 Gateway API 部署到 Kubernetes。

文档入口：

• agentgateway.dev/docs：面向不带完整 Kubernetes controller 的部署，使用扁平的 YAML 配置。
• agentgateway.dev/docs/kubernetes/latest：面向基于 Kubernetes 的部署，使用内置 controller 与 Gateway API。

v1.7.0 提供的构建产物包括 Docker 镜像与 Helm chart：

• cr.agentgateway.dev/agentgateway:v1.7.0
• cr.agentgateway.dev/controller:v1.7.0
• cr.agentgateway.dev/charts/agentgateway:v1.7.0
• cr.agentgateway.dev/charts/agentgateway-crds:v1.7.0

注意事项

项目处于活跃开发阶段，缺少的功能可以通过 GitHub issue 提出。升级到 v1.7.0 前需要留意行为变更：standalone 部署现在始终加密 MCP 会话；prompt guard 默认会检查工具输出；动态 backend 不再允许访问 loopback 或 link-local 地址。

---

本作品整理自 GitHub 开源项目 agentgateway/agentgateway，原作者 @agentgateway，许可证 Apache-2.0。中文介绍由 AI 根据项目 README 整理，以原仓库为准。