agentgate
agentgate guides/local-ai-gateway

本地 AI 网关

一个管理模型请求的本地 AI 网关。

AgentGate 跑在你的机器上,给 AI 应用一个本地入口,用于 Provider 路由、协议转换、请求追踪和配置回滚。

直接答案

简短答案:AgentGate 跑在你的机器上,给 AI 应用一个本地入口,用于 Provider 路由、协议转换、请求追踪和配置回滚。

适合场景

  • 你想让 AI 应用保持一个稳定的本地入口。
  • 你需要切换 Provider、查看请求日志或统计成本。
  • 你希望客户端配置可以安全恢复。

不适合场景

  • 你只用一个客户端、一个 Provider,且配置长期不变。
  • 你不需要日志、故障转移、成本统计或配置回滚。

本地 AI 网关做什么

它给 AI 应用一个稳定的本地入口,再决定每次请求应该交给哪个上游 Provider 和模型处理。

为什么是 AgentGate

AgentGate 重点做客户端兼容、本地日志、Provider 故障转移、多 key 轮询和可恢复配置,而不是把所有东西藏在托管服务后面。

适合谁

如果你同时使用多个 AI 客户端、经常比较 Provider、需要请求历史,或想更安全地切换模型后端,AgentGate 就适合你。

agentgate --faq

常见问题。

AgentGate 只给编程工具用吗?

不是。当前对几个常见客户端支持最好,但目标是更广泛的 AI 应用请求路由。

AgentGate 卖 API key 吗?

不卖。你使用自己的 Provider key,并在本地运行网关。