DevTrends开发者趋势
主题色

ssc-studio /

ai-model-gateway

AI Model Gateway 是一个 Go 编写的自托管 LLM 运营网关,用一个小型三平面运行时把模型路由、上游失败切换、配置发布、遥测、审计、Benchmark 和软件更新放在一起。它适合想把 OpenAI/Anthropic 兼容入口、密钥、策略和运行数据留在自己环境里的团队,也能帮助初学者理解 AI 网关、可观测性和运维控制台的完整实现。 亮点 解决上游不稳定:支持模型/Provider 路由、fallback、健康探测和回…

DT研究与学习DT安全与测试DTAgent 能力扩展DTAgent 管理与编排DTLinuxDTClaude CodeDTCodexDTOpenClaw

产品配图

关于

AI Model Gateway 是一个 Go 编写的自托管 LLM 运营网关,用一个小型三平面运行时把模型路由、上游失败切换、配置发布、遥测、审计、Benchmark 和软件更新放在一起。它适合想把 OpenAI/Anthropic 兼容入口、密钥、策略和运行数据留在自己环境里的团队,也能帮助初学者理解 AI 网关、可观测性和运维控制台的完整实现。 亮点 解决上游不稳定:支持模型/Provider 路由、fallback、健康探测和回环检测,上游接口抖动时可以自动切到备用模型。 自托管三平面架构:aigw supervise 拉起 data/control/telemetry 三个运行面,便于学习网关运行时拆分。 OpenAI/Anthropic 兼容入口:支持 Chat Completions、Responses、Anthropic Messages 等常见协议,方便 Codex、Claude Code、OpenClaw 等本地工具统一接入。 运维闭环完整:Admin UI 提供 Overview、Monitoring、Benchmark、Ops、Config、Logs,覆盖状态、流量、成本、审计、诊断、发布和回滚。 模型 Benchmark:支持 exact、judge、JSON、tool、stream 等评分模式,用真实请求比较不同模型效果。 软件内部更新:最新版本支持在 Admin Ops 和 aigw update 中检查 Release、下载校验、dry-run、本地应用和回滚。 安全与稳定性:包含 SSRF 防护、DNS pinning、限流、请求缓存、manifest 校验、更新包解压大小限制。

收录记录

  1. HelloGitHub·用户投稿

    2026年5月22日 · 1 次收录

讨论这个产品