DevTrends开发者趋势
主题色

lokic7123-star /

dsh-route-resilience

在大模型与 Agent 编排频繁使用的场景下,开发者经常面临 DeepSeek 等 API 的高频限流(HTTP 429)、服务器繁忙(HTTP 503)以及网络超时等问题,这往往会导致正在运行的 Agent 任务彻底中断。 dsh-route-resilience 是专门为 DeepSeek Harness(DSH,DeepSeek 官方开源的 Agent 编排与评估工具)开发的高可用与故障隔离插件。它允许开发者将多个 API Key…

DT数据与运维DT生活与娱乐DTAgent 能力扩展DTAgent 管理与编排DTSkill / 插件DTWebDTDeepSeek Harness

关于

在大模型与 Agent 编排频繁使用的场景下,开发者经常面临 DeepSeek 等 API 的高频限流(HTTP 429)、服务器繁忙(HTTP 503)以及网络超时等问题,这往往会导致正在运行的 Agent 任务彻底中断。 dsh-route-resilience 是专门为 DeepSeek Harness(DSH,DeepSeek 官方开源的 Agent 编排与评估工具)开发的高可用与故障隔离插件。它允许开发者将多个 API Key 或不同的提供商路由(如 DeepSeek 官方、硅基流动 SiliconFlow、火山引擎等)聚合成一个虚拟路由,并自动进行智能调度与无感容灾。 核心功能 1. 限流自动隔离(Quarantine):遇到 HTTP 429 或限流响应时,自动将当前路由隔离,根据 Retry-After 头或指数退避机制进行冷却,到期后自动恢复。 2. 鉴权/额度异常拉黑(Disable):如果遇到欠费(402)或 Key 失效(401/403),插件会永久禁用该路由,防止失效密钥污染整个模型组。 3. 保底复活机制(Fallback):在极端的全节点不可用状态下,自动强制复活最早冷却完毕的节点,避免任务发生无限等待或死锁。 4. 可视化状态面板:无需修改 DeepSeek Harness 核心源码,安装后直接在其 Models 设置页面底部注入直观的可视化 Web UI,用于实时监控路由健康状态(Active / Quarantined / Disabled)以及在线热更新 API 密钥。 对于正在基于 DeepSeek 跑 Agent 任务、经常被限流困扰的开发者而言,这是一个非常实用的稳定性补丁。

收录记录

  1. 阮一峰周刊·用户投稿

    2026年8月20日 · 1 次收录

讨论这个产品