robertn702 /
我一直把编程 Agent 的推理强度开在 high，连改名这种小事也是，用量消耗得很快。但降到 medium 又会出错：在一个较难的 pytest bug 上，GPT-6 Astra 用 medium 5 次只解决了 1 次。 所以我做了 reasoning-router。编程 Agent 每次请求模型之前，它先让一个小型分类器（默认是 TypeSafe 的 Jev，也可以换成 Cloudflare Clef、Laya 等）判断这一步需…
我一直把编程 Agent 的推理强度开在 high，连改名这种小事也是，用量消耗得很快。但降到 medium 又会出错：在一个较难的 pytest bug 上，GPT-6 Astra 用 medium 5 次只解决了 1 次。 所以我做了 reasoning-router。编程 Agent 每次请求模型之前，它先让一个小型分类器（默认是 TypeSafe 的 Jev，也可以换成 Cloudflare Clef、Laya 等）判断这一步需要多少推理强度，再把结果加到请求里。 切换推理强度通常会让 prompt cache 失效。它用 OpenAI 的 configurationupdate 和 Anthropic 的对话中 effort 消息来改强度，之前的上下文不变，所以缓存还能命中。 在 10 个 SWE-bench Verified 问题上，路由和固定 high 都解决了 44/44，路由少用约 14% 的输出 token，耗时少约 9%。只测了一个模型和一组任务，结果仅供参考。 支持 OpenCode 插件、Pi 扩展，以及可接入 Codex CLI 的本地代理。目前是 alpha 版本，MIT 协议。
Discuss this product