mattbusel /
一个 Rust 写的命令行和网页工具，它拦截大模型的流式输出，在每个 token 下面画出置信度条：哪些词模型很有把握，哪些是它在硬猜，一眼就能看出来。还可以在生成过程中改写 token，看模型接下来怎么“圆”回去。支持 OpenAI、Ollama、OpenRouter 等，也有不需要 API key 的本地模式。 亮点 置信度来自真实的 logprobs，拿不到概率的服务商就直接不显示，不会编一个数出来 可以把“每隔一个 token”…
一个 Rust 写的命令行和网页工具，它拦截大模型的流式输出，在每个 token 下面画出置信度条：哪些词模型很有把握，哪些是它在硬猜，一眼就能看出来。还可以在生成过程中改写 token，看模型接下来怎么“圆”回去。支持 OpenAI、Ollama、OpenRouter 等，也有不需要 API key 的本地模式。 亮点 置信度来自真实的 logprobs，拿不到概率的服务商就直接不显示，不会编一个数出来 可以把“每隔一个 token”反转或替换，直观地感受大模型是怎么一个词一个词往下接的 单个可执行文件，Windows / Linux 下载即用，macOS 用 cargo 一行安装；有中文 README 适合想搞懂大模型原理、做提示词调试，或者给别人演示“AI 其实也会心虚”的场景
Discuss this product