qwen3.8-flash-next-in-c

关于

这是一个专为 Qwen3.8-Flash-Next 打造的原生 C 语言推理引擎。该模型在当前 Artificial Analysis Intelligence Index 中得分 56，是 200B 以下最强模型。没有 GPU 的用户也能在一台笔记本上运行 125B-A6B 主模型和 51B PLE，并使用终端聊天或 OpenAI 兼容本地接口。 亮点 单颗 Intel i5-1340P 笔记本 CPU 的 batch-4 精确验证吞吐最优达到 9.89 token positions/s，接近 10 token/s；常驻单会话聊天最优 5.03 token/s。最低 8 GB 内存可运行且会自动启用低内存路径；2,048 上下文、19-token 输入加 16-token 输出实测 1.64 token/s、峰值 596 MiB。 基准只有在 4 个 greedy token ID 和最终 248,320 维完整 logits 与逐 token 参考结果全部逐字节一致时才报告速度。 原生实现 51B PLE、四路 Hyper-Connection、Gated DeltaNet、QSA 与 512 专家 MoE，无需 GPU、CUDA、Python、PyTorch、权重转换或外部推理引擎。 快速开始优先从 ModelScope 断点续传并校验固定 GGUF，下载完成后直接进入聊天。

收录记录

1. HelloGitHub·用户投稿

   2026年9月5日 · 1 次收录