DevTrendsDeveloper trends
Accent color

tanxiansheng221 /

aimstack-sanzhidiji

这是什么 一套完全从零自研的本地 AI 全栈:推理引擎、插件总线、爬虫、知识库、Web UI、训练管线,全部手写,AGPL-3.0 开源。没有 llama.cpp、没有 PyTorch(训练对账用完即弃,产物零外部运行时)、没有任何第三方依赖——每一层都是可审计的纯 C / 纯 stdlib 代码。 我们做了什么 纯 C 推理引擎:三值量化核(1.58-bit)+ SIMD 快路径,权重自定义 2-bit 打包格式(.aimw) 权重转…

LanguagePythonDTResearch & learningDTSecurity & testingDTContent / resourceDTSkill / pluginDTLinuxDTWebDTWindowsOriginalbitnetOriginalcpuOriginalfrom-scratchOriginalinference-engineOriginalknowledge-base

About

这是什么 一套完全从零自研的本地 AI 全栈:推理引擎、插件总线、爬虫、知识库、Web UI、训练管线,全部手写,AGPL-3.0 开源。没有 llama.cpp、没有 PyTorch(训练对账用完即弃,产物零外部运行时)、没有任何第三方依赖——每一层都是可审计的纯 C / 纯 stdlib 代码。 我们做了什么 纯 C 推理引擎:三值量化核(1.58-bit)+ SIMD 快路径,权重自定义 2-bit 打包格式(.aimw) 权重转换器:微软 BitNet 官方 gguf → .aimw,一条命令完成 插件总线:约 100 行 C 实现,caps.json 注册表 → 拉起 Python 插件 → JSON 信封通信;模型不感知插件,确定性路由决定调用 多引擎爬虫:bing/百度/360 并行 + Edge 渲染级联(JS 重站点自动升级渲染),robots.txt 遵守 + 质量五信号闸(残文长度/壳密度/句子结构/信息密度/菜单味),fail-closed 知识库:FTS5 全文索引 + 查重闸,中文维基 dump 自建(CC-BY-SA 署名) 本地 Web UI:纯 stdlib,127.0.0.1:8600,对话直答 / 知识库引答 / 联网搜索→爬取→入库→引答全链路 训练管线:无自动微分训练栈(手写反向传播,29 参数 selftest 对账相对误差 5.7e-7)、十科课程生成器、语料构建器 117 章研究日志:SIMD 逐位对账、投机解码熔核、负面结果档案全部公开 实测结果 | 项目 | 数字 | |---|---| | 三值核 SIMD 快路径 | 85.53 tok/s(从 2.08 优化 41 倍) | | BitNet b1.58-2B-4T 推理 | 3.20 tok/s(双工人;串行 1.99) | | 权重体积 | 0.87 GB(.aimw 格式) | | C/NumPy 逐位对账 | 全绿(差一个 bit 不许提交) | | HF 贪心解码对账 | 前 9 token 逐位一致 | 测试配置(就是一台 2018 年的老笔记本) | 部件 | 规格 | |---|---| | CPU | Intel Core i7-7500U @ 2.70GHz(2 核 4 线程,低压 U) | | 内存 | 8GB DDR4-2133 单通道 | | GPU | GeForce 940MX(太弱,弃用——整套栈纯 CPU) | | 系统 | Windows | 优势 1. 断供免疫:全栈自研零第三方依赖,断网可运行、自主可服务,关键路径全部 vendor 进自家仓库 2. 全层可审计:引擎到 UI 每一层一个下午能读完,bug 可定位 3. 硬件门槛极低:2018 年双核低压 U 就能跑 2B 模型,多核/AVX-512/大内存机器欢迎帮忙测上限(我们没条件验证) 4. 训练资产全公开:课程生成器、语料构建器、正负面结果一起发——负面结果档案可能是仓库里最值钱的部分 5. 诚实文化:自研分词器未完成全量验证就明说,第三方权重配套微软官方分词器 诚实边界 2B 是这套硬件的舒适上限 自研 152M 模型还在训练(免费云容器),权重未发布,管线与证据全公开 Windows 优先(渲染级联用 Edge),Linux 编译通过、级联需装 Chromium 7 分钟演示视频在 README 顶部(实机录屏:对话 / 知识库引答 / 联网全链)。AGPL-3.0,研究文档 CC-BY-NC,微软权重 MIT 归属声明见 NOTICE.md。

Discovery history

  1. 中国独立开发者·程序员版

    Nov 15, 2026 · 1 observations

  2. 阮一峰周刊·用户投稿

    Nov 15, 2026 · 1 observations

Discuss this product