minimind

About

从零开始训练小型语言模型。这不仅是一个微型语言模型的实现，更是一份入门 LLM 的教程，旨在降低学习和上手 LLM 的门槛。它提供了从数据预处理到模型训练、微调和推理的全流程代码和教程。最小模型仅 0.02B 参数，可在普通 GPU 上轻松运行。

Discovery history

1. HelloGitHub·月刊推荐

   Jan 27, 2025 · 1 observations

2. GitHub Trending

   Sep 1, 2026 · 1 observations