| | | 「这是我写过最疯狂的代码之一。」 本周一，AI 领域大神 Andrej Karpathy 发布了自己的最新开源项目，瞬间引来了整个社区的关注。 这个名为 nanochat 的项目据说可以教你从零开始，以 100 美元的成本自建 ChatGPT。它覆盖 LLM 的训练和推理，只要跟着学就可以了解构建大模型的所有步骤 了。 总共是 8000 行代码，在 GitHub 上放出不到 12 个小时，star 量就已经超过 4500： GitHub 链接：https://github.com/karpathy/nanochat 与 Karpathy 之前发布的 nanoGPT 仓库（只覆盖了预训练阶段）不同， nanochat 是一个从零开始实现的、极简但完整的 ChatGPT 克隆版训练 / 推理全流程项目， 所有内容都集中在一个依赖极少、结构干净的代码库中 。 你只需要启动一台云 GPU 机器，运行一个脚本，大约 4 小时后就可以在 ChatGPT 风格的 Web 界面里和你自己的 LLM 聊天。 仓库大约 8,000 行代码 ，但已经实现了以下全部功能： 使用全新的 Rust 实现训练分词器。 在 Fi ...