从零构建基础模型#
想从零训练LLM？Marin 是一个基础模型研究和开发的计划、软件平台和社区——覆盖从数据整理到评估的整个流程。
[!NOTE]
“我不害怕风暴，因为我在学习如何驾驶我的船。” ——路易莎·梅·奥尔科特。Marin致力于开放开发——从原始数据到最终模型的每一步都有记录。
Delphi — 扩展套件#
- 扩展配方 — 将计算预算映射到模型配置
- 检查点 — 在Hugging Face上可用
- 扩展定律 — 从小模型预测大模型
🔗 仓库: github.com/marin-community/marin ↗