基盤モデルをゼロから構築#
LLMをゼロからトレーニングしたい？ Marin は基盤モデルの研究・開発のためのプログラム、ソフトウェアプラットフォーム、コミュニティです。
[!NOTE] 「嵐を恐れない、船の sailed を学んでいるから」 — ルイーザ・メイ・オルコット。Marinはオープン開発にコミットしています。
Delphi — スケーリングスイート#
- スケーリングレシピ — コンピュート予算をモデル構成にマッピング
- チェックポイント — Hugging Faceで公開
- スケーリング則 — 小さなモデルから大きなモデルを予測
🔗 リポジトリ: github.com/marin-community/marin ↗