表示中 8 / 192 件年別アーカイブを見る →
- Apple Neural Engineでトレーニング — リバースエンジニアリングされたプライベートAPI
ANEプロジェクトはApple Neural EngineのプライベートAPIをリバースエンジニアリングし、CoreML・GPU・Metalなしで直接ANE上でトランスフォーマーをトレーニング可能に。
3 min🇯🇵 日本語 - MXFP4/MXFP8量子化 — ローカルLLM実行の新常識
MXFP4/MXFP8はLLM向け新4ビット量子化標準。120Bパラメータモデルが1枚の80GB GPUで動作、llama.cpp/vLLMが対応。
3 min🇯🇵 日本語 - 2026年の主要ニューラルプロセッシングユニット
Apple ANE、Intel NPU、AMD XDNA、Qualcomm Hexagon、Google TPU、Samsung Exynos、MediaTek APU — 主要NPUを総まとめ。
3 min🇯🇵 日本語 - vLLM — 高性能LLM推論エンジン
vLLMはPagedAttention、continuous batching、FP4量子化を備えたオープンソースLLM推論エンジン。単純なtransformersと比べ最大24倍高速。
3 min🇯🇵 日本語 - Durable Objects — Workers上のステートフル&リアルタイム
Durable Objectsを活用したステートフル開発:WebSocket、ゲームサーバー、分散協調、組み込みSQLiteストレージ。
22 min🇯🇵 日本語 - レートリミティング: APIのアルゴリズムと実装
トークンバケット、リーキーバケット、スライディングウィンドウなどの主要アルゴリズムと、Node.jsやCloudflareでの実践的な実装を解説。
9 min🇯🇵 日本語 - RTK: Rust Token Killer — AIトークンを最大90%削減
RTKはRust製のオープンソースCLIプロキシです。100以上の開発コマンド出力をフィルタリング・圧縮し、LLMコンテキストを劇的に節約します。
7 min🇯🇵 日本語 - Zig深層解説: Comptime、アロケータ、システムプログラミング
comptime、明示的アロケータ、隠れた制御フローのないZig言語を徹底解説。CやRustとの比較、Arenaパターン、実用例を紹介します。
8 min🇯🇵 日本語