- MXFP4/MXFP8 Quantization — Running LLMs Locally
MXFP4/MXFP8 is the new 4-bit quantization standard for LLMs. Enables 120B-param models on a single 80GB GPU via llama.cpp and vLLM.
3 min🇺🇸 English - 2026年の主要ニューラルプロセッシングユニット
Apple ANE、Intel NPU、AMD XDNA、Qualcomm Hexagon、Google TPU、Samsung Exynos、MediaTek APU — 主要NPUを総まとめ。
3 min🇯🇵 日本語
Quay lại