メモリ圧縮

LLMのメモリ消費を12.5倍圧縮し、精度96.88%を維持するXQuant技術を徹底解説。ローカル実行環境の限界を突破する衝撃の手法を詳しくご紹介。