Mac M4

ハードウェア

llama.cpp b9551 完全版:KVキャッシュ最適化で推論速度劇改善

llama.cpp b9551 がリリース!PR#24277 の KV キャッシュ最適化により、メモリコピーを回避して推論速度と VRAM 効率が劇的に向上。長文生成や大規模モデルのローカル運用に必須のアップデート内容を徹底解説。今すぐチェック。