オフラインAI

llama.cpp v0.6のツールチェーン更新により、Snapdragon環境でのローカルLLM推論速度が劇的に向上。コンパイラフラグ見直しでCPU全機能を活用し、ARMデバイスのパフォーマンス底上げを実現。詳細と設定手順を解説。