Vulkan

ハードウェア

Vulkan 1.4.352新拡張でNVIDIA GPU推論性能が劇的に向上?検証

Vulkan 1.4.352がリリースされ、NVIDIA独自拡張「cooperative_matrix_decode_vector」が追加されました。ローカルLLM運用でボトルネックだったGPU演算性能がどう変わるか、Ollamaやllama.cpp環境での検証結果とベンチマークデータを詳しく解説します。
ハードウェア

Intel Arc Vulkan、Descriptor Heaps対応でArc A770のVRAM効率を改善

Intel Arc GPUのVulkanドライバ「ANV」が待望のDescriptor Heaps対応!VK_EXT_descriptor_heap拡張機能の実験的サポートにより、ローカルLLM推論のVRAM効率化が実現します。8ヶ月の開発期間を経てマージされた最新情報を徹底解説。Intel Arcユーザー必見の効率化テクニックを詳しく紹介します。