llama.cpp b12031、OpenCLでIQ3_S/IQ3_XXSをAdreno向けに初期対応

llama.cppはリリースb12031(#31338)で、OpenCLバックエンドにIQ3量子化形式(IQ3_SとIQ3_XXS)の初期サポートを追加しました。Adreno GPU向けのGEMM/GEMV、DP4A、デコード最適化を含みます。

何が新しいか

これまでのOpenCL実装に、IQ3_SとIQ3_XXSの行列演算カーネルが加わりました。両形式とも同じ構成で、次の処理を実装しています。

項目	IQ3_S	IQ3_XXS
AOS行列ベクトル演算	追加	追加
SOA行列ベクトル演算	追加	追加
タイル化行列乗算	追加	追加
noshuffle GEMM/GEMV(Adreno向け)	追加	追加
DP4A(Adreno向け)	追加	追加
Adreno向けデコードと狭いバッチの最適化	追加	追加

作成者と開発体制

Adreno向けのnoshuffle GEMM/GEMV、DP4A、デコード最適化の各コミットには、共同作成者としてShaofei Qi(qti.qualcomm.com)が記載されています。全体の共同作成者としてLi He(qti.qualcomm.com)も名を連ねます。各コミットには「Assisted-by: Codex」の表記があります。CodexはOpenAIが提供するコーディングエージェントで、プロジェクト内のファイルを読み、コードを変更し、コマンドを実行して開発作業を進めます。