ローカルLLM
Perplexity
AIとウェブ検索を組み合わせ、質問に対する回答を会話形式で示す検索サービス。Perplexityが提供し、回答には出典へのリンクを付け、利用者が根拠を確認できるようにする。複数社のAIモデルを統合し、通常の検索に加え、より詳しい調査などの機能を用意している。
関連記事
ローカルLLM
llama.cpp b12251、SYCL向けデバイス側MoEスケジューラーを追加
ハードウェア
NVIDIA Vera CPU、最速x86比で電力当たりエージェント数1.6倍
研究
ゲート型LLMの極小埋め込みが学習を停止、untiedの52.6%で確認
研究
ThinkBit、2ビット化したQwen3 14Bを3.74 GBでMATH-500 94.8に
ローカルLLM
llama.cpp b11821、Intel XMX向けSYCLマルチカラム処理を刷新し+5.9%
モデル
NVIDIA、120BのNemotron 3.5 Super VLと24GB向けBoltを公開
ツール・開発
Microsoft、Windowsをハイブリッドインテリジェンス基盤に MXCを一般提供
ローカルLLM
llama.cpp、b11454でK2 HorizonのdenseとMoVAに対応
ハードウェア
openTPU、Kintex-7カードでQwen3.5など10モデルをビット一致で実行
ローカルLLM
GGUFのQ2_K量子化、2B未満モデルの希少語定義を最大67%低下
研究
WUSH-KV、データ適応型変換で2-bit KVキャッシュ量子化を実現
ツール・開発
Perplexity、Mac向け推論サーバ「lily」を公開
関連ヘッドライン(過去7日)
関連ヘッドラインはありません
