ローカルLLMNEW
Llama
Metaが開発し、モデルの重みを公開する大規模言語モデルのファミリー。開発者や研究者、企業が生成AIの実験やアプリケーション開発に利用できる。公式リポジトリにはモデルカード、利用許諾、重みとトークナイザーの取得方法、モデルを実行するための手順がまとめられている。
関連記事
ローカルLLM
Superfluid公開、8エージェント稼働中でもチャット初トークン1.5秒
ローカルLLM
IBM Granite、granite-switch-4.1-30bのGGUF版をHugging Faceで公開
ローカルLLM
IBM、granite-switch-4.1-8bのGGUF量子化版をHugging Faceで公開
ツール・開発
llama.cpp、v1.0.0をリリース ナイトリービルドはb12359
政策・セーフティ
LLM17モデルの疼痛管理監査、1,386比較で人種・性別差は検出されず
ローカルLLM
inclusionAI、4B意思決定VLM「SingVL-4B」のGGUF版を公開
ローカルLLM
smolmaxxing、TVボックスで16B MoEを5.1 tok/s、旧iPadでも実行
ローカルLLM
openbmb、MiniCPM-V-4.7-35B-A3BのGGUF版を16種の量子化で公開
モデル
Liquid AI、活性2.3BのMoE「LFM2-24B-A2B」を公開
ローカルLLM
inclusionAI、ZoomGain-4BのGGUF版を3精度で公開
ローカルLLM
inclusionAI、ZoomGain-9BのGGUF版をFP16・Q8_0・Q4_K_Mで公開
ローカルLLM
llama.cpp、b12274でFP8 KVキャッシュに対応
ローカルLLM
llama.cpp b12251、SYCL向けデバイス側MoEスケジューラーを追加
ローカルLLM
huihui-ai、Qwen3.6-35B-A3Bの非検閲MTP版GGUFを公開
ハードウェア
DeepX、DX-M2をテープアウト 100B級LLMを5W未満で推論
ローカルLLM
llama-modchip、GPUなし64GB RAMで284BのDeepSeek-V4-Flashを実行
ローカルLLM
llama.cpp b12191、MoEキャッシュミスの一部をCPUで計算
モデル
OpenBMB、1.3BのOCR特化モデルMiniCPM-OCR 1.0を公開
モデル
ByteDance Seed、連続潜在LM「Cola2」を公開 8タスク平均60.10
ツール・開発
Hermes Agent v0.23.0、単一ゲートウェイ化とWebappを追加
ローカルLLM
llama.cpp v0.9.0、FP8 E4M3量子化と4つの新アーキテクチャに対応
ローカルLLM
Bevy、MoEのエキスパートオフロード推論でllama.cpp比最大3.46倍
研究
Anthropic、LLM推論のzk証明「FlashProve」を公開 H100で約110tok/s
モデル
Liquid AI、1GB未満で動く350Mモデル「LFM2.5-350M」を公開
モデル
Liquid AI、1GB未満で動く「LFM2.5-1.2B-Instruct」を公開
モデル
Liquid AI、1GB未満で動く推論モデルLFM2.5-1.2B-Thinkingを公開
ローカルLLM
openbmb、MiniCPM-V 4.7 35B-A3Bのint4版をHugging Faceで公開
ローカルLLM
bootgpt、512バイトのMBRから11.5KBの言語モデルを起動
ローカルLLM
llama.cpp b12031、OpenCLでIQ3_S/IQ3_XXSをAdreno向けに初期対応
ローカルLLM
Memdoor、Qwen3.8-27BチームでLiveCodeBench Hard平均9.8/10
ローカルLLM
llama.cpp b12005、OpenCLにq2_0初期サポートとAdreno最適化
ローカルLLM
inclusionAI、ZwZ2-4BのGGUF重みをFP16・Q8_0・Q4_K_Mで公開
ローカルLLM
huihui-ai、GLM-5.3のabliterated版を6.45GBのGGUFパッチで公開
ローカルLLM
llama.cpp、OpenCLでIQ2_S/XS/XXS量子化に初期対応
ローカルLLM
Unsloth、Mistral Large 4(1T-A52B)のNVFP4版を公開
ローカルLLM
Unsloth、1兆パラメータのMistral Large 4を公開 1-bit版は233GB
ローカルLLM
Mattt、Apple向けSwiftパッケージAnySpeechRecognizerとAnyDecisionModelを公開
ハードウェア
NVIDIA、RTX Sparkノート6社から発売 128GB統合メモリで2,599ドルから
ツール・開発
llama.cpp v0.8.0、LFM3ファミリーと/v1/realtime音声APIに対応
モデル
Ollama v0.40.12、Liquid AIのLFM3とd1 2Bを追加
ローカルLLM
Liquid AI、意思決定モデルd1-Omni-2BのGGUF版を公開
ローカルLLM
FrigadeHQ、ローカルLLMデスクトップアプリ「Hob」をMITで公開
ツール・開発
Unsloth Desktop、定期実行とMiniMax-M3.1-Flash 428Bに対応
ローカルLLM
huihui-ai、DeepSeek-V4.1-Flashのabliterated版GGUFを公開
ハードウェア
AMD、RDNA 4向けFP8 GEMMで小形状はhipBLASLt比+23.2%
ローカルLLM
llama.cpp b11821、Intel XMX向けSYCLマルチカラム処理を刷新し+5.9%
ツール・開発
LocalAI 4.12.0、211件のPRでWeb UI刷新と音声ストリーミング対応
ハードウェア
NVIDIA、GTC BerlinでDGX Spark 8台クラスタと新コーディングLLMを発表
ローカルLLM
Liquid AI、LFM2.5-24B-A2B用ドラフター664MBのGGUFを公開
関連ヘッドライン(過去7日)
- ツール・開発
llama.cppがInkling2テキスト・ビジョン対応を追加、GGUF変換も実装llama.cpp Releases
- ツール・開発
llama.cppのGemma4で思考中ツール呼び出しを許可、アンクローズド対応llama.cpp Releases
- ツール・開発
ggml-orgのllama.cppがv1.0.0を公開llama.cpp Releases記事
- モデル
LiquidAI、llama.cpp対応の音声基盤モデルLFM2.5-Audio-1.5Bを公開Liquid AI (HF)
- ローカルLLM
bartowski/ZoomGain-9B-GGUFを公開、llama.cpp b12180で量子化bartowski (HF)
- ローカルLLM
bartowski/ZoomGain-4B-GGUFを公開、llama.cpp b12180で量子化bartowski (HF)
- ツール・開発
llama.cppがCUDAでOCP FP8対応を追加llama.cpp Releases
- ローカルLLM
ZoomGain-9BのGGUF版をllama.cpp用に公開inclusionAI (HF)記事
- ローカルLLM
ZoomGain-4BのGGUF版をllama.cpp用に公開inclusionAI (HF)記事
- ローカルLLM
llama.cppがFP8 KV-cacheサポートを追加llama.cpp Releases記事
