ローカルLLM
AMD
CPU、GPU、FPGA、アダプティブSoCなどの半導体製品を開発する企業。1969年にシリコンバレーで創業した。サーバー向けのEPYC、PC向けのRyzen、グラフィックスのRadeon、GPUアクセラレーターのInstinctなどを、データセンター、組み込み、ゲーム、PCの各市場に提供している。
関連記事
ハードウェア
vLLM-Omni、MiniMax H3-ImageをVera Rubinで4K生成0.87秒
ハードウェア
AMD、MI300X 8基でGLM-5.3-FlashのTP8とDP8+EP8を比較
ハードウェア
AMD、MI355X 8基でGLM-5.2 FP8の64K推論を629K tok/sに高速化
モデル
Liquid AI、活性2.3BのMoE「LFM2-24B-A2B」を公開
ハードウェア
Google Cloud、第8世代TPUにTPU 8txと8i Maxを追加し4システム体制に
ハードウェア
DeepX、DX-M2をテープアウト 100B級LLMを5W未満で推論
ハードウェア
AMD、MONAILabel 0.8.5をInstinct対応 推論はCPU比131倍
ローカルLLM
llama-modchip、GPUなし64GB RAMで284BのDeepSeek-V4-Flashを実行
研究
NVIDIAとInferact、非同期RL手法REINFORCE Zeroで同期比2.40倍
ハードウェア
AMD、GPUプロファイリング連載第7回でPyTorch学習を解析
ツール・開発
vLLM、Kimi K3.1 Proを初日対応 GB300でTTFT最大1.69倍
ハードウェア
MI355XでGLM-5.2-MXFP4のAgentXスループットが1.72倍に
モデル
Liquid AI、1GB未満で動く350Mモデル「LFM2.5-350M」を公開
モデル
Liquid AI、1GB未満で動く「LFM2.5-1.2B-Instruct」を公開
モデル
Liquid AI、1GB未満で動く推論モデルLFM2.5-1.2B-Thinkingを公開
ハードウェア
AMD、TeaCacheでRyzen AIのNPU上のSD3/3.5画像生成を高速化
ハードウェア
AMD、Radeon AI PRO R9700S最大4台でxDiT拡散推論を分散する手順を公開
ハードウェア
AMD、MI300Xで連続ロード13個超の発行ストールを検証
ローカルLLM
openbmb、MiniCPM-V 4.7 35B-A3Bのint4版をHugging Faceで公開
ハードウェア
AMD、MONAI Model Zoo 5バンドルをInstinct GPUで検証済み推論に対応
ツール・開発
vLLM、1兆パラメータのMistral Large 4をDay-0でサポート
ローカルLLM
AMD、MI308X 24基でDeepSeek-V4 FlashのRLを完走
政策・セーフティ
Cloudflare、Workers AIのGLM-5.3で155件のKVキャッシュ露出を公表
ハードウェア
AMD、RDNA 4向けFP8 GEMMで小形状はhipBLASLt比+23.2%
ツール・開発
vLLM、MiniMax-M3.1-FlashをDay-0対応 GB300で418.9tok/s
ハードウェア
AMD、MI355XでWorld Action Modelの推論を最大約25倍高速化
ハードウェア
PFNとTenstorrent、NEDOの光電融合xPU開発に採択
ハードウェア
AMD、RDNA 3/4向けFP16 GEMMを8段階で最適化する手法を解説
モデル
OpenBMB、初のMoE版MiniCPM-V 4.7-35B-A3Bを公開
モデル
Unsloth、Nemotron 3.5とMuse Spark Open 816Bのローカル実行に対応
ツール・開発
vLLM、816B MoEのMuse Spark Openを公開初日から対応
モデル
Liquid AI、活性2BのMoE推論モデル「LFM2.5-24B-A2B」を公開
ツール・開発
AMD、MI300X単一ノードでGLM-5.3-FP8をDP8+EP8提供する手順を公開
ローカルLLM
KoboldCpp 1.123、Qwen Image 2.1対応と公式サイトkoboldcpp.net開設
ローカルLLM
Janas-LLM、32GBノートで48GBのQwen3-Next-80Bを24tok/s生成
ハードウェア
NVIDIA、Vera Rubinのラック設計をOCPへ提供 MGX 1.2は250kW対応
ツール・開発
Unsloth、ブラウザー操作とQwen-Image-2.1-Turboを追加
ハードウェア
AMD、MI455XはMI355X比で最大34倍の推論スループットと公表
ハードウェア
AMD、Instinct GPUの第三の性能指標「TAF」を解説
ツール・開発
Unsloth、内蔵ブラウザーとEmbeddingGemma 2対応を追加
ツール・開発
AMD、ROCm 10.1でhipFILE強化とWSL2対応・LLVM 24移行
ローカルLLM
Strata、125BのQwen3.8-Flash-NextをRTX 5070で94 tokens/s
ローカルLLM
Redis作者のds4、DeepSeek V4 FlashをM5 Maxで39.4 t/s
ローカルLLM
Janus、Vulkan対応のGo製GGUFサーバーをMITで公開
ハードウェア
AMD、Strix HaloミニPCでVLAモデルMolmoAct2をROCm実行
ハードウェア
AMD、組み込み開発向けエージェンティックAI「AMD Ross」を提供開始
ツール・開発
Magnitude、端末上でカーネル調整しllama.cpp比最大2倍の推論
ビジネス
AMD、World Labsの買収を発表 AIモデル研究の知見を取り込む
ハードウェア
AMD Quark、Strix HaloでQwen3.6-35B-A3Bを70GBから21GBへ量子化
関連ヘッドライン(過去7日)
- ハードウェア
AMD、MLPerf Training v6.1で4回連続提出、Primus導入AMD ROCm Blogs
- 研究
AMD、RCCLとrocSHMEMでGPU開始型DMAコピーエンジンに対応AMD ROCm Blogs
- ハードウェア
AMD、Instinct MI450XをHelios向けに発表、MI455X推論性能も公開newsroom.amd.com
- 研究
- ハードウェア
AMD Instinct MI355XでGLM-5.2をPrefix Caching対応のEvalScopeベンチマークで高速化AMD ROCm Blogs記事
