Edge0は2026年11月12日、総パラメータ145BのEdge0-145BとEdge0-120Bを、統合推論フレームワークおよびデプロイツールとあわせてオープンソース化しました。Edge0によると、Edge0-145Bは内部測定でピークメモリ29GB、decode 80+ tokens/sを記録し、MacBook Proのような互換性のある個人用ノートPCで動作します。
何が新しいか
Edge0-145Bの狙いは、メモリ、帯域幅、電力の制約で個人用ハードウェアでは動かしにくかった100B超のモデルをローカルで動かすことです。そのためにEdge0はモデル設計と推論エンジンを一体で設計しており、原文は次の4層で説明しています。
- アーキテクチャ: 64個の専門家ごとに2つの大規模行列を共有し、各専門家は差分を表す小さなパラメータだけを持ちます。145Bのうち、推論ステップごとに計算に加わるのは約10Bです。
- 学習: クラウド向けモデルを後から圧縮・枝刈りするのではなく、最初からオンデバイス用のアーキテクチャで学習しています。
- ロード: GPUメモリ、システムメモリ、SSDの3層で読み込みと計算を重ねて処理します。頻繁に使う「hot experts」はGPUメモリに常駐させます。約40GBの専門家ライブラリはシステムメモリに置き、必要に応じてGPUメモリへ移します。約48GBの語彙データはSSDに置き、必要なときに読み出します。
- スケジューリング: キャッシュ済みの専門家をGPUが計算し、残りの処理をCPUが並行して担います。さらにspeculative decodingで複数の候補トークンを一度に検証します。
性能とベンチマーク
以下のメモリと速度の数値は、報告された設定とEdge0の内部テストに基づきます。
| 項目 | Edge0-145B |
|---|---|
| ピークメモリ | 29GB |
| prefill | 1,100+ tokens/s |
| decode | 80+ tokens/s |
| 通常消費電力 | 約120W |
| コンテキスト長 | 128K–256K |
ベンチマークスコア(Edge0の内部評価)は次のとおりです。
| モデル | DeepSWE 1.1 | Terminal-Bench 2.1 | HLE | GPQA-Diamond | IFBench | AA-LCR |
|---|---|---|---|---|---|---|
| Edge0-145B | 64.6 | 86.52 | 35.4 | 90.4 | 80.6 | 79.3 |
| Edge0-120B | 53.6 | 81.3 | 31.0 | 87.4 | 79.3 | 81.0 |
| Qwen3.8-Flash-Next | 58.7 | 83.3 | 35.9 | 91.7 | 81.3 | 79.1 |
| DeepSeek-V4-Flash-0731 | 54.4 | 82.7 | 33.8 | 90.8 | 79.2 | 79.7 |
| Claude-Opus-4.6 (Max) | — | 78.2 | 40.0 | 91.3 | 62.5 | 78.0 |
6ベンチマークの平均は、Edge0-145Bが72.8、Qwen3.8-Flash-Nextが71.7、DeepSeek-V4-Flash-0731が70.1です。メモリは、Edge0-145Bの29GBが測定値であるのに対し、比較対象の約70GB(Qwen3.8-Flash-Next)と約87GB(DeepSeek-V4-Flash-0731)は標準4-bit展開時の推定値です。Edge0はこの結果をもとに、48GBのノートPCでローカル利用できるとしています。
提供物と動作要件
Edge0はモデルウェイト、推論フレームワーク、Edge0 Appを提供しています。実行には、MacBook Proなど互換性のある個人用ノートPCが必要です。Edge0は、推論フレームワークとデプロイツールを使えば結果の再現、評価、ファインチューニング、製品への組み込みができると説明しています。完全な評価設定、ハードウェア環境、再現手順は技術レポートで公開するとしています。
ローカル推論ではクラウドモデルのトークン料金やAPI料金がかからず、データをコンピューター内に留められ、中核機能はオフラインでも動作します。ハードウェアと電力の費用はかかります。用途としてEdge0は、コードの作成・実行・デバッグ、ツール呼び出し、スクリーンショットによる結果確認を繰り返すローカルのエージェントワークフローを挙げています。
まだコメントはありません。