MIT CSAILのRikiya Takehi、Jayden Teoh、Alex Zhang、Omar Khattabの4氏は2026年11月2日、フロンティアLLMのGPT-6 Astraがニューラルネットワークの重みを直接読み書きする「Weight-Space Programming」の初期実験結果を発表しました。AstraはQwen3.5-0.8Bの重みの0.016%を勾配なしで編集し、MATH-500を7.9%から48.1%に引き上げました。Qwenは、Alibaba Cloudが開発し重みを公開している大規模言語モデルのファミリーです。
何が新しいか
研究チームはこの手法を「Weight-Space Programming」と呼んでいます。汎用LLMが自然言語の目標に沿って重みを直接読み書きし、オプティマイザーや勾配降下法を介しません。環境からのフィードバックを使わない場合もあります。Astraには学習ループを書かせず、ネットワークの各部分が何を計算しているか、あるいは何を計算すべきかを推論させ、その結果に基づいて重みを変更させます。
実験は3つの能力に分かれます。
- 読む: ゲーム用ネットワークが学習したゲーム、拡散モデルが生成する図形、小規模言語モデルの学習言語を重みから識別する
- 直す: 物理制御タスクで失敗するネットワークや、Qwen3.5-0.8Bを修正する
- 書く: MinAtarのゲーム3種や囲碁をプレイするネットワークをゼロから作成する
研究チームによると、Astraがゼロから作成した小規模なゲーム用ネットワークは、PPOで1億ステップ学習したネットワークを上回るプレイを見せました。
主な結果
| 実験 | 対象 | 条件 | 結果 |
|---|---|---|---|
| ゲーム識別 | MLP 500→32→32→5（17,253重み） | 重みをテキストで渡し、ゲーム名は提示しない | 4ネットワークすべてで正解（例: Breakoutを確信度99%） |
| 拡散モデル識別 | DDPM、MLP（23,824重み） | ツール使用とフォワードパスを禁止 | 円・三角・四角を識別（塗りつぶし図形を輪郭として描画） |
| 言語モデル中間層 | 7.2Mパラメータの文字レベルTransformer | 入力層・出力層を除いた4ブロックのみ、実行は禁止 | 3モデルとも2回の試行すべてで言語を正解し、コピー用ヘッドをすべて特定 |
| 制御タスク修正 | 学習済み方策 | 1回の編集で重みの3.5%を変更 | 成功率0%→100% |
| Qwen3.5-0.8B改善 | Qwen3.5-0.8B | Pythonカーネル内で編集、勾配なし | MATH-500 7.9%→48.1%、IFEval 3倍 |
実験条件の詳細
ゲーム識別では、Breakout、Pong、Pac-Man、Freewayを10×10グリッドで独自に再現し、PPOで10億ステップ学習しました。4ゲームとも入力チャネル、行動、ネットワーク次元は同一です。Astraは第1層で各入力チャネルの重みが集中する位置（Breakoutならエージェントの重みが最下行に並ぶ）と、出力層が区別する行動から判断しました。
言語モデル実験では、Pythonコード、ローマ字表記の日本語文学（青空文庫）、英語Wikipediaでそれぞれ10億文字を学習した、4層×6ヘッド・幅384（716万重み）のモデルを使いました。AstraはPythonで最大100回まで重みを解析できますが、ネットワークや層をいかなる入力に対しても実行できず、検索も使えません。Astraが特定したコピー用ヘッド（Pythonでは2.1、3.1、3.5）は、モデルを実行して測定した正解とすべて一致しました。
Qwen3.5-0.8Bの修正
Astraは、Qwen自身のモデルカードが警告している推論ループの原因となる重みの問題を特定し、重みの0.016%を編集して修正しました。編集前後で同じサンプリング設定を用いて評価しています。数学向けの修正は指示追従にもそのまま汎化し、IFEvalのスコアを3倍に引き上げました。研究チームは、AdamやMuonのような記号的オプティマイザーに代わり、重みについて推論するLLMがネットワークを最適化するようになると述べています。
まだコメントはありません。