上海AI実験室、744B MoEのエージェントモデル「Atria Dawn」を公開

スペック

総パラメータ744B
コンテキスト長512K(Atria Dawn、Atria Dawn FP8); 256K(Atria Dawn Preview、Atria Dawn Preview FP8)
重みの公開完全版およびPreview版のモデルをHugging FaceとModelScopeで公開
配布形式・量子化FP8(Atria Dawn FP8、Atria Dawn Preview FP8)
4bit量子化の目安メモリ約446.4GB(512GB以上のメモリで実行可能な目安)

メモリの目安はパラメータ数×0.6バイトの概算で、実際はコンテキスト長と実装で変わります

上海人工知能実験室(Shanghai Artificial Intelligence Laboratory)は、744BパラメータのMoEモデルGLM-5.2を基盤とするエージェントモデル「Atria Dawn」と、そのFP8量子化版をHugging FaceとModelScopeで公開しました。InternLMは同実験室がInternシリーズの大規模モデルを公開している組織で、GLMはZ.aiが開発するAIモデルのファミリーです。

何が新しいか

Atria Dawnは、継続的な環境理解、ツール利用、複数段階のタスク完了を求める研究・エンジニアリング用途を対象にしたエージェントモデルです。タスク目標と環境からのフィードバックを組み合わせ、問題分析、解決策設計、ツール利用、コード実装、実験実行、結果分析、失敗回復までのループを支援します。原文は「実行可能、検証可能、再現可能」な結果に導くことを目標に掲げ、科学の自動化やオフィス業務での一気通貫の成果物作成に重点を置くとしています。

扱う領域は次の4つです。

領域 内容
Discovery 証拠の検索・整理、ディープリサーチ、研究課題から実行可能な実験計画への落とし込み
Creation ソフトウェア、インタラクティブアプリ、ゲーム、データ可視化、機械学習システムの構築
Delivery 文書・データ・デザイン要件からレポートやプレゼンなどの構造化成果物への変換
Cybersecurity 認可された環境でのセキュリティ問題の分析、脆弱性の検証、修正適用、再検証

提供モデルと試し方

公開されたのは4種類のInstructモデルです。完全版のAtria-DawnとAtria-Dawn-FP8はコンテキスト長512K、Atria-Dawn-PreviewとAtria-Dawn-Preview-FP8は256Kです。Hugging Faceではinternlm/、ModelScopeではShanghai_AI_Laboratory/配下に置かれています。

APIリクエストではmodelの値にAtria-Dawnを指定します。

評価

上海人工知能実験室は、Atria DawnとAtria Dawn Previewを検索、コーディング、ツール利用、生産性、セキュリティのベンチマークで評価しており、結果の全体表は公式サイトの内容と一致するとしています。

この記事の固有名詞

コメント (0)

まだコメントはありません。

コメントを書く

2000文字以内