AllModels、abliterated版DeepSeekを5プロバイダー束ねるルーター提供

AllModelsは、非拒否化(abliterated)モデル向けの推論ルーターを提供し、DeepSeek V4.1 Flash Abliteratedでは5つの推論プロバイダーを1つのAPIエンドポイントから使えるようにしました。Hacker Newsでは83ポイント・87コメントを集めています。

何が新しいか

AllModelsは複数のプロバイダーを1つのルーティング層に統合します。原文が挙げる機能は次のとおりです。

  • 自動フォールバック: プロバイダーが容量不足や利用不可の場合、モデルIDやアプリのコードを変えずに次の対象ルートへ切り替えます。
  • モダリティ別の振り分け: 画像・マルチモーダルのリクエストは画像を処理できるプロバイダーにのみ送り、テキストのリクエストは対象となるすべてのテキストルートを使えます。
  • 価格: プロバイダー価格を最新に保ち、最低価格の対象ルートへ振り分けられます。
  • ルーター側のWeb検索: 検索は推論プロバイダーではなくAllModels側で処理し、検索機能を持たないプロバイダーでも同じOpenAI互換の検索呼び出しとURL引用を返します。

掲載モデル

モデル モデルID 対応 備考
DeepSeek V4.1 Flash Abliterated deepseek/deepseek-v4.1-flash-abliterated Text、Image(対応ルートのみ)、Reasoning プロバイダー数5
GLM 5.3 Abliterated z-ai/glm-5.3-abliterated Text、Reasoning 複数プロバイダーが1つの公開モデルIDを共有

GLM 5.3はデフォルトのウォーターフォールで振り分けるほか、価格や制限を重視する場合はプロバイダーを明示的に選べます。AllModelsはDeepSeekとGLMを出発点とし、今後モデルを追加するとしています。

DeepSeekは杭州の深度求索が展開するAI開発企業・ブランドで、Z.aiはGLMモデル群を開発・提供する企業です。

試し方

AllModelsのAPIキーを取得し、OpenAI SDKのbaseURL(Pythonではbase_url)をhttps://api.allmodels.io/oaiに設定します。JavaScriptでは環境変数ALLMODELS_API_KEYをapiKeyに渡し、client.responses.createでmodelにdeepseek/deepseek-v4.1-flash-abliteratedを指定します。Pythonではfrom openai import OpenAIで同様に呼び出します。

API エンドポイント Web検索の指定
Chat Completions POST /oai/chat/completions web_search_options: { search_context_size: "medium" }
Responses POST /oai/responses tools: [{ type: "web_search" }]

Chat Completionsはmessages、ストリーミング、function toolsに対応し、Responsesはストリーミングイベント、reasoning制御、structured output、カスタムツール、hosted web searchに対応します。

abliteratedモデルの位置づけ

AllModelsの説明では、abliteratedモデルは学習済みの拒否挙動を低減・除去するよう重みを変更したモデルで、ほぼどのプロンプトも拒否しません。セキュリティ研究、レッドチーミング、安全性テストに使える一方、有害・安全でない出力を生成しやすいため、管理された環境で適切な安全対策を講じて利用するよう求めています。

この記事の固有名詞

コメント (0)

まだコメントはありません。

コメントを書く

2000文字以内