Apple、Macをローカル推論サーバーにする新アプリ「Harbor」を開発中

リーカーのAaron Perris氏によると、AppleはMacを「プライベートなAI推論サーバー」に変える新アプリ「Harbor」を開発しています。Thunderbolt 5で接続した複数のMacの統合メモリをプールし、単一マシンに収まらない大規模なオープンウェイトモデルを実行できるとしています。

何が新しいか

HarborはApple silicon上でオープンウェイトモデルをローカル実行するアプリで、データはハードウェアの外へ出ず、クラウドへ送信されないと説明されています。9to5MacのRyan Christoffel氏の記事は、Perris氏がXに投稿した内容を基に機能を紹介しています。主な機能は次の3点です。

• 数分でセットアップ: Thunderbolt 5経由でデバイスを自動検出してクラスターを形成します。手動設定、コマンドライン操作、インフラの専門知識は不要とされています。
• アプリ内でモデル管理: オープンウェイトモデルをアプリ内で閲覧、ダウンロード、読み込みでき、モデル管理はHarborが担います。
• クラスタによる拡張: Thunderbolt 5対応Macを2台以上接続すると、統合メモリを単一の推論リソースとしてプールします。単一マシンの容量を超えるモデルの実行や、より多くの同時リクエストの処理に使えます。

対応環境と提供状況

項目	内容
対応ハードウェア	Apple silicon搭載Mac
クラスタ構成	Thunderbolt 5対応Macを2台以上
対応モデル	オープンウェイトモデル
提供状況	AppleのClarisブランドでプライベートプレビュー中

記事は、今後数週間から数か月以内に一般公開される可能性があるとしています。

背景

記事によると、Macは今年、Mac StudioやMac miniなどでAIモデルをローカル実行する用途で利用が広がっており、Harborはこの用途にAppleがより力を入れる動きとみられています。Mac StudioはAppleシリコンとユニファイドメモリを搭載するプロ向けデスクトップで、ローカルでの言語モデル実行にも使われます。