こんにちは、Sojitz-Tech Innovation USA の門馬です。AIの進化は日々加速していますが、その裏側を支えるネットワーク基盤技術については、まだ多くの方が馴染みがないかもしれません。AIモデルを動かすためのGPU同士の接続を支えるネットワーク技術は、AIの拡張性や性能に直接影響を与える重要な要素です。本記事では、従来のInfinibandと新たな選択肢として注目されるイーサネットを比較し、それぞれの特徴や現在の動向を解説します。
Infiniband vs イーサネット
一般論ではありますが、両者の比較をまとめました。
クラウド事業者の拡張
Microsoftは、高まるAI需要から今年から来年にかけて30万台以上のGPUをシングルクラスタとして運用することを計画しています。その実現のために、複数拠点における分散処理およびリアルタイム同期に対応する高度な仕組みを構築しています。これまでInfinibandを推奨してきたMicrosoftですが、機器自体にかかるコストおよび運用コストの削減のため、2～3年以内にイーサネットへの切り替えを計画しています。
イーサネット化するメリット
AI基盤におけるイーサネットの採用には、運用コストや柔軟性の向上以外にも、クラスタの外との接続性が向上するメリットがあります。Microsoftには、顧客から「既存のアプリにCo-Pilot機能を付けてスマートアプリ化を進めたい」というニーズが大変多く寄せられているそうです。AI基盤は、顧客のアプリが動作しているクラウドサービス上の基盤とは別のデータセンターに設置されています。そのため、アプリとAI基盤をいかに柔軟かつ効率的に接続するかが課題となっています。この接続性を担保するにはイーサネットのほうがより柔軟な接続が可能です。
エンタープライズの実装
先進的なエンタープライズ企業では、自社データセンターにAI基盤を実装する計画が進んでいます。自社でAI基盤を実装する理由は各社さまざまです。「規制への対応上、クラウドにデータを出せない」や「より遅延の少ないエッジ側でAI推論を行いたい」などです。Citi Bankでは、現在はOpen AIやGoogle、Azureなどクラウド上のAI基盤を活用しています。自社のデータセンターへのAI基盤構築は計画段階です。Infinibandとイーサネットのどちらを採用するかは要件を詰めている段階のようです。また、Eコマースサービスを提供するe-bayでは、InfinibandベースのAI基盤を保有しています。e-bayはもともとネットワーク運用に優れたチームを持っており、馴染みのあるイーサネットへの移行は、長期的には実行予定です。現状、Infiniband上で独自開発が入っていることから、短期的な変更は見込んでいないようです。なお、両者ともにエッジにおける推論の実施には、興味があります。この場合、複数拠点でAIワークロードを処理するため、イーサネットの採用が効果が高いと言及しています。
画像：イベント動画配信サイト（要会員登録）
将来的なIT基盤との統合
GPUやCPUなどすべてを高いコストパフォーマンスで接続できることは理想です。既存のITインフラとAI基盤の統合は理想的な状態といえます。しかし、現段階では、AI独自のプロトコルやインターフェイス仕様があるため実装が困難です。標準化が不可欠であり、実装フェーズはまだ先です。将来的な統合に備えて、検討するべきことは、「ネットワークの可視化と自動化」の強化です。AI基盤では、一部のGPUの故障が大きな影響を及ぼす可能性があります。Microsoftでは、自律システムを開発し、失敗を検知、故障個所を特定し、隔離することをしています。企業がMicrosoftの同等レベルの開発を行うことは困難ですが、今後そうしたニーズに応える運用ツールには注目していく必要があります。
Sojitz-Tech Innovation USA 注目ポイント
Infinibandとイーサネットは、それぞれ異なる強みを持っています。この領域では、現在ハイパースケーラーを中心にイーサネットへの移行が進んでいます。当社が代理店となっているネットワークベンダーの多くがNetwork for AIに注目をし、機能実装が積極的に行われています。数年後にはより洗練された接続性が実装されていることは間違いありません。一方、エンタープライズがAI基盤を自社のデータセンターに設置するには、その他の懸念事項もたくさんあります。冷却技術や世代の異なるGPU自体の相互接続にもまだまだ新しい技術が必要です。当社も引き続きAI基盤には注目をしていきたいと思います。
最後までお読みいただきありがとうございました。
Sojitz-Tech Innovation USAは、シリコンバレーで35年以上にわたり活動し、米国での最新のDX事例の紹介や、斬新なスタートアップの発掘並びに日本企業とのマッチングサービスを提供しています。紹介した事例を詳しく知りたい方や、スタートアップ企業との協業をご希望の方はお気軽にお問い合わせください。
