記事ポイント
- OCI SuperclusterをVera Rubin NVL72でマルチギガワット規模に拡張
- Vera Rubin NVL72とVera CPUがOCIで一般提供開始
- HGX Rubin NVL8の導入も計画
NVIDIAとOracleは、AIトレーニング、推論、エージェント型アプリケーションの需要増に対応するため、Oracle Cloud Infrastructure (OCI) SuperclusterをNVIDIA Vera Rubin NVL72システムでマルチギガワット規模に拡張する計画を発表しました。
今回、OCIでNVIDIA Vera Rubin NVL72とNVIDIA Vera CPUの一般提供が始まり、両社のAIインフラ協業も拡大しています。
GPU負荷の高いモデル学習・提供と、エージェントのCPU負荷の高いタスクの両方に対応するインフラが実現します。
NVIDIA / Oracle NVIDIA Vera Rubin NVL72とNVIDIA Vera CPUのOracle Cloud Infrastructure展開
- 提供開始：OCIでNVIDIA Vera Rubin NVL72とNVIDIA Vera CPUの一般提供を開始
- 拡張計画：OCI SuperclusterをNVIDIA Vera Rubin NVL72でマルチギガワット規模に拡張
- 導入計画：NVIDIA HGX Rubin NVL8（8基のRubin GPUをNVLinkで接続、x86ベース）
- HGX Rubin NVL8の構成：2基の64コアIntel Xeon 6 CPU、4TB DDR5メモリ、6.4Tbps高速RDMAネットワーキング
- ラック構成：各ラックがNVIDIA NVLinkで72基のGPUを接続。OCIのマルチプレーンネットワークは数十万基のGPUまで拡張可能
OCI Superclusterは、NVIDIA NVL72ラックスケールシステム、Oracle Acceleronネットワーキング、NVIDIA Spectrum-6スイッチとNVIDIA BlueField-4 DPUを搭載したNVIDIA Spectrum-Xイーサネットネットワーキング、ギガワット級の電力と冷却を組み合わせ、最大規模のAIモデルのトレーニングと提供に対応します。
顧客はワークロードに合わせてCPUとGPUのリソースを個別に拡張でき、余剰能力の削減とインフラの有効活用につながります。
各ラックは72基のGPUをNVIDIA NVLinkのスケールアップネットワーキングで接続し、OCIの耐障害性に優れたマルチプレーンネットワークは数十万基のGPUにわたって拡張できます。
今回のVera Rubinの拡張は、NVIDIA GB200やGB300 NVL72システムなど、NVIDIAをベースとするOCIの既存インフラの上に築かれます。
共通のCUDAソフトウェア基盤と継続的なソフトウェア最適化により、顧客はハードウェアの世代を超えてモデルやワークロードの進化に対応できます。
OCIが導入を計画するNVIDIA HGX Rubin NVL8は、NVLinkを介して8基のRubin GPUをx86ベースのサーバー構成で接続します。
2基の64コアIntel Xeon 6 CPU、4TBのDDR5メモリ、6.4Tbpsの高速RDMAネットワーキングを搭載し、AIトレーニング、ファインチューニング、推論といった柔軟な展開オプションを提供します。
x86ベースのアプリケーションとの互換性を維持しながら、より小規模な8GPU構成で次世代Rubin GPUテクノロジを採用でき、トレーニングと推論の両方に使うことでインフラ投資の有効活用が進みます。
OpenAIは、アビリーンで10万基以上のNVIDIA Blackwell GPUを搭載したOCI Superclusterを使い、GPT-6 Astraのトレーニングと提供を行っています。
OpenAIのコンピューティングインフラ担当エンジニアリングリーダーであるSreekanth Pothanis氏は、次のように述べています。
当社のフロンティア モデルが進化するにつれて、それに対応できるインフラが必要になります。
OCI 上の NVIDIA Vera Rubin は、モデル トレーニングの高速化や、ますます高負荷になる AI ワークロードへの対応に必要なコンピューティング性能とスケールを提供してくれます
AIエージェントは応答を生成するだけでなく、ツールを呼び出し、コードを実行し、情報を取得してタスクを完了させます。
CPU負荷の高い処理の実行が遅いと結果が遅れ、モデル呼び出しの間にGPUが待機状態になる可能性があります。
OCI Compute with NVIDIA Vera CPUsは高いシングルスレッド性能とメモリ帯域幅を兼ね備え、個々のツール呼び出しとコード実行を高速化しつつ、同時タスク実行時にもCPUコアへのデータ供給を維持します。
これらの能力を組み合わせることで、GPUのアイドル時間短縮とワークロードのスケーリング時の一貫したパフォーマンスの維持に貢献します。
OCI Kubernetes EngineによりCPUリソースとGPUリソースを個別にスケーリングでき、Oracle Acceleronは信頼できないAI生成コードを実行するワークロードをハードウェアベースで分離します。
OpenAIをはじめ、OCI上のNVIDIA Vera CPUに早期アクセスしている顧客は、さまざまなAIワークロードでの可能性を探っています。
OpenAIのコンピューティング担当最高技術責任者であるUday Ruddarraju氏は、次のように述べています。
OCI 上の NVIDIA Vera CPU は、急速に拡大する当社のエージェント型 サンドボックス ワークロード全体にわたるコードやツールの実行に必要な世界トップクラスの負荷時パフォーマンスを提供します。
これらのワークロードを大規模にサポートするために、OCI 上で Vera の本番環境に導入します
OracleのOracle Cloud Infrastructure担当プレジデントであるMahesh Thiagarajan氏は、次のように述べています。
Oracle Cloud Infrastructure は、お客様がフロンティア AI を前進させるために必要なパフォーマンス、セキュリティ、スケールを提供します。
NVIDIA との協業により、それらの能力がトレーニング、推論、エージェント型 AI にわたって広がります。
当社は、NVIDIA Vera Rubin GPU や Vera CPU を Oracle Acceleron ネットワーキングや AI 最適化データ センターと組み合わせることで、お客様がニーズの拡大に合わせて GPU の生産性、セキュリティ、効率的なスケーリングを維持できるように支援します
NVIDIAのハイパースケールおよびハイパフォーマンスコンピューティング担当バイスプレジデントであるイアン バック（Ian Buck）氏は、次のように述べています。
AI ファクトリーは、高い生産性、耐久性、代替可能性を備え、効率的なコンピューティングを提供し、継続的なソフトウェアの進化を通じて有用性を維持し、需要の変化に応じてさまざまなモデルやワークロードに対応できなければなりません。
Oracle と協力しながら、Vera Rubin と Vera CPU を OCI に導入することで、お客様が今日からインフラを一層有効活用し、AI の進化に合わせてその価値を維持できるように支援します
よくある質問
Q. NVIDIA Vera CPUはOCIでどのような処理を高速化しますか？
A. AIエージェントが実行するツール呼び出し、コード実行、データ取得などのCPU負荷が高い処理を高速化します。
高いシングルスレッド性能とメモリ帯域幅により、GPUのアイドル時間短縮にも貢献します。
Q. HGX Rubin NVL8とはどのようなシステムですか？
A. NVLinkを介して8基のRubin GPUをx86ベースのサーバー構成で接続するシステムです。
OCIが導入を計画しており、2基の64コアIntel Xeon 6 CPU、4TBのDDR5メモリ、6.4TbpsのRDMAネットワーキングを搭載します。
Vera Rubin NVL72によるGPU基盤とVera CPUによるエージェント処理基盤がOCI上で揃い、フロンティアモデルの学習から推論、エージェント型ワークロードまでを一つのインフラでスケールさせられます。
HGX Rubin NVL8の導入計画も加わり、x86互換を保ちながら小規模な8GPU構成でRubin世代を使う選択肢が広がります。
