技術的優位性
超低遅延アーキテクチャ
エンド・ツー・エンドのレイテンシは0.8 µsと低い（従来のTCP/IPの20倍高速）
200/400/800 Gbps InfiniBand規格に対応
トポロジーを考慮したスケジューリング
ダイナミック・ルーティングの最適化と自動ラック間トラフィック・バランシング NCCLライブラリの深い最適化により、AllReduceオペレーションを40%高速化
サービス特典
シングルラックトポロジー
32台のH100 GPUをNVSwitchで完全相互接続
900GB/秒のバイセクション帯域幅
マルチクラスター・スケーリングをサポート
SHARPベースの分散ルーティング
1,000～10,000ノードへの拡張が可能
大規模モデルトレーニングの高速化のためのソリューション機能
GPUDirect RDMAおよびNCCLトポロジーの最適化
結果 175Bパラメータ・モデルのトレーニング・タスク
通信オーバーヘッドは35%から8%に減少し、ラック間トラフィックは60%減少した。
バランスの取れたストレージとコンピュートの融合：最適なパフォーマンスを実現する 最適パフォーマンスの3本柱
寸法
- 帯域幅
- レイテンシー
- スケーラビリティ・ユニット
ネットワーク層
- 400Gbps
- 0.6μs
- 36ポート・ロスレス・ファブリック
コンピュート・レイヤー
- 1.8TB/秒 NVLink
- 0.3μs GPU インターコネクト
- 8-GPUノード
ストレージ層
- 320GB/秒 All-Flash
- 200μsランダムリード
- 100PB 統合ネームスペース