기술적 이점
초저지연 아키텍처
0.8µs의 낮은 엔드투엔드 지연 시간(기존 TCP/IP보다 20배 빠름)
200/400/800Gbps 인피니밴드 표준 지원
토폴로지 인식 스케줄링
동적 라우팅 최적화 및 자동 랙 간 트래픽 밸런싱 NCCL 라이브러리의 심층 최적화를 통해 AllReduce 작업의 40% 가속화를 실현합니다.
서비스 혜택
단일 랙 토폴로지
NVSwitch를 통해 완전히 상호 연결된 32개의 H100 GPU
900GB/s 양방향 대역폭
멀티 클러스터 확장 지원
SHARP 기반 분산 라우팅
1,000~10,000개 노드로 확장 가능
대규모 모델 학습 가속화를 위한 솔루션 기능
GPUDirect RDMA 및 NCCL 토폴로지 최적화
결과: 175B 매개변수 모델 학습 작업
통신 오버헤드는 35%에서 8%로 감소했고, 랙 간 트래픽은 60% 감소했습니다.
균형 잡힌 스토리지-컴퓨팅 컨버전스: 세 가지 최적의 성능을 위한 세 가지 요소
치수
- 대역폭
- 지연 시간
- 확장성 단위
네트워크 계층
- 400Gbps
- 0.6μs
- 36포트 무손실 패브릭
컴퓨팅 레이어
- 1.8TB/s NV링크
- 0.3μs GPU 인터커넥트
- 8-GPU 노드
스토리지 계층
- 320GB/s All-Flash
- 200μs 랜덤 읽기
- 100PB 통합 네임스페이스