데이터가 이동하는 경계를 먼저 그립니다

한 패키지 안의 다이 사이, 계산 시스템의 가속기 사이와 서버 사이의 연결은 요구 조건이 다릅니다. UCIe, NVLink와 UALink 및 Ethernet 기반 기술을 같은 위치의 교체 부품처럼 비교하지 않습니다.

실제 작업에서 어떤 장치가 어떤 데이터를 교환하는지와 연결이 끊겼을 때 영향을 받는 범위를 기록합니다.

규격과 구현 및 세대를 나눠 봅니다

UALink는 공통 규격과 물리 및 데이터 링크, 칩렛 및 관리 규격이 나뉩니다. Ultra Ethernet 1.1의 공개도 기존 Ethernet 장치의 자동 지원을 뜻하지 않습니다.

NVLink는 제조사 기술이며 세대와 링크 수 및 시스템 구성을 구분해야 합니다. 공개 규격의 존재, IP 설계와 제품 공급 및 상호 운용 검증은 서로 다른 단계입니다.

RDMA는 원격 메모리 전송 기능이고 RoCE는 Ethernet 기반 구성입니다. InfiniBand는 별도 네트워크 기술입니다. CPO와 실리콘 포토닉스는 신호 전달의 광학 구현 및 배치에 관계합니다.

대역폭 수치를 비교할 때 방향과 장치당 또는 시스템 전체 기준, 링크 수와 프로토콜 비용을 함께 봅니다. 숫자의 범위가 다르면 직접 비교할 수 없습니다.

AI 작업의 통신 패턴, 메시지 크기와 동시 전송 및 혼잡 상황에서 완료 시간을 확인합니다. 평균 처리량 외에 지연 분포와 장애 시 복구 및 관리 기능도 평가합니다.

단일 링크의 최고 속도가 전체 모델의 학습이나 추론 시간을 같은 비율로 줄인다고 가정하지 않습니다. 실제 소프트웨어가 해당 연결을 사용하는지도 확인합니다.