느린 위치가 먼저입니다

AI 서버가 기다리는 이유는 계산, 메모리 접근과 장치 사이의 통신 등 여러 곳에 있을 수 있습니다. 외부 네트워크의 속도를 높여도 GPU 사이의 통신이 병목이면 기대한 변화가 작을 수 있습니다.

처리 시간을 어느 단계에서 쓰는지 확인하면 필요한 연결 기술을 고르기 쉬워집니다.

연결 이름이 많아진 데에는 이유가 있습니다

UCIe는 패키지 내부 칩렛 연결을, NVLink와 UALink는 가속기 연결을 설명할 때 등장합니다. Ultra Ethernet은 AI와 고성능 연산에 맞춘 Ethernet 확장을 다룹니다.

서로 다른 경계를 다루므로 이름을 한 줄에 놓고 최신 순서로 고르는 방식은 적절하지 않습니다.

포트 하나의 속도와 시스템 전체 대역폭, 한 방향과 두 방향 합계는 서로 다른 숫자입니다. 작은 메시지와 큰 데이터의 전송도 같은 특성을 갖지 않습니다.

사용자가 체감하는 작업 완료 시간에는 계산과 동기화 및 혼잡이 함께 들어갑니다. 같은 조건의 작업으로 비교해야 합니다.

어댑터와 스위치뿐 아니라 드라이버와 앱이 필요한 기능을 사용해야 합니다. 새 규격 발표가 기존 장비의 즉시 지원을 뜻하지도 않습니다.

관련 기술자료에서 연결 위치와 규격 및 구현을 나눠 확인하는 기준을 볼 수 있습니다. 지금 겪는 병목과 지원 조건을 함께 확인하는 것이 먼저입니다.