용어와 정의
영문 또는 원어: NVLink
한글명: NVIDIA GPU 간 연결
NVLink는 NVIDIA가 GPU와 관련 구성 요소 사이의 고속 데이터 교환에 사용하는 인터커넥트 기술입니다. 일반 네트워크 케이블이나 모든 GPU에 공통인 공개 슬롯 규격을 뜻하지 않습니다.
정확한 의미와 원리
여러 가속기가 계산과 데이터를 나눠 처리할 때 연결의 대역폭과 지연이 중요합니다. NVLink와 이를 사용하는 스위치 구성은 지원 시스템에서 가속기 사이의 데이터 이동을 처리합니다. PCIe 및 외부 데이터센터 네트워크와 역할을 나눠 봅니다.
쉽게 이해하는 사용 예시
하나의 모델을 여러 GPU에 나눠 실행하면 GPU 사이의 통신이 필요합니다. 지원되는 NVLink 구성은 이런 통신에 사용될 수 있지만 장치가 연결됐다고 여러 GPU의 메모리를 모든 앱이 자동으로 하나처럼 사용하는 것은 아닙니다.
종류와 관련 개념의 차이
NVLink의 세대, 링크 수와 스위치 구성은 서로 다른 사양입니다. NVLink Fusion은 다른 설계와 NVIDIA의 연결 생태계를 통합하는 관련 프로그램 및 기술 범위입니다. 세대별 수치를 비교할 때 단방향과 양방향, GPU당과 시스템 전체 기준을 구별합니다.
적용 조건과 오해하기 쉬운 점
GPU 모델, 보드와 서버 구성 및 소프트웨어가 필요한 기능을 지원해야 합니다. 일부 제품의 높은 대역폭을 모든 NVLink 장치의 보장값으로 안내하지 않습니다. 케이블이나 브리지만 추가하면 지원하지 않는 GPU도 같은 기능을 얻는다고 가정하지 않습니다.
NVLink Fusion NVLink 통합 생태계
이 절의 용어: NVLink Fusion / NVLink 통합 생태계
NVLink Fusion은 NVLink 기반 시스템에 다른 실리콘 및 플랫폼 설계를 통합하도록 하는 NVIDIA의 생태계와 기술 구성을 설명합니다. NVLink 자체와 관련되지만 모든 참여 제품의 구현이 같거나 제조사에 무관한 범용 슬롯 표준이라는 뜻은 아닙니다. 실제 지원 프로세서, 가속기, 스위치와 설계 조건은 해당 제품 자료로 확인합니다. 참여 발표와 완제품의 실제 공급도 구분합니다.