용어와 정의
영문 또는 원어: GPU
영문 정식명칭: Graphics Processing Unit
한글명: 그래픽 처리 장치
GPU는 그래픽 렌더링을 가속하도록 발전한 프로세서로, 많은 데이터를 병렬로 계산하는 작업에도 쓰입니다. 게임 화면뿐 아니라 영상 처리, 과학 계산과 지원되는 AI 모델의 학습 및 추론에 사용할 수 있습니다.
정확한 의미와 원리
GPU는 많은 연산을 병렬로 처리하는 구조를 갖습니다. CPU는 운영체제와 다양한 제어 흐름을 맡고 GPU는 적합한 계산을 분담합니다. 모든 프로그램이 GPU를 자동으로 사용하지는 않으며 프로그램과 드라이버가 해당 연산 환경을 지원해야 합니다.
쉽게 이해하는 사용 예시
동영상 편집 앱에서 지원되는 효과를 GPU로 계산하거나 AI 모델의 연산을 GPU에 배치할 수 있습니다. 그래픽 카드에는 GPU 칩 외에 메모리와 전원부 등의 부품도 있습니다. 따라서 GPU 칩과 그래픽 카드 전체는 구분해야 합니다.
종류와 관련 개념의 차이
통합 GPU는 CPU와 가까운 통합 구성으로 제공되고, 독립 GPU는 별도 칩과 구성으로 제공됩니다. GPU가 독립형이라고 반드시 사용자가 교체할 수 있는 카드는 아닙니다. 제품 세대와 그래픽 API의 지원 버전도 서로 다른 정보입니다.
적용 조건과 오해하기 쉬운 점
연산 성능, 메모리 용량과 대역폭, 소비 전력 및 지원 소프트웨어를 함께 봅니다. 메모리가 부족하면 모델을 실행하지 못하거나 다른 저장 계층을 사용해야 할 수 있습니다. GPU라는 분류만으로 모든 NPU보다 빠르거나 모든 AI 기능을 지원한다고 단정하지 않습니다.
Integrated GPU 통합 그래픽 처리 장치
이 절의 용어: Integrated GPU / 통합 그래픽 처리 장치
통합 GPU는 CPU와 함께 통합된 형태로 제공되는 그래픽 처리 장치입니다. 시스템 메모리를 함께 사용하는 구성이 흔하며 실제 구조는 제품마다 다릅니다. 화면 출력과 지원되는 병렬 계산에 쓰일 수 있고, 통합형이라는 이유만으로 AI 계산을 전혀 수행하지 못하는 것은 아닙니다.
Discrete GPU 독립 그래픽 처리 장치
이 절의 용어: Discrete GPU / 독립 그래픽 처리 장치
독립 GPU는 CPU와 별개의 그래픽 처리 칩으로 구성한 장치입니다. 전용 메모리를 갖춘 그래픽 카드나 노트북 내부 구성으로 제공될 수 있습니다. 독립형은 성능 등급이나 교체 가능성을 보장하는 말이 아니므로 전력, 냉각, 메모리와 실제 장착 방식을 따로 확인합니다.
정의와 적용 조건의 참고 자료
관련 용어와 글
함께 이해할 기준 개념
함께 비교할 용어
- DPU 데이터 처리 장치
- Integrated GPU 통합 그래픽 처리 장치
- Discrete GPU 독립 그래픽 처리 장치
- SmartNIC 지능형 네트워크 인터페이스 카드
- NPU 신경망 처리 장치
- TOPS 초당 조 단위 연산 수
- HBM 고대역폭 메모리
- On-device AI 기기 내 인공지능
- RAM 주기억장치
- 노트북
- 데스크톱 PC
- 서버
- NIC 네트워크 인터페이스 컨트롤러
- KV cache 키와 값 캐시
- Prefill 입력 문맥 처리 단계
- Decode 토큰 생성 단계
- Prefix caching 공통 입력 앞부분 캐시 재사용
- Agentic AI 목표 지향 행동형 인공지능
- Multi-agent system 다중 에이전트 시스템
- LLM 대규모 언어 모델
- RAG 검색 증강 생성
- MCP 모델 컨텍스트 프로토콜
- Authorization 권한 부여
- Authentication 인증
- CXL 컴퓨트 익스프레스 링크
- PCIe 1.0 PCI 익스프레스 1.0
- PCIe 2.0 PCI 익스프레스 2.0
- PCIe 3.0 PCI 익스프레스 3.0
- PCIe 4.0 PCI 익스프레스 4.0
- PCIe 5.0 PCI 익스프레스 5.0
- PCIe 6.0 PCI 익스프레스 6.0
- PCIe 6.5 PCI 익스프레스 6.5 개정판
- PCIe 7.0 PCI 익스프레스 7.0
- PCIe 7.1 PCI 익스프레스 7.1 개정판
- CXL.io CXL 입출력 프로토콜
- CXL.cache CXL 캐시 일관성 프로토콜
- CXL.mem CXL 메모리 접근 프로토콜
- CXL 1.0 CXL 1.0 규격
- CXL 1.1 CXL 1.1 규격
- CXL 2.0 CXL 2.0 규격
- CXL 3.0 CXL 3.0 규격
- CXL 3.1 CXL 3.1 규격
- CXL 3.2 CXL 3.2 규격
- CXL 4.0 CXL 4.0 규격
- CXL Type 1 CXL 유형 1 장치
- CXL Type 2 CXL 유형 2 장치
- CXL Type 3 CXL 유형 3 장치
- NVMe
- NVMe SSD
- M.2 폼팩터
- Inference 모델 추론
- SLM 소형 언어 모델
- Quantization 모델 양자화
- Fine-tuning 미세 조정
- LoRA 저랭크 적응
- Knowledge distillation 지식 증류
- Speculative decoding 추측 디코딩
- PTQ 학습 후 양자화
- QAT 양자화 인지 학습
- FP8 8비트 부동소수점 형식
- NVFP4 NVIDIA 4비트 부동소수점 형식
- PEFT 매개변수 효율적 미세 조정
- DPO 직접 선호 최적화
- RLHF 인간 피드백 기반 강화학습
- QLoRA 양자화 저랭크 적응
- SOCAMM2 서버용 모듈식 저전력 메모리
- LPCAMM2 저전력 압착식 메모리 모듈 2
- LPDDR5X 저전력 DDR 메모리 5X
- LPDDR6 저전력 DDR 메모리 6
- GDDR7 그래픽용 DDR 메모리 7
- RDIMM 레지스터드 DIMM
- MRDIMM 다중화 랭크 DIMM
- UCIe 패키지 내부 칩렛 연결
- Chiplet 칩렛
- NVLink NVIDIA GPU 간 연결
- NVLink Fusion NVLink 통합 생태계
- ECC 타원곡선 암호
- Ultra Ethernet AI 및 고성능 연산용 이더넷 확장
- RoCE 이더넷 기반 RDMA
- CPO 공동 패키지 광학
- UALink 가속기 간 고속 연결
- UET Ultra Ethernet 전송
- InfiniBand 인피니밴드
- Silicon photonics 실리콘 포토닉스
- Ethernet 이더넷
- Bandwidth 대역폭
- Latency 지연 시간
- UDP 사용자 데이터그램 프로토콜
- TCP/IP TCP/IP 프로토콜 계층
- QoS 서비스 품질
- Network congestion 네트워크 혼잡
- Optical transceiver 광 트랜시버
- Optical fiber 광섬유