용어와 정의
영문 또는 원어: Unified Memory Architecture
한글명: 통합 메모리 아키텍처
중앙 처리 장치와 그래픽 처리 장치 등이 물리 메모리를 공유하도록 구성한 아키텍처입니다. 장치별 전용 메모리를 단순히 더한 수치를 뜻하지 않습니다.
정확한 의미와 동작 원리
중앙 처리 장치의 시스템 메모리와 독립 그래픽 장치의 전용 메모리가 나뉜 구조에서는 데이터를 옮기는 과정이 필요할 수 있습니다. 물리 메모리를 공유하는 구조는 이런 이동 방식과 메모리 사용 구성을 다르게 설계합니다.
공유 메모리의 할당과 예약 방식은 장치 및 운영체제에 따라 다릅니다. 전체 용량, 그래픽 처리에 사용할 수 있는 양과 현재 남은 양을 같은 값으로 보지 않아야 합니다.
쉽게 이해하기
여러 작업자가 같은 자료 보관소를 이용하는 예시로 이해할 수 있습니다. 보관소를 함께 쓴다고 각 작업자가 전체 공간을 동시에 독점할 수 있는 것은 아니며 서로 사용하는 양을 고려해야 합니다.
종류와 버전 및 관련 방식의 차이
물리 공유 메모리 구조
처리 장치들이 같은 물리 메모리를 공유하는 하드웨어 구성을 설명합니다. 실제 공유 범위와 할당은 플랫폼별로 확인합니다.
소프트웨어 통합 메모리 기능과의 구분
프로그래밍 환경이 제공하는 통합 주소 공간이나 데이터 이동 기능은 별도의 개념입니다. 소프트웨어 기능 이름이 같다고 물리 구성이 항상 같은 것은 아닙니다.
적용 대상과 조건
로컬 인공지능 장비에서 모델이 사용할 메모리를 판단할 때 용량, 대역폭과 실행 도구 지원을 함께 봅니다. 공통 구조가 있다는 사실만으로 특정 모델의 실행 가능성을 보장하지 않습니다.
이번에 검토한 NVIDIA 시스템 안내는 특정 메모리 구성을 설명합니다. 이후 발표된 다른 용량 모델이나 윈도우용 장치에 그 수치와 할당 동작을 일괄 적용하지 않습니다.
오해하기 쉬운 점
기존부터 사용된 아키텍처이며 올해 처음 만들어진 기술이라고 소개하지 않습니다.
메모리가 공유된다는 이유로 프로세서 구조, 운영체제와 연산 라이브러리의 호환성 확인을 생략하지 않습니다.
자주 묻는 질문
전체 메모리를 모델에 전부 쓸 수 있나요?
운영체제와 다른 응용 프로그램 및 모델의 실행 중간값도 메모리를 사용합니다. 제품의 가용 메모리와 실행 도구가 보고하는 값의 의미를 확인해야 합니다.
기존 컴퓨터에 메모리만 추가하면 같은 구조가 되나요?
하드웨어의 연결과 주소 및 메모리 접근 구조가 관련됩니다. 일반 메모리 증설만으로 다른 아키텍처로 바뀐다고 판단할 수 없습니다.
공식 근거와 적용 판
함께 비교할 용어의 상세 설명
함께 이해할 용어: GPU 그래픽 처리 장치, Inference 모델 추론, KV cache 키와 값 캐시, Quantization 모델 양자화
관련 용어와 글
함께 이해할 기준 개념
함께 비교할 용어
- Context Compaction 문맥 압축
- Agent Memory 에이전트 기억
- Disaggregated Serving 분리형 추론 서비스
- Encode-Prefill-Decode Disaggregation 입력 부호화, 문맥 처리와 토큰 생성의 분리
- KV-Aware Routing 키와 값 캐시를 고려한 요청 분배
- MXFP4 마이크로스케일링 4비트 부동소수점 형식
- Continuous Batching 연속 배칭
- Chunked Prefill 분할 입력 처리
- PagedAttention 페이지 방식 어텐션
- Model Routing 모델별 요청 분배
- Context engineering 문맥 구성 설계
- KV cache 키와 값 캐시
- Quantization 모델 양자화