HBM3e (High Bandwidth Memory 3 Extended)

고대역폭 메모리의 확장 버전으로, 그래픽 처리 장치(GPU)나 AI 가속기 옆에 적층되어 매우 빠르고 많은 양의 데이터를 전송할 수 있도록 설계된 차세대 메모리 기술. AI 모델, 특히 대규모 언어 모델을 구동할 때 필수적인 대규모 데이터 이동을 지연 없이 처리하여 토큰 처리량(Token Throughput)을 증가시키는 핵심 요소