editoy

Quantization (양자화)

모델의 정밀도를 낮추어 메모리 사용량을 줄이고 추론 속도를 높이는 최적화 기술

용례

"양자화는 소비자용 하드웨어에서 모델을 실용적으로 만들어주지만 항상 품질 저하라는 트레이드오프가 존재함."