SSD 오프로딩 (SSD Offloading)

고가의 GPU 메모리 대신 상대적으로 저렴한 SSD 저장 장치를 활용하여 대규모 모델의 파라미터를 처리하는 기술적 대안

용례

"754B 파라미터 모델은 고사양 하드웨어에서도 로컬 실행이 어렵지만, 소프트웨어 지원을 통한 SSD 오프로딩으로 로컬 실행 가능성을 열어둘 수 있음."