프리트레이닝 (pretraining)

AI 모델, 특히 대규모 언어 모델(LLM)이 방대한 양의 비정형 데이터셋(텍스트, 이미지 등)을 사용하여 초기 학습을 수행하는 과정. 이 과정에서 모델은 언어의 패턴, 구조, 의미 등을 이해하는 기초적인 능력을 습득하며, 이후 특정 작업에 맞게 미세 조정(fine-tuning)되기 전까지 광범위한 지식을 내재화합니다