Context window
LLM이 한 번에 처리하고 참조할 수 있는 입력 텍스트의 최대 길이로, 모델의 이해도와 성능에 영향
용례
"대규모 변경의 경우 컨텍스트 창 제한과 압축과 같은 몇 가지 문제가 존재하며, 모델이 더 나아졌음에도 불구하고 이러한 문제들은 여전히 모델 성능에 해롭습니다."
LLM이 한 번에 처리하고 참조할 수 있는 입력 텍스트의 최대 길이로, 모델의 이해도와 성능에 영향
"대규모 변경의 경우 컨텍스트 창 제한과 압축과 같은 몇 가지 문제가 존재하며, 모델이 더 나아졌음에도 불구하고 이러한 문제들은 여전히 모델 성능에 해롭습니다."