editoy

컨텍스트 로트 (Context Rot)

대규모 언어 모델이 컨텍스트 윈도우에 많은 양의 정보를 입력받거나 대화가 길어질수록, 처음 입력된 세부 정보를 '잊어버리거나' 성능이 점진적으로 저하되는 현상. 이는 모델이 긴 텍스트에서 중요한 정보를 찾아내지 못하거나, 초기 지침을 무시하는 결과를 초래. 오퍼스 4.6은 이 문제를 해결하기 위해 '컨텍스트 압축' 기능과 모델 자체의 성능 향상을 통해 긴 컨텍스트 내에서도 높은 정보 검색 정확도를 유지

용례

"앤트로픽은 긴 대화나 긴 코딩 작업에서 시스템이 이전 대화를 압축하여 컨텍스트 윈도우의 무결성을 유지하는 컨텍스트 압축 기능을 도입했습니다."