모델 붕괴 (Model Collapse)
인공지능 모델이 스스로 생성한 데이터나 다른 AI가 생성한 데이터를 다시 학습하는 순환 구조에 빠지면서, 시간이 지남에 따라 학습 데이터의 품질이 저하되고 궁극적으로 모델의 성능과 정확도가 떨어지는 현상. AI 생성 콘텐츠를 AI가 다시 인용할 경우 발생할 수 있는 장기적인 위험 요소
1 / 2
용례
"일부 전문가들은 AI가 AI가 생성한 데이터로 학습하는 것이 품질을 저하시키고 ‘모델 붕괴’라는 현상을 초래할 수 있다고 주장했습니다."
"모델에서 얻는 모든 샘플은 '소리 없이 붕괴'됩니다. 콘텐츠에 대한 사고의 가능한 공간 중 아주 작은 부분만을 차지하고 있다는 것이 겉으로 보기에는 명확하지 않지만 말입니다."