생각의 사슬 모니터링 (Chain-of-thought monitoring)
AI가 과업을 수행하는 단계를 메모장처럼 기록하게 하여 연구자가 모델의 동작 과정을 감시하고 의도대로 작동하는지 확인하는 기술임
용례
"거대언어모델이 작업을 단계별로 진행하면서 수행 중인 작업에 대해 메모를 작성하도록 훈련하여 예상대로 행동하는지 확인하는 접근 방식이다."
AI가 과업을 수행하는 단계를 메모장처럼 기록하게 하여 연구자가 모델의 동작 과정을 감시하고 의도대로 작동하는지 확인하는 기술임
"거대언어모델이 작업을 단계별로 진행하면서 수행 중인 작업에 대해 메모를 작성하도록 훈련하여 예상대로 행동하는지 확인하는 접근 방식이다."