프롬프트 캐싱 (Prompt Caching)

반복되는 입력 데이터를 저장해 비용과 시간을 줄이는 기술

용례

"5분 TTL 설정 시 세션 중 5분만 멈춰도 전체 캐시가 만료되어 다시 작성 비용이 발생함."