Causal Encoder-Decoder (CED)
인코더의 최종 은닉 상태에서 디코더의 글로벌 KV 캐시를 투영하여 연산량을 줄이는 아키텍처
용례
"CED를 통해 프리필 시 토큰당 8B, 디코드 시 16B 파라미터만 활성화하여 입력 중심의 에이전트 작업 비용 효율성을 대폭 개선함"
인코더의 최종 은닉 상태에서 디코더의 글로벌 KV 캐시를 투영하여 연산량을 줄이는 아키텍처
"CED를 통해 프리필 시 토큰당 8B, 디코드 시 16B 파라미터만 활성화하여 입력 중심의 에이전트 작업 비용 효율성을 대폭 개선함"