효율적 혼합 구조 (Efficient Hybrid Architecture)

기존 인공지능의 표준인 트랜스포머 구조에서 탈피하여 게이팅 델타 네트워크와 희소 전문가 혼합 방식을 결합한 혁신적인 설계 방식. 이 기술은 소형 모델의 한계로 지적되던 메모리 병목 현상을 해결하고 데이터 처리량은 높이면서 추론 시 지연 시간은 획기적으로 단축하는 결과 도출