아이폰 17 프로 기반 4,000억 매개변수 LLM 구동 시연 및 온디바이스 AI 전망
* 아이폰 17 프로의 SSD 스트리밍 기술을 활용한 4,000억 매개변수 규모의 거대언어모델(LLM) 구동 성공. * 전문가 혼합(MoE) 구조 채택을 통해 12GB의 제한적인 RAM 환경에서도 활성 매개변수를 최적화하여 추론 구현. * 초당 0.6 토큰 수준의 낮은 처리 속도와 심한 발열 및 배터리 소모 등 하드웨어적 한계점 노출. * 데이터센터 의존도를 낮추고 사용자 프라이버시와 데이터 소유권을 강화하는 에지(Edge) AI 기술의 도약.