editoy

Tag: OnDeviceAI

News articles related to the tag OnDeviceAI.

아이폰 17 프로 기반 4,000억 매개변수 LLM 구동 시연 및 온디바이스 AI 전망

* 아이폰 17 프로의 SSD 스트리밍 기술을 활용한 4,000억 매개변수 규모의 거대언어모델(LLM) 구동 성공. * 전문가 혼합(MoE) 구조 채택을 통해 12GB의 제한적인 RAM 환경에서도 활성 매개변수를 최적화하여 추론 구현. * 초당 0.6 토큰 수준의 낮은 처리 속도와 심한 발열 및 배터리 소모 등 하드웨어적 한계점 노출. * 데이터센터 의존도를 낮추고 사용자 프라이버시와 데이터 소유권을 강화하는 에지(Edge) AI 기술의 도약.

구글, 초경량·고성능 개방형 AI 모델 '젬마 4' 및 '제미나이 나노 4' 공개

* 제미나이 3 기술을 기반으로 한 차세대 개방형 AI 모델 젬마 4 제품군 정식 출시. * 안드로이드 기기 최적화를 통한 제미나이 나노 4 조기 액세스 제공 및 연내 플래그십 기기 탑재 예정. * 상업적 이용이 자유로운 아파치 2.0 라이선스 전환으로 글로벌 개발자 생태계 접근성 대폭 강화. * 추론 능력 향상 및 이미지, 오디오, 비디오를 아우르는 멀티모달 기능의 로컬 실행 환경 구축.

iOS 27의 혁신: 초개인화 지능형 비서 'Siri AI'의 등장

* Siri의 전면적 개편을 통한 생성형 AI 챗봇 시장 경쟁력 확보 * 개인 데이터 및 화면 인지 능력을 결합한 초개인화된 맥락 이해 구현 * 구글 제미나이 기술 기반 파운데이션 모델 도입 및 시스템 오케스트레이터 통합 * 온디바이스 AI와 프라이빗 클라우드 컴퓨트를 통한 강력한 보안 체계 구축