Tag: 온디바이스AI

* 대규모 모델(MLLM) 성능에 필적하는 소형 모델 기반의 사용자 의도 추출 기술 개발 성공 및 효율성 입증. * 온디바이스 처리를 통한 사용자 데이터 프라이버시 강화, 처리 속도 향상, 클라우드 기반 연산 비용 절감 달성. * 사용자 행동을 상호작용 요약(1단계) 후 전체 의도 추출(2단계)하는 분해 접근법(Decomposition)을 통한 소형 모델의 추론 능력 극대화. * AI 에이전트 및 생성형 검색 경험(SGE) 강화를 위한 키워드 중심에서 사용자 여정 및 의도 중심의 디지털 마케팅 패러다임 변화 가속화 전망.

* AI 브라우저를 기존의 단순 애플리케이션을 넘어 분산형 하이브리드 AI 아키텍처를 구동하는 핵심 오케스트레이션 플랫폼으로 정의 * 온디바이스 소형 언어 모델(SLM)과 NPU 등 하드웨어 발전이 분산 컴퓨팅 효율성 및 전력 소비 절감에 기여 * 구글 크롬의 제미나이 통합 사례와 같이, AI 에이전트의 실행 및 제어를 위한 중심 허브로서의 역할 강화 * 알고리즘 비일관성, 프롬프트 주입 공격 취약성, 출판사 저작권 침해 등 광범위한 보안 및 윤리적 문제 해결 필요성 강조

* 알리바바의 인공지능 연구팀이 대형 모델의 성능을 압도하는 초소형 오픈소스 인공지능 '쿠엔 3.5' 시리즈를 전격 공개. * 90억 개의 매개변수를 가진 소형 모델이 13배 이상 거대한 기존 모델들의 벤치마크 점수를 추월하며 기술적 효율성을 입증. * 텍스트와 시각 정보를 동시에 처리하는 네이티브 멀티모달 아키텍처를 도입하여 노트북과 스마트폰 등 엣지 기기에서의 자율형 에이전트 구현 가능성 제시. * 아파치 2.0 라이선스 기반의 완전 개방 정책을 통해 클라우드 의존도를 낮추고 기업들이 독자적인 인공지능 생태계를 구축할 수 있는 환경 조성.