이같은 온디바이스 AI 시장 부상에 따라 AP설계 업체들의 신경망칩(NPU) 기술 고도화 경쟁도 격화될 전망이다. 퀄컴은 올 10월 개최된 ‘스냅드래곤 서밋 2023’에서 ‘스냅드래곤8 3세대’를 공개하며 NPU 부문의 경쟁 우위를 강조하고 있다. 알렉스 카투지안 퀄컴 수석부사장은 당시 “6년간의 노력 끝에 퀄컴의 NPU 성능은 스냅드래곤 컴퓨팅에서 100배가량 증가했다”며 “이 중 신규 ‘헥사곤’ NPU는 경쟁사 제품 대비 4배 이상 성능이 뛰어나다”고 밝힌 바 있다. 스냅드래곤8 3세대가 생성형 AI 서비스에 최적화된 제품이라는 뜻이다.

온디바이스 AI 서비스가 본격화 될 경우 문자메시지 작성 및 실시간 통역 등 스마트폰에서 다양하게 활용될 수 있어, 생성형AI 시장 확대의 기폭제가 될 수 있다