Qualcomm AI Engine in Snapdragon 8 Elite Gen 5

사용자들은 스마트폰에서 음성비서나 카메라 AI, 번역 등 AI 기능을 원하지만, 대부분 클라우드에 의존해 응답 지연이나 개인정보 유출 우려가 있었습니다.

예컨대, 일정 관리나 메시지 답장 등을 도와주는 AI 비서를 쓰려면 데이터를 서버로 보내 처리해야 하니 사생활 문제가 있고, 인터넷 연결이 없으면 무용지물이었습니다. 또한 챗GPT 같은 대형 언어모델을 폰에서 쓰고 싶어도 연산량 부족으로 실현이 어려웠습니다.

즉, 모바일 기기의 제한된 연산·배터리 환경에서 풍부한 AI 기능을 돌리는 게 난제였습니다. 이전 세대 칩들도 NPU(신경망 가속기)를 탑재했지만 대형 모델 구동이나 동시에 복수 AI 작업 처리에는 역부족이었고, CPU/GPU와 AI코어 간 협업도 최적화되지 않아 이기종 연산 활용이 미흡했습니다.

결과적으로, 스마트폰이 사용자 맞춤 AI 비서나 즉석 생성AI 등을 구현하지 못하고 일부 간단한 AI 처리에 머물렀습니다.

Qualcomm의 새로운 AI Engine은 SoC 내 CPU, NPU, DSP 등 여러 코어의 AI 역량을 종합적으로 활용하도록 설계되었습니다.

우선 Hexagon NPU가 업그레이드되어 전작보다 37% 빨라졌고, 더 적은 전력으로 더 큰 모델을 돌릴 수 있게 되었습니다. 또한 커스텀 Oryon CPU 코어에는 사상 최초로 행렬 연산 가속 유닛이 내장되어, CPU 자체가 AI 행렬계산(예: 곱셈-누산)을 빠르게 수행합니다. 이는 평소 앱 구동을 담당하는 CPU가 곧바로 AI 모델 추론도 거들 수 있어 딥러닝 추론의 지연을 획기 줄여줍니다.

이질적인 코어들의 장점을 상황에 맞게 조합해, 어떤 AI 작업이든 초저지연(on-demand) 응답을 가능케 합니다. 이로 인해 스마트폰 안에서 상시 동작하는 LLM(대형언어모델)이 실현되어, 기기가 사용자를 지속 학습·이해하고 맥락에 맞춰 앱 간 자동작업을 수행하는 진정한 에이전트형 AI 비서 경험이 가능해집니다.

예를 들어, 폰 AI가 사용자의 일정·메시지·위치 등을 학습해 미리 회의 링크를 켜놓는다든지, 사진을 찍으면 즉석에서 기기에 저장된 개인 선호스타일로 편집까지 완료해주는 식입니다. 이러한 개인화 AI는 모두 기기 내부에서 처리되므로 개인정보가 외부로 보내지지 않아 프라이버시가 보호되고, 오프라인 상태에서도 동작합니다.

또한 이 AI Engine은 향상된 전력관리로 동작하여 전반적인 와트당 성능이 개선되었고, 항상 대기하는 AI 작업(예: 상시 청취 트리거)이 배터리에 주는 영향을 최소화했습니다.

결국, 퀄컴 AI Engine은 경쟁사 대비 이기종 컴퓨팅 최적화와 AI지속동작 능력에서 앞서 있으며, 모바일에서 상상하던 AI 경험(생성형 AI, 실시간 번역 자막, 개인비서 등)을 현실화하는 핵심입니다.

스마트폰 OEM 제조사(B2B)들이 이 AI Engine을 포함한 Snapdragon 8 Gen5 칩셋을 구매하여 차기 플래그십 폰에 탑재할 것입니다. 삼성전자, 샤오미, 오포 등 주요 안드로이드 스마트폰 업체들이 주요 고객입니다.

또한 XR(확장현실) 헤드셋 제조사나 차량용 인포테인먼트 시스템 분야에서도 이 칩셋 (혹은 파생 버전)을 채용할 수 있어, 그런 기업들도 잠재 고객입니다.

일반 소비자들은 직접 이 엔진을 사는 건 아니지만, 이 엔진이 들어간 기기를 구매하여 혜택을 누리므로 B2C 체감 효과가 큽니다. 그러나 상업적 구매 의사 결정은 스마트폰/디바이스 업체들이 하기 때문에 기본적으로 B2B2C 구조입니다.

모바일 AP 시장은 글로벌 규모이고, Qualcomm은 그중 최상위 안드로이드 칩셋 분야를 선도하므로 적용 범위가 넓습니다.

이 AI Engine은 이후 중급 칩이나 자동차용 플랫폼 등 다른 제품군으로도 파급될 것이므로, 스마트폰 외에도 IoT 기기, 노트북 등에서도 응용 가능해질 것입니다. 온디바이스 AI 추세가 뚜렷하므로, 향후 스마트TV, 가전 등으로도 확장될 수 있습니다.

지역적으로도 제한 없으며, 오히려 각국 규제가 개인정보 보호를 강조함에 따라 클라우드 AI보다 온디바이스 AI를 선호하는 방향이라 이 기술의 강점이 더욱 부각됩니다. 성능 향상을 위해 차기 칩에서도 계속 강화되어 퀄컴 플랫폼 전체의 표준 기능으로 자리잡을 전망입니다.

CES 혁신상 AI 부문 수상은 "스마트폰에 새로운 AI 지능을 불어넣었다"는 점을 인정받은 결과입니다.

업계 전문가들은 특히 "항상 켜져 있는 LLM" 개념에 주목하여, 작은 기기에서 초거대 언어모델을 돌릴 수 있게 된 것을 큰 도약으로 보고 있습니다. 스냅드래곤 발표 당시, 기기 내 10억단어 규모 LLM 구동 데모 등이 화제를 모았고, "모바일에서 ChatGPT를 직접 돌리는 시대"라는 기대감을 낳았습니다.

또한 CPU에 행렬가속 도입은 ARM 생태계 최초라, AnandTech 같은 매체는 "모바일 CPU의 패러다임 변화"라고 평했습니다. 시장에서는 이 엔진 탑재 폰들이 2026년에 대거 출시될 것이 확실시되어, 소비자 기대도 높습니다.

사용자들은 클라우드 없이 빠르게 이미지 생성, 실시간 통역 등 할 수 있기를 바라며, 제조사들도 차별화 포인트로 적극 활용할 계획입니다.

아직 초기라 "실제로 어느 정도 성능의 LLM을 돌릴 수 있을지", "OEM이 얼마나 소프트웨어 최적화를 해줄지" 등의 숙제는 있지만, 전반적으로 과대광고가 아닌 기술적 진보라는 인식이 강합니다. 오히려 대중에게는 스펙보다는 실제 체감 경험이 중요하므로, 향후 탑재폰들의 AI 기능 완성도가 평가를 좌우할 것입니다.