[토토 사이트 커뮤니티 김언한 기자] 퀄컴은 미국 시애틀에서 진행된 ‘마이크로소프트 빌드 2023’에서 스냅드래곤 컴퓨팅 플랫폼 기반 온디바이스 AI 혁신 기술을 선보였다고 25일 밝혔다.
퀄컴은 스냅드래곤이 탑재된 PC용 윈도우11 애플리케이션 개발에서 새로운 가능성을 제시했다.
지아드 아즈가(Ziad Asghar) 퀄컴 제품 관리 수석부사장은 “퀄컴의 최고급 AI 하드웨어와 소프트웨어는 개발자들이 AI 기술을 활용해 스냅드래곤이 탑재된 노트북, 휴대폰 등 여러 디바이스에서 뛰어난 사용자경험을 제공하도록 지원하게 될 것"이라고 말했다.
미래의 AI는 온디바이스와 클라우드를 모두 포괄해야 한다. AI 애플리케이션을 온디바이스로 운영하면 비용 효율성, 보안, 개인화, 지연(latency) 문제 등에서 개선이 이뤄져야한다.
스냅드래곤 플랫폼에는 전용 퀄컴 AI 엔진이 장착됐다. 온디바이스 AI를 소형 기기에서 구현한다. 중앙처리장치(CPU) 또는 그래픽처리장치(GPU)에 의존하는 것보다 AI 워크로드 처리 효율성이 높아진다.
퀄컴은 이번 행사에서 윈도우11에서 생성형 AI 개발에 도움을 주는 모습을 선보였다.
10억개 이상의 매개 변수를 보유한 텍스트-투-이미지 생성형 AI인 스테이블 디퓨전(Stable Diffusion)은 단말기 상에서 운영된다. 퀄컴은 대규모 언어 모델(LLM) 등 100억개 이상의 매개 변수를 보유한 모델들을 수개월 내에 단말기상에서 운영할 수 있을 것으로 전망했다.
퀄컴은 이번 빌드 2023에서 퀄컴 AI 엔진 다이렉트 SDK(Qualcomm AI Engine Direct SDK)도 최초로 개방했다. ONNX 런타임과 퀄컴 AI 스택을 바탕으로 서피스 프로9 5G와 레노버 씽크패드 x13s에서 스냅드래곤 8cx Gen3 AI 엔진을 이용해 AI 워크로드를 처리할 수 있다.