오픈 AI가 생성형 인공지능(AI) ‘챗GPT’를 선보인 이후 인간처럼 학습하고 추론하는 AI에 대한 관심이 높아지고 있다. 특히 삼성전자가 세계에서 처음으로 스마트폰에 온디바이스(On-Device) AI를 적용하면서 태블릿·노트북·로봇청소기 등 가전제품에까지 확장하려는 기업들의 연구가 활발하다. 차세대 딥러닝(Deep-Learning) 기술로 새롭게 주목받고 있는 ‘온디바이스 AI’, 과연 어떤 기술일까?
디바이스에 AI가 결부된 형태…빠른 정보처리 장점
온디바이스 AI란 말 그대로 기기에 탑재된 AI를 의미한다. 사용자와 직접 접촉하는 하드웨어인 디바이스에 AI가 결부된 형태다. 쉽게 말해 스마트 기기에 AI 연산을 할 수 있는 신경망 칩(NPU)을 설치해 인터넷 연결 없이 기기 스스로 가벼운 AI 학습과 연산을 구동하는 기술이다. 클라우드 컴퓨팅에 의존하는 생성형 AI와는 다른 방식이다.
챗GPT와 같은 생성형 AI는 사용자가 입력한 특정 키워드 조건에 맞춰 텍스트·이미지·오디오·비디오·프로그래밍 코드 등 다양한 콘텐츠를 생성해주는 AI를 말한다. 개별 스마트 기기에서 수집한 정보를 중앙의 클라우드 서버로 전송해 딥러닝 등의 분석을 거친 뒤 결과를 다시 기기로 보내는 방식으로 구현된다.
예를 들어 아마존의 ‘에코(Echo)’ 등 스마트 스피커는 사용자의 음성 명령을 수집해 음성인식 기능을 실행하는 클라우드 데이터센터로 전송한다. 데이터센터는 사용자의 음성 데이터를 분석해 그 의도를 파악하고 여기에 적합한 결과를 다시 스마트 스피커로 전송한다. 단말기를 매개로 사용자가 데이터센터와 AI 처리 요청 및 결과 데이터를 주고받는 것이다.
이러한 방식은 각 디바이스의 연산 성능이 뛰어나지 않더라도 클라우드가 이를 커버하기 때문에 고성능 AI 서비스를 제공하는 장점이 있다. 하지만 반드시 클라우드 데이터센터와 사용자 단말기가 네트워크에 연결돼 지속적으로 데이터를 주고받아야 한다는 전제조건이 따른다.
만일 이 과정에서 네트워크 상태가 원활하지 않다면 적시에 데이터센터로부터 AI 지원을 받기 어려울 수 있다. 클라우드 서버 부하로 네트워크가 지연될 수 있고 무선 인터넷이 미치지 못하는 음영지역에서는 AI 성능에 큰 영향을 미칠 수 있다. 이러한 단점은 생성형 AI가 상용화로 확산하는 데 결정적인 한계로 작용한다.
생성형 AI의 클라우드 컴퓨팅 의존도를 낮추기 위해 떠오른 기술이 바로 ‘온디바이스 AI’다. 멀리 떨어진 중앙의 클라우드 서버를 거치지 않는다는 것은 온디바이스 AI의 가장 큰 장점이다. 별도의 인터넷 연결 없이 스마트 기기 내부에서 자체적으로 데이터를 수집하고 연산하는 AI를 실행하는 덕분에 정보처리 속도가 빠르기 때문이다.
클라우드에 의존하는 생성형 AI의 경우 클라우드까지 데이터가 넘어갔다 오는 탓에 상대적으로 응답 시간이 길다. AI의 지원 속도가 더디면 정보의 실시간성이 요구되는 서비스 운영이 힘들 수 있다. 예를 들어 자율주행차는 수천분의 1초 단위로 주변 지형과 도로 상황을 판단하고 대응해야 한다. 그런데 터널이나 도시 외곽 등 네트워크 상태가 불안정하면 자율주행차 주행도 불가능해질 수 있다. 고속 그래픽 처리가 중요한 게임 역시 네트워크 상태에 따라 서비스 만족도가 크게 떨어질 수 있다.
또 생성형 AI는 수집하는 고객의 정보 폭이 넓고 생성된 정보가 최소 한 번 이상 데이터센터로 전송된다는 점에서 보안 위협에 노출될 위험성이 높다. 일례로 ‘AI 통역 통화’ 기능이 클라우드 서버를 통해 이뤄진다면 AI가 통역한 통화내역이 외부에 유출될 수 있다.
반면 온디바이스 AI는 단말기 내부에서 AI를 실행하므로 개인정보가 유출될 확률이 적다. 클라우드를 거치지 않기 때문에 에너지 사용도 훨씬 줄어든다. 인텔의 최고경영자(CEO) 팻 겔싱어는 이 같은 장점으로 생성형 AI를 현실화할 수 있는 건 온디바이스 AI뿐이라고 주장한다.
세계는 지금 온디바이스 AI 경쟁
현재 온디바이스 AI 시장을 선점하려는 기업은 삼성전자다. ‘갤럭시 S24’에 탑재된 ‘실시간 통역 기능’이 온디바이스 AI 기술의 하나다. 서로 다른 언어를 쓰는 두 사람이 통화할 때 모바일 기기에 설치된 신경망 칩이 자동으로 상대방의 말을 통역해 사용자의 모국어로 들려준다. 일종의 개인 통역사 역할을 하는 셈이다. 통역된 대화는 음성으로 들을 수 있고 텍스트 형식으로 표시돼 눈으로도 확인 가능하다. 실시간 통역 기능은 언어의 장벽을 허무는 단초가 될 것이다.
구글도 자사의 스마트폰 ‘픽셀8’에 신경망 칩인 ‘텐서G3’를 탑재했다. 기존에 클라우드 AI로 지원했던 AI 비서 ‘구글 어시스턴트’와 생성형 AI ‘바드’를 결합한 ‘어시스턴트 위드 바드’를 온디바이스 AI로 구현해 실행 속도를 10배 가까이 끌어올렸다. 온디바이스 AI가 적용된 픽셀8은 어두운 곳에서 촬영한 사진을 생생하게 재생할 수 있는 ‘나이트 사이트(Night Sight)’라는 기능을 제공한다. 나이트 사이트의 원리는 15장의 사진을 동시에 촬영한 후 이를 하나로 결합해 픽셀의 밝기·색상 등 미세 부분을 AI로 조정하는 것이다.
애플은 AI 기술을 전면에 내세우지 않으면서 제품 전반에 AI를 스며들게 한다는 전략을 취하고 있다. 생성형 AI를 자체 운영체제(OS)인 ‘iOS’, 기존의 AI 음성인식 비서인 ‘시리’에 접목해 기능을 강화할 것으로 보인다.
올해는 온디바이스 AI의 개화기가 될 전망이다. 온디바이스 AI의 발전은 반도체 산업에 새로운 기회다. 온디바이스 AI가 모바일 기기를 통해 실현시킬 다양한 기술을 지원할 전용 반도체의 수요가 증가할 것이기 때문이다. 앞으로 NPU 같은 AI 칩 사용이 더욱 늘어나 우리나라 반도체 기업들이 새로운 기회를 맞이하길 기대한다.
김형자
편집장 출신으로 과학을 알기 쉽게 전달하는 과학 칼럼니스트. <구멍으로 발견한 과학> 등 다수의 저서가 있다.
