2023년, AI 분야에서 가장 큰 화두는 '생성형 AI'입니다. 오픈AI가 본격적인 생성형 AI의 상용화를 알렸고, 여러 빅테크와 인공지능 스타트업도 이에 질세라 생성형 AI의 발전을 이끌었습니다. 그리고 2024년, 생성형 AI 대중화를 앞당길 새로운 트렌드가 또다시 등장을 예고했습니다. 바로 '온디바이스 AI'입니다.
생성형 AI가 사람들을 깜짝 놀라게 만든 기술이었다면, 온디바이스 AI는 이 생성형 AI를 어떻게 사용할지에 관한 트렌드입니다.
왜 온디바이스 AI가 떠오르나?
📱 온디바이스 AI란
일반적으로 인공지능은 클라우드를 통해 운용됩니다. 사용자가 인공지능을 이용하면, 정보는 큰 데이터 센터 내의 클라우드 서버로 전송되어 연산이 진행되고, 그 결과는 다시 사용자의 기기로 전송되어 사용자에게 제공됩니다. 이 과정에서는 클라우드 서버와 인터넷 연결이 필수적입니다. 그런데 온디바이스 AI는 다릅니다. 사용자의 기기 자체에서 정보를 수집하고 인공지능 연산을 수행하기 때문입니다. 기기 자체에 인공지능 모델을 탑재한 칩을 넣어 인터넷 없이도 인공지능 연산을 가능하게 한 겁니다.
😥 생성형 AI 대중화의 어려움
만약 너도나도 인공지능을 사용한다면 몇십억 건의 요청을 처리할 서버가 필요합니다. 사용자의 기기와 서버를 이어주기 위한 트래픽도 엄청날 겁니다. 많은 전력과 연산도 필요하다 보니 생성형 AI의 대중화는 꽤 비용이 많이 듭니다. 챗GPT를 쓰다 보면 가끔 서버가 끊겨 먹통이 되는 일이 있습니다. 이렇듯 중앙 서버가 먹통이 되면 그동안 AI를 사용하지 못하는 문제도 발생합니다.
💻 각자의 기기에서 AI를
생성형 AI의 대중화를 목표로 하는 빅테크 기업이 내놓은 해결책이 바로 온디바이스 AI입니다. 각자의 기기에서 AI를 사용할 수 있어 사용자는 시간과 장소, 인터넷 연결 상태에 구애받지 않고, 공급자도 거대한 클라우드 서버를 갖추지 않아도 되기에 비용을 크게 절감할 수 있습니다. 인텔의 펫 겔싱어 CEO는 "생성형 AI를 현실화하는 방법은 온디바이스 AI뿐"이라고 얘기하기도 했습니다.
온디바이스 AI, 어떻게 세상을 바꿀까?
🔒 보안 걱정 없이 AI를
온디바이스 AI를 사용하면 생성형 AI의 대표적 문제인 보안 문제를 어느 정도 해결할 수 있습니다. 보통 생성형 AI는 사용자의 정보를 클라우드 서버로 보내는데, 이 과정에서 정보가 유출될 가능성이 큽니다. 많은 기업이 업무에 생성형 AI 사용을 금지하는 이유입니다. 반면, 온디바이스 AI는 기기 자체에서 정보의 수집과 연산이 진행됩니다. 외부와의 통신이 전혀 필요하지 않기 때문에 이런 문제에서 자유롭습니다. 따라서 정보가 외부에 유출될 위험이 거의 없고 더욱 다양한 방면에서 AI 활용을 가능하게 할 것으로 보입니다.
📱 스마트폰의 혁신
최근 몇 년 동안 다양한 최신 스마트폰이 출시되었지만, 눈에 띄는 혁신적인 변화를 찾기는 어려웠습니다. 오죽하면 카메라 성능만 좋아진다는 비아냥 섞인 목소리가 들릴 정도였죠. 그러나 이제는 '온디바이스 AI'가 스마트폰의 새로운 경쟁력을 결정하는 요소가 될 것으로 보입니다. 어느 제품이 온디바이스 AI를 얼마나 효과적으로 적용하느냐에 따라 그 제품의 경쟁력이 결정될 것입니다. 당장 삼성전자는 자체 개발한 AI '가우스'를 사용하여 실시간 통화 통역, 이미지 생성 등의 다양한 기능을 제공할 예정입니다. 뒤이어 다른 스마트폰 업체도 온디바이스 AI 경쟁에 뛰어들면서 2027년에는 AI 스마트폰 보급률이 40%를 넘을 것이라 내다보는 시각도 존재합니다.
💻 PC 시장도 격변한다
온디바이스 AI는 코로나19 이후로 침체한 PC 시장에 활력을 불어넣는 새로운 변화가 될 것으로 전망됩니다. 올해, 마이크로소프트는 '윈도우 12'와 '차세대 AI PC'를 출시할 계획이며, 온디바이스 AI가 탑재된 PC에 대한 수요를 더욱 증가시킬 것으로 보입니다.
🤖 AI 에이전트가 온다
빌 게이츠는 온디바이스 AI가 고도화되면 컴퓨팅 방식 자체가 바뀔 것이라고 예언했습니다. 지금은 온라인 쇼핑을 하려면 쇼핑 앱을 사람이 직접 켜고, 물건을 고르고, 결제도 직접 해야 하는데요. 미래에는 고도로 발전한 AI가 사람의 명령만 듣고 앱을 켜는 것부터 필요한 물건을 고르고 결제하는 것까지 전부 알아서 처리하게 될 수 있죠. AI가 개인 비서를 넘어 행동을 대신하는 이런 방식을 “AI 에이전트(대리인)”라고도 부릅니다. AI 에이전트가 가능하게 하려면 우리가 사용하는 전자기기마다 높은 성능의 AI가 탑재돼야 하며, 개인의 데이터도 하나하나 모아 각자의 AI를 최적화해야 하는데요. 온디바이스 AI가 이 모든 것을 가능케 합니다.
온디바이스 AI를 준비하는 기업의 전략
온디바이스 AI를 제대로 구현하기 위해서는 크게 3가지가 필요합니다. 온디바이스 AI를 탑재할 하드웨어, 두 번째는 자체 AI, 마지막으로 연산을 수행할 반도체입니다. 온디바이스 인공지능 시대를 준비하는 기업들이 각 요소를 어떻게 준비하는지 살펴보겠습니다.
1️⃣ 삼성전자
📱 갤럭시 S24(하드웨어)
삼성전자는 갤럭시 S24 시리즈부터 소비자들에게 온디바이스 AI 경험을 선사할 계획입니다. 앞서 스마트폰 시장에서 폴더블 핸드폰이라는 새로운 폼팩터로 한 차례 혁신을 주도한 삼성전자인데요. 이번에도 메이저 스마트폰 중 가장 먼저 온디바이스 AI를 대대적으로 적용해 시장 선점 효과를 노리고 있습니다.
✨ 생성형 AI 가우스(자체 AI)
삼성전자는 2023년 11월 생성형 AI인 가우스를 공개했습니다. 가우스는 앞으로 텍스트, 코드, 이미지, 동영상, 멀티미디어 등을 아우르는 종합 AI로 발전해 나갈 전망입니다. 갤럭시 S24 시리즈에 가우스가 탑재돼 인공지능을 도입한 기능을 지원할 예정입니다.
🔬 메모리 반도체 최강자(반도체 역량)
온디바이스 AI의 성공적인 구현을 위한 반도체 기술력의 핵심은 저전력입니다. 최대한 적은 전력으로 AI 모델을 돌려야 전자기기의 사용 경험을 해치지 않을 수 있기 때문인데요. 현재 가장 높은 성능의 LPDDR(저전력 D램) 생산 기술을 보유한 삼성전자는 최근 실시간 정보를 처리하는 속도를 더욱 높인 LLW(저지연성 와이드 IO) D램을 개발 중입니다. 2024년에는 온디바이스 AI에 필요한 메모리 반도체 수요가 급격히 늘어날 전망입니다. 삼성전자는 그 중심에서 메모리 반도체 혁신을 주도할 것으로 보입니다.
2️⃣ 애플
📱 하드웨어 생태계 최강자
애플은 아이폰-맥북-아이패드-각종 액세서리로 이어지는 탄탄한 하드웨어 생태계를 자랑합니다. 기기 간 높은 호환성 덕에 온디바이스 AI가 도입되면 발전 가능성이 상당히 높습니다. 스마트폰, PC 등 다양한 기기에 온디바이스 AI를 탑재하고, 여기서 얻는 폭넓은 데이터와 노하우를 이용할 수 있습니다. 이에 온디바이스 AI가 발전할수록 완성된 하드웨어 생태계를 보유한 애플을 잡으려는 기업 간 경쟁이 치열해질 것이라는 예상이 지배적입니다.
✨ 조용하지만 강력하게(자체 AI)
애플은 구글이나 마이크로소프트 등 경쟁사와 다르게 AI 분야에서 별다른 성과를 발표하지 않았습니다. 그러나 지난 10월 애플이 멀티모달 LLM인 ‘페렛’을 공개했던 사실이 뒤늦게 알려지기도 했고, 최근엔 온디바이스 AI 관련 논문을 발표하기도 했습니다. 애플은 2023년 30개가 넘는 AI 스타트업을 인수하기도 했습니다. 물밑에서 AI 연구개발에 힘을 쏟고 있다는 것을 알 수 있는 대목입니다.
🔬 하드웨어에 최적화된 반도체(반도체 역량)
애플이 최근 발표한 다른 논문에는 기기의 최대 D램 용량을 초과하는 LLM을 실행하는 방법이 담겼습니다. 직접 반도체를 생산하진 않지만, 애플이 특유의 기술력으로 반도체를 효율적으로 사용하는 방법을 연구하고 있음을 알 수 있습니다. 애플은 하드웨어에 최적화된 반도체를 설계하고, 동시에 반도체를 효율적으로 사용하는 하드웨어 기술을 도입해 온디바이스 AI를 구현하고자 합니다.
3️⃣ 마이크로소프트
💻 새 AI PC가 온다(하드웨어)
마이크로소프트는 PC, 태블릿 시장에서 온디바이스 AI를 시작합니다. 2024년 출시될 태블릿 PC ‘서피스 프로’와 노트북 ‘서피스 랩톱’에 온디바이스 AI가 탑재될 예정입니다. 특히 강력한 생성형 AI인 코파일럿이 ‘윈도우 12’와 어우러져 새로운 PC 경험을 선사할 전망입니다.
😎 든든한 AI 파트너(자체 AI)
마이크로소프트는 생성형 AI의 선구자 오픈AI와 가장 가까운 기업입니다. 덕분에 2023년 윈도우 코파일럿 등 여러 AI 서비스를 빠르게 공개하고 AI 경쟁에서 앞서나갈 수 있었습니다. 마이크로소프트는 자체적으로도 생성형 AI 연구에서 성과를 내고 있는데요. 특히 온디바이스 AI를 쉽게 구현하기 위해 소규모 언어 모델(SLM) 시리즈인 ‘Phi’를 개발하고 있습니다. 소규모 언어 모델로도 지금과 비슷한 성능을 낼 수 있다면 온디바이스 AI를 더욱 적은 비용으로 구현할 수 있을 전망입니다.
🔬 반도체는 퀄컴과 함께(반도체 역량)
마이크로소프트는 퀄컴과 협력해 온디바이스 AI에 필요한 반도체를 충당할 계획입니다. 퀄컴은 이미 10년째 온디바이스 AI에 필요한 반도체를 연구하고 있는, 삼성전자와 SK하이닉스의 강력한 경쟁자입니다. 마이크로소프트는 퀄컴으로부터 온디바이스 AI에 최적화된 스냅드래곤 X 버전 반도체를 공급받을 거라 알려졌습니다.
온디바이스 AI가 넘어야 할 장애물
⚡️ 저전력이 필요해
온디바이스 AI를 사용하려면 메모리 반도체가 기존보다 2배 정도 더 필요하며, 수시로 AI 모델을 돌리기 위해서는 많은 전력이 필요합니다. 온디바이스 AI 상용화를 위해선 저전력 기술이 필수란 이야기입니다. 특히 스마트폰이나 웨어러블 기기는 작은 부피는 유지하면서 사용 시간을 늘려야 온디바이스 AI 사용 경험을 해치지 않을 수 있습니다. 이에 하드웨어 기업은 더욱 오래 가는 배터리를 개발하는 것은 물론, AI 모델을 돌리는 데에 최적화된 하드웨어를 만드는 데 집중하고 있습니다. 반도체 기업도 저전력으로 AI 연산을 수행할 수 있는 반도체를 양산하기 위해 노력하고 있죠.
🤔 AI, 탑재하면 뭐 할 건데
온디바이스 AI는 AI를 우리 삶에 더욱 가깝게 해주는 기술임은 분명합니다. 그러나 앱 생태계의 부족은 한계로 지적됩니다. 온디바이스 AI를 사용해서 누릴 수 있는 정말 매력적인 기능을 보여준 기업은 아직 거의 없습니다. 온디바이스 AI 구현 노력에 발맞춰 매력적인 온디바이스 AI 앱이 등장하길 기대해 봅니다.
📲 스몰 데이터와 멀티모달 AI
온디바이스 AI의 강점 중 하나는 스몰 데이터 활용입니다. 기기를 사용하는 특정 개인의 정보만을 활용해서 점점 더 정확하고 개인화된 AI로 진화할 수 있습니다. 스몰 데이터는 때로는 우리가 촬영한 사진이 될 수도 있고, 통화 녹음이 될 수도 있으며, 검색어(텍스트)가 될 수도 있습니다. 이렇게 서로 다른 스몰 데이터를 잘 활용하려면 멀티모달 AI가 필수입니다.
멀티모달 AI란 텍스트, 이미지, 사운드, 동영상 등 서로 다른 종류의 데이터를 동시에 처리할 수 있는 AI입니다. 옷 이미지와 텍스트 명령을 동시에 받아들여 쇼핑할 새 옷을 추천해 주는 것이 가능합니다. 그런데 아직 멀티모달 AI는 높은 구현 난이도 때문에 상용화된 모델이 없습니다. 온디바이스 AI를 정말 제대로 활용하려면, 멀티모달 AI의 발전도 함께 이뤄져야 한다는 게 남은 과제입니다.
작년, 다들 한 번쯤은 생성형 AI를 사용해 보셨을 것 같습니다. 누가 더 정교하고 고도화된 AI를 만들어내는가도 중요하지만, 2024년엔 생성형 AI를 어떻게 일상에 잘 녹여내는지가 많은 기업의 과제가 될 전망입니다. 이런 흐름 속 온디바이스 AI는 가장 현실적이고도 강력한 방법으로 여겨집니다. 올해의 키워드 ‘온디바이스 AI’ 잊지 마세요.
'NEWSLETTER > 산업 LETTER' 카테고리의 다른 글
| 계속해서 커지고 다양해지는 술 판, 주류업계 'MZ를 노려라' 2024년 술 트렌드는? (1) | 2024.01.04 |
|---|---|
| 구글 AI 모델 '제미나이'는 왜 AI 경쟁에서 밀리는 걸까? (2) | 2024.01.04 |
| 포스코 차기 회장 선출 절차 두고 국민연금과 갈등 (1) | 2024.01.03 |
| 위태로운 부동산 PF, 태영건설 결국 워크아웃 신청 (0) | 2024.01.02 |
| '자만추'말고 '앱만추'는 어떤가요, 데이팅.소개팅 앱 산업 전망 (2) | 2023.12.29 |
