온 디바이스 AI에 대해 알아보자.

안녕하세요, 머니 엔지니어입니다.

 

https://economeer.tistory.com/9

SLM(Small Language Model)이 무엇인지 알아보자.

 

 

위의 이전 포스팅에서 LLM의 수익화 버전이 SLM이라고 말씀드린 적이 있었는데요. 해당 포스팅에서 SLM을 소비자에게 확산시켜 돈을 버는 방법으로 온 디바이스 AI가 유력하다고 말씀드렸었습니다. 오늘은 그 온 디바이스 AI에 대해 조금 더 알아보는 시간을 가져보겠습니다.

---

온 디바이스 AI란?

먼저 온 디바이스 AI란 Chat GPT나 LLaMa와 같은 AI 모델을 모바일 또는 PC 내에서 인터넷 없이 작동할 수 있도록 만든 AI 서비스를 말합니다.

 

일반적인 LLM은 작동하기 위해서는 클라우드와의 상호작용이 필요합니다. 그 안에 AI 작동을 위한 모든 자원이 있기 때문입니다. 이것을 클라우드 AI라고 합니다. 

 

이 클라우드 AI는 작동하기 위해 클라우드와의 통신을 거쳐야 하기 때문에 인터넷 연결이 필수적입니다. 또한 가지고 있는 데이터는 방대하지만, 답변이 도출되는 속도도 느린 편이죠.

 

이런 클라우드 AI의 특징은 거대한 산업을 위한 범용 모델로서는 적합합니다. 하지만 개인이나 기업용으로는 단점이 되기도 하죠. 이런 단점을 보완하여 수익성을 제고한 것이 바로 온 디바이스 AI입니다.

---

기존 클라우드 AI와 뭐가 달라?

출처 : DS투자증권 리포트 'ON-디바이스 AI로 테크 붐 ON'

 

LLM 보다 가벼운 AI 모델 채용

온 디바이스 AI에는 일반 클라우드 AI 모델이 아닌 소형화된 AI 모델(SLM)이 채용됩니다. 그렇기 때문에 인터넷이 필요가 없습니다. 데이터센터의 컴퓨팅 파워를 받는 LLM과 달리, 장치의 컴퓨팅 파워만을 가지고 작동할 수 있기 때문입니다. 또한 작동 속도가 빠릅니다. LLM을 소형화하며 데이터가 최적화되기 때문입니다.

높은 개인성과 보안성

하지만 뭐니뭐니해도 온 디바이스 AI의 최대 장점은 바로 개인성과 보안성입니다.

개인성

온 디바이스 AI는 하나의 장치 안에서 인터넷 없이 작동한다고 말씀드렸습니다. 즉 AI와 실제 사용자 둘 사이에서만 폐쇄적으로 작동한다는 것입니다. 따라서 온 디바이스 AI는 해당 사용자의 이용 패턴이나 생체 정보를 학습하면서, 보다 개인에 최적화된 서비스를 제공하게 됩니다. 결과적으로 이용자가 훨씬 효율적으로 장치를 이용할 수 있게 되죠.

보안성

또한 이러한 폐쇄성은 높은 보안성으로도 연결됩니다. AI 작동에 필요한 모든 데이터가 장치 내에만 저장되므로, 외부로 유출될 염려가 적다는 것입니다. 이용자의 생체정보, 위치정보, 각종 빅데이터 등 개인정보가 노출될 위험이 인터넷을 사용하는 다른 서비스보다 훨씬 적습니다.

---

온 디바이스 AI로의 변혁이 시장에 주는 영향

AI 디바이스 침투율 증가

온 디바이스 AI는 이렇게 높은 보안과 개인성, 그리고 빠른 실행속도를 갖추었습니다. 이것이 AI의 소비자 확산에 핵심적인 역할을 할 것으로 여겨지는 이유입니다. AI 스마트폰과 PC 시장 침투율은 앞으로 계속해서 증가할 것으로 전망됩니다.

출처 : SK 증권 리포트 'AI의 물결 클라우드에서 디바이스로'

 

AI 디바이스 부품 변화

AI 스마트폰과 PC가 보급되면서 부품 시장은 기술적인 변화를 맞게 됩니다. 대표적으로 AP칩, 발열, LCD 등이 그것인데요. 그 변화를 분석해보면 수혜를 받는 기업을 알게 됩니다.

---

 

다음 포스팅에서는 온 디바이스 AI가 가져오는 시장의 변화와 관련 기업에 대해 알아보도록 하겠습니다. 읽어주셔서 감사합니다.