해외 여행 가서 현지의 맛집을 이용할 때가 있습니다.한국이면 스마트 폰을 열고 클릭 몇번에 예약이 완료되지만 해외에서는 여전히 직접 전화로 예약해야 하는 경우가 많습니다.영어가 약한 사람에게 전화 예약은 항상 어렵습니다.하지만 지금은 무섭지 않습니다.” 실시간 통역”기능을 갖춘 스마트 폰이 나오는 때문입니다.삼성 전자가 이달 선 보인 신형 프랏그싶(?)스마트 폰”갤럭시 S24울트라”에는 실시간 통역 기능이 있습니다.”이번 주 목요일 1시 30분에 예약하고 싶은데요 “와 한국어로 말하면 영어로 바로”I’d like to make a reservation for this Thursday at 1:30″과 실시간으로 번역되는 것입니다.이런 실시간 통역 기능이 가능한 것은 모두” 온 디바이스 인공 지능(AI)”시대가 개화하고 있기 때문입니다.이번”혼키 자카리아의 빅텍”에서는 생성형 AI에 이어 새로운 개화기에 돌입한 온 디바이스(On-Device)AI에 대해서 이야기 하고 싶다고 생각합니다.
온디바이스 AI 시대의 시작… ‘내 손안의 비서’ 나왔다
” 온 디바이스”라는 표현도 익숙하지 않지만 삼성 전자의 신형 갤럭시 S24시리즈는 ” 온 디바이스 AI폰”이라는 별명이 새겨졌습니다.지난해부터 화제가 되었던 생성형 AI는 클라우드 서버 기반으로 작동합니다.개별 스마트 기기에서 수집한 정보를 중앙의 클라우드 서버에 송신합니다.그 후, 딥-러닝(Deep-Learning)등의 분석을 거치고 결과값을 다시 기기에 송신합니다.우리가 원하는 기능을 실현하는 기본적인 방법입니다.이런 방법은 우리가 어떤 스마트 기기를 보유했는지에 관계 없이, 클라우드의 역량에 의해서 좌우됩니다.간단히 말하면 우리가 구형 스마트 폰을 가지고 있어도, 연산을 클라우드가 커버하기 때문에 우리가 저비용으로 고성능 AI서비스를 제공 받습니다.채팅 GPT를 구형 아이 폰과 갤럭시 모델이라도 제대로 작동시킬 수 있다는 이야기입니다. 다만 문제가 있습니다.기기 자체가 네트워크에 접속되고 있을 필요가 있습니다.각종 단말기로 만들어진 정보가 외부에 적어도 한번 이상 발송되어야 합니다.저의 기기의 정보가 노출될 가능성은 이론적으로 있다는 이야기입니다.반면 온 디바이스 AI는 다릅니다.클라우드에 접속되지 않고 스스로 작동하는 AI을 온 디바이스 AI라고 합니다.스마트 폰 등 단말기에서 자율적으로 정보를 수집한 후 연산해서 응답합니다.”내 손 안의 AI비서”라는 것입니다.갤럭시 S24의 신형 모델 자체에서 AI가 작동하고 실시간으로 통역을 하는 것입니다.이런 AI기술을 구현하기 위해서는 저전력·저용량 메모리 반도체가 기기에 탑재되고 있어야 합니다.비행기 안에서 인터넷에 접속하지 않아도 스마트 폰 뿐 AI가 작동하고 업무를 하는 것이 온 디바이스 AI가 발전하면 펼쳐질 미래입니다.클라우드 서버를 통하지 않고 보유하고 있는 기기 내에서 데이터를 처리하므로 응답 시간이 단축됩니다.외부 서버를 개의치 않으므로 사생활 보호도 쉽습니다.비용과 에너지도 획기적으로 삭감합니다.통상, 클라우드의 구동에는 막대한 에너지와 비용이 걸립니다.오픈 AI는 채팅 GPT운영비로만 지난해 말 기준으로 하루 70만달러(9억원)이상을 쓰고 있다고 전하고 있습니다.https://mblogthumb-phinf.pstatic.net/MjAyMDA1MTVfMTIg/MDAxNTg5NTA5NzE4NTY3.a0uxOzuuy1HJKlK1PiIsvwZBdFg0h3L3GOtxPcho-qog.64AYeMV8Q0Q67hxel7gb7QNFXO4fiCfcjlDHKXHL-Rkg.JPEG.hoi_arumlove/output_3326469168.jpg?type=w800
구글·애플이 일으킨 ‘온디바이스 AI’ 전쟁…연평균 20% 성장
온 디바이스 AI에 대한 관심은 지난해 10월 구글이 자체의 스마트 폰 시리즈 픽셀 8에 온 디바이스 AI을 탑재했다고 밝히고 커졌습니다.구글은 온 디바이스 AI칩이다”텐서 G3″을 장착한 스마트 폰”픽셀 8″을 선 보였습니다.픽셀 8에는 AI비서인 “구글 보조”와 생성형 AI”버드”를 결합한 “보조 위즈 버드”이 적용됐습니다.구글은 텐서 G3칩셋의 AI성능은 제1세대 텐서를 적용한 픽셀 6보다 2배 정도로 우수하다고 강조했습니다.덕분에 픽셀 8에는 픽셀 7보다 150배 복잡한 생성형 온 디바이스 AI을 채용할 수 있었습니다.단체 사진을 찍어 개인마다 가장 좋은 표정을 고르게 한다”베스트 테이크”녹음할 때 원하는 소리 이외에 모두 삭제하는 “오디오 매직 이레이져”등이 온 디바이스 AI작동 예입니다.이것만으로도 몇가지 시사하고 주지만.구글이 이제 독자의 반도체 칩을 만들어, 실제로 독자적인 스마트 폰에 탑재하면서 양산할 수 있다는 것을 보였다는 것입니다.생성형 AI와 함께 쌍두 마차가 된 AI판이 벌어지고 있다는 것입니다.시장 분석 기관 GMI는 글로벌 온 디바이스 AI시장 규모가 2022년 50억달러에서 연평균 20%씩 성장한다고 발표했습니다.2032년에는 700억달러(약 87조원)규모입니다.단지 스마트 폰에 국한된 얘기가 아닙니다.모바일 디바이스에서 PC, 웨어러블 기기, 드론 자동 운전 자동차, 혼합 현실(MR)헤드 세트, 스마트 홈 로봇 등까지 다양한 종류의 기기에 온 디바이스 AI가 본격적으로 도입될 것으로 보입니다.
온디바이스 AI 시장 주도하는 삼성전자…”스마트폰 사업 회복 이끌겠다”온 디바이스 AI효과가 삼성 전자 글로벌 스마트 폰 출하량 1위를 탈환하는 증권가의 분석도 나오고 있습니다.KB증권의 김·동원 연구원은 보고서에서 “삼성 전자는 온 디바이스 AI폰 출하 확대를 기반으로 2024년 스마트 폰 출하량이 지난해보다 7%증가할 것”이라며”삼성 전자 주도에서 온 디바이스 AI폰 글로벌 출하량은 연평균 83%성장할 것”이라고 전망했다.앞서고 삼성 전자 MX사업부(전 무선 사업부)는 19일 기자 간담회를 통해서”2024년 1억대 수준의 갤럭시 AI폰 출하”목표를 제시했습니다.이번에 나온 갤럭시 S24(판매 대수 3600만대, 전년 대비 16%증가)을 포함, 작년 발매한 갤럭시 S23, 폴더블 폰(Z폴드, Z플립)등에도 AI기능을 탑재하는 것입니다.이런 삼성 전자의 주도 속에서 온 디바이스 AI폰 시장은 연평균 83%성장하고 2027년에 5억대까지 급증할 것이라는 관측도 나오고 있습니다.향후 4년간의 누적 출하량이 11억대에 이른다고 분석되었습니다.온 디바이스 AI의 개념을 도입한 것은 삼성이 처음은 아닙니다.애플이 “iPhone15프로”모델로 채택한 A17프로 뉴럴 엔진은 발매 당시 성능이 종전보다 최대 2배 향상됐다고 밝혔습니다.보안을 이유로 애플은 빨리도 온 디바이스 AI기술에 관심을 기울였습니다.iOS17에 강화된 자동 수정, 쓰기, 라이브 음성 메일 등의 기능이 모두 온 디바이스 AI로 구현되는 것입니다.생성형 AI와 함께 또 하나의 AI의 한축으로서 온 디바이스 AI가 부상하고 있습니다.두 시장과 개화기인 만큼 이 분야를 얼마나 이해하느냐에 의해서, 새로운 기회를 찾을 수 있는 것으로 보입니다.홍 청룽(홍·선영)기자([email protected])의 원문 https://www.mk.co.kr/news/it/10927251한국어 하면 영어로 자동번역 ‘되는구나’…’AI 스마트폰’ 성능에 깜짝 [홍키자의 빅테크] – 매일 경제 해외여행을 가서 현지 맛집을 이용하고 싶을 때가 있어요. 한국이라면 스마트폰을 열고 클릭 몇 번이면 예약이 완료되지만 해외에서는 여전히 직접 전화로 예약을 걸어야 하는 경우가 많습니다. 영어를 잘 못하는 사람에게 전화 예약은 항상 어렵습니다. 하지만 지금은 무섭지 않아요. ‘실시간 통역’ 기능이 달린 스마트폰이 나왔기 때문입니다. 삼성전자가 이달 발표한 신형 플래그 www.mk.co.kr한국어 하면 영어로 자동번역 ‘되는구나’…’AI 스마트폰’ 성능에 깜짝 [홍키자의 빅테크] – 매일 경제 해외여행을 가서 현지 맛집을 이용하고 싶을 때가 있어요. 한국이라면 스마트폰을 열고 클릭 몇 번이면 예약이 완료되지만 해외에서는 여전히 직접 전화로 예약을 걸어야 하는 경우가 많습니다. 영어를 잘 못하는 사람에게 전화 예약은 항상 어렵습니다. 하지만 지금은 무섭지 않아요. ‘실시간 통역’ 기능이 달린 스마트폰이 나왔기 때문입니다. 삼성전자가 이달 발표한 신형 플래그 www.mk.co.kr한국어 하면 영어로 자동번역 ‘되는구나’…’AI 스마트폰’ 성능에 깜짝 [홍키자의 빅테크] – 매일 경제 해외여행을 가서 현지 맛집을 이용하고 싶을 때가 있어요. 한국이라면 스마트폰을 열고 클릭 몇 번이면 예약이 완료되지만 해외에서는 여전히 직접 전화로 예약을 걸어야 하는 경우가 많습니다. 영어를 잘 못하는 사람에게 전화 예약은 항상 어렵습니다. 하지만 지금은 무섭지 않아요. ‘실시간 통역’ 기능이 달린 스마트폰이 나왔기 때문입니다. 삼성전자가 이달 발표한 신형 플래그 www.mk.co.kr