단일-보드 컴퓨터(SBC)는 지난 20년 간 현저하게 바뀌었습니다. 한정 용량 RAM의 간단한 8비트 CPU였던 것이 이제 껌 한 통만큼 작으면서도 쿼드 코어 데이터를 처리하는 기계로 변화하였습니다. 이제 에지 컴퓨팅이 더욱 인기를 끌면서, SBC가 누릴 수 있는 혜택은 무엇일까요? 이번 기사에서는 왜 AI가 데이터 센터으로부터 빠져나오고 있는지 살펴보고, 어떻게 SBC가 인공 지능(AI) 친화적으로 만들어지는지에 대해 알아봅니다.
AI의 장점과 단점
수많은 장점때문에 제품에서 AI를 사용하는 것이 지속적으로 증가하고 있습니다. 이 현대적인 솔루션은 고객들을 위한 맞춤형 제품 제작에 도움이 됨과 동시에 모든 고객을 위해 제품을 개선합니다.
예를 들어, 인기 플랫폼 구글 어시스턴트는 한 개인에 대한 답변에 대해 학습하고 맞춤화할 수 있으며, 이는 이후 개인들로 이뤄진 전체 그룹에 대한 답변을 맞춤화하도록 개발됩니다. 이는 반대로 모든 고객 경험 개선에 도움이 됩니다.
AI를 제품에 적용시키는 것은 꽤 어려울 수 있습니다. AI 구현의 가장 흔한 방법은 클라우드 기반 AI입니다. 이 방법은 클라우드 기반 AI 시스템의 주요 AI 알고리즘이 데이터 센터에서 구동되기 때문에 어려움이 있습니다. 고객 장치가 데이터 센터로부터 정보를 송수신하도록 하는 것은 강력한 AI 시스템 통합을 위해서는 본질적인 몇 가지 문제가 있습니다.
개인정보 보호 문제가 AI의 민감하고도 주요한 이슈로 떠올랐습니다. 민감한 정보가 알지 못하는 장소로 보내진다는 것은 허가받지 않은 개인이 접근할 수도 있다는 것을 의미합니다. 소비자들 사이에 인기있는 아마존 알렉사 기반 제품을 예를 들어보겠습니다. 아마존의 알렉사는 AI 기능으로 사용자들이 질문을 하고 답변을 받습니다. 실제로 생각해보면 알렉사는 장치 내에서 AI 프로세싱 대신 사용자의 질문들을 데이터 센터로 전달하여 AI 프로세싱을 하는 점에서 전화와 같습니다. 알렉사가 고객이 모르게 또는 고객의 동의 없이 대화를 녹음하여 저장할 수 있으며, 따라서 아마존 내 AI 데이터 또는 시스템에 접근할 수 있는 광범위한 직원들이 이 내용에 접근할 수 있다는 두려움이 개인정보 보호와 관련한 우려를 자아내는 것입니다.
다음 문제는 대기 시간입니다. 원격 데이터 센터를 이용하는 제품은 데이터를 전송하고, 그것이 프로세스되는 것을 기다린 후에 결과를 받습니다. 인터넷 연결이 즉각적이지 않기 때문에 약간의 지연이 발생하며, 트래픽에 따라 이 대기 시간이 달라집니다. 더 나아가, 인터넷 사용자가 많아질 수록 시스템 대기 시간도 길어지게 됩니다. 이는 잠재적으로 제품의 무응답을 야기할 수도 있습니다.
대기 시간과 관련한 또다른 문제는 인터넷 접근 그 자체입니다. 원격 데이터 센터에 의지하여 언제나 전원이 켜 있는 장치는 지속적인 인터넷 연결이 필요합니다. 웹사이트 제공자나 DNS 서버 과부하로 웹사이트 접근이 불가능하게 된다는 것을 들어보신 적 있으실 겁니다. 이런 일이 일어나게 되면, 데이터 센터에 의지하는 어떠한 제품도 완전히 신뢰할 수 없게 됩니다. 신뢰할 수 없거나 데이터 연결이 제한적인 위치는 인터넷에 의존해야하는 장치에는 적합하지 않을 것입니다.
에지 컴퓨팅의 세계로 들어오세요
에지 컴퓨팅은 양 쪽 세상의 최고만 선택하는 컨셉입니다. 이 솔루션은 개인정보 보호 우려를 잠재우고, 인터넷 접근에 대한 의존도를 줄이며, 데이터 센터에 의존하지 않고 장치 자체의 AI 알고리즘을 제공합니다. 간단하게 말해, 에지 컴퓨팅은 네트워크의 말단에서 데이터를 자체적으로 프로세싱하여 작동하며, 에지는 더 이상 하단에 인터넷 장치가 없는 최종 장치로 간주합니다. 이 접근 방법은 클라우드 기반 AI 시스템이 기존에 가지고 있던 많은 문제 및 우려를 해결합니다.
에지 컴퓨팅은 AI 실행을 데이터 센터로부터 장치로 옮겨줍니다. 머신 러닝을 로컬 수준으로 실행하는 것이 흔치 않지만 (복잡하고 비용이 많이 드는 일이기 때문에), 머신 러닝의 결과로 만들어진 신경망 프로세스는 로컬에서 실행이 가능합니다. 신경망만을 사용하는 업무로는 손글씨, 몸짓 인식, 사물 인식 등이 있습니다.
에지 컴퓨팅으로 해결할 수 있는 또 다른 문제는 대기 시간입니다. AI 신경망은 데이터가 가능한 순간 프로세스되어 실행 시간을 획기적으로 줄일 수 있습니다. 장치가 인터넷 연결을 하고, 데이터를 전송하고, 데이터 센터가 이를 프로세스하여 결과를 다시 전송받아 장치에서 출력해주기를 기다려야하는 것 대신, 에지 컴퓨팅은 이 모든 프로세스를 로컬에서 진행하여 인터넷 연결이 필요없고, 결과적으로 대기 시간을 줄여줍니다. 에지 컴퓨팅을 사용하면 데이터 센터를 사용하지 않아, 정보 프로세스 이후 학습 목적으로 종종 데이터를 보관하는 것으로부터 자유롭기 때문에, 잠재적인 개인적인 정보를 장치에만 둘 수 있습니다.
에지 컴퓨팅이 훌륭하게 들리지만, 주요 약점이 하나 있습니다. AI 신경망의 작동이 엄청나게 복잡하고 어렵다는 점입니다! Arduino 와 같은 마이크로컨트롤러 가 신경망을 작동하게 할 수 있지만, 실제로 망을 작동하기 위한 속도가 엄청나게 느리기 때문에-이로 인해 사실 클라우드 기반 AI 시스템을 사용하는 것이 비교했을 때 거의 즉각적으로 보일 것입니다.
설계자에게 다행히 몇몇 실리콘 기반 기업들이 신경망 및 AI 알고리즘이 효율적으로 작동하도록 설계된 AI 공동 프로세서를 제작하기 시작했습니다. 공동 프로세서이기 때문에, 주요 프로세서는 자유롭게 다른 업무를 수행할 수 있습니다.
이를 단일 보드 컴퓨터에 적용할 경우, 에지 컴퓨팅을 위한 어떤 옵션이 있을까요?
솔루션 1: Google Coral 세트
이 Google Coral 제품 세트는 TensorFlow 공동 프로세서를 포함하고 있어 에지 컴퓨팅에 이상적입니다. 이 공동 프로세서는 특별히 모바일 및 임베디드 애플리케이션을 위해 설계되었습니다. 이를 통해 TensorFlow Lite AI 알고리즘 실행이 가능합니다. TensorFlow Lite는 TensorFlow의 "컷 다운" 버전으로 소형 장치 내 AI 실행에 대해 허용가능 이상의 절충안을 제공합니다.
Dev Board는 TensorFlow 공동 프로세서와 통합 GC7000 Lite Graphics GPU, LPDDR4 RAM 1GB, eMMC 플래시 메모리 8GB 및 인터넷 연결을 위한 Wi-Fi SoC를 포함하는 Arm A-53 쿼드 코어 SBC입니다. HDMI 출력, USB 입력, GPIO를 탑재한 보드는 특히 인터넷 접근이 제한적인 장소에서 객체 인식 및 음성 인식을 포함하여, AI 환경에서 에지 컴퓨팅을 위한 훌륭한 솔루션입니다.
어떤 상황에서는 근본적인 하드웨어를 교체하는 것이 불가능합니다. 그런 상황일 때, 공동 프로세서를 추가 탑재하는 것이 용이합니다. USB 가속기가 이런 경우입니다. Coral USB Accelerator는 USB 슬레이브 장치로 연결된 모든 컴퓨터에 TensorFlow 공동 프로세서 를 제공하며 — PCB 재설계가 필요없습니다. 이 두가지 Coral 제품의 장점은 USB 가속기는 장착 홀이 있고 엄청나게 작은 풋프린트(65 x 30mm)를 가지고 있는 것에 반해, Dev Board 프로세서 유닛은 마더보드에서 제거하고 최종 제품에 삽입이 가능하기 때문에 확장이 용이하다는 점입니다.
솔루션 2: Nvidia Jetson Nano
에너지 소비를 낮게 유지하며 다수의 신경망이 평행으로 작동해야 하는 AI 시나리오의 경우, Nvidia Jetson Nano로부터 큰 이득을 얻을 수 있습니다. 이 단일 보드 컴퓨터는 단 5W의 소비로 객체 인식 및 음성 프로세싱과 같은 애플리케이션을 위한 신경망을 여러 개 동시에 작동할 수 있습니다.
이 Arm A57 기반 SBC에는 LPDDR4 RAM 4GB, microSD 카드 저장, 비디오 인코드 4K, 60fps 비디오 디코드 4K, 다수의 USB 3.0 포트, GPIO 및 기타 주변 포트들이 있습니다. Nvidia Jetson Nano의 AI 코어는 472 GFLOPS 성능이 있으며, Jetson 제품은 개발자 키트와 모듈(개발자 키트는 개발 단계에 사용, 모듈은 제품의 최종 사용 애플리케이션에 사용합니다) 둘 다로 사용될 수 있습니다.
개발 키트 내 작은 면(100 x 80 x 29mm)은 낮은 프로파일 위치에 이상적이며, Nvidia Jetson Nano의 낮은 에너지 소비는 AI 기능이 필요하나 인터넷과 전력이 없는 원격 장소에 이상적입니다.
솔루션 3: Intel Compute Stick
Intel Compute Stick은 틀림없이 현존하는 가장 작은 SBC 중 하나일 것입니다. 주요 장점? 어떤 HDMI 디스플레이라도 컴퓨터로 바꿀 수 있습니다.
물리적으로 말해, Intel Compute Stick은 일반적인 껌 한 통 만한 크기(4.5인치 이하)에, 그 안에는 RAM 4GB, 스토리지 64GB의 Intel Atom 또는 Intel Core M 프로세서가 있는 것입니다.
작은 크기에도 불구, Intel Compute Stick은 Wi-Fi, 블루투스, 세 개의 USB 포트를 포함하는 다양한 형태의 연결을 통합합니다. Intel Compute Stick이 AI 공동 프로세서를 포함하고 있지는 않으나, 강력한 코어는 잠재적으로 에지 컴퓨팅을 할 수 있게 만들어, 잠재적으로 어떤 HDMI 디스플레이에서도 AI 업무를 할 수 있게 해줍니다. 이러한 이유로 Intel Compute Stick은 협소한 장소에 장착해야 하는 양방향 단말기 및 가정용 장치로서 이상적입니다.
솔루션 4: Raspberry Pi 4
최신 Raspberry Pi 컴퓨터인 Raspberry Pi 4는 여러 이유로 에지 컴퓨팅 애플리케이션의 잠재적인 후보자가 될 수 있습니다. 첫째, Raspberry Pi 4의 코어는 A72 ARMv8-A 기반이며, 이는 기존의 어떤 것보다 현저하게 빨라진 —1.5GHz입니다. 둘째, Raspberry Pi 4는 RAM 4GB, WiFi, 블루투스를 포함한 광범위한 연결 및 GPIO를 포함하여 광범위한 하드웨어와의 상호작용이 가능합니다. Broadcom Video Core VI가 Pi로 하여금 4K에 이르는 다수의 스크린을 제어할 수 있게 해주며, 상대적으로 작은 크기(88 x 58mm)로 협소한 장소에도 장착이 가능합니다.
이러한 모든 기능이 Raspberry Pi 4가 잠재적인 에지 컴퓨팅의 후보가 되게 함에도 불구, AI 공동 프로세서를 포함하고 있지 않기 때문에 모든 AI 알고리즘은 CPU 상에서 작동해야 합니다. Raspberry Pi 4는 Coral USB Accelerator와 팀을 이루어 Raspberry Pi 4에 TensorFlow 공동 프로세서를 제공할 수 있습니다. 이런 조합의 결과는 매우 강력한 플랫폼을 만들어내며, 듀얼 스크린 기능, 객체 인식을 위한 카메라 포트, 하드웨어 인터페이스를 위한 GPIO 기능을 갖춘 AI 애플리케이션을 제작할 수 있습니다.
관련 상품 참조
개요
모든 SBC가 AI 공동 프로세서를 갖춘 것은 아니지만, 그렇게 하는 경우 (특히 임베디드 시스템의 경우) 귀하의 설계에 매우 큰 장점이 될 수 있습니다. AI 공동 프로세서를 포함하고 있지 않다 하더라도 여전히 Coral USB Accelerator 와 같은 외부 프로세서에 의존해야 합니다. 어느 쪽이든, 임베디드 장치 내 AI는 향후 십 년 내에 흔한 일이 될 것이며, 그 시점에서는 가장 단순한 장치이더라도 최소 수준의 지능을 갖추고 있게 될 것입니다.
