에지에서 더 많은 컴퓨팅이 수행되고 있으며, 이로 인해 장치 수준에서 로컬로 수행되는 고급 인공 지능 및 머신 러닝을 지원하는 온보드 메모리, 스토리지 및 처리 기능에 대한 수요가 증가하고 있습니다.
에지에서 더 많은 컴퓨팅이 수행되고 있으며, 이로 인해 장치 수준에서 로컬로 수행되는 고급 인공 지능 및 머신 러닝을 지원하는 온보드 메모리, 스토리지 및 처리 기능에 대한 수요가 증가하고 있습니다.
초기 에지 AI 사용 사례에는 보안 및 액세스 목적을 위한 센서 및 감지와 같은 간단한 작업이 있었지만, 사물 인터넷 장치는 로컬에서 더 많은 추론을 수행합니다. AI/ML 리프팅을 수행하는 중앙 클라우드로 데이터를 다시 보내기 위해 데이터를 수집하는 것이 아닙니다. 대신 이러한 장치는 다른 장치에 공유 및 재배포할 수 있는 로컬 ML을 수행합니다.
AI와 ML이 복잡해진다는 것은 더 많은 성능이 필요하다는 것을 의미하며, 메모리 성능과 데이터 기억장치 기능이 향상되어야 합니다.
더 복잡한 의사 결정을 내리는 에지 장치
최근까지 많은 에지 AI에는 건물에 있으면 안 되는 사람이 있거나 생산 라인의 기계가 과열되어 거의 고장이 날 것 같이 무언가 잘못되었음을 감지하는 센서가 갖춰져 있습니다. 이러한 시스템은 스마트하여 오류를 식별하고 이에 대한 알림을 보낼 수 있습니다.
하드웨어로 IoT 장치가 더 많은 일을 할 수 있게 되면서 오늘날 에지에서 AI는 훨씬 더 지능화되고 있습니다. 이는 에지에서 수행할 수 있는 작업의 기대치를 높여 하드웨어에 대한 수요를 늘립니다. 프로세서, 메모리 및 기억장치 미디어가 발전하면서, 에지에서의 AI는 점점 더 복잡한 추론/ML 작업을 수행할 수 있으며, 중앙 클라우드로 데이터를 전송하고 다시 보낼 필요가 없습니다.
저장장치용 플래시 기술을 포함하여 새로운 메모리와 기존 메모리의 발전 외에도 에지에서 AI/ML 작업을 가능하게 하는 몇 가지 다른 기술상의 발전이 있습니다. 고도로 병렬화된 GPU는 신경망 실행에 적용되어 에지에 배포할 수 있는 일반화된 머신 러닝을 가능하게 하는 반면 센서, 카메라, 심지어 데이터를 수집하는 로봇을 포함한 IoT 장치가 확산되면서 광범위한 비즈니스 목표를 지원하는 AI/ML 기능을 활용할 기회가 생기고 있습니다. 전반적으로 신경망과 이를 지원하는 AI 인프라는 장치 간 로컬 통신을 지원하고 다시 클라우드로 돌아가는 대기 시간을 없애는 5G 연결을 포함하여 발전해 왔습니다.
오프라인 기능 및 분산 기능과 결합된 오늘날 에지 컴퓨팅 장치의 높은 가용성은 데이터를 처리하고 AI/ML 작업을 수행하는 데 더 이상 지속적인 인터넷 액세스가 필요하지 않다는 것을 의미합니다. 에지 AI 애플리케이션은 데이터를 로컬에서 분석하고 텍스트, 음성 및 비디오 등의 다양한 입력을 처리해 독립적으로 추론할 수 있기 때문에 더욱 강력하고 실시간 통찰력을 제공할 수 있습니다. 특정 질문에 답하도록 교육받았을 뿐만 아니라 특정 유형인 경우 새로운 질문에 답할 수도 있습니다. 이렇게 하면 중앙 클라우드와 통신할 필요성이 줄어들지만, 에지 장치 그룹이 로컬 ML 작업을 수행하고 이러한 내용을 공유하여 더 널리 배포할 수 있습니다. 또한 에지에서 모델을 교육하면 AI 모델이 더 정확해집니다.
에지에서 AI가 발전되면 다양한 산업 분야에서 더 복잡한 애플리케이션이 가능합니다. 제조 환경의 예측 유지 관리는 산업용 IoT에 초기 적용되었으며, 센서가 마모뿐만 아니라 잘못된 구성이나 오용으로 인해 훨씬 더 일찍 문제를 감지하고 오류를 더 정확하게 예측할 수 있기 때문에 로컬 AI/ML 기능으로 더욱 강력해지고 있습니다.
AI를 통해 보안 목적뿐만 아니라 시설 액세스 및 관리를 더 잘 제어할 수 있습니다. 스마트 빌딩은 건물 안에 있는 사람의 수에 따라 온도와 조명을 조정할 수 있을 뿐만 아니라 HVAC 시스템을 원격으로 관리할 수 있습니다. AI를 위한 다른 에너지 애플리케이션에는 기상 패턴, 인프라, 그리드 상태 및 과거 데이터를 기반으로 하는 생성, 배포 및 관리를 보다 더 효율적으로 만들기 위해 에지 모델을 사용하는 것이 포함됩니다.
더 발전된 에지 AI 기능의 혜택을 받는 다른 부문으로는 의료 서비스, 소매 및 농업이 있습니다. 그러나 사용 사례나 위치에 상관없이 고급 AI/ML은 컴퓨팅 하드웨어 자체, 특히 메모리에 부담을 주고 있으므로 더 많은 작업을 로컬에서 수행할 수 있습니다.
입증된 메모리 기술을 선호하는 AI 편재성
AI/ML 작업을 수행하는 에지 장치에서 여러 메모리를 고려하여 사용하며 이는 에지 AI 애플리케이션의 다양성을 반영합니다.
최근 몇 년 동안 IoT 에지 장치용 ReRAM(Resistive-RAM) 및 MRAM(Magneto-Resistive RAM)과 같은 새로운 메모리에 대한 여러 논의가 있었으나, 오래 지속되는 레거시 메모리는 에지에서 AI 장치를 활성화하는 데 중요한 역할을 합니다.
에지에서 AI용 MRAM은 높은 정확도가 필요하지 않으나 메모리 내구성과 에너지 효율이 중요한 애플리케이션에서 낮은 전압으로 실행되기 때문에 전력 소비 면에서 장점이 많습니다. MRAM의 비변동성은 전력이 없어도 데이터를 저장할 수 있음을 의미하며, SRAM과 임베디드 플래시를 동시에 대체하기에 적합하므로 통합 메모리 역할을 합니다. 에지에서 AI에 대한 ReRAM의 장점은 인간의 두뇌가 신경 세포 및 시냅스 수준에서 정보를 학습하고 처리하는 방식을 모방할 수 있는 잠재력입니다. ReRAM 장치는 AI/ML 작업을 위해 데이터 센터에서 사용되는 DRAM 및 HBM보다 훨씬 더 작고 에너지 효율적입니다.
MRAM과 ReRAM은 많은 AI 에지 애플리케이션에 적합한 특성을 가지고 있지만, AI의 편재성이 늘어나면 저전력 DRAM(LPDDR) 메모리가 가장 적합하도록 기본적인 추론 작업이 더욱 복잡해지면서 진정한 메모리 기술이 필요함을 의미합니다. LPDDR3과 같은 이전 버전에서는 4K, Full HD 또는 3D 센서 비디오 이미지 처리를 실시간으로 지원하여 보안 카메라의 얼굴 인식 또는 공용 키오스크의 제스처 제어와 같은 AI 애플리케이션을 제공할 수 있을 뿐만 아니라 자연어 처리도 수행할 수 있습니다. 마찬가지로 NOR 플래시는 처리 작업과 데이터 기억장치의 까다로운 환경에서 작동되면서 유지되는 신뢰성과 수명 때문에 일부 에지 AI 사용 사례에서 계속 사용될 것입니다.
에지 AI 데이터 기억장치를 위한 다른 옵션으로는 시방서의 높은 신뢰성과 우수한 전력 소비 및 안정성을 갖춘 이동식 카드를 포함한 범용 플래시 기억장치(UFS)가 있습니다. UFS 카드를 사용하면 호스트가 이전 명령을 처리하기 위해 데이터를 전송하는 동안에도 계속 명령을 보낼 수 있으며, AI 에지 애플리케이션이 성능에 영향을 미치지 않고도 다른 애플리케이션과 I/O 작업을 수행할 수 있습니다.
전반적으로, 상품 메모리가 에지 AI의 요구를 충족할 수 있는 기회가 많습니다. 결국, 어제의 슈퍼 컴퓨터 메모리가 이제는 스마트폰으로 이동하였으며, 이는 에지 장치의 이점이기도 합니다. 고급 하드웨어가 필요한 초기 AI 모델은 이제 소형화와 반도체 회사의 하드웨어 비용 절감 덕분에 IoT 장치에서 더 많은 주류 메모리를 사용하여 처리할 수 있습니다.
일부 AI/ML 작업에는 항상 중앙 집중식 고성능 컴퓨팅이 필요하지만, 에지에서 수행되는 추론 및 계산 작업과 기기형에 따라 열 특성 및 전력 제약에 큰 영향을 미치는 가장 적합한 메모리를 결정합니다. 궁극적으로 에지에서 AI를 지원하는 데 필요한 메모리는 새로운 것이든 기존의 익숙한 것이든 한정되어 있을 것입니다.
