边缘人工智能对存储器内容的要求

随着更多的计算正在边缘完成,这推动了对板载内存、存储和处理能力的需求增加,以支持更先进的人工智能和机器学习在设备层面的本地完成。

随着更多的计算正在边缘完成,这推动了对板载内存、存储和处理能力的需求增加,以支持更先进的人工智能和机器学习在设备层面的本地完成。

虽然早期的边缘人工智能用例包括简单的任务,如出于安全和访问目的的传感和检测,但物联网设备正在本地进行更多的推理,它们不再只是收集数据并将其发送回中央云,以完成繁重的人工智能/机器学习工作。相反,这些设备正在进行本地机器学习,可以共享并重新分配给其他设备。

更复杂的人工智能和机器学习意味着需要更强的计算能力,这包括提高内存性能和数据存储能力。

边缘设备正在做出更复杂的决策

直到最近,许多边缘人工智能都概括为通过传感器检测到一些问题:大楼里出现了不该出现的人,或者生产线上的机器过热并即将发生故障。这些系统足够智能,能够理解哪里出了问题,并提醒某人做些什么。

如今的人工智能在边缘变得更加智能,因为硬件使物联网设备能够做得更多。这反过来又提高了人们对边缘功能的期望,从而推动了对硬件的需求。由于处理器、内存和存储介质的进步,边缘的人工智能可以完成更复杂的推理/机器学习任务,越来越不需要向中央云发送数据,也不需要返回。

除新兴和现有存储器的发展,包括用于存储的闪存技术,还有其他几项技术进步正在支持边缘人工智能/机器学习任务。高度并行的 GPU 已经适应于执行神经网络,这可以在边缘部署的通用机器学习,而物联网设备的激增,包括传感器、摄像头甚至收集数据的机器人,都在不断揭示支持广泛商业目标的人工智能/机器学习能力的新机会。总体而言,神经网络以及支持它们的人工智能基础设施已经成熟,包括 5G 连接,这消除了支持设备之间的本地通信和返回云端的延迟。

当今边缘计算设备的高可用性以及离线能力和去中心化,意味着不再需要持续访问互联网来处理数据和执行人工智能/机器学习操作。边缘人工智能应用现在更加强大,可以提供实时见解,因为数据可以在本地进行分析,处理文本、语音和视频等不同的输入,并独立做出推断。它们不仅经过训练来回答一个特定的问题,而且也能回答某种类型的新问题。这降低了与中央云通信的需求,但也使一组边缘设备能够进行本地机器学习操作,并共享这些经验以更广泛地分发。此外,他们在边缘对模型的训练越多,人工智能模型就越准确。

成熟的边缘人工智能可以在广泛的行业中实现更复杂的应用。制造环境中的预测性维护是工业物联网的早期应用,由于本地人工智能/机器学习功能,它变得更加强大,因为传感器可以更早地检测到问题,并更准确地预测故障,不仅是由于磨损,还由于错误配置或误用。

通过人工智能可以更好地控制设施的访问和管理,而不仅仅是出于安全目的。智能建筑可以根据建筑物中的人数调节温度和照明,并允许对 HVAC 系统进行更远程的管理。人工智能的其他能源应用包括使用边缘模型,根据天气模式,基础设施和电网健康状况以及历史数据,提高发电、配电和管理的效率。

受益于更先进的边缘人工智能功能的其他行业包括医疗保健、零售和农业。但不管是什么用例或地点,更先进的人工智能/机器学习正在给计算硬件本身带来压力,特别是内存,因此更多的工作可以在本地完成。

人工智能的普遍性有利于成熟的存储技术

执行人工智能/机器学习操作的边缘设备正在考虑和使用许多不同的存储器,这反映了边缘人工智能应用的多样性。

近年来,围绕物联网边缘设备的电阻式 RAM (ReRAM) 和磁阻式 RAM (MRAM) 等新兴存储器进行了大量讨论,这些讨论对存储器提出了一系列新要求,但越来越明显的是,持久的传统存储器在支持边缘人工智能设备方面也发挥着同样重要的作用。

MRAM 对边缘人工智能的吸引力在于其功耗,因为在不需要高精度但存储器耐久性和能效至关重要的应用中,它能够以较低的电压运行。MRAM 的非易失性还意味着它可以在没有电源的情况下存储数据,这使它成为 SRAM 和嵌入式闪存的理想替代品,从而充当统一的存储器。 ReRAM 对边缘人工智能的吸引力来自于其在神经元和突触水平上模仿人脑如何学习和处理信息的潜力;ReRAM 设备比 DRAM 和 HBM 小得多,也更节能,后者在数据中心用于人工智能/机器学习操作。

但是,尽管 MRAM 和 ReRAM 具有适合许多人工智能边缘应用的特性,但人工智能的日益普及可能意味着,随着即使是基本的推理操作变得更加复杂,久经考验的真正存储器技术将取得胜利,其中低功耗 DRAM (LPDDR) 存储器最有意义。即使是 LPDDR3 等较老的迭代版本,也可以支持实时 4K、全高清或 3D 传感器视频图像处理,以支持人工智能应用,如安全摄像头中的人脸识别或公共信息亭中的手势控制,以及执行自然语言处理。同样,由于 NOR 闪存在恶劣环境下运行时具有可靠性和长寿命,无论是处理任务还是数据存储,都将继续被选择用于一些边缘人工智能用例。

边缘人工智能数据存储的其他选项包括通用闪存 (UFS),包括可移动卡,这要归功于该规范的高可靠性以及良好的功耗和稳定性特征。UFS 卡还允许主机连续发送命令,即使正在传输数据以处理之前的命令时也是如此,这意味着人工智能边缘应用程序可以与其他应用程序同时进行 I/O 操作,而不会影响性能。

总体而言,商品存储器有很多机会满足边缘人工智能的需求。毕竟,昨天的超级计算机存储器现在用于智能手机中,这也是边缘设备的一种形式。由于小型化和半导体公司继续降低硬件成本,需要高端硬件的早期人工智能模型现在可以在物联网设备中使用更主流的存储器来处理。

尽管一些人工智能/机器学习操作总是需要集中的高性能计算,但在边缘完成的推理和计算任务以及设备类型将决定哪些存储器最合适,其中热特性和功耗限制有很大影响。最终,支持边缘人工智能所需的存储器数量是有限的,无论是新兴的还是熟悉的现有存储器。



ArrowPerks-Loyalty-Program-Signup-banner-CN


最新消息

Sorry, your filter selection returned no results.

请仔细阅读我们近期更改的隐私政策。当按下确认键时,您已了解并同意艾睿电子的隐私政策和用户协议。

本网站需使用cookies以改善用户您的体验并进一步改进我们的网站。此处阅读了解关于网站cookies的使用以及如何禁用cookies。网页cookies和追踪功能或許用于市场分析。当您按下同意按钮,您已经了解并同意在您的设备上接受cookies,并给予网站追踪权限。更多关于如何取消网站cookies及追踪的信息,请点击下方“阅读更多”。尽管同意启用cookies追踪与否取决用户意愿,取消网页cookies及追踪可能导致网站运作或显示异常,亦或导致相关推荐广告减少。

我们尊重您的隐私。请在此阅读我们的隐私政策。