边缘 AI 是在边缘计算环境中实现人工智能,它允许在实际创建数据的位置附近进行计算,而不是在集中式云计算设施或异地数据中心进行计算。这种本地化处理允许设备在几毫秒内做出决策,而无需互联网连接或云。从本质上讲,当设备产生数据时,板上的算法可以立即使用数据。
例如,假设您有一个智能咖啡壶,可以为每个用户生产定制饮料,并随着时间的推移从他们的偏好中学习,这要归功于人工智能。但与大多数智能设备不同的是,这款咖啡壶没有连接到互联网,它用于处理数据的所有算法都是在咖啡壶本身内生成的——这要归功于边缘人工智能。
这种技术的使用远远超出了您的厨房台面的范围。Edge AI 能够以更高的速度、更低的成本和更低的功耗更安全地生成实时分析,这使其成为云计算 AI 的有吸引力的替代品,制造业、医疗保健和能源等行业的公司都在利用这一优势。
边缘 AI 是什么?
简而言之,边缘 AI 是边缘计算和人工智能的结合。因此,要了解边缘AI,首先必须了解边缘计算和人工智能。
什么是边缘计算?
边缘计算是一种分布式计算框架,它使计算和数据存储更接近实际设备,而不是异地数据中心。由于数据与设备的接近,边缘计算可以提高速度和响应时间。
如今,智能设备无处不在。从手腕上的手表到车库里的汽车,一切都能够执行自主计算并与其他智能设备交换数据——这一概念通常被称为物联网或物联网。
所有这些来回飞来飞去的数据都给数据中心带来了沉重的压力。但边缘计算旨在通过将一些处理移近其原点来减轻这种负担。因此,可以说,工作不是前往云端,而是在“边缘”完成。
“边缘”仅指正在使用的设备。这可以是手机、相机、汽车、医疗设备或电视。因此,边缘计算是指计算机位于该设备内部或附近。而且,与任何其他计算机一样,边缘计算机旨在处理标准数据。
边缘 AI 的优势
边缘 AI 具有成本效益
为电子商务初创公司构建机器学习工具的公司Dianthus的创始人兼首席技术官Rob May作为风险投资公司PJC的合伙人首次意识到边缘人工智能,当时Deeplite是一家将AI计算能力引入无人机和相机等边缘设备的公司,被推荐给他作为投资机会。他持怀疑态度,甚至一开始就通过了。
“当我最初考虑边缘AI市场时,我认为这将是一个小市场,”他告诉Built In。但随着他越来越多地思考这个问题,他开始意识到这是一个非常“成本驱动”的行业。因此,当Deeplite再次向PJC推销时,他同意投资它。
“假设你有一个小型安全摄像头,你希望这个摄像头做某种分析。你可能无法一直保持相机云连接,相比之下,只有一个芯片和一个2美元的微控制器,“他继续道。“在很多情况下,[边缘AI]可以是一个更好的模型。
边缘 AI 更快地处理数据
成本效益只是边缘AI的众多吸引力之一。在边缘集成人工智能使实时数据分析成为可能,保留带宽,并减少云连接机器学习模型中经常遇到的延迟。事情可以加速几毫秒,当它用于自动驾驶汽车之类的东西时,这可能会产生很大的不同。此外,由于数据保留在设备中,不会在私有数据中心之间来回移动,因此通常更安全。而且,随着安全性的提高,隐私变得越来越重要,尤其是在物联网设备方面。
尽管如此,边缘人工智能仍然是“相当新的”,Allsbrook说。“我会说它正在出现。我认为我们才刚刚开始看到什么是可能的。
边缘 AI 的缺点
边缘 AI 需要持续培训
边缘 AI 系统可能具有挑战性,因为与其他 AI 模型一样,它们必须定期和持续地进行训练——只需使用来自边缘设备的数据。这通常意味着通过将数据从大量边缘设备传输到云来创建数据集,这可能相当复杂,具体取决于可用带宽和与边缘设备的连接。
边缘AI需要采取额外的安全措施
安全也是一个值得关注的领域,只是方式不同。虽然边缘计算可以通过保持本地处理使系统更加安全,但基础设施和设备本身需要自己的安全措施。这可能包括访问控制、流量监控、数据备份、防病毒和反恶意软件,甚至加密。
边缘AI一直很慢(但这种情况正在改变)
边缘AI市场的增长速度并不像一些人希望的那样快。自从PJC最初投资Deeplite以及更大的边缘AI空间以来,May表示,就普遍采用而言,市场“比预期的要慢一些”。他将此归因于边缘人工智能实际需要的设备(如无人机、手机、汽车)的更长设计周期。他说,其中另一个重要部分是普遍缺乏意识到某些科技公司甚至存在这一空间。
“你必须意识到一些事情,然后你必须把它构建成一个循环。从设计的角度来看,这可能需要18个月才能把一些东西拿出来,“梅说。“我认为所有这些加起来。但我希望它会越来越好。
这似乎已经发生了。根据 Allied Market Research 的数据,2020 年边缘 AI 市场价值仅为 900 万美元,但预计到 2030 年将价值近 6000 万美元。同时,Gartner 在 2020 年预测,到 2025 年,75% 的企业数据将在边缘生成和处理,完全绕过云。(边缘计算社区主导编写的边缘计算年度行业报告也在撰写ing,各位老师请耐心等候)
该领域的公司正在继续吸引投资者的关注。例如,AI芯片初创公司Axelera筹集了2700万美元资金,并聘请英特尔边缘AI和物联网集团前副总裁兼总经理乔纳森·巴隆(Jonathan Ballon)担任董事长。
Del Maffeo 表示,在不久的将来,Axelera 计划专注于安全、零售和工业自动化行业,因为这三个行业都在计算机视觉技术和相机方面投入巨资,而其芯片正是专门针对这些技术而设计的。例如,这些芯片可用于 Amazon Go 杂货店的无收银结账,或者智能城市的安全摄像头,或者需要视觉来防止与人类同事发生事故的协作机器人。“边缘计算可以帮助人们提高生活质量,”Del Maffeo 说。
“我们正处于一个转折点,新技术确实可以对我们周围人们的生活质量产生巨大影响。……如果你展望 10 到 15 年,我们周围的世界将会发生很大变化,而边缘人工智能可以对其产生积极影响。”
边缘 AI 技术如何工作?
借助边缘 AI,机器学习算法可以直接在给定网络的边缘运行,靠近生成运行系统所需的数据和信息的位置,例如物联网设备或配备边缘计算设备的机器。边缘 AI 设备使用嵌入式算法来监控设备的行为,以及收集和处理设备数据。这允许设备做出决策,自动纠正问题并进行未来的性能预测。
边缘 AI 可以在各种硬件上运行,从现有的中央处理器或 CPU 到微控制器和高级神经处理设备。一些最常用的边缘计算机是由英特尔、恩智浦和高通等大型科技公司制造的。
云 AI 与边缘 AI
虽然云 AI 和边缘 AI 之间存在相似之处,但它们有明显的差异。
云 AI 是指在云上处理和存储数据。这为软件工程师在云AI系统的设计和结构方面提供了更大的灵活性,但它需要互联网连接才能运行。云AI对互联网连接的依赖可能会导致效率和安全问题。
由于边缘AI在本地处理和存储数据,无需互联网连接,因此该技术可以生成实时数据并做出独立决策。
May表示,边缘AI设备实现的高水平计算能力最终可能会使边缘AI比云AI更大。但这在很大程度上取决于进入市场的芯片种类,以及它们的便宜和效率。
Axelera 是一家致力于实现这一目标的初创公司,该公司正在设计一种芯片,该芯片可提供高计算性能和可用性,联合创始人兼首席执行官 Fabrizio Del Maffeso 表示,这种芯片是我们今天通常看到的技术的“价格和功耗的一小部分”。因此,该芯片不是将数据从内存转移到 CPU 再转移到内存(这是大多数计算机的典型做法),而是将内存与 CPU 合并在一起,这就是所谓的“内存计算”,他解释道。“我们正在修改内存,并在内存中进行计算。这使得芯片非常高效,因为你不需要移动太多数据。” 他继续说,通过将计算元件本质上嵌入到内存中,可以加速计算机的神经网络。
Axelera 当然不是唯一一家在这一领域进行创新的公司。边缘人工智能硬件市场预计将从 2021 年的 9.2 亿台增长到 2026 年的超过 20 亿台。而且,根据一项估计,到 2025 年,仅边缘人工智能芯片市场预计将增长约 730 亿美元。
边缘 AI 的重要性
总体而言,随着人工智能的日益普及,边缘人工智能正在增长,人工智能正在继续优化日常生活中最平凡的部分——从预测城市垃圾收集的最佳日期,到帮助小企业更高效地运营。尽管技术复杂,但边缘人工智能的最终目标相当简单:更接近设备本身,从而减少需要移动的数据量。
反过来,这可以保留带宽并减少延迟,或者必须传输外围应用数据才能进行处理。此外,由于这些数据不必传播很远,边缘人工智能使实时分析成为可能,这可能会对这个已经快速发展的领域的未来创新产生重大影响。
“边缘人工智能更加实时。它会查看来自实时反馈的数据,从而在实时反馈中做出预测,”Allsbrook说。“如果我们能够在边缘进行人工智能,我们就可以动态地做出非常酷的预测,而无需将数据移动到集中式云或 IT。”
边缘 AI 示例
边缘AI可能因其工业物联网应用而最受欢迎,但这并不是它唯一的用例。边缘AI的其他示例可以在DevOps,机器人技术,消费者技术等中找到。
运行状况监视设备
边缘人工智能使医院和其他医疗保健提供商能够获得人工智能的好处,而不必不必要地传输敏感的患者信息。从心脏追踪器和血压传感器等健康监测设备收集的所有数据都可以在本地进行处理和分析,从而实现实时分析,帮助医疗专业人员为患者提供更好的护理。
边缘 AI 实施软件
Allsbrook的公司ClearBlade专门从事在工业物联网设备中实施边缘AI,特别是当它与预测性维护或预测某些设备何时发生故障有关时。公司可以直接在ClearBlade平台上通过实时物联网数据源进行推理,这要归功于其名为Onyx的引擎,该引擎允许人们使用许多不同的语言和各种类型的工具构建模型。
Allsbrook说,他还注意到人们正在使用Onyx通过边缘AI重新利用他们的旧模型,将它们引入新技术,而无需构建新模型或聘请新的数据科学家团队。
自动驾驶汽车
当一辆重 4,000 磅的自动驾驶汽车在繁忙的道路上行驶时,每一毫秒都很重要。边缘人工智能实现的快速数据处理使系统能够快速响应周围的世界——理想情况下使其成为更安全、更可靠的装置。
安全摄像头
Edge AI使用计算机视觉,物体检测和面部识别使一些安全摄像头(例如Vmukti的摄像头)特别有效。它们允许从任何位置进行双向音频、数字变焦和远程监控。
智能家居
从可视门铃到监控食品消费和保质期等内容的语音控制灯泡和冰箱,智能家居包含一个物联网设备网络,这些设备旨在协同工作,使居民的生活更轻松。边缘 AI 允许所有这些都在现场进行,而不是这些设备必须将所有数据从房屋发送到集中式远程服务器进行处理,从而使其更快、更安全。
边缘 AI 的未来
梅说,如果我们所有的智能设备都配备了人工智能,那么我们很可能会在日常生活中注意到它。他预测,更多事物将有声音嵌入其中。而且这项技术可能会工作得更快,更便宜。
“当你考虑将智能构建到每个设备的能力时,无论它有多小,无论它是否连接互联网,我认为这是一个非常强大的机会,”梅说。“如果所有这些都必须始终与云连接,那就很难了,”他继续说道,因此“边缘人工智能是有助于这种环境计算的关键技术之一。
事实上,他认为最终边缘人工智能可能会比云人工智能更大,只要它能够保持高水平的计算能力。这并不是说这项技术将完全取代云计算。公司可能仍然需要将其所有软件即服务(SaaS)、应用程序、数据库应用程序和基础架构保留在云中。
相反,Del Maffeo预测,随着人工智能变得越来越复杂,两者将相辅相成。
“你的手机越来越强大。你的电视正在变成一台电脑,“他说。“我的意思是,计算机无处不在。这是一个经典的趋势。
作者:Ellen Glover
原文:https://builtin.com/artificial-intelligence/edge-ai
版权声明:本文内容转自互联网,本文观点仅代表作者本人。本站仅提供信息存储空间服务,所有权归原作者所有。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至1393616908@qq.com 举报,一经查实,本站将立刻删除。