NTT 株式会社宣布推出一款突破性的AI推理芯片，标志着边缘AI处理的重大飞跃。该芯片能够以每秒30帧的速度实时处理4K视频，功耗不到20瓦。这款新型大规模集成电路（LSI）芯片是全球首款在功耗受限环境下实现如此高性能AI视频推理的芯片，是边缘计算应用的一项突破。
该芯片在旧金山举行的NTT升级2025峰会上亮相，专为部署在边缘设备（物理位置靠近数据源的硬件，例如无人机、智能摄像头和传感器）而设计。与依赖云计算进行推理的传统AI系统不同，该芯片将强大的AI功能直接带到边缘，大幅降低延迟，无需将超高清视频传输到集中式云服务器进行分析。
边缘计算与云计算：为何重要
在传统的云计算中，来自无人机或摄像头等设备的数据会被发送到远程数据中心（通常位于数百或数千英里之外），在那里进行处理和分析。虽然这种方法提供了几乎无限的计算能力，但它会因数据传输而引入延迟，这对于自主导航、安全监控和实时决策等实时应用来说是一个问题。
相比之下，边缘计算在设备本身或附近本地处理数据。这可以减少延迟、节省带宽，即使在网络连接受限或断断续续的环境中也能提供实时洞察。它还能最大限度地减少通过公共网络传输敏感数据的需求，从而增强隐私和数据安全性。
NTT 的新型 AI 芯片完全遵循了这种边缘优先理念——无需依赖云端，即可直接在设备内提供实时 4K 视频分析。
无人机和设备上的实时 AI 新时代
安装该芯片后，无人机可以探测距离高达 150 米（492 英尺）的人员或物体——这是日本无人机的法定飞行高度限制。这比传统的实时人工智能系统有了显著的提升，传统的实时人工智能系统由于分辨率或处理速度较低，探测范围通常限制在 30 米以内。
这一进步实现了许多新的用例，包括：
- 在难以到达的地方进行基础设施检查
- 连通性受限地区的灾难响应
- 广泛领域的农业监测
- 无需持续云端上行链路的安全和监控
所有这些都是通过功耗不到 20 瓦的芯片实现的——远低于 GPU 驱动的 AI 服务器所需的数百瓦，而这对于移动或电池供电的系统来说是不切实际的。
芯片内部：NTT 专有的 AI 推理引擎
该 LSI 的性能取决于 NTT 定制的 AI 推理引擎，该引擎可确保高速、准确的结果，同时最大限度地降低功耗。关键创新包括：
- 帧间相关性：通过比较连续的视频帧，该芯片减少了冗余计算，提高了效率。
- 动态位精度控制：该技术可动态调整所需的数值精度，使用更少的位来完成更简单的任务，从而节省能源而不影响准确性。
- 原生 YOLOv3 执行：该芯片支持直接执行You Only Look Once v3，这是机器学习中最快的实时物体检测算法之一。
这些组合特性使得该芯片能够在之前被认为功率或带宽太有限而无法进行高级推理的环境中提供强大的人工智能性能。
商业化之路和 IOWN 愿景
NTT 计划在 2025 财年内通过其运营公司NTT Innovative Devices Corporation将该芯片商业化。
研究人员已开始探索将其集成到创新光纤和无线网络 (IOWN)中，这是 NTT 的下一代基础设施愿景，旨在彻底革新现代社会的数字骨干网。在 IOWN 的数据中心基础设施 (DCI)中，该芯片将利用全光子网络实现超低延迟、高速通信，补充其为边缘设备带来的本地处理能力。
NTT 还与NTT DATA, Inc.合作，将该芯片的功能与其基于属性的加密 (ABE)技术相结合，从而实现对敏感数据的安全、细粒度的访问控制。这些技术将共同支持对速度和安全性都至关重要的 AI 应用，例如医疗保健、智慧城市和自主系统。
创新的传承与未来的愿景
这款AI推理芯片是NTT通过深度技术创新赋能可持续发展的智能社会使命的最新体现。NTT是一家全球领先企业，营收超过920亿美元，拥有33万名员工，年度研发投入达36亿美元，服务于超过75%的《财富》全球100强企业以及190个国家/地区的数百万消费者。
无论是超视距飞行的无人机、不依赖云的实时检测事件的摄像头，还是使用基于属性的加密来保护数据流，NTT 的新芯片都为边缘 AI 的下一个前沿领域奠定了基础——智能与即时性在这里相遇。
本文来自作者投稿，版权归原作者所有。如需转载，请注明出处：https://www.nxrte.com/zixun/57365.html
