DeepSeek 对边缘 AIoT 的影响

DeepSeek-V3 和 R1 只是趋势发展的一部分

DeepSeek-V3（和R1）的到来犹如晴天霹雳，令业界和市场措手不及，导致DeepSeek 被称为市场颠覆者；但事实上，AI行业在过去几年中一直在逐渐改变。DeepSeek-V3只是体现了一直在发生的变化：从大型专有、通用模型向小型、特定任务、开源模型的过渡与转变。

更具体地说，QLoRA（量化低秩适配器）、快进低秩训练、模型合并和蒸馏等一系列新技术推动了开发更小、计算效率更高的模型。然而，将这类发展全部归功于一家公司或是单一市场是错误的。好多企业都在推进这方面的技术。谷歌和微软一直非常活跃，其项目包括 Gemini 2.0 Flash Thinking和Phi-4，而基础性的 Llama 系列则源自 Meta。

小型模型在边缘设备中尤为重要

小型模型尤其有利于边缘设备（如智能手机、个人电脑、机器人和大量物联网设备）的创新。在边缘环境中，计算资源往往是有限的，与依赖云的大型模型不同，DeepSeek-V3可以在本地托管，这对优先考虑数据隐私的组织和专注于需要超低延迟的边缘人工智能应用的厂商来说很有吸引力。

为了将通常规模庞大、资源密集的基础模型无缝集成到计算和存储资源有限的环境中，必须对基础模型进行优化。通常情况下，开发人员会采用三种常见的模型压缩方法，即剪枝、蒸馏和量化。DeepSeek 已经证明，采用正确的技术可以压缩基础模型，使其嵌入边缘设备。

异构计算和 “NPU ”的发展 

物联网是种分散式、去中心化的科技，所以需要各种能力的配合，其中一些能力只需要较低的计算处理和数据传输。相比之下，另一些则需要在网络边缘运行人工智能模型的能力，以便实时处理数据并采取行动。虽然云计算的集中性在成本效益、资源效率、灵活性和便利性方面具有优势，但它也有显著的缺点。来自端点或网络边缘设备的数据必须依靠网络从原点去到集中式数据中心（即云计算）进行处理和存储，然后再返回给用户。

虽然这可能适用于一系列传统应用，但越来越多的用例需要在网络延迟最小的情况下进行实时决策，因此在终端和云之间传输信息的时延要求也越来越高。

如图 1 所示，半导体供应商正在通过开发一系列处理器来满足这些异构计算需求，这些处理器可以处理物联网多重要求所需的各种计算需求。这些发展的核心是神经处理单元（NPU），它是为以低功耗加速人工智能推理而设计的，并随着新的人工智能用例、模型和要求的发展持续演进。Omdia 预计，具备人工智能能力的边缘处理器和架构将继续发展，有效解决网络边缘的人工智能推理问题。

图 1：高通展示了NPU 随着不断变化的人工智能用例和模型而发展，以实现低功耗下的高性能

DeepSeek 能否加速 AIoT 的发展？

如图 2 所示，物联网部署日趋成熟，企业越来越希望从海量数据中获得洞察力，结合分析、AI/ML 和边缘处理来实时洞察运营环境，并在未来提高许多流程的自动化水平（例如，制造业中的预测性维护、智能城市中的本地化交通管理系统或 RPM 医疗设备中的心率异常检测）。

在运行环境中，将更多处理能力和决策制定推向边缘的好处显而易见：

• 实时处理 – 通过本地处理数据，设备可以即时做出决策，而无需等待服务器的响应。这对于交通系统、制造环境或医疗保健等要求实时响应的环境至关重要。
• 数据隐私 – 在 OT（操作技术）和 IT（信息技术）系统之间分割或隔离数据的能力至关重要，尤其是在涉及电网等关键基础设施时。离线或脱钩运行人工智能和智能语言的能力为改善运行环境和降低与联网系统相关的风险提供了重要机会。
• 网络效率 – 通过本地数据处理，传输成本大大降低，从而降低了采用和实施的门槛。

图 2：哪些服务是您的物联网部署战略的一部分？

那么，DeepSeek如何应对其中的一些挑战，并帮助推进AIoT的实施呢？

• 本地化人工智能模型。DeepSeek R1的提炼方法展示了如何压缩复杂的人工智能能力，以便在边缘部署。最小的模型可以在基本硬件上运行，同时保留核心功能。
• 分布式学习。这使边缘设备能够改进其人工智能模型，同时保持数据的私密性，这对于敏感或关键的操作环境尤为重要。
• 专用硬件。专用处理器正在不断发展，以更好地支持边缘的人工智能工作负载，从而使部署 DeepSeek-R1 等模型更加实用。随着物联网部署日趋成熟，企业希望进行更全面的规划，并预测可能要部署的未来用例。

当然，仍有一些障碍需要克服，因为即使是精简模型也需要大量计算能力才能运行。此外，精简模型可能会影响复杂的推理任务：为点解决方案定义模型，可能会在物联网环境的漫长生命周期中导致实施方案过时。物联网是高度分布式的，这意味着本地模型的协调可能只适用于特定的运行环境。

尽管如此，DeepSeek 所展示的技术进步为更多云-边缘混合部署打开了大门，使智能能够在 “微边缘 ”更接近数据。摩尔定律表明，更强大的专用硬件将继续向边缘扩散，这将在未来几年继续推动人工智能物联网的发展。

本文作者：苏廉节——首席分析师 – AI&IoT

文章版权和解释权归微信平台Omdia所有