网心科技李浩：构建新摩尔定律下的算力分发网络

3月31日，LiveVideoStackCon 2022音视频技术大会·北京站拉开帷幕。网心科技CEO李浩受邀出席，并发表了题为《构建新摩尔定律下的算力分发网络》的主题演讲。

李浩认为，当前全球新一轮AI技术风暴渐起，生成式AI将推动边缘云的新一轮爆发增长，边缘AI将沿着边缘推理、边缘训练到自主学习的轨迹发展。

AGI时代开启，算力奇点将至

作为新一轮颠覆性科技革命，以ChatGPT为代表的AIGC技术，依靠强大的AI模型和海量数据，可以广泛应用于文本、音频、视频、游戏等领域，显著降低内容生产门槛的同时，也将大幅提升内容生产的效率。

伴随着人工智能应用向纵深发展，无论是大模型训练需求攀升，还是AI应用的争相落地，都将进一步驱动算力需求的高增长，这将会对网络与算力带来持续强劲的拉动。

伴随着ChatGPT、GPT-4的迅速“出圈”,让 OpenAI 一战成名，外界对这家公司的关注度达到了前所未有的高度。OpenAI创始人Sam Altman此前在社交平台提出了“新摩尔定律”——宇宙中的智能总量每18个月翻一倍。

尽管Sam Altman没有做出详细的解释，但可以预见的是AI飞速发展的背后，算力是一个明确可衡量的指标，也是必不可少的条件。

李浩以GPT-4为例做出趣味化类比，目前GPT-4大模型由100万亿连接数构成，相当于一个松鼠的神经连接数，而人的神经连接数是170万亿，按照新摩尔定律，GPT-4仅需十几年的时间就能达到人类的水平。

类似的观点还有，库兹韦尔此前提出用钱来考虑计算机的发展状况：用1000美元能买多少计算能力。目前1000美元买到的电脑可以打败老鼠的大脑，水平大约是人类的千分之一。按照这个速度，2025年之前我们就能买得起一台与人类大脑相媲美的电脑。

在新摩尔定律中，算法、数据和算力三要素耦合共振。其中，数据是新型生产资料,算力是新型生产力，算法是新型生产关系，它们共同构成了人工智能时代的生产力三要素，而当前技术创新更多体现在模型算法。

在对数线性曲线中，当模型大小呈指数增长时，相应的模型性能呈线性增长。在相变曲线中，当模型尺寸达到一定规模时，会出现突现能力，让性能急剧增加。可以看出，涌现能力推翻比例定律。当模型尺寸达到一定规模时，会出现涌现能力，让性能急剧增加。

相比传统的低代码、零代码平台主要依靠可视化和模块化等实现，生成式AI使非程序员的创造者能够使用自然语言指令进行调用算力手段。随着AIGC的进一步平民化,必将改变人们的内容创作方式，让更多人借助AI来拓展智慧、知识和想象力的边界。

在音视频领域，从智能配音到生成AI宣讲视频，再到文本生成视频模型，新一轮AI驱动的内容生产力革命正拉开大幕。根据此前国际数据公司IDC调研数据，到2025年，44%的数据将在核心和边缘创建，同时全球将近80%的数据将存储于核心和边缘。

而在隐私保护方面，未来每个用户都有自己的数据节点，边缘侧是AI数据保护的重要选项之一，毫无疑问，在AIGC发展路径下，AI和边缘侧有着关键性的重叠。

边缘云新定位：成为新的内容生产中心

在ChatGPT引发的新一轮AI浪潮下，边缘云俨然已成为AI应用的主战场，由于大量内容在边侧生产，并伴随着在边缘云处完成内容的处理、分发。

对此，李浩提出“云(训练)-边(推理)-端(请求)”全场景AI训练推理协同框架，将训练过程部署在云端，而将训练好的模型部署在边缘设备，边缘侧网络使用判定器判断特征信息是否足以进行准确的推理，当判定为错误推理时，边缘侧抛出数据至云侧，由云侧更复杂的网络进行推理，得到更准确的推理结果，通过云边端协同的方式，可以带来高质量的AI技术方案解决实际使用场景里的更多痛点。

围绕生成式AI+边缘云的畅想，李浩认为边缘云未来有三大关键趋势：

三大趋势

智能场景多

一方面，AI交互多种形态，底层出现大量异构算力，对应不同模型大小和成本；另一方面，算力分层进行全网算力资源的智能编排、弹性调度。

实时交互多

从边缘侧分发到超低延迟RTC，沉浸式需求和“临场感”驱动下一代互联网演进。

业务逻辑多

数据源头的变革，大量业务逻辑要在边缘网络基于Serverless重塑。从单纯分发到算网融合，边缘云也将面临全新挑战。算力网络是数字化时代的资源网，是以计算为核心，通过网络实现连接，通过感知实现匹配与调度的服务。算力网络有三大组成要素：

三大要素

计算

首先是计算，算力网络的核心资源。

感知

其次是感知，对具体场景算力需求的感知及算力资源的感知。

连接

第三是连接：将分散、异构、多层级、闲置的算力集合起来。

以上三大要素赋予算力网络功能属性和服务属性，让其能高效盘活全社会算力资源，并赋能产业。

从算力网络的技术架构上看，从下到上可分为基础资源层、算网调度层和算网运营层，同时算网运维和算网安全贯穿全程，形成“三横两纵”的支撑形态。最终，算力网络会以产品或能力的形式，赋能产业应用。

从传输到算力，网心科技持续探索AI场景落地实践

作为全球边缘计算创领者，网心科技通过共享和自建，汇聚海量边缘计算资源，构建了全球首个百万量级节点边缘计算平台——星域云。上层通过对接中心云，其余层次用各层级边缘节点去覆盖。在此基础上，基于网心科技的智能调度、资源封装、虚拟化平台，把比较复杂的资源封装成标准化的产品给到客户使用。

目前，网心科技在边缘云计算领域已建立领先的行业地位。

行业地位

市场地位

网心科技拥有边缘计算全品类产品，目前客户接入SDK数量已达6亿；IDC报告显示，2022上半年网心科技位列中国边缘公有云服务市场第三。

技术实力

网心科技拥有全栈式边缘计算解决方案、行业最优的技术指标、卓越创新的边缘计算产品。

资源优势

网心科技拥有全球最大、最下沉的边缘计算网络，超过500万节点数量和70Tbps带宽储备，同时拥有自研的边缘智能硬件设备，适配各类边缘场景。

团队创新

网心科技是国内最早涉足边缘CDN的厂商之一。公司研发人员占比70%，并且组建了国内规模最大的边缘计算团队。

据李浩介绍，目前网心科技边缘云计算解决方案已在云游戏、AIGC等多个AI场景落地实践。在云游戏领域，网心云游戏布局了覆盖全网的算力节点，结合自身智能调度系统与基于QUIC构建的超低延时RTC，为云游戏玩家提供大带宽、低时延的稳定传输。

创新技术点

智能调度

在智能调度方面，传输双端智能、精准的定位功能，确保IP库、位置信息的高精度；基于网络测量的策略优化，依靠海量边缘节点以及终端的网络测量数据更新最优网络拓扑；海量节点的实时调度能力，以全内存管理实现高效的节点调度能力。

端到端优化

在端到端的超低延迟RTC性能优化方面，网心自研RTC，基于QUIC传输协议构建，拥有更快的连接建立、减少线路阻塞、更好的拥塞控制、改进隐私保护及流完整性；高效利用GPU特点实现零拷贝的采集编码，大幅降低CPU占用率的同时，有效提升视频的编解码效率。从实际观测结果来看，当网络突发大面积丢包后可快速恢复到预期带宽。此外，弱网表现的结果也在延时、吞吐，带宽间实现了很好的tradeoff，以此保障游戏过程中的优质体验。

在AIGC领域，与传统基于中心云的AIGC应用方案架构不同，网心云IAAS架构依托自身边缘节点管理能力构建了超大规模的算力节点池，这使得数据不需要回传到中心云，而是在离用户更近的边缘侧就能解决，从而实现更低延时、更高服务质量、更低带宽成本、更安全的AIGC算力供给。