网心科技李浩:构建新摩尔定律下的算力分发网络

3月31日,LiveVideoStackCon 2022音视频技术大会·北京站拉开帷幕。网心科技CEO李浩受邀出席,并发表了题为《构建新摩尔定律下的算力分发网络》的主题演讲。

图片

李浩认为,当前全球新一轮AI技术风暴渐起,生成式AI将推动边缘云的新一轮爆发增长,边缘AI将沿着边缘推理、边缘训练到自主学习的轨迹发展。

AGI时代开启,算力奇点将至

作为新一轮颠覆性科技革命,以ChatGPT为代表的AIGC技术,依靠强大的AI模型和海量数据,可以广泛应用于文本、音频、视频、游戏等领域,显著降低内容生产门槛的同时,也将大幅提升内容生产的效率。

伴随着人工智能应用向纵深发展,无论是大模型训练需求攀升,还是AI应用的争相落地,都将进一步驱动算力需求的高增长,这将会对网络与算力带来持续强劲的拉动。

伴随着ChatGPT、GPT-4的迅速“出圈”,让 OpenAI 一战成名,外界对这家公司的关注度达到了前所未有的高度。OpenAI创始人Sam Altman此前在社交平台提出了“新摩尔定律”——宇宙中的智能总量每18个月翻一倍。

尽管Sam Altman没有做出详细的解释,但可以预见的是AI飞速发展的背后,算力是一个明确可衡量的指标,也是必不可少的条件。

李浩以GPT-4为例做出趣味化类比,目前GPT-4大模型由100万亿连接数构成,相当于一个松鼠的神经连接数,而人的神经连接数是170万亿,按照新摩尔定律,GPT-4仅需十几年的时间就能达到人类的水平。

图片

类似的观点还有,库兹韦尔此前提出用钱来考虑计算机的发展状况:用1000美元能买多少计算能力。目前1000美元买到的电脑可以打败老鼠的大脑,水平大约是人类的千分之一。按照这个速度,2025年之前我们就能买得起一台与人类大脑相媲美的电脑。

在新摩尔定律中,算法、数据和算力三要素耦合共振。其中,数据是新型生产资料,算力是新型生产力,算法是新型生产关系,它们共同构成了人工智能时代的生产力三要素,而当前技术创新更多体现在模型算法。

在对数线性曲线中,当模型大小呈指数增长时,相应的模型性能呈线性增长。在相变曲线中,当模型尺寸达到一定规模时,会出现突现能力,让性能急剧增加。可以看出,涌现能力推翻比例定律。当模型尺寸达到一定规模时,会出现涌现能力,让性能急剧增加

图片

相比传统的低代码、零代码平台主要依靠可视化和模块化等实现,生成式AI使非程序员的创造者能够使用自然语言指令进行调用算力手段。随着AIGC的进一步平民化,必将改变人们的内容创作方式,让更多人借助AI来拓展智慧、知识和想象力的边界。

在音视频领域,从智能配音到生成AI宣讲视频,再到文本生成视频模型,新一轮AI驱动的内容生产力革命正拉开大幕。根据此前国际数据公司IDC调研数据,到2025年,44%的数据将在核心和边缘创建,同时全球将近80%的数据将存储于核心和边缘。

而在隐私保护方面,未来每个用户都有自己的数据节点,边缘侧是AI数据保护的重要选项之一,毫无疑问,在AIGC发展路径下,AI和边缘侧有着关键性的重叠。

边缘云新定位:成为新的内容生产中心

在ChatGPT引发的新一轮AI浪潮下,边缘云俨然已成为AI应用的主战场,由于大量内容在边侧生产,并伴随着在边缘云处完成内容的处理、分发。

对此,李浩提出“云(训练)-边(推理)-端(请求)”全场景AI训练推理协同框架,将训练过程部署在云端,而将训练好的模型部署在边缘设备,边缘侧网络使用判定器判断特征信息是否足以进行准确的推理,当判定为错误推理时,边缘侧抛出数据至云侧,由云侧更复杂的网络进行推理,得到更准确的推理结果,通过云边端协同的方式,可以带来高质量的AI技术方案解决实际使用场景里的更多痛点。

图片

围绕生成式AI+边缘云的畅想,李浩认为边缘云未来有三大关键趋势:

三大趋势

智能场景多

一方面,AI交互多种形态,底层出现大量异构算力,对应不同模型大小和成本;另一方面,算力分层进行全网算力资源的智能编排、弹性调度。

实时交互多

从边缘侧分发到超低延迟RTC,沉浸式需求和“临场感”驱动下一代互联网演进。

业务逻辑多

数据源头的变革,大量业务逻辑要在边缘网络基于Serverless重塑。从单纯分发到算网融合,边缘云也将面临全新挑战。算力网络是数字化时代的资源网,是以计算为核心,通过网络实现连接,通过感知实现匹配与调度的服务。算力网络有三大组成要素:

三大要素

计算

首先是计算,算力网络的核心资源。

感知

其次是感知,对具体场景算力需求的感知及算力资源的感知。

连接

第三是连接:将分散、异构、多层级、闲置的算力集合起来。

以上三大要素赋予算力网络功能属性和服务属性,让其能高效盘活全社会算力资源,并赋能产业。

图片

从算力网络的技术架构上看,从下到上可分为基础资源层、算网调度层和算网运营层,同时算网运维和算网安全贯穿全程,形成“三横两纵”的支撑形态。最终,算力网络会以产品或能力的形式,赋能产业应用。

从传输到算力,网心科技持续探索AI场景落地实践

作为全球边缘计算创领者,网心科技通过共享和自建,汇聚海量边缘计算资源,构建了全球首个百万量级节点边缘计算平台——星域云。上层通过对接中心云,其余层次用各层级边缘节点去覆盖。在此基础上,基于网心科技的智能调度、资源封装、虚拟化平台,把比较复杂的资源封装成标准化的产品给到客户使用。

目前,网心科技在边缘云计算领域已建立领先的行业地位。

行业地位

市场地位

网心科技拥有边缘计算全品类产品,目前客户接入SDK数量已达6亿;IDC报告显示,2022上半年网心科技位列中国边缘公有云服务市场第三。

技术实力

网心科技拥有全栈式边缘计算解决方案、行业最优的技术指标、卓越创新的边缘计算产品。

资源优势

网心科技拥有全球最大、最下沉的边缘计算网络,超过500万节点数量和70Tbps带宽储备,同时拥有自研的边缘智能硬件设备,适配各类边缘场景。

团队创新

网心科技是国内最早涉足边缘CDN的厂商之一。公司研发人员占比70%,并且组建了国内规模最大的边缘计算团队。

据李浩介绍,目前网心科技边缘云计算解决方案已在云游戏、AIGC等多个AI场景落地实践。在云游戏领域,网心云游戏布局了覆盖全网的算力节点,结合自身智能调度系统与基于QUIC构建的超低延时RTC,为云游戏玩家提供大带宽、低时延的稳定传输。

创新技术点

智能调度

在智能调度方面,传输双端智能、精准的定位功能,确保IP库、位置信息的高精度;基于网络测量的策略优化,依靠海量边缘节点以及终端的网络测量数据更新最优网络拓扑;海量节点的实时调度能力,以全内存管理实现高效的节点调度能力。

端到端优化

在端到端的超低延迟RTC性能优化方面,网心自研RTC,基于QUIC传输协议构建,拥有更快的连接建立、减少线路阻塞、更好的拥塞控制、改进隐私保护及流完整性;高效利用GPU特点实现零拷贝的采集编码,大幅降低CPU占用率的同时,有效提升视频的编解码效率。从实际观测结果来看,当网络突发大面积丢包后可快速恢复到预期带宽。此外,弱网表现的结果也在延时、吞吐,带宽间实现了很好的tradeoff,以此保障游戏过程中的优质体验。

在AIGC领域,与传统基于中心云的AIGC应用方案架构不同,网心云IAAS架构依托自身边缘节点管理能力构建了超大规模的算力节点池,这使得数据不需要回传到中心云,而是在离用户更近的边缘侧就能解决,从而实现更低延时、更高服务质量、更低带宽成本、更安全的AIGC算力供给。

版权声明:本文内容转自互联网,本文观点仅代表作者本人。本站仅提供信息存储空间服务,所有权归原作者所有。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至1393616908@qq.com 举报,一经查实,本站将立刻删除。

(0)

相关推荐

发表回复

登录后才能评论