写点什么

对话阿里云致凡:社会视频化“狂飙”,倒逼视频云技术加速迭代

作者:云布道师
  • 2023-04-06
    浙江
  • 本文字数:3511 字

    阅读完需:约 12 分钟

对话阿里云致凡:社会视频化“狂飙”,倒逼视频云技术加速迭代

以技术驱动创新,以芯力量拥抱数智未来。平头哥《芯事》访谈对话科技创新者、引领者,探索创芯之路,共建硬核算力,赋能科技创新。本期《芯事》人物——致凡,阿里云视频云技术团队负责人。

视频云和倚天 710 的结合 是一段美好的旅程


2022 年北京冬奥会,阿里云承接了一项重要的任务,那就是支撑冬奥全面上云。为此,阿里云视频云推出了全新的云上创新解决方案——阿里云聚“Alibaba Cloud ME”,这也是全球第一次在奥运会上实现异地全息会面,是一次打破时空之距的革命性创新。


在感叹云上沉浸之旅的精妙之余,我们不禁要问,阿里云视频云上路即狂奔的硬实力是什么?除了使命必达的奋斗精神和强大的软件、算法支撑能力以外,阿里云视频云技术团队负责人致凡还提到了倚天 710。


当我们将目光投射到倚天 710 上,会发现它诞生于 2021 年,是一款由平头哥自研的云芯片,经过一年多时间的硬件部署和业务验证,倚天 710 实例已成功应用到阿里巴巴集团的核心业务中,并服务多家知名互联网及科技公司。正是基于前期优良的表现,倚天 710 已在阿里云数据中心部署,未来部署规模将继续扩大。


当然,没有一款芯片生来就如此强大,致凡谈到:“视频云和倚天 710 的结合是一段美好的旅程,但中间还是经历了非常多的事情。”


致凡回忆起这段旅程:由于视频业务的增长速度是非常快的,研制一颗芯片的周期也非常长,不论是芯片研发还是芯片落地后适配视频云业务成长,都是极具挑战的,但我们一起做好了正视挑战、突破壁垒的准备。当第一版芯片流片回来后,芯片基本性能表现稳定,且由于 Arm 架构带来的原生优势,再加上阿里云和平头哥的同学双方坐在一起,在了解芯片内部构成的基础上去做了很多算法调优后,能够让代码在芯片上跑得更快。


同时,倚天 710 还针对特定算法场景进行了指令集加速与优化,比如像 SVE 等矢量计算技术,其中 BF16/INT8 mmla 指令可实现高效的矩阵乘法运算,还支持 Hash、CRC32 等加速指令,可以让单条指令并行处理更多数据,大幅提升视频编解码、AI 编解码增强等场景性能,这是一个两边一起迭代的过程。


所以,从最早的性能挑战传统架构 CPU,到现在已经远远超过传统架构 CPU,倚天 710 的“蜕变”是一步一个脚印走过来的。致凡认为:“这是一个非常好的案例,阿里云视频云的业务跟平头哥的芯片设计能够完美地结合在一起,利用各自的优势让芯片设计出来,在视频行业中发挥更大的作用。”


谈起平头哥和阿里云视频云业务的这次合作,就不能不提到一个大的产业背景,即视频云的爆发式增长。至于什么是视频云?“视频云就像是音视频行业的水和电,是底层的基础设施,可以大大简化视频从采集、处理、编码、传输到分发的链路。”致凡的比喻再恰当不过。

社会视频化是一种大趋势

从 2017 年开始,短视频的热度持续上升,加上近三年疫情下直播、视频会议、线上教学等领域的崛起,社会视频化成为一种大趋势。


根据 CNNIC 发布的第 50 次《中国互联网络发展状况统计报告》数据显示,截至 2022 年 6 月,我国移动互联网接入流量达 1241 亿 GB,同比增长 20.2%;另根据思科发布的数据显示,视频内容约占互联网总流量的 90%,占移动网络总流量的 64%。


结合这两组数据,我们可以看出视频正在成为互联网流量的主角。而爆炸性的数据量又将会对算力和存储提出更大的挑战。于是视频云的价值被凸显出来,并呈现出了一种不可逆的发展态势。在这样的大背景下,全球以互联网公司为主的科技企业纷纷转型,开启视频云技术的探索之旅,并在安防监控、远程医疗、零售电商以及金融机构等典型场景中得到落地。


当前,视频云产业已经形成了相对稳定的头部战队,包括微软、AWS、阿里云等主流云厂商。


关于国内视频云的市场体量方面,根据 IDC 发布的数据显示,2022 上半年中国视频云市场规模达到 50.5 亿美元,同比增长 15.7%,预计到 2026 年,市场规模接近 300 亿美元。值得一提的是,该报告同时还指出,阿里云视频云连续 4 年蝉联中国视频市场份额第一,并且渗透率还在不断增加。

视频产业发展迅猛,倒逼技术快速迭代

对于视频云产业来讲,以在线视频为例,从最早国外的 Livestream、国内的斗鱼直播到现在已历经了 25 年的历史,其实从技术的角度来看,整个行业发展的速度没有想象中的快。比如,视频编码从 H.264 到 H.265,再到 H.266,平均 10 年升级一代。为什么速度不是很快?因为它要解决的问题比较多:算力、网络传输、标准等等。


但是,我们看到今天的视频产业发展非常迅猛,这也倒逼技术要去完成快速迭代。这几年已经初显效果,比如现在编码器的升级迭代速度是 5 年,以前是 10 年,预计后面可能是 3 年。


为什么这里要强调编码?事实上,视频云是一个算力密集型行业,视频信息量很大,假如采用和文本、图片一样的压缩模式,那么还原度是不够的,所以视频必须进行编码处理。编码要是做不好,不仅会损失视频质量,还会带来传输难度高的问题。


从 MPEG2 开始,每一代视频编码的升级,其压缩率大约可以提升 50%,远低于视频分辨率每更新一代提升 4 倍的速度,即使这样,每一代升级对 CPU 算力的需求,以及算法复杂度都会提高至少 10 倍以上,这对芯片的架构、芯片底层的指令集优化、芯片的存储器和 cache 结构都会带来新的挑战,很多核心的算法要用新的指令集重新写一遍,这意味着视频编码和芯片成长是需要同步的。

视频云需要怎样的 CPU?

通过前面的介绍,我们了解到视频编码对算力的要求很高,因为我们常常试图用算力换存储,用算力换传输带宽,所以我们希望算力越高越好。


那么如何提升 CPU 的算力?首先要选择好的内核架构。在视频领域,传统架构已经有三十几年的历史了,目前市占率依然能达到 90% 以上的份额,但裹挟着沉重的向后兼容包袱。而 Arm 作为一种精简指令集,不仅没有历史包袱,还可以根据需求增加很多寄存器,同时从内存 cache 结构的设计和指令集的设计上面,能够更贴合需要大算力的视频处理需求。


此外,不管是 Hyper-Threading 还是其他,采用传统架构的 CPU 走的都是提高主频的路子,在视频处理时就会遇到一些问题,比如视频压缩的时候会分成 I 帧、P 帧、B 帧,每一帧的算力并不是平均分配的,就会带来对算力需求不稳定的问题。所以为了让芯片不跑超频,就可能会做一些降频处理,这时候它的算力就可能达不到相应的编码需求。在实际业务中,由于视频业务不是单机运行的,会有很多的服务器集群配合来处理,为了防止 CPU 跑超等复杂情况的出现,就不得不把服务器集群的水位降低,这是传统架构 CPU 比较大的问题。


然而 Arm 整体的设计是比较稳定的,不管任务有多复杂,都能实现稳定输出,做到良好的资源调配和水位调配,不用预留很多冗余来防止芯片跑超,这对于 to B 业务来说非常重要。


除了主频高以外,传统架构 CPU 的核不多,通常是两个 vCPU/HT 共享一个物理核、1 份 ALU,但 Arm 可以实现 128/256/512 或更多的核,类似 GPU 的设计,如此一来,对于不同应用场景而言,就可以用少核应对低算力需求的场景,多核应对高算力需求的场景,实现更优的业务调配,降低投入成本。以倚天 710 为例,内含 128 核 CPU,主频 2.75GHz,可适配云的不同应用场景。


与此同时,随着数据上云越来越多,对于数据中心而言,功耗性能也是非常重要的,对运营者来说,低功耗就意味着低成本,除了软件层面的优化以外,倚天 710 能同时兼顾高性能和低功耗。


以上要素叠加,就让视频云的头部企业阿里云与倚天 710 的结合看起来水到渠成。当前,倚天 710 已大规模部署并提供云上服务,根据实践反馈,倚天 710 让阿里云平台的算力性价比提升了超 30%,单位算力功耗降低了 60%,这是一个相当大的进步。

持续耕耘视频云技术,普惠各行各业

纵观视频云产业,人们对体验的极致追求,将成为视频云持续深耕的动力。在云应用场景下,CPU 的发展之路将循着算力、I/O、网络协议适配、推理能力、从无到有的创造能力不断演进下去。


未来,Arm 会成为视频云中一种重要的架构,整体份额一定会增加,但不会是唯一的架构,传统架构、异构的 ASIC 和 FPGA 都会有一席之地。而对于 Arm 架构而言,未来的改进方向是降低功耗、提高算力、做好专用性通用性的选择平衡。


同时,我们要意识到,未来视频对算力的挑战是非常高的,简单地靠 CPU 的升级已经满足不了需求,需要一些特殊的处理,包括越来越多的 AI 算法、专用算法,比如模型搜索的算法等,再把通用的模块部分地固化在芯片里面,极大地提升视频处理的效率。


所以在视频云市场,人们总是在做权衡,云芯片厂商要处理好芯片能效和通用性的关系,云服务商要在算力有限的情况下使用很多快速算法。而正如致凡强调的:“我们的愿景都是一样的,就是让视频普惠各行各业,从而反哺视频行业,实现更茁壮的发展。”


对话阿里云致凡:社会视频化“狂飙”,倒逼视频云技术加速迭代

用户头像

云布道师

关注

大道至简、教学相长、知行合一 2022-11-07 加入

聚焦“云&科技”领域,每日收获前沿技术与科技洞见。

评论

发布
暂无评论
对话阿里云致凡:社会视频化“狂飙”,倒逼视频云技术加速迭代_平头哥_云布道师_InfoQ写作社区