写点什么

端侧 AI 进化论:HUAWEI HiAI Foundation 的奇妙旅程

作者:脑极体
  • 2021 年 12 月 21 日
  • 本文字数:4472 字

    阅读完需:约 15 分钟

从 2017 年开始,华为将端侧 AI 算力的概念带入了产业界。彼时,还有很多人讨论端侧 AI 计算是否有必要,是否具备前景等等问题。一转眼四年过去了,端侧的 AI 处理能力已经成为每家芯片厂商、移动终端厂商的必备能力,而 AI 算力也成为视频、游戏、社交、旅行等主流品类开发者的必修课。

四年时间,证明了端侧 AI 的必要性毋庸置疑,同时也展示了这一领域在平台、技术、生态等方向的进化。为了让开发者更好地调用端侧 AI 算力、算子,华为在跨入端侧 AI 领域的同时也发布了开发使能平台 HUAWEI HiAI Foundation。在消费者开始熟悉 AI 应用,开发者开始依赖 AI 技术的同时,HUAWEI HiAI Foundation 也没有停止过进化,不断给开发者带来一个又一个智能惊喜。


在科技领域大家有一个共识:我们经常会高估一瞬间的变化,却低估长时间的变化。理解一场技术变革不应该聚焦于一点,而应该俯视长段时间中连续、继发的变化。借助 HUAWEI HiAI Foundation 的发展之旅,我们可以看到 AI 开发需求与技术更新的真实情况,透视一场端侧 AI 的进化论。

在跨入端侧 AI 第五年的此刻,开发者与 HUAWEI HiAI Foundation 的奇妙旅程才刚刚开始。

端侧 AI 已长成:开发需求的进化

几年前,大部分开发者对 AI 能力还很陌生,对 AI 更多是探索与开辟。如今 AI 技术已经深入应用开发的方方面面,成为了一种不可或缺的能力。不断积累开发经验,达成开发共识之后,开发者对 AI 算力与技术赋能的需求也发生了众多变化。开发需求的变化,导致开发平台与技术供给的变化,一场端侧 AI 进化论就此展开。

综合来看,我们可以看到端侧 AI 的开发需求出现了以下几种显著的升级。

1.产业关切点的变化:AI 技术目前在应用开发中的指向愈发明确,重点行业逐渐凸显。视频超分、游戏高清化等领域成为关注重点,开发者在这些需要 AI 重度参与的领域需求与痛点也愈发明显。


2.模型结构升级:伴随着需求的升级,开发者对模型结构的优化升级需求不断加强。如何优化模型结构,让复杂强大的模型跑在端侧成为了开发者共同关注的话题。

3.更新速度有要求:AI 开发不断发生着变化,开发者对端侧 AI 能力的升级更新速度也有了新的要求。端侧能力更新原本比较缓慢的情况已经不适应开发者需求。

4.赋能方式多元化、生态化:开发者已经习惯了云侧、架构侧的 AI 开发者社区化、生态化,但在端侧开发者赋能与生态方案还有着明显的不足。如何在端侧接通更多元的开发赋能渠道,也是开发者的重要痛点。

如今,开发者需要借助端侧 AI 探索更广阔的产业世界。HUAWEI HiAI Foundation 也已经推动了端侧 AI 产业完成了“三重进化”。

软硬件全面成熟:平台进化

端侧 AI 的第一重进化,体现为平台的发展与成熟。HUAWEI HiAI Foundation 在赋能方案、产品形态、重点领域解决方案等层面,都表现出了成熟平台应有的进化能力与生态活力。


从平台基础信息上看,我们首先可以看到 HUAWEI HiAI Foundation 在算子规模、赋能端口、以及调用规模上的成长与变化。量变累积质变,从平台特性上,HUAWEI HiAI Foundation 的内核也已经发生了深层次变化。

首先,从产品形态上看,HUAWEI HiAI Foundation 与华为的全场景战略同步进化,从支持手机拓展为全场景开发的 AI 赋能,更加满足开发者的发展需求与多终端战略。

从计算能力上看,HUAWEI HiAI Foundation 最早是基于 NPU 的专项算力;在产业实践与发展中,华为发现很多开发需求需要协同计算来实现最好的智能化效果。如今 HUAWEI HiAI Foundation 可以支持 NPU、GPU、CPU 的协同计算、灵活部署,让更复杂、具象化的 AI 开发需求可以得到有效赋能。

再有我们可以看到,HUAWEI HiAI Foundation 在行业关注的特定领域有了更具针对性的赋能,并且取得了业界领先的成果。比如在超分等视频行业的关键赛道上实现并保持了业界最先进的赋能能力,构建了其他厂商难以超越的优势,并基于具体行业的优势,孵化了充沛的合作案例与赋能方案。在图像、视频、游戏等领域上,HUAWEI HiAI Foundation 构建了体验更好、综合成本更低的端侧 AI 开发赋能优势。

在全场景、计算协同与重点领域等多个赛道上,HUAWEI HiAI Foundation 都构筑了独特的平台优势,而进一步来到与开发者紧密相关的技术空间中,HUAWEI HiAI Foundation 更是成为了一支独特的 AI 画笔。

提供无可替代的 AI 创造力:技术进化

端侧 AI 的第二重进化,体现为 AI 技术对开发者的价值加持。开发者可以将更多原本不可能完成或者很难完成的 AI 任务在 HUAWEI HiAI Foundation 中实现。HUAWEI HiAI Foundation 也成为众多开发者独一无二的智能选择。

HUAWEI HiAI Foundation 的技术赋能思路与其他平台显著不同的一点,在于对开发者业务对接需求的支持力度远超其他芯片平台。平台主动为开发提供更多服务,并且尽可能多地获取开发者需求和反馈,继而对 HUAWEI HiAI Foudation 进行持续优化。

这种技术上达成的良性循环,通过频繁的需求对接、案例合作,以及华为全栈技术优势的综合使用,HUAWEI HiAI Foundation 构筑了更贴近开发实践与开发需求的技术赋能方案。

从几个方向上看,HUAWEI HiAI Foundation 做到了与开发者立场、需求、升级路线保持一致,让 AI 技术真正流淌到开发者的画布上。

从技术革新性上看,HUAWEI HiAI Foundation 打破了很多端侧 AI 的技术瓶颈,并且在实践中获得了成功。比如说超分这个重要领域中,开发者可以与 HUAWEI HiAI Foundation 合作获得高强度、低成本的超分升级,为视频提供更优秀画质。


HUAWEI HiAI Foundation 可以有效帮助开发者降低宽带的使用成本,以及云端超分带来的流量成本,从而在端侧实现高质量,且不依赖网络与云端算力的超分效果。这一能力发布之后,在业界很快引起了震动。优酷、华为视频、虎牙、爱奇艺等视频应用纷纷与 HUAWEI HiAI Foundation 建立了超分合作。

在视频超分合作中,HUAWEI HiAI Foundation 可以帮助视频类应用实现超分计算的优化拟合,支持视频平台使用更大、更复杂的模型,从而提升了用户的智能体验。相比较来说,大型平台类开发者实现了降低成本,优化效果,避免了自研算法的投入与试错;中小型开发者则可以实现接入到业界强大的技术体验中,实现体验升级。

百度输入法在与 HUAWEI HiAI Foundation 合作之后,端侧 AI 调用相比 CPU 性能提升 25%,计算资源独占、内存节省 22%、功耗降低 50%。快手在与 HUAWEI HiAI Foundation 的合作中,实现了视频特效 AI 功能在端侧的快速部署,性能提升 8 倍,功耗降低 50%,计算精度更优。美颜在与 HUAWEI HiAI Foundation 合作后,图像分割业务的性能提升 30%,功耗降低 50%。爱奇艺、优酷等视频平台超分业务 HUAWEI HiAI Foundation 的加持下,超分辨率性能最高可以提升 80%,功耗最高可降低 45%。

这些数字表明,技术上的创新性与领先性,让 HUAWEI HiAI Foundation 成为了一支独一无二的画笔。当开发者想要绘画 AI 的时候,不必有后顾之忧,也不用浪费大量开发成本。无缝接入 HUAWEI HiAI Foundation 就是最好的邂逅。

端云协同与高度兼容:生态进化

端侧 AI 的第三重进化,体现为平台兼容性与协同性不断增强,形成了具有极强包容力的生态环境。端侧 AI 的社区化与生态化,正在由此开启。

在平台优势不断累积,技术进化保持高效之后,HUAWEI HiAI Foundation 更加关注生态上的完整性与开放性。一方面,HUAWEI HiAI Foundation 构筑了与国内主要 AI 平台、互联网厂商之间有效的合作机制与合作关系,搭建了头部玩家共同认可的 AI 赋能平台。另一方面,HUAWEI HiAI Foundation 开展了紧锣密鼓的生态化、社区化建设,让更多中小型开发者准确找到自己合适的生态赋能方案,低成本、高质量接入端侧 AI。

在头部玩家的合作中我们可以看到 HUAWEI HiAI Foundation 的两种代表性生态合作模式。在平台合作兼容上,HUAWEI HiAI Foundation 与算法框架 BAT 的算法平台进行了有效对接,让开发者可以无感接入 HUAWEI HiAI Foundation,从而实现了平台生态的互惠共享。

从技术兼容性上看,HUAWEI HiAI Foundation 能够支持 300+通用算子,并且兼容国内外主流 AI 框架。整体兼容方案已经相当成熟,无论开发者使用哪个平台的框架,都可以无缝调取和使用 HUAWEI HiAI Foundation 的能力,获得充沛的技术支持。对于拥有自身框架的厂商来说,他们可以在框架层对接 HUAWEI HiAI Foundation 的 IR API,在麒麟平台使能 NPU 加速;而没有框架的开发者则可以直接使用离线 DDK 完成 AI 应用的开发,不需要花费兼容成本。


另一方面,HUAWEI HiAI Foundation 打破了原本端侧技术演进相对较缓的特点,实现了端侧技术与开发者需求协同演进。通过端云协同方案创新,HUAWEI HiAI Foundation 将快速算法演进相关能力放在了云端,开发者可以实时接入最新的能力而不用等待端侧升级,从而满足了端侧 AI 快速进化的需求。

端云协同的升级模式,有效提升了 HUAWEI HiAI Foundation 与开发者之间的沟通、赋能效率,让端侧 AI 的软件优化实现了提升,满足开发者快速升级、高效提升技术能力的主要诉求,也让开发者的 AI 能力可以更广泛适配老机型,拓展了开发市场,提升了用户体验。

在社区化建设中,HUAWEI HiAI Foundation 上线了 Model Zoo。这一平台的目标通过社区化形态,帮助开发者解决端侧模型优化设计的痛点。从模型优化功能出发,Model Zoo 未来还将实现模型打分、社区互助等功能,最终希望构建端侧 AI 的独特生态。


端侧 AI,突破奇点

不久之前,HUAWEI HiAI Foundation 已经突破了日调用量超过 600 亿次的产业“奇点”。这个数字意味着,海量智慧业务每天在 HUAWEI HiAI Foundation 的框架下运行,这一平台已经覆盖了大量开发者与开发需求。而这些产业需求也不断回馈给 HUAWEI HiAI Foundation 团队,成为平台进一步升级进化的动力。

从未来趋势上看,AI 计算是消费终端开发的必然需求,也是开发者最看重的进化方向。而 AI 计算不出端,从根本上保护用户隐私安全也是不变的大势所趋。在 HUAWEI HiAI Foundation 的努力下,端侧 AI 计算已经实现了开发成本不断降低、产业优势愈发明显。

日调用 600 亿次,可以说是上述所有 HUAWEI HiAI Foundation 推动的平台进化、技术进化、生态进化的成果。

华为开始推动端侧 AI 发展时,业界其实有不少的观望与怀疑;到如今,端侧 AI 已经成为了全球移动芯片与智能终端产业的共识。其中,HUAWEI HiAI Foundation 对“无人区”的探索,对产业的引领,对生态的建设可谓功不可没。端侧 AI 不断进化,并且证明了持续进化的可能性,对于整个移动产业来说有着举足轻重的意义。

对移动终端产业而言,有愈来愈多的厂商重视 AI,重视自研技术,在同质化竞争中找到了一条独立发展的新路。


对于芯片平台而言,积极推动软硬件协同创新,并且与应用开发紧密合作,成为了近几年新的趋势。其中 HUAWEI HiAI Foundation 的引领作用不容小觑。

对于开发者来说,AI 不再仅仅是简单的识别能力调用,而是变成了可以全面提升应用体验,让智能无处不在的新端口。他们知道,更多可能性可以在 AI、在硬件侧,在 HUAWEI HiAI Foundation 找到答案。

如果说,从 2017 年开始 HUAWEI HiAI Foundation 的五年是“一五计划”,从端侧 AI 的从无到有;那么五年到十年,“二五计划”或许意味着端侧 AI 由规模化效应走向强盛、繁荣与普惠。

一场奇妙的开发之旅尚未结束,端侧 AI 的十年之约还在履行。

这部“端侧 AI 进化论”已经有了逻辑清晰、目标明确的开头,接下来的进化故事,不仅掌握在平台本身,更在众多开发者手中笔中。

用户头像

脑极体

关注

还未添加个人签名 2020.06.12 加入

还未添加个人简介

评论

发布
暂无评论
端侧AI进化论:HUAWEI HiAI Foundation的奇妙旅程