OPPO StarFire 全新升级,异构计算突破算力瓶颈
在 OPPO 2022 未来科技大会(OPPO INNO DAY 2022)上,OPPO 正式发布了让终端更智能的“安第斯智能云”,并分享了其在端云数据存储、端云机器学习、端云实时渲染等领域的关键能力,为用户带来重构端云存储、增强智能服务、探索虚实融合的三大体验革新。
在增强智能服务方面,OPPO 端云机器学习平台 StarFire 采用端云协同机器学习新范式,融合云侧大规模模型实时训练和端侧动态感知用户的双重优势,促进 AI 能力进一步向自适应 AI、生成式 AI 演进。
近日,StarFire 完成了全新升级,通过落地支持多种异构芯片的训推一体平台,打通了芯云一体的 AI 训练、优化、推理全流程,在全面提升算力与性能的同时降低成本和功耗,为 OPPO 用户提供性能强大的全场景服务体验。
突破行业瓶颈,端云机器学习能力升级
在以数据为中心的今天,传统的单一计算架构已无法满足当下日益高涨的算力需求。特别是在人工智能领域, AI 意味着对算力的超高要求,异构计算大有可为,现已成为加速 AI 创新的新一代计算架构。
为突破行业当前云上机器学习平台的“三高(延时高、成本高、隐私安全风险高)”瓶颈,OPPO 异构计算全新升级。经过一年多的努力,StarFire 完成了支持多种异构芯片的训推一体平台的落地,打通了芯云一体的 AI 训练、优化、推理全流程,在充分发挥算力与性能的同时,有效降低功耗与成本。
借助 StarFire 的端云链路,任意一台终端都可以随时加入训练过程,StarFire 能够感知终端设备的芯片特性,并面向目标业务场景优化模型,释放 OPPO 强大的云端算力,极大补齐终端设备资源和算力资源的短板,并快速适配高通、MTK 和 OPPO 自研的马里亚纳等异构芯片的推理需求。
兼容异构芯片,多场景推荐服务升级
为了进一步打造更为自主可控的异构计算平台,StarFire 对 AI 芯片的应用进行了探索,当前 StarFire 推理平台已同时支持 CPU、GPU 和国产芯片进行推理,并率先在信息流主视频场景全量上线,取得极好的效果。具体地说,StarFire 最大吞吐量提升了 101%,中负载下耗时下降 50%;另一方面,推理的综合成本也下降 50%,并在稳定运行的几个月中实现了 0 故障。
此次在信息流主视频场景全量上线的成果,充分验证了 StarFire 在支持多种异构芯片的可能性,为后续引入更多的 AI 芯片打下了夯实的基础。值得一提的是,在异构计算平台的构建过程中,StarFire 针对面向推荐场景的算子进行了相关的优化,除却当前信息流内容主视频场景的应用,后续还将复用到其他的推荐场景,进一步提升异构计算的通用性和性能效果。
加速业务应用创新,提升智能服务体验
一直以来,OPPO 均致力于为用户提供便捷高效的智能服务体验。StarFire 为用户带来了更低延时的实时交互、支持千亿级参数的 AI 模型以及更安全的用户隐私保护,通过充分调动云侧计算与端侧感知,创造更强大的智能服务体验,全力推动 OPPO 业务应用创新与用户体验提升。
以小布助手主动建议为例,StarFire 可以基于用户个性化的行为、GPS、通信等数据进行隐私计算,通过场景服务聚合卡片,为用户提供一站式、轻松便捷的聚合服务体验。StarFire 作为 OPPO 增强智能服务的技术底座,推动小布助手从最初的语音助手发展为跨终端、多模态的智能助手,从被动的服务向主动建议、辅助决策进化。
StarFire 的能力还不止于此。通过端侧实时感知的数据,云端不断反复进行模型训练,可以让 AI 快速学习、主动进化。根据 Gartner 公布的技术趋势预测,自适应 AI、生成式 AI 等拥有主动学习、自进化能力的人工智能将为我们带来意外之喜。
在 OPPO 2022 未来科技大会上,OPPO 全新推出了小布作画与小布家庭机器人。作为 AIGC 中的首发能力,小布作画一方面可以让用户通过文字描述、上传图片等形式生成想要的作品,另一方面小布也作为一个创作者,将绘画作品赋能到更多的业务场景中。小布家庭机器人则是小布技术进化的集大成者,同时也是 StarFire 在 AI 计算能力的集中展示和未来的关键技术突围点。
随着用户需求和业务场景的持续发展,OPPO 将着力推动 StarFire 在异构计算平台的不断创新,引入更多更先进的 AI 芯片和技术,在以“ALL FOR ONE,以用户为中心”的战略目标指引下前行,带来全新智能服务体验。
版权声明: 本文为 InfoQ 作者【安第斯智能云】的原创文章。
原文链接:【http://xie.infoq.cn/article/0ce87a3451ba67626bd7c8040】。文章转载请联系作者。
评论