火山引擎携手 NVIDIA 开源亿级多媒体处理框架 BMF

8 月 22 日,火山引擎视频云宣布携手 NVIDIA 正式开源多媒体处理框架 BMF(Babit Multimedia  Framework),可以为企业提供从视频生产到消费的全链路场景支持,并帮助开发者低成本构建视频应用。BMF 作为国内首个开源的同类项目,希望通过开源方式推进技术普惠,助力加速视频化进程。

 (英伟达开发与技术部门亚太区总经理李曦鹏(左)和火山引擎视频云架构技术总监王悦(右))

 视频化正在向各行业渗透,从内容行业、泛娱乐拓展至泛互联网和大量传统行业。作为视频化部署的“底座”,多媒体处理框架越发重要,但目前主流的视频处理框架虽具备沉淀多年的技术能力,却无法完全应对需求多元、业务融合以及快速创新等复杂挑战。对企业而言,自建视频应用对技术积累和资金成本要求较高。行业迫切需要更加强大的视频处理框架,帮助用户实现优势互补、协同工作、快速落地。

 因此,火山引擎基于抖音大规模实践和打磨,专为超视频时代打造下一代多媒体处理框架 BMF,从应用层、框架层、模块层和异构层这四个层面,帮助用户快速构建视频化能力,驱动业务增长。

 首先在应用层,可以支持视频内容从生产到消费的全链路视频场景,包括大量视频 AI 应用场景。

 其次在框架层,包括框架对 Graph / Pipeline 的调度、跨数据类型跨设备的数据流转 Ackend、以及常用的跨设备  reformat、color space conversion、tensor 算子等 SDK  ;并自研“自驱调度”和“动态 Graph”引擎,适配不同场景的多种执行模式。

 再次在模块层,在框架设计之初即采用了“松耦合”设计,包含了具备各种原子能力的模块,提供多种语言的模块开发机制,用户可根据自身需要将算法/处理实现为  Python、Go、C++ 语言的任意一种;目前,已积累超过 140 个适用于视频场景的原子能力模块。

 最后在异构层,负责提供高效的视频处理算力,包括 ASIC 算力,能够对多种主流框架数据实现无缝转换,使多种主流框架数据互转和协同工作变得更加顺畅和便捷。

 字节跳动视频架构负责人、火山引擎视频云架构技术总监王悦介绍,火山引擎与 NVIDIA 紧密合作,针对 GPU 相关的框架层能力、处理能力进行了深度优化,使其能够发挥更强大的并行计算能力。

 NVIDIA 英伟达开发与技术部门亚太区总经理李曦鹏表示,“未来,我们会与火山引擎保持合作,听取社区及用户的意见,在 NVIDIA  最新的软硬件平台上进行迭代,继续完善 BMF 框架。”

 目前,火山引擎多媒体框架 BMF 已经实现全面开源并上线 GitHub,其中 BMF 框架层整体开源,提供 9 个开箱即用案例和 20+API 调用范例。此外,BMF 已正式开放试用招募,希望携手更多开发者一起共建视频应用生态。