写点什么

HarmonyOS NEXT 如何解决不同多媒体技术开发难题

作者:Geek_2d6073
  • 2023-11-22
    湖北
  • 本文字数:1847 字

    阅读完需:约 6 分钟

随着技术的不断发展和多媒体的不断演进,越来越多的传统场景将有可能被颠覆,开发者们也需要不断的学习和更新自己的技能,以适应新的需求和挑战。然而在开发过程中,很多开发者都会遇到“为什么我开发的相机不如系统相机的效果好?”,“为什么我的应用和其他的音乐一起发声了,我要怎么处理” 以及“我应该怎么做才能在系统的播控中心里可以看到?”等问题。对于开发者的这些疑问,HarmonyOS NEXT 通过提供简单易用体验一致的生态借口,就能帮助开发者轻松解决上述问题。

三个统一,让三方相机与系统相机获取一致体验

相机应用在早期的版本开发中,开发者们能够发现三方相机和系统相机拍照的效果会有较明显的不一致,色彩/饱和度/纹理细节等方面会出现一些明显的差异。



(三方相机)



(系统相机)

出现这样的情况主要有两个原因,一个是因为系统相机采用了私有同路,从而获取了更好的拍照效果,另一个原因就是三方相机预览流拍照效果相对较差。



针对上述问题,HarmonyOS NEXT 三个步骤即可解决相关问题。

第一步:统一接口,统一流程,统一效果:通过统一开发接口和流程,从而使得三方相机和系统相机获取一致的体验



第二步:分离预览、拍照、录像,明确流定义,让正确的流做正确的事



第三步:相机管道流水线模型



开发者可参考下方示例代码:

相机基本控制流程:



使用 PreviewOutput 实现相机预览:



使用 PhotoOutput 实现相机拍照:



使用 VideoOutput 实现相机录像:



统一焦点处理,并发播放更有序

开发者在音视频应用开发中最常遇到的场景,就是并发播放,而并发播放一般解决思路是各个应用对焦点的申请和处理。传统的焦点管理方法更依赖应用遵守约定好的策略,如果有的应用不遵守,比如不响应或者滥用焦点,就可能会出现不发声或者乱发声的现象,影响了用户的体验。

针对上述问题,HarmonyOS NEXT 进一步改进了焦点管理的设计,提供统一的焦点处理策略,用以规范应用对于焦点的使用,以达成统一的发声体验,HarmonyOS NEXT 系统中的焦点管理模块儿会存储一个焦点策略表,定义了不同的场景下,哪些应用可以获取焦点进行播放,哪些应用会失去焦点而停止播放等策略。



各位开发者可通过接口的使用来感受实际处理策略。

首先,在 A 应用创建并使用 AudioRenderer 播放的时候,系统会自动为其申请焦点,此行为属于系统的行为。

当 A 应用播放后,系统的焦点策略会进行判断,如果 A 应用可以抢到焦点,那就会使得失去焦点的应用暂停播放;同时被暂停的应用也会在 INTERRUPT_FORCE 的回调事件中,得到暂停的状态,应用在收到这个事件后,就需要存储并更新应用内的状态。

当 A 应用停止播放后,之前被暂停的应用也会收到一个恢复播放的事件,这个事件会在 INTERRUPT_SHARE 中,应用可以进行恢复播放的操作,或者忽略,属于非强制行为。

开发者可参考下方示例代码:



打通低时延通路,一套接口适配不同场景

很多开发者都知道,游戏、K 歌、乐器等应用对于音频的输出时延要求很高,常规的播放通路一般只能达到 60ms 左右,甚至更高的时延,并不能满足这些应用的使用诉求。而 HarmonyOS NEXT 则为此提供了低时延通路的设计方案。

首先在系统中的普通通路之外新增一条垂直打通硬件的低时延通路,通过 bypass 框架层直接在 DSP 进行混音,达成最低 20ms 的音频输出时延。

其次为了简化应用的接入,通过在接口中提供不同的参数配置,就能使开发者可以用一套接口同时支持低时延和普通通路两种播放模式。



开发者们可以通过 OH_AudioStreamXXX 接口来进行低时延通路的创建,通过传入不同参数就可以设置低时延模式,亦可以设置普通模式,从而使用一套接口来适配不同场景。

同时,低时延模式一般采用来 pull 模式来获取数据,在这里提供一个 callback,需要应用创建并填入。

开发者可参考下方示例代码:



播控应用控制一键直达

基于上方所述焦点管理策略,HarmonyOS NEXT 解决了音视频应用并发播放的问题;而对于播放中的应用控制,系统也提供了规范支持。

首先在系统提供的 C/S 模式的播控管理的框架中,应用作为客户端,接入 AVSession 的会话端,设置必要的信息;

其次系统的播控中心获取与之对应的会话控制器,获取信息进行展示,以及对应用发送控制命令。

最后通过标准接口的接入,规范应用的播放行为;同时通过统一的播控中心的入口,就能让用户对于播放的控制做到一键直达。



开发者可参考下方示例代码:



想要跟上技术发展的步伐,开发者学习新技术的同时,能够拥有开发便捷高效的工具则能达到事半功倍的效果。除了多媒体技术的开发管理,HarmonyOS NEXT 也在积极为各位开发者提供其他更多技术开发解决方案,让开发者在高效开发之余也能持续拓宽视野,提高自己的创新能力。

用户头像

Geek_2d6073

关注

还未添加个人签名 2021-12-22 加入

还未添加个人简介

评论

发布
暂无评论
HarmonyOS NEXT如何解决不同多媒体技术开发难题_Geek_2d6073_InfoQ写作社区