沉浸式视听体验：全景声技术是如何实现的？

2022-11-14
浙江
本文字数：4074 字
阅读完需：约 13 分钟

大众对沉浸体验的追求，不再仅局限于“视觉”。声之切，境尤升。

随着硬件技术的升级、软件内容的丰富以及 5G 网络环境的优化，推动几经浮沉的 VR 产业走向正循环。

就在去年，「Roblox 上市」、「Facebook 更名为 Meta」、「微软收购暴雪」等将元宇宙相关产业推向风口，而 Oculus Quest 2（VR 一体机）出货量破千万台的成绩，更是一件将沉浸式 VR 从概念落地场景实践的标志性事件。

在本次云栖大会阿里云视频云的 8K VR 视频技术展台，体验者通过佩戴 Pico VR 头显，感受清晰度高达 8K 的 360 度 VR 视频，实时捕捉超高清细节。

不仅如此，体验者还能以“声”临其境，感受令人惊艳的全景声技术带来的沉浸式视听体验。

01“视”之外的沉浸之“声”

「沉浸式视听体验」一词已多次出现在大众视野，究竟什么是沉浸式视听体验呢？

“沉浸式视听体验”是指通过视频、音频及特效系统，构建大视角、高画质、三维声特性，从而具备画面包围和声音环绕的主观感受特征，观众在所处位置就能获得周围多方位的视觉、听觉信息，带来身临其境之感。

听觉作为仅次于视觉的重要感官通道，对沉浸式的视听体验至关重要。随着用户对视听体验的极致追求，在“视”之外，沉浸之“声”技术应运而生。

「沉浸式音频」是指能够呈现空间的还音系统的声辐射，至少能覆盖观众的前、后、左、右、上五个方位。除此之外，还能真实地营造出声场的水平纵深和垂直高度，即从听者角度能精准地定位声音的方向和位置。

从技术角度是如何实现呢？

其实，真实世界的声音来自环境的四面八方，人耳往往可以通过声波的时间差、强度差、相位差、频率差等辨别声音的方位。

但现有的立体声和 5.1 环绕声只能呈现部分方向传来的声音信息，若想获得声音带来的沉浸感，需要尽可能全方位再现真实世界的声音，也需要一种沉浸式音频技术来实现。

图片来源于网络

02 一个「球面」的声场？

沉浸式音频主要技术有三大类: 基于声道 Channel Based Audio（CBA）、基于对象 Object Based Audio （OBA）、基于场景 Scene Based Audio（SBA）。

❖ 基于声道技术（CBA）：在传统 5.1 环绕声的基础上，增加了 4 个顶部声道，通过增加声道的方式来补充空间中的声音信息，但只能呈现部分方向来的声音信息。

❖ 基于对象的技术（OBA）：是目前主流技术，并在电影领域已广泛应用，如 Dolby Atmos 全景声。该技术会产生大量的数据和运算，除了声道的音频外，还有关于声源的元数据 Metadata，即：声源（位置/大小/速度/形状等属性）、声源所在的环境（混响 Reverb/回声 Reflection/衰减 Attenuate/几何形态等），该技术在 VR 领域只适合主机 VR 上的大型游戏，对于普通移动端的硬件设备来讲，算力及带宽承载具有较大压力。

❖ 基于场景的技术（SBA）：用来描述场景的声场，其核心的底层算法是 Ambisonics 技术,可被映射到任意扬声器布局中。Ambisonics 技术的特点是：声源贴在提前渲染好的全景球上，即所有声源将被压缩在了这个球上。

图片来源于网络

本文的音频体验展示便采用了 Ambisonics 的录制格式（文末体验 DEMO）。

Ambisonics 作为全景声的一种录取格式，在上世纪 70 年代就已经问世，但一直没有获得商业上的成功。

随着近几年 VR，AR 等相关领域的兴起，Ambisonics 开始逐渐被讨论。与其它多声道环绕声格式不同，Ambisonics 传输通道不带扬声器信号，允许音频工作者根据声源方向而不是扬声器的位置来思考设计，并且为听众提供了用于播放扬声器的布局和数量，因此，大大增加了灵活性。

Ambisonics 音频格式可以解码任何扬声器阵列，并且可以完整地、不间断地还原音源而不受任何特定编解码播放系统的限制。

下图是一个一阶的 Ambisonics 结构，4 个 MIC 垂直部署在一个四面体上，播放效果与 Dolby Atmos 类似，但和 Dolby Atmos 不同的地方是：Dolby Atmos 只解决了半球的声场。

而 Ambisonics 除了水平环绕声音，还可以支持拾音位置或者听众上下的声源，即整个球面的声场。

图片来源于网络

03 实现声声入耳的引擎：AliBiAudio

全景声不仅仅是增加几个声道那么简单，而是把整个声音系统架构都颠覆了，从之前基于声道来混音的技术上升为基于对象的音频处理技术，使人在环境中的听觉感受与现场实际声音一致。

将全景声音频重建成用户可测听的形式有两种途径，一种是多扬声器重建，即电影院或家庭影院中的音响系统，其本质是将全景声音频转换到 5.1.4 或 7.1.4 格式；另一种是耳机重建，即将全景声音频通过双耳渲染技术转换为双声道音频，并保留其全部空间信息。

相对于多扬声器重建，耳机重建成本低、易部署、效果好。

不言而喻，耳机重建全景声音频，需要一个双耳渲染的过程，以此来通过两个立体声通道创建空间和维度的听觉感知效果。

AliBiAudio 就是一个阿里自研的双耳实时渲染引擎，结合头部跟踪坐标，可以达到人转动，声源位置不动的效果。当前双耳渲染引擎，具有支持全平台、多场景、易部署等特性。该引擎既可以部署在移动端，也可以部署在云端，并支持三大场景的渲染。

❖ 单声道输入：用于虚拟会议场景，可将不同位置的人，渲染在不同的角度发声，通常部署在服务端。

❖ 5.1/7.1 输入：用于影视剧渲染，得到更逼真的环绕声，类似优酷中的“帧享”音效。既可以部署在端上（如：Apple Music 空间音频），也可以部署在服务器上（如：作为媒体处理，将多声道数据下混成 2 路数据）。

❖ Ambisonics 输入：对 Ambisonics 格式进行渲染，用于 VR 直播，VR 点播，当前部署在 Aliplay 中。

04 如何让声音跟随脑袋一起摇摆

❖ HRTF

双耳渲染引擎的核心模块是人头传递函数 HRTF（ Head-related Transfer Function ）。

每一方向都有两个 HRTF，分别代表音源到左右耳的房间冲击响应，通过 720 度扫描可以得到一个球形的 HRTF 库，如下图是一个 ARI HRTF 数据库的分布。

ARI HRTF 数据库

在渲染时，通过输入的角度信息，先从数据库中选出当前角度的 HRTF 对。然后再将输入数据分别和 HRTF 对进行卷积得到左右耳信号。为了得到更逼真效果，还可以添加一定量的房间混响如下图所示：

本项目对大量 HRTF 库进行筛选，获取到一个最优的数据库。

❖ Ambisonics 数据格式

Ambisonics 的基础功能是让来自不同方向点声源，作为 360 度的球面来处理，这个中心点，就是麦克风放的位置。当前广泛用于 VR 和 360 度全景视频的 Ambisonics 格式，是一个叫做 Ambisonics B-format 的 4 声道（还有另一种格式叫 A-format）。由 W, X, Y and Z 组成。对应着 360 度球面的，中心，左右，前后，上下。