写点什么

使用 JavaScript 开发 AR(增强现实) 移动应用的预备知识和环境搭建

作者:Jerry Wang
  • 2022 年 6 月 08 日
  • 本文字数:2063 字

    阅读完需:约 7 分钟

使用 JavaScript 开发AR(增强现实)移动应用的预备知识和环境搭建

所谓 AR(Augmented Reality), 即增强现实,是一种将通过计算机渲染出的虚拟图像与真实世界巧妙融合的手段,背后广泛运用了多媒体、三维建模、实时跟踪、智能交互、传感等多种计算机技术,将程序代码生成的文字、图像、三维模型、音乐、视频等虚拟信息模拟仿真后,显示在终端用户通过移动设备的摄像头观察到的真实世界中,虚拟和真实的两种世界互为补充,从而让终端用户感受到真实世界被“增强”的体验。



前端开发者的一个福音,就是如今我们可以仅仅凭借 JavaScript 技能,就能开发一个支持增强实现的移动应用了。使用的工具是 React-Native + ViroReact.


React-Native 在国内早已不是一个新技术了。区分于另一种通过 JavaScript 语言开发移动应用的 Cordova 开源项目,React Native 产出的并不是运行在移动设备操作系统的 WebView 控件里这种混合应用,而是一个真正的原生移动应用,所使用的基础 UI 组件和原生应用完全一致。从用户体验上来说,React-Native 打包而成的原生应用给终端用户的使用感受同用 Objective-C 或 Java 编写的原生应用相比几乎无法区分。



ViroReact, 是基于 React-Native 的一个开发库,给 React-Native 的开发人员提供了一种通过 JavaScript 语言开发跨平台的支持 AR 的原生移动应用的手段。


官网:https://docs.viromedia.com/docs/viro-platform-overview



尽管在 React-Native 项目里引入 ViroReact 的依赖只需要一行代码,但这只是冰山一角:



我们打开一个声明了如上依赖的 React-Native 应用,npm install 安装依赖后,在 node_modules 文件夹下面能看见 ViroReact 的实现。


ViroReact 官网里声称的“一次编写,到处运行“的特性也体现在这:ViroReact 提供了一个跨 iOS 和 Android 平台的高性能 3D 渲染引擎,分别基于 iOS 的 ARKit 和 Android 的 ARCore.


Viro 渲染器能够在移动设备上以原生方式运行,从而获得最佳性能。它支持基于物理的渲染 (PBR)、高动态范围 (HDR) 以及实时照明和阴影,确保开发人员能够创建出令人惊叹的增强现实场景。 使用 Viro 的物理引擎还能为开发对象添加真实世界的力学效果,其提供的全功能粒子系统允许烟雾、火焰等特效的渲染。


Viro 平台提供了一系列大型组件,开发人员可以利用这些组件来构建 JavaScript 应用的 AR 体验。 与传统的 3D 渲染和 VR 相比,AR 的亮点在于响应用户的现实世界所发起的交互请求。


本文着重介绍 ARCore.


在 ViroReact 库文件夹下的 android 子文件夹内,我们看到了名为 arcore 的文件夹。那么要使用 ViroReact,我们得先了解 ARCore 是个什么东西。



ARCore 是 Google 为 Android 提供的开发 AR 原生应用的一个平台, 以 SDK 的方式,为开发者提供了 AR 应用必需的三大功能:


  • Motion Tracking - 运动跟踪

  • Environmental understanding - 环境识别

  • Light estimation - 光源估算

Motion Tracking

当我们移动 Android 手机时,ARCore 使用一个称为 COM(Concurrent Odometry & Mapping,并行测距映射)的进程,结合手机硬件传感器,来确定手机在真实世界的准确位置和姿势。当真实世界的景物出现在手机摄像头里并发生位移变化后,ARCore 使用一系列算法标注出图像上的特征点,并基于这些特征点来计算位置的变化。



大家看视频中在摄像头里显示的特斯拉汽车,能发现随着手机位置的变化,汽车在摄像头里显示的 3D 形象也随之变化,仿佛是一个存在于真实世界中的物体一样。这种效果就是 ARCore 的功劳:手机摄像头捕捉到的视觉信息,结合手机设备中惯性测量单元(Inertial Measurement Unit,简称 IMU,由三个单轴的加速度计和三个单轴的陀螺仪组成)测量出的惯性测量值进行综合计算,就能渲染出摄像头内的虚拟物体,并确保随着时间推移和手机的位移变化,在现实世界中位置和朝向也能跟着变化的效果。

Environmental understanding - 环境识别

一系列出现在摄像头中的真实世界里水平面或者垂直面(比如桌子表面或者墙壁)上的特征点,都是 ARCore 试图识别环境的输入。ARCore 以这些特征点为输入,识别出真实世界的平面和边界信息之后,就能允许开发者通过编程的方式,在这些识别出的平台上放置一些虚拟物体。


Light estimation - 光源估算

我们在摄像头里观察到的真实世界的所有物体,无不被各种强弱各异的光线所笼罩,从而形成灰度不一的阴影效果。如果通过代码投射到真实世界里的虚拟物体,不支持这种被光源照射的阴影效果,则虚拟物体的逼真程度会大打折扣。好消息是,ARCore 具有探测真实环境下的光照信息,开发者可以通过 ARCore 捕获到出现在摄像头里的真实世界的平均光照强度,从而将这些光照信息投射给虚拟物体,进一步增加其真实感。


一个 SDK 就支持这么多强大的功能,谷歌不愧是谷歌啊!


支持 ARCore 的 Android 手机型号列表,可以从 Google 官网获得:


https://developers.google.com/ar/discover/supported-devices


在三星应用商店或者腾讯应用包里搜索 ARCore 并下载:




安装之后,我们就可以开始用 ViroReact 进行应用开发了。

总结

本文首先介绍了增强现实开发领域所需要了解的一些最基础的概念和术语,接着介绍了 ViroReact 这个 AR 开发库的跨平台工作特性,并介绍了其开发环境的搭建和配置步骤。本系列下一篇文章,会具体介绍如何使用 ViroReact 进行应用开发。

发布于: 刚刚阅读数: 3
用户头像

Jerry Wang

关注

🏆InfoQ写作平台-签约作者🏆 2017.12.03 加入

SAP成都研究院开发专家,SAP社区导师,SAP中国技术大使。2007 年从电子科技大学计算机专业硕士毕业后加入 SAP 成都研究院工作至今。工作中使用 ABAP, Java, JavaScript 和 TypeScript 进行开发。

评论

发布
暂无评论
使用 JavaScript 开发AR(增强现实)移动应用的预备知识和环境搭建_JavaScript_Jerry Wang_InfoQ写作社区