游戏自动化测试——局内战斗

本文首发于：行者AI



利用AI，使用正常的玩家客户端来打游戏是一种怎样的体验？



直接人都不用玩游戏了，放那，让AI帮你玩，过一会就看到自己分上去了。多爽，请代练的钱都省了，妥妥的。然而，我们今天是来讨论正经的技术问题。如何利用AI，实现我们的自动化测试！这才是我们的目的。



一场竞技游戏，我们在这里稍微划分一下，将其分为局外界面和局内战斗。举个例子，比如LOL，在大厅、组队、选英雄界面这些都是局外界面。当我们等待读完长长的进度条，进入到游戏，听到"咚咚咚咚咚"的声音后英雄出现到我们眼前，这个时候，你就已经到了局内战斗的部分里了。

1. 概述



本文主要对局内战斗的自动化进行讲解。包含如何实现战斗自动化的流程和脚本运行本身框架进行介绍，读者应具备一些python的编程经验和UI自动化的开发经验。特别的，有利用公司内部团队提供的AI进行决策操作。简单的来说就是我们把当前的局内情况告诉给AI，AI来想，返回决策，我们用自动化脚本，执行决策。但没有AI也一样是可以做自动化测试的，需要我们自己构建期望的流程，调用AI就像是条件反射，自我构建对应流程脚本就像是非条件反射。



对于游戏的UI自动化这里采用poco的unitysdk形式进行实现。



稍微介绍一下poco。这是一个类似appium的客户端UI自动化框架，利用界面元素来进行UI自动化操作。



官方文档：https://poco-chinese.readthedocs.io/zh_CN/latest/source/doc/integration.html



元素来源于UITree,UITree源于接入unitysdk的游戏客户端。通过与外部挂载agent进行socket通信，从而将使用unity引擎游戏的UITree返回给外部供自动化相关。



UITree里面包含对应Tree中元素的所有属性信息，其中包含元素的position属性（位置信息），这也是我们得以锁定对应元素进行操作的核心依据。



通过pocosdk获取游戏客户端UI层信息，对UI信息中的具体内容做对应处理。



最后反馈对应数据给AI，由AI进行对应决策，将决策信息返回给本地后执行对应的UI自动化操作代码，从而完成决策，通过大量决策的实施，完成整局的实时操作。



再引入多轮重开检测机制，进而完成局内战斗的自动化对战。



• 一些简单的演示：



在unity项目中，需要在unity中安装Poco的SDK

Poco调用方法



import time
from poco.drivers.unity3d import  UnityPoco
poco = UnityPoco()
poco('btn_start').click()
time.sleep(1.5)
shell = poco('shell').focus('center')
for star in poco('star'):
    star.drag_to(shell)
time.sleep(1)
assert poco('scoreVal').get_text() == "100","score correct."
poco('btn_back',type = 'Button').click()
## Poco调用举例
poco = UnityPoco()    #1、通过接口调用unity中的pocosdk，SDK对整个ui树进行遍历，将dump后的json信息传出以供调用。
poco('btn_start').click()    #2、在得到的UI树中找到‘btn_start’的元素位置信息，通过adb进行点击操作。

2. 具体流程



• 流程描述：



通过每次对当前UI数据的检查，判断其在局内还是局外。局外会进入到局内对局，处于局内则会检测当前局内状态，将当前的局内UI信息做整合，提取指定信息发送给AI决策服务，再根据AI的返回来进行对应的UI自动化代码操作。

3. 实现过程

3.1 UI层数据获取



• 使用poco.freeze，利用里面的agent dump把当前的UI树保存下来（因为要用到root节点，root节点下的内容无法用children获取）。



• 其他的数据使用poco.freeze调用正常的poco方法进行提取即可。

3.2 指定数据提取



• 确认好AI一共需要我们提供哪些数据，这些数据能不能从游戏的UI信息中读取出来。确认好后，我们就可以开始进行对应项的提取了。



• 要注意提取的UI元素是不是在特定UI中才会有，他能不能被容易的获取，也就是对提取指定信息的难易度和是否需要条件构建进行判断。



• 以自走棋游戏举例，对于棋子的提取会复杂一些，因为没有对应棋盘上每个格子的坐标，只有放在根目录下的美术资源。这部分的数据一个是需要存起来自己写方法提取，一个是要根据里面属性包含的信息判断其在场上还是在手牌。



目前这一部分的判断经历过三个阶段：

a. 靠pos属性判断。

b. 靠对pocosdk接入unity的c++源码进行修改添加的rawpos属性进行判断。

c. 靠这两者综合判断，保证不会有判断错的情况出现 。

3.3 数据接口请求过程



请求数据示范样本：



{"round_drawscount": 0,

"round_actionscount":2,

"round":17,"level":6,

"experience":2,

"money":33,

"blood":73,}



也就是包含一些基本玩家信息的json数据。



AI接口返回数据：



{'eventId': ACTIONUPGRADE}{'eventId': ACTIONDRAW}{'eventId': ACTIONPICK,'params': {'drawcardIndex': 0}}{'eventId': ACTIONDROP,'params': {"handcardIndex":0}}{'eventId': ACTIONSWAP, 'params':{"handcardIndex":0,"playlistIndex":1}}{'eventId': ACTIONSWAP, 'params':{"handcardIndex":2,"playlistIndex":1}}{'eventId': ACTIONSWAP, 'params':{"handcardIndex":0,"play_listIndex":2}}



大致是一些游戏AI的决策内容，通过不同的事件ID告知你应该做什么样的事情。这里是以目前的自走棋游戏为例进行展示。



具体返回内容就根据实际的业务需求去制定了。



接口须知：

• 所有发送的参数需要向开发人员确认。

• 会存在后期的变动维护，例如传参要求和增删参数。

• 要注意发送的数据是经过处理为标准格式。

3.4 返回决策实施



决策实施这里以自走棋类游戏的操作为例：

• 刷棋盘：保证商店处于打开状态后刷新。

• 买棋子：保证商店处于打开后购买对应索引位置棋子。

• 升人口：随时都会有的按钮，直接用点就可以。

• 上下交换棋子：根据对应index有无棋子来判断对应上下棋子的决定。

• 卖棋子：点击对应index位置，再点击sell按钮。



#对应返回eventID执行不同操作
        eventid = self.reqs_data["eventId"]
        if eventid == 0:
            self.round_over([])
        elif eventid == 1:
            self.read_chessbook()
        elif eventid == 2:
            self.refresh()
        elif eventid == 3:
            self.buy_chess(self.reqs_data["params"]["draw_cardIndex"])
        elif eventid == 4:
            self.sell_chess(self.reqs_data["params"]["hand_cardIndex"])
        elif eventid == 5:
            self.up_down_change(self.reqs_data["params"])

3.5 脚本运行框架介绍



其实这个框架归类的比较简单，就四个大块。



• runner:

包含触发检测的触发器，用于传入指定包名，选择对应服务器等操作进行持续集成相关操作。

包含动作调用，用来执行对应返回值的操作。

包含日志记录，记录过程中的游戏运行日志和adb日志等。

包含屏幕录制，记录游戏过程中的运行视频，提交视频数据给UI检测接口判断有无UI异常出现（多为花屏白屏和其他明显UI异常情况）。



• datas:

游戏运行数据的记录文件，包含日志的存放和游戏对应战斗结果的存放（例如当前回合，本局战斗的排名胜负）。



• common_cls:

一些公共模块

包含与AI的通信，数据的发送和返回

包含UI的通用操作，如自动安装对应版本游戏客户端后启动游戏，过关新手引导，生成新账号等操作

包含通过对AI决策调用对应UI操作方法的函数，也就是动作函数



• requirements：

整个工程是通过python完成的，这个就是帮你一键安装所有所需库的文件，其中涉及到了一些对poco框架的二次开发，需要本地修改后使用



大致的runner流程：



确保你的设备已与电脑开通调试连接，再启动poco与adb的本地通信，对当前UI进行判断是否在局内，局内走提取指定信息，发送给ai进行决策，再执行AI的决策。



通过每次检测有无战斗结束进行重开实现多轮流程，runner的流程图与具体实现流程图基本一致。

3.6 相关优化问题



• 关于黑名单：比较大型的游戏，局内战斗的元素和UI的复杂程度也是很高的，保存一次UI树的信息也有2M以上的数据，而获取时间会随着UI复杂度的上升而上升。从最终效果来看，战斗从前期到后期，获取时间会由1秒到4秒逐渐上升，这样的速度是不能满足实现业务需求的，因此建议从poco的unitySDK上添加黑名单机制，以提高获取UITree的效率。



• 建议利用freeze函数，多次提取会重复的获取UI元素浪费时间，目前已经解决这个问题可以只获取一次就提取出所有参数。目前较大型游戏因局内战斗UI结构复杂，获取一次UI信息在一秒到三秒内不等。



• UI层操作时间问题：需要避的坑有两个 1.minicap截图：这个要关掉，实际会采用录屏行为，不需要截图。截图服务启动会消耗时间且截图本身也消耗性能 2.adb本地socket通信建立：确保一次建立，这是poco click swipe等方式进行指令的必要条件，需要提前自己启动起来，让他们时刻保持通信，这样会大大降低单次操作时间。现在单次实行操作的时间已经可以控制在最快0.2秒最慢0.8秒。



• 获取UITree时间问题：通过观察发现，UITree的获取时间跟界面的复杂程度是正相关的。一个比较简单的局外界面可以在0.5秒内就获取完毕，而较为复杂的局内战斗就要约2秒多的时间。对于实际操作而言，这样的过程都太长了。目前探索出的解决方法有两个：1.利用黑名单2.只dump一次，更新后的数据不做重新获取，而是采用利用预期结果的数据本地维护。



有关poco的c++层sdk修改文章请尝试自行百度..

3.7 注意事项

• 获取一次UI信息的时间会随着UI复杂度的提升而提升，局内较为复杂，到后期尤甚。通常在两秒多三秒左右,实际使用要根据项目做具体优化。



• 处理获取出的原始数据到提取对应数据会用到0.2秒左右时间。



• 操作间要保证存在足够时间间隔，一个是利于等待操作后UI确实刷新，一个是保证UI切换展示出内容需要时间 。



• 双击功能需要观察能不能实现现有客户端的操作（adb和poco double click都不行），有的客户端要求双击的两次点击时间间隔太短，不一定能通过自动化实现。

4. 结论



本文主要描述了通过局内调用AI的方式实现自动打游戏。



利用这个框架可以进行局内的多轮流程检测（甚至上分），从而帮助测试同学免去重复去测局内战斗的皮肉之苦。同时可以记录过程视频，交由AI或其他api判断有无花屏白屏的情况，adb报错，unity报错信息都可以进行实时收集。



这是我们迈出AI自动化测试的第一步，接下来我们也会对局外的AI探索性遍历展开研究。

PS：更多技术干货，快关注【公众号 | xingzhe_ai】，与行者一起讨论吧！