一文3000字从0到1使用pytest-xdist实现分布式APP自动化测试

目录

01、分布式测试的原理

02、测试项目

03、环境准备

04、搭建步骤

05、分布式执行

06、测试报告


不知道大家有没有遇到这样一种情况,实际工作中,app自动化测试的用例可能是成百上千条的,如果放在一台机器上跑,消耗的时间非常久,那**能不能使用分布式的来跑测试用例呢?**比如有1000条测试用例,给A机器分配500个,给B机器分配500个,同时去跑,这样耗时就大大减少。刚好pytest-xdist为我们提供了一种可能

什么是pytest-xdist?

pytest-xdist是一款分布式测试插件。它在pytest的基础上做了一些独有的测试执行模式的扩展。比如你有多个CPU或者多台机器,就可以使用它们做一些并行化的测试,并且它还是跨平台的,可以指定不同的python解释器或不同的平台来执行测试

使用pip命令可以简单快速的安装pytest-xdist

pip install pytest-xdist

01、分布式测试的原理

上面有提到pytest-xdist实现分布式的方式有两种:一种是使用多CPU,一种是使用多台机器。

一般来说对于web自动化测试,使用多核CPU来做分布式比较合适,但对于app自动化测试来说,使用多台机器做分布式比较合适。这里主要介绍后者

pytest-xdist是工作方式是一个master对应多个worker,每个worker会按照master的要求来执行各自的测试集。

基本的执行流程为:

  • master在测试会话开始的时候会产生一个或多个worker。master和worker之间使用execnet及其网关进行通信。worker可以是本地的,也可以是远程的

  • worker作为pytest的执行者。在收集完一套完整的测试集后,worker将收集到的测试id发送给不承担执行任务的master

  • master接收所有节点发送来的结果,同时也会做一些可用性的检查以确保所有的worker都收集到相同的测试集。如果一切正常,它会将测试id列表转换为简单索引列表,每个索引对应着它在原始测试集列表中的位置。这种方案的可行性在于可以节约带宽,由于所有的worker都有相同的测试集列表,所以master可以指派其中一个worker只执行测试索引为3的用例

pytest-xdist有两种模式,each模式和load模式

  • each模式:

master会将所有的测试任务(这里的测试任务不是测试集,类似于测试指令,也就是上面说的测试索引)发送到每个worker上,每个worker都执行一遍完整的测试集。

举个例子,假如有1000条用例,分为A和B两个worker,那么A和B同时执行1000条用例

  • load模式:

master会先将25%的测试任务以轮询的方式发送给每个worker,剩下的等到worker执行完后再做分发。同样,有1000条用例,有A和B两个worker,那么先给A分发250个用例,再给B分发250条用例,剩下的500条用例等A和B执行完后再做分发,有可能此时A服务器的压力比较小,那么给A再分260条,B的压力比较大,给B再分240条。类似于负载均衡的概念

现在我也找了很多测试的朋友,做了一个分享技术的交流群,共享了很多我们收集的技术文档和视频教程。
如果你不想再体验自学时找不到资源,没人解答问题,坚持几天便放弃的感受
可以加入我们一起交流。而且还有很多在自动化,性能,安全,测试开发等等方面有一定建树的技术大牛
分享他们的经验,还会分享很多直播讲座和技术沙龙
可以免费学习!划重点!开源的!!!
qq群号:110685036

02、测试项目

以百度贴吧app为例,可以写简单的4条用例来测试。第一条测试的是欢迎页的滑动功能。如果用户点了同意,后面滑屏,能够正常滑动,点击立即体验,能够正常跳转,说明用例是通过的

第二条测试的是欢迎页点击不同意,能够正常弹出提示,说明用例是通过的

第三条测试搜索,如果用户滑屏后,在主页搜索栏输入关键字,能够搜索到指定的内容,说明用例通过

最后一条测试登录,点击主页"我的",能够进入到百度账号登录页面,说明用例通过

03、环境准备

在搭建环境上,我准备了三台虚拟机,其中一台作为master,剩下两台作为执行的worker。为了避免不必要的麻烦,三台机器都统一使用python3.8,两台worker上都使用docker安装appium1.17.0,客户端采用两台系统为v7.1.2的夜神模拟器。

具体信息如下表所示:

服务器环境

|---------|-----------|----------|---------------|
| 角色 | 系统 | python版本 | ip |
| master | Centos7.6 | v3.8.0 | 192.168.0.109 |
| worker1 | Centos7.6 | v3.8.0 | 192.168.0.126 |
| worker2 | Centos7.6 | v3.8.0 | 192.168.0.136 |

客户端环境

|---------|--------|---------------|-------|
| 测试机 | 系统 | ip | tcpip |
| 夜神模拟器-1 | v7.1.2 | 192.168.0.114 | 6666 |
| 夜神模拟器-2 | v7.1.2 | 192.168.0.106 | 6666 |

运行环境

|----------|---------|-------------|---------|
| 容器 | 版本 | 端口号 | 宿主机器 |
| appium_1 | v1.17.0 | 4725->4723 | worker1 |
| appium_2 | v1.17.0 | 4725->4723 | worker2 |

04、搭建步骤

1、在worker上创建并启动docker容器

在两台worker上执行同样的操作,可以启动一个名为appium的容器

看到这里或许会问,docker里的appium服务是怎么启动的,比较简单,代码可以通过命令行的方式启动appium服务

2、模拟器设置

通过桥接的方式,设置tcpip端口,使得远程服务器可以通过adb连接到模拟器。具体方法是点开右上角的设置,进入系统设置,属性设置,勾选开启网络桥接模式,这时候应该会装一个桥接网卡,然后可以自己设置静态IP。保存后重启就可以了

正常情况下,重启后ip应该会变成静态IP,但是夜神模拟器有个bug,ip还是随机ip,不过这一点不影响后续的操作

接下来设置tcpip端口,通过如下命令设置好后,如果看到有restarting in TCP mode port:6666说明已经设置完成

3、appium远程连接模拟器

在两台worker上分别执行远程连接命令,worker1对应模拟器1,worker2对应模拟器2。这里要主要adb connect 后面跟的是模拟器的实际ip地址加tcpip端口号6666,如果看到connected to ip:端口号,说明已经远程连接成功

4、上传代码

使用命令或工具将代码上传到master上的/opt目录下并解压

main.py是项目测试执行的入口,为了适应分布式执行,我们需要对main.py做一些修改

对最关键的几步做一个说明:

  • "-d":

    表示分布式参数

  • "--tx"后面跟着worker服务器的地址

    且通过python=/opt/Python-3.8.0/bin/python3.8指定了python版本,通过chdir=/opt/pyexecnetcache指定了worker上同步测试集的目录,也就是master会将测试项目同步worker的该目录下

  • "--rsyncdir"后面跟"./",

    表示将master上当前目录下的所有文件都同步

  • "TieBa-AutoTest":

    因为同步过去的项目在pyexecnetcache目录下,实际上是/opt/pyexecnetcache/TieBa-AutoTest,如果不加该配置,就进入不到TieBa-AutoTest目录下,由于worker上的pytest执行时是找test_开头的测试用例,所以会找不到测试用例,可以将其理解为cd TieBa-AutoTest

05、分布式执行

在master上执行python3 main.py命令就可以做分布式运行,gw0和gw1分别表示worker1和worker2,[4]表示共有4条测试用例

此时去看worker的/opt目录下,已经同步到了测试项目

再去观察两台模拟器,发现已经开始同步执行了

06、测试报告

测试完成后,观察master上的执行结果信息,4条测试用例耗时不到3分钟,2条通过2条失败。

但是在master上通过allure serve生成预览报告后,发现报告是空的

两台worker上的报告预览展示正常,分别展示它们各自执行用例的报告信息

其原因是pytest-xdist对allure测试报告支持的不友好,各个worker的测试报告信息没有回传,使用pytest-html就没有这个问题。github上有人提出过这个问题。暂时留个"悬念",下次再讲讲怎么解决这一问题

如果我的博客对你有帮助、如果你喜欢我的博客内容,请 "点赞" "评论" "收藏" 一键三连哦!

相关推荐
安冬的码畜日常2 小时前
【玩转 Postman 接口测试与开发2_006】第六章:Postman 测试脚本的创建(中):脚本的位置与执行顺序、AI助手及私有模块的使用
测试工具·postman·测试脚本·postbot·package library
上海_彭彭4 小时前
【提效工具开发】Python功能模块执行和 SQL 执行 需求整理
开发语言·python·sql·测试工具·element
WX187021128735 小时前
在分布式光伏电站如何进行电能质量的治理?
分布式
测试19986 小时前
2024软件测试面试热点问题
自动化测试·软件测试·python·测试工具·面试·职场和发展·压力测试
代码欢乐豆7 小时前
数据采集之selenium模拟登录
python·selenium·测试工具
不能再留遗憾了8 小时前
RabbitMQ 高级特性——消息分发
分布式·rabbitmq·ruby
茶馆大橘8 小时前
微服务系列六:分布式事务与seata
分布式·docker·微服务·nacos·seata·springcloud
sszmvb123410 小时前
测试开发 | 电商业务性能测试: Jmeter 参数化功能实现注册登录的数据驱动
jmeter·面试·职场和发展
测试杂货铺10 小时前
外包干了2年,快要废了。。
自动化测试·软件测试·python·功能测试·测试工具·面试·职场和发展
材料苦逼不会梦到计算机白富美11 小时前
golang分布式缓存项目 Day 1
分布式·缓存·golang