Go语言工程实践之测试与Gin项目实践

Go 语言并发编程 及 进阶与依赖管理_软工菜鸡的博客-CSDN博客

03 测试

回归测试 一般是QA(质量保证)同学手动通过终端回归一些固定的主流程场景

集成测试 是对系统功能维度做测试验证,通过服务暴露的某个接口,进行自动化测试

单元测试 开发阶段,开发者对单独的函数、模块做功能验证

层级从上至下,测试成本逐渐减低,而测试覆盖率确逐步上升 ,所以单元测试的覆盖率一定程度上决定着代码的质量

3.1.0 单元测试

单元测试主要包括:输入,测试单元,输出,以及校对

单元的概念比较广:包括接口,函数,模块等;用最后的校对来保证代码的功能与我们的预期相符;

单侧一方面可以保证质量 ,在整体覆盖率足够 的情况下,一定程度上既保证了新功能本身的正确性,又未破坏原有代码的正确性。 另一方面可以提升效率 ,在代码有bug的情况下,通过编写单测,可以在一个较 短周期内定位和修复问题

3.1.1 单元测试-规则

基本规范,以 _test.go结尾 这样从文件上就很好了区分源码和测试代码

以Test开头,且连接的第一个字母大写

TestMain的m.run()会跑这个package下的所有单测;

3.1.2 单元测试-例子

HelloTom() 由于代码逻辑的错误没有输出Tom;

接下来进行测试:TestHelloTom()

3.1.3 单元测试-运行

输出结果错误

3.1.4 单元测试-assert

import 了testify/assert 的Equal函数

3.1.5 单元测试-覆盖率

这是一个判断是否及格的函数,超过60分,返回true,否则返回false

右边是对输入为70 的单元测试,我们执行右边的单侧

通过指定go test [] --cover参数,我们看输出了 覆盖率为66.7。

一共三行,我们的单测试执行了2行,所以为66.7

下一步就是提升覆盖率 ,我们可以增加一个不及格的测试case,重新执行所有单侧,最终覆盖率为100%。

也就是说,我们通过不断对各个分支的测试,保证了覆盖率和完备性。

3.1.6 单元测试-Tips

实际 项目中,一般的要求是50%~60% 覆盖率,而对于资金型服务,覆盖率可能要求达到80%;

我们做单元测试,测试分支相互独立,全面覆盖,则要求函数体足够小,这样就比较简单的提升覆盖率,也符合函数设计的单一职责。

3.2 单元测试-依赖

工程中复杂的项目,一般会依赖数据库、缓存等,而我们的单测需要保证稳定性和幂等性

稳定 是指相互隔离,能在任何时间,任何环境,运行测试

幂等 是指每一次测试 运行都应该产生与之前一样的结果。而要实现这一目的就要用到mock机制

3.3 单元测试-文件处理

下面举个例子,打开文件读入 将文件中的第一行字符串中的11替换成00,执行单测,测试通过,而我们的单测需要依赖本地的文件,如果文件被修改或者删除测试就会fail

为了保证测试case的稳定性,我们对读取文件函数进行mock,屏蔽对于文件的依赖

3.4 单元测试-Mock

monkey是一个开源的 mock测试库,可以对method,或者实例方法的方法进行mock(打桩)

打桩指的是:用一个函数A 替换函数B,B作为原函数;A作为打桩函数

Mock Patch( 原函数,需要打桩的函数****)**** 的作用域在 Runtime;

Unpatch(打桩函数):打桩结束后把原函数卸载掉

monkey主要是在运行时通过 Go 的 unsafe 包,能够将内存中 函数的地址替换为运行时函数的地址,在测试中调用的就是运行时的打桩函数B地址。

下面是一个mock的使用样例,通过patch对Readfineline进行打桩mock,默认返回line110,这里通 defer卸载mock,这样整个测试函数就摆脱了本地文件的束缚和依赖

3.5 基准测试

Go 语言还提供了基准测试框架,基准测试是指测试一段程序的运行性能及耗费 CPU 的程度

而我们在实际项目开发中,经常会遇到代码性能瓶颈,为了定位问题经常要对代码做性能分析,这就用到了基准测试。使用方法类似于单元测试,

3.5.1 基准测试-例子

这里举一个服务器 负载均衡的例子,首先我们有10个服务器列表,每次随机(rand包)执行select函数随机选择一个执行。

3.5.2 基准测试-运行

基准测试以Benchmark开头 ,入参是testing.B, 用b中的N值反复递增循环测试(对一个测试用例的默认测试时间是 1 秒,当测试用例函数 返回时还不到 1 秒,那么 testing.B 中的 N 值将按 1、2、5、10、20、50......递增,并以递增后的值重新进行用例函数测试

Resttimer重置计时器,我们在reset之 前做了init或其他的准备操作****,这些操作不应该作为基准测试的范围****;

runparallel()函数是多协程并发测试;执行 2个基准测试,发现代码在并发情况下存在劣化 ,主要原因是rand为了 保证全局的随机性和并发安全,持有了一把全局锁

3.5.3 基准测试-优化

GitHub - bytedance/gopkg: Universal Utilities for Go

而为了解决这一随机函数性能 问题,开源了一个高性能随机数方法fastrand,上面有开源地址;我们这边再做一下基准测试, 性能提升百倍。主要的思路是牺牲了一定的数列的一致性,在大多数场景是适用的,同学在后面遇到随机的场景可以尝试用一下。

4 项目实践

4.0需求背景

大家应该都是从掘金的 社区话题入口报名 的,都看到过这个页面,页面的功能包括话题详情,回帖列表,支持回帖,点赞,和回帖回复

我们今天就以此为需求模型,开发一个该页面交涉及的服务端小功能。

4.1 需求描述

下面是需求的详细描述;Ok,如果该功能由同学自己实现,如何去做模型设计,可以拿笔和纸简单画一下,然后打开ide,争取我们一起完成这个实现,后面跟不上也不要着急,代码已经托管到github,大家可以自行下载查看GitHub - Moonlight-Zhao/go-project-example

4.2 需求用例

我们从用例分析一步步拆解实现,主要涉及的功能点,用户浏览消费,涉及页面的展示,包括话题内容和回帖的列表,其实从图中我们应该会抽出2个实体的,而实体的属性有哪些,他们之间的联系又如何? 大家想一下,可以先定义一下结构体

4.3 ER 图

4.4 分层结构

整体分为三层

repository数据层,service逻辑层,controoler视图层

数据层关联 底层数据模型,也就是这里的model,封装外部数据的增删改查,我们的数据存储在本地文件 ,通过文件操作拉取话题,帖子数据

数据层面向逻辑层,对service层透明 ,数据层屏蔽下游数据差异,也就是不管下游是文件,还是数据库,还是微服务等,对service层的接口模型是不变的。

Servcie逻辑层处理核心业务逻辑 ,接收数据层数据 计算打包业务实体entiy,对应我们的需求,就是话题页面,包括话题和回帖列表,并上送给视图层;

Controller视图层负责处理和外部的交互逻辑,以view视图的形式返回给客户端,对于我们需求,封装json格式化的请求结果,api形式访问就好

4.5 组件工具

下面介绍下开发涉及的基础组件和工具

首先是gin,高性能开源的go web框架,我们基于gin 搭建web服务器,在课程手册应该提到了,这里我们只是简单的使用,主要涉及路由分发,不会涉及其他复杂的概念。

因为我们引入了web框架 ,所以就涉及go module依赖管理,如前面依赖管理课程内容讲解,我们首先通过go mod是初始化go mod管理配置文件,然后go get下载gin依赖,这里显示用了V1.3.0版本。

有了框架依赖,我们只需要关注业务本身的实现,

从下至上:reposity-->service-->controller,我们一步步实现。希望大家能跟上我的节奏,从0~1 实现这个项目,如果时间问题,大家可以一步步copy一下,主要是走一下开发思路。

4.6 Repository数据层

首先是reposity,我们可以根据之前的er图先定义struct文件中每行的格式如图所示

那如何实现 QueryTopicById(话题),QueryPostsByParentId(帖子)

4.6 Repository-index

一方面查询我们可以 全扫描遍历的方式,但是这虽然能达到我们的目的,但是并非高效的方式;

所以这里引出索引的概念,索引就像书的目录,可以引导 我们快速查找定位我们需要的结果;

这里我们 map实现内存索引,在服务对外暴露前,利用文件元数据初始化全局内存索引,这样就可以实现0(1)的时间复杂度查找操作。

下面是具体的实现,首先是os.Open打开文件,基于file 初始化scanner,通过迭代器方式遍历scanner数据行,转化为结构体Topic存储至内存map,这就是初始化话题内存索引

4.6 Repository-查询

有了内存索引,下一步就是实现 查询操作就比较简单了

直接根据查询key获得map中的value就好了,这里用到了sync.once,主要适用高并发的场景下 只执行一次的场景 ,这里的基于once的实现模式就是我们平常说的单例模式,减少存储的浪费。

有了topic的查询代码,大家可以照猫画虎 自行实现一下根据话题id查询回帖列表的查询方法

func (*PostDao) QueryPostByParentId(parentId int64) ([]*Post, error) {
    var posts []*Post
    err := db.Where("parent_id = ?", parentId).Find(&posts).Error
    if err != nil {
        util.Logger.Error("find posts by parent_id err:" + err.Error())
	return nil, err
    }
    return posts, nil
}

4.7 Service逻辑层

有了reposity层以后,下面我们开始实现service层,首先我们定义servcie层实体PageInfo,包括:Topic和PostList

下面是具体的servcie流程编排 通过err控制流程退出,正常会返回页面信息,err为nil

func (f *QueryPageInfoFlow) Do() (*PageInfo, error) {
	if err := f.checkParam(); err != nil {//简单的id校验
		return nil, err
	}
	if err := f.prepareInfo(); err != nil {
		return nil, err
	}
	if err := f.packPageInfo(); err != nil {
		return nil, err
	}
	return f.pageInfo, nil
}

关于prepareInfo 方法,话题和回帖信息的获取都依赖topicid,这样2个流程没有相互依赖;

这就可以并行执行,提高执行效率。

WaitGroup Add(2);(2个并行的协程);wait等待两个协程的信息从数据层返回

大家在后期做项目开发中,一定要思考流程是否可以并行,通过压榨CPU,降低接口耗时,不要一味的串行实现,浪费多核cpu的资源

Paramcheck 和pack这里就不讲了,给大家一点时间 编码 ,copy代码

4.8 Controller视图层

这里我们定义一个view对象,通过code msg打包业务状态信息,用data承载业务实体信息,输入

4.9 Router

最后是web服务的引擎配置,path映射到具体的controller。通过path变量传递话题id

4.10 运行

最后执行go run 本地启动web服务,通过curl命令请求服务暴露的接口,当然平时写代码不可能像我讲的这么顺畅,难免有bug,大家要做好完备的单元测试,快速定位问题,解决问题。

鼠鼠出bug了捏!

好的,以上就是对社区话题页面需求的整个实现流程 ,这样我们从项目拆解,代码设计落地,最后测试运行就跑通了整个的项目流程,为大家后期实现项目提供了一定的开发思路。当然实际项目较我们实现的需求会复杂很多,不过大家也不必担心,可以通过大拆小的思路,将大需求拆解为小需求的思路来分析解决,遇到问题,各个击破,同时做好充分的测试。 课后作业

非常感谢您阅读到这里,如果这篇文章对您有帮助,希望能留下您的点赞👍关注💖收藏💕评论💬感谢支持!!!

相关推荐
zfj3212 天前
java日志框架:slf4j、jul(java.util.logging)、 log4j、 logback
java·log4j·logback·java日志框架·slf4j·jul
星蓝_starblue2 天前
单元测试(C++)——gmock通用测试模版(个人总结)
c++·单元测试·log4j
从零开始的-CodeNinja之路4 天前
【自动化】深度解析仓库存储UI自动化
ui·自动化·log4j
luo_guibin12 天前
vulhub复现CVE-2021-44228log4j漏洞
java·log4j·cve-2021-44228
ahauedu13 天前
SpringBoot中读取mock数据-高效调试接口
spring boot·后端·log4j
黄金右肾14 天前
Qt之第三方库‌日志log使用(四)
c++·qt·ui·log4j·qslog
oscar99920 天前
三步入门Log4J 的使用
单元测试·log4j
st_3320 天前
Junit5 单元测试入门
数据库·单元测试·log4j
java使徒23 天前
kafka消息在client是怎么写入的
java·jvm·spring boot·spring cloud·kafka·tomcat·log4j
武昌库里写JAVA1 个月前
SpringCloud+SpringCloudAlibaba学习笔记
java·开发语言·算法·spring·log4j