基于RV1126开发板的人脸姿态估计算法开发

1. 人脸姿态估计简介

人脸姿态估计是通过对一张人脸图像进行分析，获得脸部朝向的角度信息。姿态估计是多姿态问题中较为关键的步骤。一般可以用旋转矩阵、旋转向量、四元数或欧拉角表示。人脸的姿态变化通常包括上下俯仰(pitch)、左右旋转(yaw)以及平面内角度旋转(roll)。因此，姿态估计在多姿态人脸的识别和司机行为检测等应用场景，具有巨大的现实意义和实用价值。

基于EASY-EAI-Nano硬件主板的运行效率：

|----------------------|------|
| 算法种类 | 运行效率 |
| face_pose_estimation | 22ms |

2. 快速上手

2.1 开发环境准备

如果您初次阅读此文档 ，请阅读《入门指南/开发环境准备/Easy-Eai编译环境准备与更新》，并按照其相关的操作，进行编译环境的部署。

在PC端Ubuntu系统中执行run脚本，进入EASY-EAI编译环境，具体如下所示。

复制代码

cd ~/develop_environment
./run.sh

2.2 源码下载以及例程编译

在EASY-EAI编译环境下创建存放源码仓库的管理目录：

复制代码

cd /opt
mkdir EASY-EAI-Toolkit
cd EASY-EAI-Toolkit

通过git工具，在管理目录内克隆远程仓库

复制代码

git clone https://github.com/EASY-EAI/EASY-EAI-Toolkit-C-Demo.git

注：

* 此处可能会因网络原因造成卡顿，请耐心等待。

* 如果实在要在gitHub网页上下载，也要把整个仓库下载下来，不能单独下载本实例对应的目录。

进入到对应的例程目录执行编译操作，具体命令如下所示：

复制代码

cd EASY-EAI-Toolkit-C-Demo/algorithm-face_pose_estimation/
./build.sh cpres

注：

* 若build.sh脚本带有cpres参数，则会把Release/目录下的所有资源都拷贝到开发板上。

* 若build.sh脚本不带任何参数，则仅会拷贝demo编译出来的可执行文件。

* 由于依赖库部署在板卡上，因此交叉编译过程中必须保持adb连接。

2.3 模型部署

要完成算法Demo的执行，需要先下载人脸检测算法模型。

百度网盘链接为：https://pan.baidu.com/s/1cxnx1T0ldJvoqkyTk1RmUg(提取码：0b6h )。

同时也要下载人员姿态估计算法模型。

百度网盘链接为：https://pan.baidu.com/s/1sNZb2X0I7TwdM_n89HI9gg (提取码：j19k )。

然后需要把下载的人脸检测模型和人脸姿态估计算法模型复制粘贴到Release/ 目录：

再通过下方命令将模型署到板卡中，如下所示。

复制代码

cp ./Release/*.model /mnt/userdata/Demo

2.4 例程运行

通过按键Ctrl+Shift+T创建一个新窗口，执行adb shell命令，进入板卡运行环境。

复制代码

adb shell

进入板卡后，定位到例程上传的位置，如下所示：

复制代码

cd /userdata/Demo

运行例程命令如下所示：

复制代码

./test-face-pose-estimation test-1.jpg

2.5 运行效果

face-pose-estimation的Demo执行效果如下所示:

再开一个窗口，在PC端Ubuntu环境通过以下命令可以把图片拉回来:

复制代码

adb pull /userdata/Demo/result.jpg .

结果图片如下所示：

API的详细说明，以及API的调用（本例程源码），详细信息见下方说明。

3. 人脸检测API说明

3.1 引用方式

为方便客户在本地工程中直接调用我们的EASY EAI api库，此处列出工程中需要链接的库以及头文件等，方便用户直接添加。

|--------|---------------------------------------|
| 选项 | 描述 |
| 头文件目录 | easyeai-api/algorithm_api/face_detect |
| 库文件目录 | easyeai-api/algorithm_api/face_detect |
| 库链接参数 | -lpthread -lface_detect -lrknn_api |

3.2 人脸检测初始化函数

设置人脸检测初始化函数原型如下所示。

复制代码

 int face_detect_init(rknn_context *ctx, const char *path)

具体介绍如下所示。

|------|--------------------|
| 函数名： face_detect_init() ||
| 头文件 | face_detect.h |
| 输入参数 | ctx：rknn_context句柄 |
| 输入参数 | path:算法模型的路径 |
| 返回值 | 成功返回：0 |
| 返回值 | 失败返回：-1 |
| 注意事项 | 无 |

3.3 人脸检测运行函数

设face_detect_run原型如下所示。

复制代码

int face_detect_run(rknn_context ctx, cv::Mat &input_image, std::vector<det> &result)

具体介绍如下所示。

|------|----------------------------|
| 函数名： face_detect_run () ||
| 头文件 | face_detect.h |
| 输入参数 | ctx: rknn_context句柄 |
| 输入参数 | input_image:Opencv Mat格式图像 |
| 输入参数 | result:人脸检测的结果输出 |
| 返回值 | 成功返回：0 |
| 返回值 | 失败返回：-1 |
| 注意事项 | 无 |

3.4 人脸检测释放函数

人脸检测释放函数原型如下所示。

复制代码

int face_detect_release(rknn_context ctx)

具体介绍如下所示。

|------|---------------------|
| 函数名： face_detect_release () ||
| 头文件 | face_detect.h |
| 输入参数 | ctx: rknn_context句柄 |
| 返回值 | 成功返回：0 |
| 返回值 | 失败返回：-1 |
| 注意事项 | 无 |

4. 人脸姿态估计API说明

4.1 引用方式

为方便客户在本地工程中直接调用我们的EASY EAI api库，此处列出工程中需要链接的库以及头文件等，方便用户直接添加。

|--------|------------------------------------------------|
| 选项 | 描述 |
| 头文件目录 | easyeai-api/algorithm_api/face_pose_estimation |
| 库文件目录 | easyeai-api/algorithm_api/face_pose_estimation |
| 库链接参数 | -lpthread -lface_pose_estimation -lrknn_api |

4.2 人脸姿态初始化函数

设置人脸检测初始化函数原型如下所示。

复制代码

 int face_pose_estimation_init(rknn_context *ctx, const char * path)

具体介绍如下所示。

|------|------------------------|
| 函数名： face_pose_estimation_init() ||
| 头文件 | face_pose_estimation.h |
| 输入参数 | ctx：rknn_context句柄 |
| 输入参数 | path:算法模型的路径 |
| 返回值 | 成功返回：0 |
| 返回值 | 失败返回：-1 |
| 注意事项 | 无 |

4.3 人脸姿态执行函数

设face_pose_estimation_run原型如下所示。

复制代码

 int face_pose_estimation_run(rknn_context ctx, cv::Mat *face_image, float *result)

具体介绍如下所示。

|------|-----------------------------------------|
| 函数名： face_pose_estimation_run () ||
| 头文件 | face_pose_estimation.h |
| 输入参数 | ctx: rknn_context句柄 |
| 输入参数 | face_image: 图像数据输入(cv::Mat是Opencv的类型) |
| 输入参数 | result: yaw(偏航角), pitch(俯仰角), roll(翻滚角) |
| 返回值 | 成功返回：0 |
| 返回值 | 失败返回：-1 |
| 注意事项 | 无 |

4.4 人脸姿态释放函数

人脸检测释放函数原型如下所示。

复制代码

 int face_pose_estimation_release(rknn_context ctx)

具体介绍如下所示。

|------|------------------------|
| 函数名： face_pose_estimation_release () ||
| 头文件 | face_pose_estimation.h |
| 输入参数 | ctx: rknn_context句柄 |
| 返回值 | 成功返回：0 |
| 返回值 | 失败返回：-1 |
| 注意事项 | 无 |

5. 人脸姿态估计算法例程

例程目录为Toolkit-C-Demo/algorithm-face_pose_estimation/test-face-pose-estimation.cpp，操作流程如下。

参考例程如下所示。

复制代码

#include <stdio.h>
#include <stdint.h>
#include <stdlib.h>
#include <fstream>
#include <iostream>
#include <fstream>
#include <atomic>
#include <queue>
#include <thread>
#include <mutex>
#include <chrono>
#include <sys/time.h>
#include <sys/stat.h>
#include <dirent.h>
#include <unistd.h>
#include <opencv2/opencv.hpp>
#include <unistd.h>
#include <sys/syscall.h>

#include "face_detect.h"
#include "face_alignment.h"
#include "face_pose_estimation.h"

using namespace std;
using namespace cv;

int plot_one_box(Mat src, int x1, int x2, int y1, int y2, char *label, char colour)
{
    int tl = round(0.002 * (src.rows + src.cols) / 2) + 1;
    rectangle(src, cv::Point(x1, y1), cv::Point(x2, y2), Scalar(255, 0, 0, 255), 3);

    int tf = max(tl -1, 1);

    int base_line = 0;
    cv::Size t_size = getTextSize(label, FONT_HERSHEY_SIMPLEX, (float)tl/3, tf, &base_line);
    int x3 = x1 + t_size.width;
    int y3 = y1 - t_size.height - 3;

    rectangle(src, cv::Point(x1, y1), cv::Point(x3, y3), Scalar(255, 0, 0, 255), -1);
    putText(src, label, cv::Point(x1, y1 - 2), FONT_HERSHEY_SIMPLEX, (float)tl/3, cv::Scalar(255, 255, 255, 255), tf, 8);
    return 0;
}

int main(int argc, char **argv)
{

	if( argc != 2)
	{
		printf("./test-face-pose-estimation xxx.jpg \n");
		return -1;
	}

	rknn_context detect_ctx, face_pose_estimation_ctx;
	std::vector<det> detect_result;
	int ret;

	cv::Mat src;
	src = cv::imread(argv[1], 1);

	/* 人脸检测初始化 */
	ret = face_detect_init(&detect_ctx, "./face_detect.model");
	if( ret < 0)
	{
		printf("face_detect_init fail! ret=%d\n", ret);
		return -1;
	}

	/* 人脸姿态估计初始化 */
	ret = face_pose_estimation_init(&face_pose_estimation_ctx, "./face_pose_estimation.model");
	if( ret < 0)
	{
		printf("face_pose_estimation_init fail! ret=%d\n", ret);
		return -1;
	}

	/* 人脸检测执行 */
	face_detect_run(detect_ctx, src, detect_result);

	for( int i=0; i < (int)detect_result.size() ; i++ )
	{
		int x = (int)(detect_result[i].box.x);
		int y = (int)(detect_result[i].box.y);
		int w = (int)(detect_result[i].box.width);
		int h = (int)(detect_result[i].box.height);
		int max = (w > h)?w:h;

		// 判断图像裁剪是否越界
		if( ((x +max) > src.cols) || ((y +max) > src.rows) )
		{
			continue;
		}
		

		cv::Mat roi_img, reize_img, reize_img_rgb;
		roi_img = src(cv::Rect(x, y, max,max));
		roi_img = roi_img.clone();

		resize(roi_img, reize_img, Size(224,224), 0, 0, INTER_AREA);
		cvtColor(reize_img, reize_img_rgb, COLOR_BGR2RGB);

		/* 人脸姿态估计运行 */
		float pose_result[3];
		face_pose_estimation_run(face_pose_estimation_ctx, &reize_img_rgb, pose_result);

		printf("yaw(偏航角):%f, pitch(俯仰角):%f, roll(翻滚角):%f\n", pose_result[0], pose_result[1], pose_result[2]);

		char label_text[100];
		memset(label_text, 0 , sizeof(label_text));
		sprintf(label_text, "yaw:%0.2f pitch:%0.2f roll:%0.2f", pose_result[0], pose_result[1], pose_result[2]); 
		plot_one_box(src, x, x+w, y, y+h, label_text, i%10);

	}

	imwrite("result.jpg", src);

	/* 人脸检测释放 */
	face_detect_release(detect_ctx);

	/* 人脸姿态估计释放 */
	face_pose_estimation_release(face_pose_estimation_ctx);

	return 0;
}