基于RV1126开发板的人脸98点关键点算法开发
1. 人脸要害面简介
人脸要害面的检测有很多主要的使用场景。
人脸姿势对齐:人脸辨认等算法皆需求对人脸的姿势停止对齐从而进步模子的粗度。
人脸好颜取编纂:基于要害面能够准确剖析脸型、眼睛外形、鼻子外形等,从而对人脸的特定地位停止润色减工,完成人脸殊效好颜,揭片等文娱功用。
人脸脸色剖析取嘴型辨认:基于要害面能够对人的脸部脸色停止剖析,从而用于互动文娱,行动猜测等场景。
自己脸98要害面算法的,要害面地位以下图所示:

算法结果正在数据散的表示:
| 人脸要害面算法 | NME(%) |
| 300W | 2.78 |
| COFW | 3.08 |
| AFLW | 1.42 |
基于EASY-EAI-Nano硬件主板的运转效力:
| 算法品种 | 运转效力 |
| face_detect | 35ms |
| face_landmark98 | 385ms |
2. 疾速上脚
2.1 开辟情况预备
假如您初度浏览此文档,请浏览《进门指北/开辟情况预备/Easy-Eai编译情况预备取更新》,并依照其相干的操纵,停止编译情况的摆设。
正在PC端Ubuntu零碎中履行run剧本,进进EASY-EAI编译情况,详细以下所示。
cd ~/develop_environment ./run.sh

2.2 源码下载和例程编译
正在EASY-EAI编译情况下创立寄存源码堆栈的治理目次:
cd /opt mkdir EASY-EAI-Toolkit cd EASY-EAI-Toolkit
经过git东西,正在治理目次内克隆近程堆栈
git clone https://github.com/EASY-EAI/EASY-EAI-Toolkit-C-Demo.git

注:
* 此处能够会果收集缘由形成卡顿,请耐烦等候。
* 假如真实要正在gitHub网页高低载,也要把全部堆栈下载上去,不克不及独自下载本真例对应的目次。
进进到对应的例程目次履行编译操纵,详细号令以下所示:
cd EASY-EAI-Toolkit-C-Demo/algorithm-face_landmark98/ ./build.sh cpres
注:
* 若build.sh剧本带有cpres参数,则会把Release/目次下的一切资本皆拷贝到开辟板上。
* 若build.sh剧本没有带任何参数,则仅会拷贝demo编译出去的可履行文件。
* 因为依靠库摆设正在板卡上,因而穿插编译进程中必需坚持adb衔接。

2.3 模子摆设
要完成算法Demo的履行,需求先下载人脸检测算法模子。
百度网盘链接为:https://pan.百度.com/s/1cxnx1T0ldJvoqkyTk1RmUg(提与码:0b6h )。

也要下载人脸98要害面算法模子。
百度网盘链接为:https://pan.百度.com/s/1BUI4Go6IJGCfF8m6fK_iHw (提与码:2zqi )。

然后需求把下载的人脸检测算法模子战人脸辨认算法模子复造粘揭到Release/目次:

再经过下圆号令将模子署到板卡中,以下所示。
cp ./Release/*.model /mnt/userdata/Demo
2.4 例程运转
经过按键Ctrl+Shift+T创立一个新窗心,履行adb shell号令,进进板卡运转情况。
adb shell

进进板卡后,定位到例程上传的地位,以下所示:
cd /userdata/Demo
运转例程号令以下所示:
./test-face-landmark98 test1.jpg
2.5 运转结果
face-landmark98的Demo履行结果以下所示:

再开一个窗心,正在PC端Ubuntu情况经过以下号令能够把图片推返来:
adb pull /userdata/Demo/result.jpg .
后果图片以下所示:

API的具体阐明,和API的挪用(本例程源码),具体疑息睹下圆阐明。
3. 人脸检测API阐明
3.1 援用体例
为便利客户正在当地工程中间接挪用我们的EASY EAI api库,此处列收工程中需求链接的库和头文件等,便利用户间接增加。
| 选项 | 描绘 |
| 头文件目次 | easyeai-api/algorithm_api/face_detect |
| 库文件目次 | easyeai-api/algorithm_api/face_detect |
| 库链接参数 | -lpthread -lface_detect -lrknn_api |
3.2 人脸检测初初化函数
设置人脸检测初初化函数本型以下所示。
int face_detect_init(rknn_context *ctx, const char *path)
详细引见以下所示。
| 函数名:face_detect_init() | |
| 头文件 | face_detect.h |
| 输出参数 | ctx:rknn_context句柄 |
| path:算法模子的途径 | |
| 前往值 | 胜利前往:0 |
| 掉败前往:-1 | |
| 留意事项 | 无 |
3.3 人脸检测运转函数
设face_detect_run本型以下所示。
int face_detect_run(rknn_context ctx, cv::Mat &input_image, std::vector< det > &result)
详细引见以下所示。
| 函数名: face_detect_run () | |
| 头文件 | face_detect.h |
|
输出参数 |
ctx: rknn_context句柄 |
| input_image:Opencv Mat格局图象 | |
| result:人脸检测的后果输入 | |
| 前往值 | 胜利前往:0 |
| 掉败前往:-1 | |
| 留意事项 | 无 |
3.4 人脸检测开释函数
人脸检测开释函数本型以下所示。
int face_detect_release(rknn_context ctx)
详细引见以下所示。
| 函数名: face_detect_release () | |
| 头文件 | face_detect.h |
|
输出参数 |
face_detect.h |
| 前往值 | 胜利前往:0 |
| 掉败前往:-1 | |
| 留意事项 | 无 |
4. 人脸98个要害面API阐明
4.1 援用体例
为便利客户正在当地工程中间接挪用我们的EASY EAI api库,此处列收工程中需求链接的库和头文件等,便利用户间接增加。
| 选项 | 描绘 |
| 头文件目次 | easyeai-api/algorithm_api/face_landmark98 |
| 库文件目次 | easyeai-api/algorithm_api/face_landmark98 |
| 库链接参数 | -lpthread -lface_landmark98 -lrknn_api |
4.2 人脸98个要害面初初化函数
设置人脸检测初初化函数本型以下所示。
int face_landmark98_init(rknn_context *ctx, const char * path)
详细引见以下所示。
| 函数名: face_landmark98_init() | |
| 头文件 | face_landmark98.h |
| 输出参数 | ctx:rknn_context句柄 |
| path:算法模子的途径 | |
| 前往值 | 胜利前往:0 |
| 掉败前往:-1 | |
| 留意事项 | 无 |
4.3 人脸98个要害面运转函数
设face_landmark98_run本型以下所示。
int face_landmark98_run(rknn_context ctx, cv::Mat *face_image, std::vector< KeyPointType > *keyPoints)
详细引见以下所示。
| 函数名: face_landmark98_run () | |
| 头文件 | face_landmark98.h |
|
输出参数 |
ctx: rknn_context句柄 |
| face_image:图象数据输出(cv::Mat是Opencv的范例) | |
| keyPoints:算法输入的人脸要害面坐标 | |
| 前往值 | 胜利前往:0 |
| 掉败前往:-1 | |
| 留意事项 | 无 |
4.4 人脸98个要害面开释函数
人脸98个要害面开释函数本型以下所示。
int face_landmark98_release(rknn_context ctx)
详细引见以下所示。
| 函数名: face_landmark98_release () | |
| 头文件 | face_landmark98.h |
|
输出参数 |
ctx: rknn_context句柄 |
| 前往值 | 胜利前往:0 |
| 掉败前往:-1 | |
| 留意事项 | 无 |
5. 人脸98个要害面算法规程
例程目次为Toolkit-C-Demo/algorithm-face_landmark98/test-face-landmark98.cpp,操纵流程以下。

参考例程以下所示。
#include < stdio.h >
#include < stdint.h >
#include < stdlib.h >
#include < fstream >
#include < iostream >
#include < vector >
#include < fstream >
#include < atomic >
#include < queue >
#include < thread >
#include < mutex >
#include < chrono >
#include < sys/time.h >
#include < sys/stat.h >
#include < dirent.h >
#include < unistd.h >
#include < opencv2/opencv.hpp >
#include < unistd.h >
#include < sys/syscall.h >
#include "face_detect.h"
#include "face_alignment.h"
#include "face_landmark98.h"
using namespace std;
using namespace cv;
int main(int argc, char **argv)
{
if( argc != 2)
{
printf("./test-face-landmark98 xxx.jpg n");
return -1;
}
struct timeval start;
struct timeval end;
float time_use=0;
rknn_context detect_ctx, landmark_ctx;
std::vector< det > result;
int ret;
cv::Mat src;
src = cv::imread(argv[1], 1);
face_detect_init(&detect_ctx, "./face_detect.model");
/* 人脸要害面定位初初化 */
ret = face_landmark98_init(&landmark_ctx, "./face_landmark98.model");
if( ret < 0)
{
printf("face_mask_judgement_init fail! ret=%dn", ret);
return -1;
}
face_detect_run(detect_ctx, src, result);
printf("face num:%dn",result.size());
for (int i = 0; i < (int)result.size(); i++)
{
int x = (int)(result[i].box.x);
int y = (int)(result[i].box.y);
int w = (int)(result[i].box.width);
int h = (int)(result[i].box.height);
int max = (w > h)?w:h;
// 判别图象裁剪能否越界
if( ((x +max) > src.cols) || ((y +max) > src.rows) )
{
continue;
}
cv::Mat roi_img, reize_img;
roi_img = src(cv::Rect(x, y, max,max));
roi_img = roi_img.clone();
resize(roi_img, reize_img, Size(256,256), 0, 0, INTER_AREA);
float ratio;
ratio = (float)max/256;
gettimeofday(&start,NULL);
std::vector< KeyPointType > keyPoints;
face_landmark98_run(landmark_ctx, &reize_img, &keyPoints);
gettimeofday(&end,NULL);
time_use = (end.tv_sec-start.tv_sec)*1000000+(end.tv_usec-start.tv_usec);//微秒
printf("time_use is %fn",time_use/1000);
for(int n = 0; n < 98; n++)
{
//cout< <"keyPoints "< < n < <" :"< < keyPoints[n].point.x*ratio +x < <","< < keyPoints[n].point.y*ratio +y <
审核编辑 黄宇
