用华为HMS ML kit人体骨骼识别技术，Android快速实现人体姿势动作抓拍 

  • 2020 年 9 月 18 日
  • 筆記

  你有没有过这种体验，拍照时对着镜头，脑子一片空白、表情僵硬、手和脚无处安放，最后拍出来的照片很是奇怪。拍照软件中的固定姿势抓拍功能可以帮助你：选择一个你想要的姿势模板，当你摆出同款姿势时，软件会进行自动抓拍，完美避开拍照时的尴尬。本文详细介绍了华为HMS ML kit人体骨骼识别技术的集成过程，该技术精准定位了14个骨骼点，可以轻松实现固定姿势抓拍。 

人体骨骼检测功能开发实战

  做了一个视频流骨骼识别小demo，做一次实战演练,Github demo源码：//github.com/HMS-Core/hms-ml-demo/tree/master/MLKit-Sample 

1.开发前准备

  您需要完成必要的开发准备工作，同时请确保您的工程中已经配置HMS Core SDK的Maven仓地址，并且完成了本服务的SDK集成。  

1.1 在项目级build.gradle文件中配置maven仓地址。

buildscript {
  repositories {
        google()
        jcenter()
        maven { url '//developer.huawei.com/repo/' }
    }
    //配置AGC插件
    dependencies {
        classpath "com.android.tools.build:gradle:3.3.2"
    }
}

allprojects {
    repositories {
        google()
        jcenter()
        maven { url '//developer.huawei.com/repo/' }
    }
}

1.2在应用级build.gradle中引入SDK。

dependencies {
    implementation 'com.huawei.hms:ml-computer-vision-skeleton-model:2.0.1.300'
    implementation 'com.huawei.hms:ml-computer-vision-skeleton:2.0.1.300'
    implementation 'com.huawei.hms:ml-computer-vision-base:2.0.1.300'
}

2.开发步骤

2.1 静态图片检测

2.1.1 创建人体骨骼检测器。

MLSkeletonAnalyzer analyzer = MLSkeletonAnalyzerFactory.getInstance().getSkeletonAnalyzer();

2.1.2 通过bitmap创建MLFrame，建议图片尺寸不小于320 * 320像素，不大于1920 * 1920像素。

//通过bitmap创建MLFrame。
MLFrame frame = MLFrame.fromBitmap(bitmap);

2.1.3 调用“asyncAnalyseFrame”方法进行人体骨骼检测。

  Task<List<MLSkeleton>> task = analyzer.asyncAnalyseFrame(frame);
         task.addOnSuccessListener(new OnSuccessListener<List<MLSkeleton>>() {
             public void onSuccess(List<MLSkeleton> skeletons) {
                 // 对检测结果进行处理。
             }
         }).addOnFailureListener(new OnFailureListener() {
             public void onFailure(Exception e) {
                 // 检测失败。
             }
         });

2.1.4 检测完成，停止分析器，释放检测资源。

try {
    if (analyzer != null) {
        analyzer.stop();
    }
} catch (IOException e) {
    // 异常处理。
}

给大家看下Demo效果：

在这里插入图片描述

2.2 动态视频检测

2.2.1 创建人体骨骼检测器。

MLSkeletonAnalyzer analyzer = MLSkeletonAnalyzerFactory.getInstance().getSkeletonAnalyzer();

2.2.2 开发者创建识别结果处理类“SkeletonAnalyzerTransactor”，该类实现MLAnalyzer.MLTransactor接口，使用此类中的“transactResult”方法获取检测结果并实现具体业务。

public class SkeletonAnalyzerTransactor implements MLAnalyzer.MLTransactor<MLSkeleton> {
    @Override
    public void transactResult(MLAnalyzer.Result<MLSkeleton> results) {
        SparseArray<MLSkeleton> items = results.getAnalyseList();
        // 开发者根据需要处理识别结果，例如，在此方法中进行相似度计算，从而在检测到特定姿势后进行拍照等操作。
        // 需要注意，这里只对检测结果进行处理，不可调用ML Kit提供的其他检测相关接口。
        // 将SparseArray封装的结果转换为List数组，以便进行相似度比较。
        List<MLSkeleton> resultsList = new ArrayList<>();
        for (int i = 0; i < items.size(); i++) {
            resultsList.add(items.valueAt(i));
        }
        // 在检测结果和模板之间进行相似度比较。
        // templateList表示人体骨骼模板，可以通过静态图片检测的方式生成模板，支持单人或多人模板匹配。
        float result = analyzer.caluteSimilarity(resultsList, templateList);
    }
    @Override
    public void destroy() {
        // 检测结束回调方法，用于释放资源等。
    }
}

2.2.3 设置识别结果处理器，实现分析器与结果处理器的绑定。

analyzer.setTransactor(new SkeletonAnalyzerTransactor());

2.2.4 创建LensEngine，该类由ML Kit SDK提供，用于捕捉相机动态视频流并传入分析器。建议设置的相机显示尺寸不小于320 * 320像素，不大于1920 * 1920像素。

// Create LensEngine.
LensEngine lensEngine = new LensEngine.Creator(getApplicationContext(), analyzer)
    .setLensType(LensEngine.BACK_LENS)
    .applyDisplayDimension(1280, 720)
    .applyFps(20.0f)
    .enableAutomaticFocus(true)
    .create();

2.2.5 开发者启用相机，读取视频流并进行识别，待检测完成，停止分析器,释放检测资源。

if (analyzer != null) {  
    try {
        analyzer.stop();    
    } catch (IOException e) {
         // 异常处理。
    }
}
if (lensEngine != null) {
    lensEngine.release();
}

动态视频流效果：

在这里插入图片描述

  
基于华为HMS ML kit人体骨骼识别技术，我们能做的还有很多：
a.在体感游戏中让虚拟形象模拟真人动作，增加游戏趣味性。
b.辅助健身锻炼或康复训练时的姿势矫正。
c.在监控中检测异常行为。

更详细的开发指南参考华为开发者联盟官网：

华为开发者联盟机器学习服务开发指南

欲了解更多详情，请参阅：

华为开发者联盟官网：//developer.huawei.com/consumer/cn/hms
获取开发指导文档：//developer.huawei.com/consumer/cn/doc/development
参与开发者讨论请到Reddit社区：//www.reddit.com/r/HMSCore/
下载demo和示例代码请到Github：//github.com/HMS-Core
解决集成问题请到Stack Overflow：//stackoverflow.com/questions/tagged/huawei-mobile-services?tab=Newest

原文链接：//developer.huawei.com/consumer/cn/forum/topicview?fid=18&tid=0202333916402640253
原作者：留下落叶

VirMach 便宜 VPS

QNews

QNews