Pepperで撮影した写真をAmazon Rekognitionで分析してその結果をPepperがしゃべる ~(1)AWS編~

2018/05/29 2018/07/10

Pepperの機能を使えるところは使って、何かしたいなあと思ってまして。
目(カメラ)が付いてて、音声(スピーカー)で話すことが出来るので、とりあえずは画像分析からかなと思いまして、Amazon Rekognitionを使ってみました。

※ソフトバンクロボティクスのPepperを活用し、私が独自に実施しているものです。

(1) PepperからはAPI Gateway経由でLambdaを実行します。
(2) Pepperからアップロードされた画像はS3に格納されます。
(3) その画像は、Amazon Rekognitionによって画像解析されてその結果がAPI Gateway経由でレスポンスンとして戻ります。
(4) レスポンスをPepperが会話文に整形して話します。

今回はAWS側の開発(1)~(3)について記載します。

AWS側にはこれらが必要です。
API GatewayとLambdaで実装します。

Pepperから送信される画像をS3に格納する
S3の画像をAmazon Rekognitionで分析する

リポジトリはGithubです。

LambdaのランタイムはPython3系です。

撮影した写真をS3に格納する

s3 = boto3.resource('s3')
bucket = s3.Bucket(bucekt_name)

image_body = base64.b64decode(event['body-json'])

n = 10
key = ''.join([random.choice(string.ascii_letters + string.digits) for i in range(n)])

bucket.put_object(
    Body=image_body,
    Key=key
)

s3 = boto3.resource('s3')

bucket = s3.Bucket(bucekt_name)

image_body = base64.b64decode(event['body-json'])

n = 10

key = ''.join([random.choice(string.ascii_letters + string.digits) for i in range(n)])

bucket.put_object(

Body=image_body,

Key=key

)

バイナリデータをb64decodeでデコード
S3オブジェクトキーをrandomで生成
buckt.put_objectでS3に画像ファイルをアップロード

API Gatewayの設定

バイナリメディアタイプ

[設定] – [バイナリメディアタイプ]に、image/jpg を設定

他は任意で追加

本文マッピングテンプレート

[リソース] – [統合リクエスト] – [本文マッピングテンプレート]

Content-Typeに image/jpg を追加。
テンプレートの生成は「メソッドリクエストのパススルー」を設定。

他のContent-Typeは任意で追加。

(参考)リクエストを送信するクライアント

data = open(file_path, 'rb').read()
response = requests.post(
    url=api_url,
    data=data,
    headers={'Content-Type': 'image/jpg'}
)

data = open(file_path, 'rb').read()

response = requests.post(

url=api_url,

data=data,

headers={'Content-Type': 'image/jpg'}

)

画像ファイルをdata引数にわたす
headersでContent-Typeで image/jpgを設定

画像を解析する

client = boto3.client('rekognition')
response = client.detect_faces(
    Image={
        'S3Object': {
            'Bucket': bucekt_name,
            'Name': key
        }
    },
    Attributes=['ALL']
)

return response

client = boto3.client('rekognition')

response = client.detect_faces(

Image={

'S3Object': {

'Bucket': bucekt_name,

'Name': key

}

Attributes=['ALL']

)

return response

引数のバケット名、オブジェクトキー対象の画像を分析
バージョニングしているS3の場合はバージョンIDを指定することも可能

これ1行で書けちまってるんですよね。

Rekognition 顔分析(detect_faces)のレスポンス

FaceDetailsのに画像の中の人数分の結果が配列になって戻される。

key	内容	値の例
AgeRange.Low	年齢幅の下	26
AgeRange.High	年齢幅の上	43
Smile.Value	笑顔か	true or false
Smile.Confidence	笑顔の可能性	88.67390441894531
Eyeglasses.Value	眼鏡をしているか	true or false
Eyeglasses.Confidence	眼鏡をしている可能性	99.99993133544922
Sunglasses.Value	サングラスをしているか	true or false
Sunglasses.Confidence	サングラスをしている可能性	99.99896240234375
Gender.Value	性別	Male or Female
Gender.Confidence	性別の可能性	52.36514663696289
Beard.Value	髭が生えているか	true or false
Beard.Confidence	髭の可能性	99.86187744140625
Mustache.Value	口ひげが生えているか	true or false
Mustache.Confidence	口ひげの可能性	99.57250213623047
EyesOpen.Value	目が空いているか	true or false
EyesOpen.Confidence	目が空いている可能性	99.9950942993164
MouthOpen.Value	口が空いているか	true or false
MouthOpen.Confidence	口が空いている可能性	98.92902374267578
Emotions.Type	感情	HAPPY,SAD,ANGRY
Emotions.Confidence	感情の可能性	98.92902374267578

※Emotionsは配列です。
※Emotionsの値にはHAPPY,SAD,ANGRY,CONFUSED,DISGUSTED,SURPRISED,CALM,UNKNOWNがあります。

レスポンスの例

上記以外にも画像内の位置情報も戻ってきます。

以下は実際のレスポンスです。

{
  "FaceDetails": [
    {
      "BoundingBox": {
        "Width": 0.5432692170143127,
        "Height": 0.5432692170143127,
        "Left": 0.1586538404226303,
        "Top": 0.39423078298568726
      },
      "AgeRange": {
        "Low": 26,
        "High": 43
      },
      "Smile": {
        "Value": true,
        "Confidence": 88.67390441894531
      },
      "Eyeglasses": {
        "Value": false,
        "Confidence": 99.99993133544922
      },
      "Sunglasses": {
        "Value": false,
        "Confidence": 99.99896240234375
      },
      "Gender": {
        "Value": "Female",
        "Confidence": 52.36514663696289
      },
      "Beard": {
        "Value": false,
        "Confidence": 99.86187744140625
      },
      "Mustache": {
        "Value": false,
        "Confidence": 99.57250213623047
      },
      "EyesOpen": {
        "Value": true,
        "Confidence": 99.9950942993164
      },
      "MouthOpen": {
        "Value": false,
        "Confidence": 98.92902374267578
      },
      "Emotions": [
        {
          "Type": "HAPPY",
          "Confidence": 97.94617462158203
        },
        {
          "Type": "CALM",
          "Confidence": 3.9698123931884766
        },
        {
          "Type": "DISGUSTED",
          "Confidence": 3.0542492866516113
        }
      ],
      "Landmarks": [
        {
          "Type": "eyeLeft",
          "X": 0.3193352520465851,
          "Y": 0.6057592630386353
        },
        {
          "Type": "eyeRight",
          "X": 0.48970475792884827,
          "Y": 0.5856793522834778
        },
        {
          "Type": "nose",
          "X": 0.4043808877468109,
          "Y": 0.726554811000824
        },
        {
          "Type": "mouthLeft",
          "X": 0.3604806959629059,
          "Y": 0.7941246032714844
        },
        {
          "Type": "mouthRight",
          "X": 0.5140022039413452,
          "Y": 0.7713675498962402
        },
        {
          "Type": "leftPupil",
          "X": 0.3010416626930237,
          "Y": 0.6047616600990295
        },
        {
          "Type": "rightPupil",
          "X": 0.47773274779319763,
          "Y": 0.5898412466049194
        },
        {
          "Type": "leftEyeBrowLeft",
          "X": 0.24104659259319305,
          "Y": 0.554790735244751
        },
        {
          "Type": "leftEyeBrowUp",
          "X": 0.2922651171684265,
          "Y": 0.5291659832000732
        },
        {
          "Type": "leftEyeBrowRight",
          "X": 0.3543483316898346,
          "Y": 0.5445635914802551
        },
        {
          "Type": "rightEyeBrowLeft",
          "X": 0.438366562128067,
          "Y": 0.5284709334373474
        },
        {
          "Type": "rightEyeBrowUp",
          "X": 0.4927721917629242,
          "Y": 0.5032138824462891
        },
        {
          "Type": "rightEyeBrowRight",
          "X": 0.5485564470291138,
          "Y": 0.5106046199798584
        },
        {
          "Type": "leftEyeLeft",
          "X": 0.28682535886764526,
          "Y": 0.606676459312439
        },
        {
          "Type": "leftEyeRight",
          "X": 0.3523319363594055,
          "Y": 0.6040283441543579
        },
        {
          "Type": "leftEyeUp",
          "X": 0.3191685080528259,
          "Y": 0.5964699983596802
        },
        {
          "Type": "leftEyeDown",
          "X": 0.3192586898803711,
          "Y": 0.6154554486274719
        },
        {
          "Type": "rightEyeLeft",
          "X": 0.45716485381126404,
          "Y": 0.5941932797431946
        },
        {
          "Type": "rightEyeRight",
          "X": 0.5229200720787048,
          "Y": 0.5777791142463684
        },
        {
          "Type": "rightEyeUp",
          "X": 0.48767799139022827,
          "Y": 0.5762225389480591
        },
        {
          "Type": "rightEyeDown",
          "X": 0.4913938045501709,
          "Y": 0.5948292016983032
        },
        {
          "Type": "noseLeft",
          "X": 0.3742028474807739,
          "Y": 0.7420245409011841
        },
        {
          "Type": "noseRight",
          "X": 0.46468648314476013,
          "Y": 0.7333931922912598
        },
        {
          "Type": "mouthUp",
          "X": 0.4339665472507477,
          "Y": 0.7914789915084839
        },
        {
          "Type": "mouthDown",
          "X": 0.4400731921195984,
          "Y": 0.8227092027664185
        }
      ],
      "Pose": {
        "Roll": -6.3993635177612305,
        "Yaw": -10.858695030212402,
        "Pitch": -12.548688888549805
      },
      "Quality": {
        "Brightness": 27.32587432861328,
        "Sharpness": 98.55191040039062
      },
      "Confidence": 99.9991455078125
    }
  ],
  "OrientationCorrection": "ROTATE_0",
  "ResponseMetadata": {
    "RequestId": "3878b810-576c-11e8-b4ef-e9105707324f",
    "HTTPStatusCode": 200,
    "HTTPHeaders": {
      "content-type": "application/x-amz-json-1.1",
      "date": "Mon, 14 May 2018 11:44:55 GMT",
      "x-amzn-requestid": "3878b810-576c-11e8-b4ef-e9105707324f",
      "content-length": "2763",
      "connection": "keep-alive"
    },
    "RetryAttempts": 0
  }
}

100

101

102

103

104

105

106

107

108

109

110

111

112

113

114

115

116

117

118

119

120

121

122

123

124

125

126

127

128

129

130

131

132

133

134

135

136

137

138

139

140

141

142

143

144

145

146

147

148

149

150

151

152

153

154

155

156

157

158

159

160

161

162

163

164

165

166

167

168

169

170

171

172

173

174

175

176

177

178

179

180

181

182

183

184

185

186

187

188

189

190

191

192

193

194

195

196

197

198

199

200

201

202

203

204

205

206

207

208

209

210

211

212

213

{

"FaceDetails": [

{

"BoundingBox": {

"Width": 0.5432692170143127,

"Height": 0.5432692170143127,

"Left": 0.1586538404226303,

"Top": 0.39423078298568726

"AgeRange": {

"Low": 26,

"High": 43

"Smile": {

"Value": true,

"Confidence": 88.67390441894531

"Eyeglasses": {

"Value": false,

"Confidence": 99.99993133544922

"Sunglasses": {

"Value": false,

"Confidence": 99.99896240234375

"Gender": {

"Value": "Female",

"Confidence": 52.36514663696289

"Beard": {

"Value": false,

"Confidence": 99.86187744140625

"Mustache": {

"Value": false,

"Confidence": 99.57250213623047

"EyesOpen": {

"Value": true,

"Confidence": 99.9950942993164

"MouthOpen": {

"Value": false,

"Confidence": 98.92902374267578

"Emotions": [

{

"Type": "HAPPY",

"Confidence": 97.94617462158203

{

"Type": "CALM",

"Confidence": 3.9698123931884766

{

"Type": "DISGUSTED",

"Confidence": 3.0542492866516113

}

"Landmarks": [

{

"Type": "eyeLeft",

"X": 0.3193352520465851,

"Y": 0.6057592630386353

{

"Type": "eyeRight",

"X": 0.48970475792884827,

"Y": 0.5856793522834778

{

"Type": "nose",

"X": 0.4043808877468109,

"Y": 0.726554811000824

{

"Type": "mouthLeft",

"X": 0.3604806959629059,

"Y": 0.7941246032714844

{

"Type": "mouthRight",

"X": 0.5140022039413452,

"Y": 0.7713675498962402

{

"Type": "leftPupil",

"X": 0.3010416626930237,

"Y": 0.6047616600990295

{

"Type": "rightPupil",

"X": 0.47773274779319763,

"Y": 0.5898412466049194

{

"Type": "leftEyeBrowLeft",

"X": 0.24104659259319305,

"Y": 0.554790735244751

{

"Type": "leftEyeBrowUp",

"X": 0.2922651171684265,

"Y": 0.5291659832000732

{

"Type": "leftEyeBrowRight",

"X": 0.3543483316898346,

"Y": 0.5445635914802551

{

"Type": "rightEyeBrowLeft",

"X": 0.438366562128067,

"Y": 0.5284709334373474

{

"Type": "rightEyeBrowUp",

"X": 0.4927721917629242,

"Y": 0.5032138824462891

{

"Type": "rightEyeBrowRight",

"X": 0.5485564470291138,

"Y": 0.5106046199798584

{

"Type": "leftEyeLeft",

"X": 0.28682535886764526,

"Y": 0.606676459312439

{

"Type": "leftEyeRight",

"X": 0.3523319363594055,

"Y": 0.6040283441543579

{

"Type": "leftEyeUp",

"X": 0.3191685080528259,

"Y": 0.5964699983596802

{

"Type": "leftEyeDown",

"X": 0.3192586898803711,

"Y": 0.6154554486274719

{

"Type": "rightEyeLeft",

"X": 0.45716485381126404,

"Y": 0.5941932797431946

{

"Type": "rightEyeRight",

"X": 0.5229200720787048,

"Y": 0.5777791142463684

{

"Type": "rightEyeUp",

"X": 0.48767799139022827,

"Y": 0.5762225389480591

{

"Type": "rightEyeDown",

"X": 0.4913938045501709,

"Y": 0.5948292016983032

{

"Type": "noseLeft",

"X": 0.3742028474807739,

"Y": 0.7420245409011841

{

"Type": "noseRight",

"X": 0.46468648314476013,

"Y": 0.7333931922912598

{

"Type": "mouthUp",

"X": 0.4339665472507477,

"Y": 0.7914789915084839

{

"Type": "mouthDown",

"X": 0.4400731921195984,

"Y": 0.8227092027664185

}

"Pose": {

"Roll": -6.3993635177612305,

"Yaw": -10.858695030212402,

"Pitch": -12.548688888549805

"Quality": {

"Brightness": 27.32587432861328,

"Sharpness": 98.55191040039062

"Confidence": 99.9991455078125

}

"OrientationCorrection": "ROTATE_0",

"ResponseMetadata": {

"RequestId": "3878b810-576c-11e8-b4ef-e9105707324f",

"HTTPStatusCode": 200,

"HTTPHeaders": {

"content-type": "application/x-amz-json-1.1",

"date": "Mon, 14 May 2018 11:44:55 GMT",

"x-amzn-requestid": "3878b810-576c-11e8-b4ef-e9105707324f",

"content-length": "2763",

"connection": "keep-alive"

"RetryAttempts": 0

}

最後までお読みいただきましてありがとうございました！

【PR】「AWS認定試験対策 AWS クラウドプラクティショナー」という本を書きました。

【PR】「AWSではじめるLinux入門ガイド」という本を書きました。

【PR】「ポケットスタディ AWS認定デベロッパーアソシエイト」という本を書きました。

@yamamanx

開発ベンダー5年、ユーザ企業システム部門通算9年、ITインストラクター3年目でプロトタイプビルダーもやりだしたSoftware Engineerです。
質問はコメントかSNSなどからお気軽にどうぞ。
出来る限りなるべく答えます。

このブログの内容/発言の一切は個人の見解であり、所属する組織とは関係ありません。
このブログは経験したことなどの共有を目的としており、手順や結果などを保証するものではありません。
ご参考にされる際は、読者様自身のご判断にてご対応をお願いいたします。

また、勉強会やイベントのレポートは自分が気になったことをメモしたり、聞いて思ったことを書いていますので、登壇者の意見や発表内容ではありません。

- AWS AWS, pepper, rekognition

: LINE BOT AWARDS 2017に応募しました

LINEの友達追加QRです。動作のご確認にどうぞ LINE BOT AWARD …

: AWSのAmazon LinuxにGitマスターサーバをインストールしてRedmineリポジトリブラウザで見る

Amazon LinuxにGitをインストールする Gitをインストールして自動 …

: kintoneで設定したスケジュールにあわせてlambda(python)からSQSへメッセージを送る

EC2の起動停止をそろそろ手動でやるのも疲れてきそうなのと、やはり停止するのを忘 …

: AWS Step Functions まずはパラレルでLambdaを並列実行してみました

複数のlambdaの実行制御をLambdaでやってましたが、その部分をStep …

: ヤマムギ vol.8 (AWS)EC2でLinuxサーバー構築ハンズオン手順

ヤマムギとは from Mitsuhiro Yamashita 「AWSではじめ …

: AWS Lambda(Python3.7)でPandocを実行する

昨日まで(AWS Batch) 昨日までは、Pandocを実行して、S3バケット …

: slackのbotに天気を教えてもらう(Python on AWS Lambda + API Gateway)

slackのbotにAPIの定番ともいえる天気情報を教えてもらいました。環境は …

: 「X-Tech JAWS 【第2回】~9割のX-Techと1割の優しさで切り拓く未来~」に行ってきました

「X-Tech JAWS 【第2回】~9割のX-Techと1割の優しさで切り拓く …

: AWS CodeDeployからEC2 Auto Scalingにデプロイするチュートリアル

公式チュートリアルチュートリアル: アプリケーションを CodeDeployグル …

: Cloud9でSAMローカルテスト

せっかくテストするので、Amazon CloudSearchからAmazon E …

PREV: macOS High SierraでLogicool Wireless Trackball M570tを使いやすくするためにsteerMouseをセットアップする
NEXT: kintone hiveで改めてkintoneの破壊力を見た

Pepperで撮影した写真をAmazon Rekognitionで分析してその結果をPepperがしゃべる ~(1)AWS編~

撮影した写真をS3に格納する

API Gatewayの設定

バイナリメディアタイプ

本文マッピングテンプレート

(参考)リクエストを送信するクライアント

画像を解析する

Rekognition 顔分析(detect_faces)のレスポンス

レスポンスの例

ad

ad

関連記事