Pepperで撮影した写真をAmazon Rekognitionで分析してその結果をPepperがしゃべる ~(1)AWS編~

2018/05/29 2018/07/10

Pepperの機能を使えるところは使って、何かしたいなあと思ってまして。
目(カメラ)が付いてて、音声(スピーカー)で話すことが出来るので、とりあえずは画像分析からかなと思いまして、Amazon Rekognitionを使ってみました。

※ソフトバンクロボティクスのPepperを活用し、私が独自に実施しているものです。

(1) PepperからはAPI Gateway経由でLambdaを実行します。
(2) Pepperからアップロードされた画像はS3に格納されます。
(3) その画像は、Amazon Rekognitionによって画像解析されてその結果がAPI Gateway経由でレスポンスンとして戻ります。
(4) レスポンスをPepperが会話文に整形して話します。

今回はAWS側の開発(1)~(3)について記載します。

AWS側にはこれらが必要です。
API GatewayとLambdaで実装します。

Pepperから送信される画像をS3に格納する
S3の画像をAmazon Rekognitionで分析する

リポジトリはGithubです。

LambdaのランタイムはPython3系です。

撮影した写真をS3に格納する

s3 = boto3.resource('s3')
bucket = s3.Bucket(bucekt_name)

image_body = base64.b64decode(event['body-json'])

n = 10
key = ''.join([random.choice(string.ascii_letters + string.digits) for i in range(n)])

bucket.put_object(
    Body=image_body,
    Key=key
)

s3 = boto3.resource('s3')

bucket = s3.Bucket(bucekt_name)

image_body = base64.b64decode(event['body-json'])

n = 10

key = ''.join([random.choice(string.ascii_letters + string.digits) for i in range(n)])

bucket.put_object(

Body=image_body,

Key=key

)

バイナリデータをb64decodeでデコード
S3オブジェクトキーをrandomで生成
buckt.put_objectでS3に画像ファイルをアップロード

API Gatewayの設定

バイナリメディアタイプ

[設定] – [バイナリメディアタイプ]に、image/jpg を設定

他は任意で追加

本文マッピングテンプレート

[リソース] – [統合リクエスト] – [本文マッピングテンプレート]

Content-Typeに image/jpg を追加。
テンプレートの生成は「メソッドリクエストのパススルー」を設定。

他のContent-Typeは任意で追加。

(参考)リクエストを送信するクライアント

data = open(file_path, 'rb').read()
response = requests.post(
    url=api_url,
    data=data,
    headers={'Content-Type': 'image/jpg'}
)

data = open(file_path, 'rb').read()

response = requests.post(

url=api_url,

data=data,

headers={'Content-Type': 'image/jpg'}

)

画像ファイルをdata引数にわたす
headersでContent-Typeで image/jpgを設定

画像を解析する

client = boto3.client('rekognition')
response = client.detect_faces(
    Image={
        'S3Object': {
            'Bucket': bucekt_name,
            'Name': key
        }
    },
    Attributes=['ALL']
)

return response

client = boto3.client('rekognition')

response = client.detect_faces(

Image={

'S3Object': {

'Bucket': bucekt_name,

'Name': key

}

Attributes=['ALL']

)

return response

引数のバケット名、オブジェクトキー対象の画像を分析
バージョニングしているS3の場合はバージョンIDを指定することも可能

これ1行で書けちまってるんですよね。

Rekognition 顔分析(detect_faces)のレスポンス

FaceDetailsのに画像の中の人数分の結果が配列になって戻される。

key	内容	値の例
AgeRange.Low	年齢幅の下	26
AgeRange.High	年齢幅の上	43
Smile.Value	笑顔か	true or false
Smile.Confidence	笑顔の可能性	88.67390441894531
Eyeglasses.Value	眼鏡をしているか	true or false
Eyeglasses.Confidence	眼鏡をしている可能性	99.99993133544922
Sunglasses.Value	サングラスをしているか	true or false
Sunglasses.Confidence	サングラスをしている可能性	99.99896240234375
Gender.Value	性別	Male or Female
Gender.Confidence	性別の可能性	52.36514663696289
Beard.Value	髭が生えているか	true or false
Beard.Confidence	髭の可能性	99.86187744140625
Mustache.Value	口ひげが生えているか	true or false
Mustache.Confidence	口ひげの可能性	99.57250213623047
EyesOpen.Value	目が空いているか	true or false
EyesOpen.Confidence	目が空いている可能性	99.9950942993164
MouthOpen.Value	口が空いているか	true or false
MouthOpen.Confidence	口が空いている可能性	98.92902374267578
Emotions.Type	感情	HAPPY,SAD,ANGRY
Emotions.Confidence	感情の可能性	98.92902374267578

※Emotionsは配列です。
※Emotionsの値にはHAPPY,SAD,ANGRY,CONFUSED,DISGUSTED,SURPRISED,CALM,UNKNOWNがあります。

レスポンスの例

上記以外にも画像内の位置情報も戻ってきます。

以下は実際のレスポンスです。

{
  "FaceDetails": [
    {
      "BoundingBox": {
        "Width": 0.5432692170143127,
        "Height": 0.5432692170143127,
        "Left": 0.1586538404226303,
        "Top": 0.39423078298568726
      },
      "AgeRange": {
        "Low": 26,
        "High": 43
      },
      "Smile": {
        "Value": true,
        "Confidence": 88.67390441894531
      },
      "Eyeglasses": {
        "Value": false,
        "Confidence": 99.99993133544922
      },
      "Sunglasses": {
        "Value": false,
        "Confidence": 99.99896240234375
      },
      "Gender": {
        "Value": "Female",
        "Confidence": 52.36514663696289
      },
      "Beard": {
        "Value": false,
        "Confidence": 99.86187744140625
      },
      "Mustache": {
        "Value": false,
        "Confidence": 99.57250213623047
      },
      "EyesOpen": {
        "Value": true,
        "Confidence": 99.9950942993164
      },
      "MouthOpen": {
        "Value": false,
        "Confidence": 98.92902374267578
      },
      "Emotions": [
        {
          "Type": "HAPPY",
          "Confidence": 97.94617462158203
        },
        {
          "Type": "CALM",
          "Confidence": 3.9698123931884766
        },
        {
          "Type": "DISGUSTED",
          "Confidence": 3.0542492866516113
        }
      ],
      "Landmarks": [
        {
          "Type": "eyeLeft",
          "X": 0.3193352520465851,
          "Y": 0.6057592630386353
        },
        {
          "Type": "eyeRight",
          "X": 0.48970475792884827,
          "Y": 0.5856793522834778
        },
        {
          "Type": "nose",
          "X": 0.4043808877468109,
          "Y": 0.726554811000824
        },
        {
          "Type": "mouthLeft",
          "X": 0.3604806959629059,
          "Y": 0.7941246032714844
        },
        {
          "Type": "mouthRight",
          "X": 0.5140022039413452,
          "Y": 0.7713675498962402
        },
        {
          "Type": "leftPupil",
          "X": 0.3010416626930237,
          "Y": 0.6047616600990295
        },
        {
          "Type": "rightPupil",
          "X": 0.47773274779319763,
          "Y": 0.5898412466049194
        },
        {
          "Type": "leftEyeBrowLeft",
          "X": 0.24104659259319305,
          "Y": 0.554790735244751
        },
        {
          "Type": "leftEyeBrowUp",
          "X": 0.2922651171684265,
          "Y": 0.5291659832000732
        },
        {
          "Type": "leftEyeBrowRight",
          "X": 0.3543483316898346,
          "Y": 0.5445635914802551
        },
        {
          "Type": "rightEyeBrowLeft",
          "X": 0.438366562128067,
          "Y": 0.5284709334373474
        },
        {
          "Type": "rightEyeBrowUp",
          "X": 0.4927721917629242,
          "Y": 0.5032138824462891
        },
        {
          "Type": "rightEyeBrowRight",
          "X": 0.5485564470291138,
          "Y": 0.5106046199798584
        },
        {
          "Type": "leftEyeLeft",
          "X": 0.28682535886764526,
          "Y": 0.606676459312439
        },
        {
          "Type": "leftEyeRight",
          "X": 0.3523319363594055,
          "Y": 0.6040283441543579
        },
        {
          "Type": "leftEyeUp",
          "X": 0.3191685080528259,
          "Y": 0.5964699983596802
        },
        {
          "Type": "leftEyeDown",
          "X": 0.3192586898803711,
          "Y": 0.6154554486274719
        },
        {
          "Type": "rightEyeLeft",
          "X": 0.45716485381126404,
          "Y": 0.5941932797431946
        },
        {
          "Type": "rightEyeRight",
          "X": 0.5229200720787048,
          "Y": 0.5777791142463684
        },
        {
          "Type": "rightEyeUp",
          "X": 0.48767799139022827,
          "Y": 0.5762225389480591
        },
        {
          "Type": "rightEyeDown",
          "X": 0.4913938045501709,
          "Y": 0.5948292016983032
        },
        {
          "Type": "noseLeft",
          "X": 0.3742028474807739,
          "Y": 0.7420245409011841
        },
        {
          "Type": "noseRight",
          "X": 0.46468648314476013,
          "Y": 0.7333931922912598
        },
        {
          "Type": "mouthUp",
          "X": 0.4339665472507477,
          "Y": 0.7914789915084839
        },
        {
          "Type": "mouthDown",
          "X": 0.4400731921195984,
          "Y": 0.8227092027664185
        }
      ],
      "Pose": {
        "Roll": -6.3993635177612305,
        "Yaw": -10.858695030212402,
        "Pitch": -12.548688888549805
      },
      "Quality": {
        "Brightness": 27.32587432861328,
        "Sharpness": 98.55191040039062
      },
      "Confidence": 99.9991455078125
    }
  ],
  "OrientationCorrection": "ROTATE_0",
  "ResponseMetadata": {
    "RequestId": "3878b810-576c-11e8-b4ef-e9105707324f",
    "HTTPStatusCode": 200,
    "HTTPHeaders": {
      "content-type": "application/x-amz-json-1.1",
      "date": "Mon, 14 May 2018 11:44:55 GMT",
      "x-amzn-requestid": "3878b810-576c-11e8-b4ef-e9105707324f",
      "content-length": "2763",
      "connection": "keep-alive"
    },
    "RetryAttempts": 0
  }
}

100

101

102

103

104

105

106

107

108

109

110

111

112

113

114

115

116

117

118

119

120

121

122

123

124

125

126

127

128

129

130

131

132

133

134

135

136

137

138

139

140

141

142

143

144

145

146

147

148

149

150

151

152

153

154

155

156

157

158

159

160

161

162

163

164

165

166

167

168

169

170

171

172

173

174

175

176

177

178

179

180

181

182

183

184

185

186

187

188

189

190

191

192

193

194

195

196

197

198

199

200

201

202

203

204

205

206

207

208

209

210

211

212

213

{

"FaceDetails": [

{

"BoundingBox": {

"Width": 0.5432692170143127,

"Height": 0.5432692170143127,

"Left": 0.1586538404226303,

"Top": 0.39423078298568726

"AgeRange": {

"Low": 26,

"High": 43

"Smile": {

"Value": true,

"Confidence": 88.67390441894531

"Eyeglasses": {

"Value": false,

"Confidence": 99.99993133544922

"Sunglasses": {

"Value": false,

"Confidence": 99.99896240234375

"Gender": {

"Value": "Female",

"Confidence": 52.36514663696289

"Beard": {

"Value": false,

"Confidence": 99.86187744140625

"Mustache": {

"Value": false,

"Confidence": 99.57250213623047

"EyesOpen": {

"Value": true,

"Confidence": 99.9950942993164

"MouthOpen": {

"Value": false,

"Confidence": 98.92902374267578

"Emotions": [

{

"Type": "HAPPY",

"Confidence": 97.94617462158203

{

"Type": "CALM",

"Confidence": 3.9698123931884766

{

"Type": "DISGUSTED",

"Confidence": 3.0542492866516113

}

"Landmarks": [

{

"Type": "eyeLeft",

"X": 0.3193352520465851,

"Y": 0.6057592630386353

{

"Type": "eyeRight",

"X": 0.48970475792884827,

"Y": 0.5856793522834778

{

"Type": "nose",

"X": 0.4043808877468109,

"Y": 0.726554811000824

{

"Type": "mouthLeft",

"X": 0.3604806959629059,

"Y": 0.7941246032714844

{

"Type": "mouthRight",

"X": 0.5140022039413452,

"Y": 0.7713675498962402

{

"Type": "leftPupil",

"X": 0.3010416626930237,

"Y": 0.6047616600990295

{

"Type": "rightPupil",

"X": 0.47773274779319763,

"Y": 0.5898412466049194

{

"Type": "leftEyeBrowLeft",

"X": 0.24104659259319305,

"Y": 0.554790735244751

{

"Type": "leftEyeBrowUp",

"X": 0.2922651171684265,

"Y": 0.5291659832000732

{

"Type": "leftEyeBrowRight",

"X": 0.3543483316898346,

"Y": 0.5445635914802551

{

"Type": "rightEyeBrowLeft",

"X": 0.438366562128067,

"Y": 0.5284709334373474

{

"Type": "rightEyeBrowUp",

"X": 0.4927721917629242,

"Y": 0.5032138824462891

{

"Type": "rightEyeBrowRight",

"X": 0.5485564470291138,

"Y": 0.5106046199798584

{

"Type": "leftEyeLeft",

"X": 0.28682535886764526,

"Y": 0.606676459312439

{

"Type": "leftEyeRight",

"X": 0.3523319363594055,

"Y": 0.6040283441543579

{

"Type": "leftEyeUp",

"X": 0.3191685080528259,

"Y": 0.5964699983596802

{

"Type": "leftEyeDown",

"X": 0.3192586898803711,

"Y": 0.6154554486274719

{

"Type": "rightEyeLeft",

"X": 0.45716485381126404,

"Y": 0.5941932797431946

{

"Type": "rightEyeRight",

"X": 0.5229200720787048,

"Y": 0.5777791142463684

{

"Type": "rightEyeUp",

"X": 0.48767799139022827,

"Y": 0.5762225389480591

{

"Type": "rightEyeDown",

"X": 0.4913938045501709,

"Y": 0.5948292016983032

{

"Type": "noseLeft",

"X": 0.3742028474807739,

"Y": 0.7420245409011841

{

"Type": "noseRight",

"X": 0.46468648314476013,

"Y": 0.7333931922912598

{

"Type": "mouthUp",

"X": 0.4339665472507477,

"Y": 0.7914789915084839

{

"Type": "mouthDown",

"X": 0.4400731921195984,

"Y": 0.8227092027664185

}

"Pose": {

"Roll": -6.3993635177612305,

"Yaw": -10.858695030212402,

"Pitch": -12.548688888549805

"Quality": {

"Brightness": 27.32587432861328,

"Sharpness": 98.55191040039062

"Confidence": 99.9991455078125

}

"OrientationCorrection": "ROTATE_0",

"ResponseMetadata": {

"RequestId": "3878b810-576c-11e8-b4ef-e9105707324f",

"HTTPStatusCode": 200,

"HTTPHeaders": {

"content-type": "application/x-amz-json-1.1",

"date": "Mon, 14 May 2018 11:44:55 GMT",

"x-amzn-requestid": "3878b810-576c-11e8-b4ef-e9105707324f",

"content-length": "2763",

"connection": "keep-alive"

"RetryAttempts": 0

}

@yamamanx

開発ベンダー5年、ユーザ企業システム部門通算9年、ITトレーナー2年目のSoftware Engineerです。
質問はコメントかSNSなどからお気軽にどうぞ。
出来る限りなるべく答えます。

このブログの内容/発言の一切は個人の見解であり、所属する組織とは関係ありません。

また、勉強会やイベントのレポートは自分が気になったことをメモしたり、聞いて思ったことを書いていますので、登壇者の意見や発表内容ではありません。

- AWS AWS, pepper, rekognition

: Amazon LinuxにRedmine 環境構築(エラーと対応をそのまま記載版)

Amazon Linuxにgit + Redmineの環境を構築してみます。自 …

: CUSTOMINEを使ってkintoneからAWS Lambdaを実行する(Cognito認証付き)

先日の記事「kintoneのカスタマイズ開発を超速にするCUSTOMINE」で書 …

: AWS ルートアカウントのMFAが使えなくなったので復旧

ルートアカウントどころか、MFAが使えるログインすべてが使えなくなって焦りました …

: Amazon Aurora Serverlessを使い始めてみました(1日経過しての課金結果も)

祝！！！ Amazon Aurora ServerlessがGAになりました！ …

: Amazon EC2(Amazon Linux 2)にRedmine3.4をインストール

久しぶりに新しい環境でRedmineを構築したくなり、せっかくなのでAmazon …

: AWS Well-Architected フレームワークによるクラウドベストプラクティスのセッションを聞いたので自アカウントの環境を確認してみる

AWS Summit Tokyo 2017で「AWS Well-Architec …

: AWS Summit 2016 Tokyoに参加してきました (Day2)

馬込は非常に良い天気です。泊まっている部屋が2Fでしたので窓を明けると歩いてい …

: Amazon Cognito User Poolsのデモをしてみました

AWS Summit 2016 Tokyoのアップデートおっかけ会をJAWS-U …

: MySQL WorkbenchからRDSに接続する

MySQL WorkbenchからAWS RDSのMySQLに接続するために、「 …

: AWS EC2 Amazon Linux にEC-CUBE3をnginx+MySql環境へインストール(手順検証中)

EC2インスタンスを作成する少し古い記事で恐縮ですが試したい事があるのでAWS …

PREV: macOS High SierraでLogicool Wireless Trackball M570tを使いやすくするためにsteerMouseをセットアップする
NEXT: kintone hiveで改めてkintoneの破壊力を見た

Pepperで撮影した写真をAmazon Rekognitionで分析してその結果をPepperがしゃべる ~(1)AWS編~

撮影した写真をS3に格納する

API Gatewayの設定

バイナリメディアタイプ

本文マッピングテンプレート

(参考)リクエストを送信するクライアント

画像を解析する

Rekognition 顔分析(detect_faces)のレスポンス

レスポンスの例

ad

ad

関連記事