Pepperで撮影した写真をAmazon Rekognitionで分析してその結果をPepperがしゃべる ~(1)AWS編~

2018/05/29 2018/07/10

Pepperの機能を使えるところは使って、何かしたいなあと思ってまして。
目(カメラ)が付いてて、音声(スピーカー)で話すことが出来るので、とりあえずは画像分析からかなと思いまして、Amazon Rekognitionを使ってみました。

※ソフトバンクロボティクスのPepperを活用し、私が独自に実施しているものです。

(1) PepperからはAPI Gateway経由でLambdaを実行します。
(2) Pepperからアップロードされた画像はS3に格納されます。
(3) その画像は、Amazon Rekognitionによって画像解析されてその結果がAPI Gateway経由でレスポンスンとして戻ります。
(4) レスポンスをPepperが会話文に整形して話します。

今回はAWS側の開発(1)~(3)について記載します。

AWS側にはこれらが必要です。
API GatewayとLambdaで実装します。

Pepperから送信される画像をS3に格納する
S3の画像をAmazon Rekognitionで分析する

リポジトリはGithubです。

LambdaのランタイムはPython3系です。

撮影した写真をS3に格納する

s3 = boto3.resource('s3')
bucket = s3.Bucket(bucekt_name)

image_body = base64.b64decode(event['body-json'])

n = 10
key = ''.join([random.choice(string.ascii_letters + string.digits) for i in range(n)])

bucket.put_object(
    Body=image_body,
    Key=key
)

s3 = boto3.resource('s3')

bucket = s3.Bucket(bucekt_name)

image_body = base64.b64decode(event['body-json'])

n = 10

key = ''.join([random.choice(string.ascii_letters + string.digits) for i in range(n)])

bucket.put_object(

Body=image_body,

Key=key

)

バイナリデータをb64decodeでデコード
S3オブジェクトキーをrandomで生成
buckt.put_objectでS3に画像ファイルをアップロード

API Gatewayの設定

バイナリメディアタイプ

[設定] – [バイナリメディアタイプ]に、image/jpg を設定

他は任意で追加

本文マッピングテンプレート

[リソース] – [統合リクエスト] – [本文マッピングテンプレート]

Content-Typeに image/jpg を追加。
テンプレートの生成は「メソッドリクエストのパススルー」を設定。

他のContent-Typeは任意で追加。

(参考)リクエストを送信するクライアント

data = open(file_path, 'rb').read()
response = requests.post(
    url=api_url,
    data=data,
    headers={'Content-Type': 'image/jpg'}
)

data = open(file_path, 'rb').read()

response = requests.post(

url=api_url,

data=data,

headers={'Content-Type': 'image/jpg'}

)

画像ファイルをdata引数にわたす
headersでContent-Typeで image/jpgを設定

画像を解析する

client = boto3.client('rekognition')
response = client.detect_faces(
    Image={
        'S3Object': {
            'Bucket': bucekt_name,
            'Name': key
        }
    },
    Attributes=['ALL']
)

return response

client = boto3.client('rekognition')

response = client.detect_faces(

Image={

'S3Object': {

'Bucket': bucekt_name,

'Name': key

}

Attributes=['ALL']

)

return response

引数のバケット名、オブジェクトキー対象の画像を分析
バージョニングしているS3の場合はバージョンIDを指定することも可能

これ1行で書けちまってるんですよね。

Rekognition 顔分析(detect_faces)のレスポンス

FaceDetailsのに画像の中の人数分の結果が配列になって戻される。

key	内容	値の例
AgeRange.Low	年齢幅の下	26
AgeRange.High	年齢幅の上	43
Smile.Value	笑顔か	true or false
Smile.Confidence	笑顔の可能性	88.67390441894531
Eyeglasses.Value	眼鏡をしているか	true or false
Eyeglasses.Confidence	眼鏡をしている可能性	99.99993133544922
Sunglasses.Value	サングラスをしているか	true or false
Sunglasses.Confidence	サングラスをしている可能性	99.99896240234375
Gender.Value	性別	Male or Female
Gender.Confidence	性別の可能性	52.36514663696289
Beard.Value	髭が生えているか	true or false
Beard.Confidence	髭の可能性	99.86187744140625
Mustache.Value	口ひげが生えているか	true or false
Mustache.Confidence	口ひげの可能性	99.57250213623047
EyesOpen.Value	目が空いているか	true or false
EyesOpen.Confidence	目が空いている可能性	99.9950942993164
MouthOpen.Value	口が空いているか	true or false
MouthOpen.Confidence	口が空いている可能性	98.92902374267578
Emotions.Type	感情	HAPPY,SAD,ANGRY
Emotions.Confidence	感情の可能性	98.92902374267578

※Emotionsは配列です。
※Emotionsの値にはHAPPY,SAD,ANGRY,CONFUSED,DISGUSTED,SURPRISED,CALM,UNKNOWNがあります。

レスポンスの例

上記以外にも画像内の位置情報も戻ってきます。

以下は実際のレスポンスです。

{
  "FaceDetails": [
    {
      "BoundingBox": {
        "Width": 0.5432692170143127,
        "Height": 0.5432692170143127,
        "Left": 0.1586538404226303,
        "Top": 0.39423078298568726
      },
      "AgeRange": {
        "Low": 26,
        "High": 43
      },
      "Smile": {
        "Value": true,
        "Confidence": 88.67390441894531
      },
      "Eyeglasses": {
        "Value": false,
        "Confidence": 99.99993133544922
      },
      "Sunglasses": {
        "Value": false,
        "Confidence": 99.99896240234375
      },
      "Gender": {
        "Value": "Female",
        "Confidence": 52.36514663696289
      },
      "Beard": {
        "Value": false,
        "Confidence": 99.86187744140625
      },
      "Mustache": {
        "Value": false,
        "Confidence": 99.57250213623047
      },
      "EyesOpen": {
        "Value": true,
        "Confidence": 99.9950942993164
      },
      "MouthOpen": {
        "Value": false,
        "Confidence": 98.92902374267578
      },
      "Emotions": [
        {
          "Type": "HAPPY",
          "Confidence": 97.94617462158203
        },
        {
          "Type": "CALM",
          "Confidence": 3.9698123931884766
        },
        {
          "Type": "DISGUSTED",
          "Confidence": 3.0542492866516113
        }
      ],
      "Landmarks": [
        {
          "Type": "eyeLeft",
          "X": 0.3193352520465851,
          "Y": 0.6057592630386353
        },
        {
          "Type": "eyeRight",
          "X": 0.48970475792884827,
          "Y": 0.5856793522834778
        },
        {
          "Type": "nose",
          "X": 0.4043808877468109,
          "Y": 0.726554811000824
        },
        {
          "Type": "mouthLeft",
          "X": 0.3604806959629059,
          "Y": 0.7941246032714844
        },
        {
          "Type": "mouthRight",
          "X": 0.5140022039413452,
          "Y": 0.7713675498962402
        },
        {
          "Type": "leftPupil",
          "X": 0.3010416626930237,
          "Y": 0.6047616600990295
        },
        {
          "Type": "rightPupil",
          "X": 0.47773274779319763,
          "Y": 0.5898412466049194
        },
        {
          "Type": "leftEyeBrowLeft",
          "X": 0.24104659259319305,
          "Y": 0.554790735244751
        },
        {
          "Type": "leftEyeBrowUp",
          "X": 0.2922651171684265,
          "Y": 0.5291659832000732
        },
        {
          "Type": "leftEyeBrowRight",
          "X": 0.3543483316898346,
          "Y": 0.5445635914802551
        },
        {
          "Type": "rightEyeBrowLeft",
          "X": 0.438366562128067,
          "Y": 0.5284709334373474
        },
        {
          "Type": "rightEyeBrowUp",
          "X": 0.4927721917629242,
          "Y": 0.5032138824462891
        },
        {
          "Type": "rightEyeBrowRight",
          "X": 0.5485564470291138,
          "Y": 0.5106046199798584
        },
        {
          "Type": "leftEyeLeft",
          "X": 0.28682535886764526,
          "Y": 0.606676459312439
        },
        {
          "Type": "leftEyeRight",
          "X": 0.3523319363594055,
          "Y": 0.6040283441543579
        },
        {
          "Type": "leftEyeUp",
          "X": 0.3191685080528259,
          "Y": 0.5964699983596802
        },
        {
          "Type": "leftEyeDown",
          "X": 0.3192586898803711,
          "Y": 0.6154554486274719
        },
        {
          "Type": "rightEyeLeft",
          "X": 0.45716485381126404,
          "Y": 0.5941932797431946
        },
        {
          "Type": "rightEyeRight",
          "X": 0.5229200720787048,
          "Y": 0.5777791142463684
        },
        {
          "Type": "rightEyeUp",
          "X": 0.48767799139022827,
          "Y": 0.5762225389480591
        },
        {
          "Type": "rightEyeDown",
          "X": 0.4913938045501709,
          "Y": 0.5948292016983032
        },
        {
          "Type": "noseLeft",
          "X": 0.3742028474807739,
          "Y": 0.7420245409011841
        },
        {
          "Type": "noseRight",
          "X": 0.46468648314476013,
          "Y": 0.7333931922912598
        },
        {
          "Type": "mouthUp",
          "X": 0.4339665472507477,
          "Y": 0.7914789915084839
        },
        {
          "Type": "mouthDown",
          "X": 0.4400731921195984,
          "Y": 0.8227092027664185
        }
      ],
      "Pose": {
        "Roll": -6.3993635177612305,
        "Yaw": -10.858695030212402,
        "Pitch": -12.548688888549805
      },
      "Quality": {
        "Brightness": 27.32587432861328,
        "Sharpness": 98.55191040039062
      },
      "Confidence": 99.9991455078125
    }
  ],
  "OrientationCorrection": "ROTATE_0",
  "ResponseMetadata": {
    "RequestId": "3878b810-576c-11e8-b4ef-e9105707324f",
    "HTTPStatusCode": 200,
    "HTTPHeaders": {
      "content-type": "application/x-amz-json-1.1",
      "date": "Mon, 14 May 2018 11:44:55 GMT",
      "x-amzn-requestid": "3878b810-576c-11e8-b4ef-e9105707324f",
      "content-length": "2763",
      "connection": "keep-alive"
    },
    "RetryAttempts": 0
  }
}

100

101

102

103

104

105

106

107

108

109

110

111

112

113

114

115

116

117

118

119

120

121

122

123

124

125

126

127

128

129

130

131

132

133

134

135

136

137

138

139

140

141

142

143

144

145

146

147

148

149

150

151

152

153

154

155

156

157

158

159

160

161

162

163

164

165

166

167

168

169

170

171

172

173

174

175

176

177

178

179

180

181

182

183

184

185

186

187

188

189

190

191

192

193

194

195

196

197

198

199

200

201

202

203

204

205

206

207

208

209

210

211

212

213

{

"FaceDetails": [

{

"BoundingBox": {

"Width": 0.5432692170143127,

"Height": 0.5432692170143127,

"Left": 0.1586538404226303,

"Top": 0.39423078298568726

"AgeRange": {

"Low": 26,

"High": 43

"Smile": {

"Value": true,

"Confidence": 88.67390441894531

"Eyeglasses": {

"Value": false,

"Confidence": 99.99993133544922

"Sunglasses": {

"Value": false,

"Confidence": 99.99896240234375

"Gender": {

"Value": "Female",

"Confidence": 52.36514663696289

"Beard": {

"Value": false,

"Confidence": 99.86187744140625

"Mustache": {

"Value": false,

"Confidence": 99.57250213623047

"EyesOpen": {

"Value": true,

"Confidence": 99.9950942993164

"MouthOpen": {

"Value": false,

"Confidence": 98.92902374267578

"Emotions": [

{

"Type": "HAPPY",

"Confidence": 97.94617462158203

{

"Type": "CALM",

"Confidence": 3.9698123931884766

{

"Type": "DISGUSTED",

"Confidence": 3.0542492866516113

}

"Landmarks": [

{

"Type": "eyeLeft",

"X": 0.3193352520465851,

"Y": 0.6057592630386353

{

"Type": "eyeRight",

"X": 0.48970475792884827,

"Y": 0.5856793522834778

{

"Type": "nose",

"X": 0.4043808877468109,

"Y": 0.726554811000824

{

"Type": "mouthLeft",

"X": 0.3604806959629059,

"Y": 0.7941246032714844

{

"Type": "mouthRight",

"X": 0.5140022039413452,

"Y": 0.7713675498962402

{

"Type": "leftPupil",

"X": 0.3010416626930237,

"Y": 0.6047616600990295

{

"Type": "rightPupil",

"X": 0.47773274779319763,

"Y": 0.5898412466049194

{

"Type": "leftEyeBrowLeft",

"X": 0.24104659259319305,

"Y": 0.554790735244751

{

"Type": "leftEyeBrowUp",

"X": 0.2922651171684265,

"Y": 0.5291659832000732

{

"Type": "leftEyeBrowRight",

"X": 0.3543483316898346,

"Y": 0.5445635914802551

{

"Type": "rightEyeBrowLeft",

"X": 0.438366562128067,

"Y": 0.5284709334373474

{

"Type": "rightEyeBrowUp",

"X": 0.4927721917629242,

"Y": 0.5032138824462891

{

"Type": "rightEyeBrowRight",

"X": 0.5485564470291138,

"Y": 0.5106046199798584

{

"Type": "leftEyeLeft",

"X": 0.28682535886764526,

"Y": 0.606676459312439

{

"Type": "leftEyeRight",

"X": 0.3523319363594055,

"Y": 0.6040283441543579

{

"Type": "leftEyeUp",

"X": 0.3191685080528259,

"Y": 0.5964699983596802

{

"Type": "leftEyeDown",

"X": 0.3192586898803711,

"Y": 0.6154554486274719

{

"Type": "rightEyeLeft",

"X": 0.45716485381126404,

"Y": 0.5941932797431946

{

"Type": "rightEyeRight",

"X": 0.5229200720787048,

"Y": 0.5777791142463684

{

"Type": "rightEyeUp",

"X": 0.48767799139022827,

"Y": 0.5762225389480591

{

"Type": "rightEyeDown",

"X": 0.4913938045501709,

"Y": 0.5948292016983032

{

"Type": "noseLeft",

"X": 0.3742028474807739,

"Y": 0.7420245409011841

{

"Type": "noseRight",

"X": 0.46468648314476013,

"Y": 0.7333931922912598

{

"Type": "mouthUp",

"X": 0.4339665472507477,

"Y": 0.7914789915084839

{

"Type": "mouthDown",

"X": 0.4400731921195984,

"Y": 0.8227092027664185

}

"Pose": {

"Roll": -6.3993635177612305,

"Yaw": -10.858695030212402,

"Pitch": -12.548688888549805

"Quality": {

"Brightness": 27.32587432861328,

"Sharpness": 98.55191040039062

"Confidence": 99.9991455078125

}

"OrientationCorrection": "ROTATE_0",

"ResponseMetadata": {

"RequestId": "3878b810-576c-11e8-b4ef-e9105707324f",

"HTTPStatusCode": 200,

"HTTPHeaders": {

"content-type": "application/x-amz-json-1.1",

"date": "Mon, 14 May 2018 11:44:55 GMT",

"x-amzn-requestid": "3878b810-576c-11e8-b4ef-e9105707324f",

"content-length": "2763",

"connection": "keep-alive"

"RetryAttempts": 0

}

最後までお読みいただきましてありがとうございました！

「AWS認定資格試験テキスト＆問題集　AWS認定ソリューションアーキテクト - プロフェッショナル改訂第2版」という本を書きました。

「AWS認定資格試験テキスト AWS認定クラウドプラクティショナー改訂第3版」という本を書きました。

「ポケットスタディ AWS認定デベロッパーアソシエイト［DVA-C02対応］」という本を書きました。

「要点整理から攻略するAWS認定ソリューションアーキテクト-アソシエイト」という本を書きました。

「AWSではじめるLinux入門ガイド」という本を書きました。

@yamamanx

開発ベンダー5年、ユーザ企業システム部門通算9年、ITインストラクター5年目でプロトタイプビルダーもやりだしたSoftware Engineerです。
質問はコメントかSNSなどからお気軽にどうぞ。
出来る限りなるべく答えます。

このブログの内容/発言の一切は個人の見解であり、所属する組織とは関係ありません。
このブログは経験したことなどの共有を目的としており、手順や結果などを保証するものではありません。
ご参考にされる際は、読者様自身のご判断にてご対応をお願いいたします。

また、勉強会やイベントのレポートは自分が気になったことをメモしたり、聞いて思ったことを書いていますので、登壇者の意見や発表内容ではありません。

- AWS AWS, pepper, rekognition

: API GatewayのアクセスログをCloudWatchに記録する

Amazon API GatewayのアクセスログをCloudWatchに記録で …

: RDS for MySQL のインスタンスタイプ変更

当ブログのデータベースは、RDS for MySQLです。個人利用ですし、障害 …

: AWS Summit 2016 Tokyoに参加してきました (前日 ~ Day1)

AWS Summit 2016 Tokyoにて、セッション聴講、ブース展示拝見、 …

: CloudWatch LogsをIPv6アドレスを使用して送信する

このブログの構成からパブリックIPv4を減らすように設計変更しています。もとも …

: CloudFront用のAWS管理プレフィックスリストを使用しました

このブログでは、CloudFrontのカスタムヘッダーとALBのルーティングを組 …

: Former2で既存リソースのCloudFormationテンプレート出力を試してみた

JAWS DAYS 2020の資料確認のお手伝いを少ししてまして、「ゼロからはじ …

: Amazon Linux2のCloud9でPython CDKのモジュールインストール

AMIがCloud9AmazonLinux2-2021-02-02T16-48の …

: Amazon Pollyを使って覚えたい資料を耳から身体に染み込ませる

Amazon Pollyを使うとソースコードを一切かかなくても、テキストを音声に …

: AWS Savings Plansを検討しました

今、個人でAWSアカウントを７つ使っています。 Savings Plansが使え …

: Amazon Auroraのスナップショットの暗号化とリージョン間コピーを改めて試しました

Amazon Auroraデータベースを暗号化して、スナップショットを作成、クロ …

PREV: macOS High SierraでLogicool Wireless Trackball M570tを使いやすくするためにsteerMouseをセットアップする
NEXT: kintone hiveで改めてkintoneの破壊力を見た

Pepperで撮影した写真をAmazon Rekognitionで分析してその結果をPepperがしゃべる ~(1)AWS編~

撮影した写真をS3に格納する

API Gatewayの設定

バイナリメディアタイプ

本文マッピングテンプレート

(参考)リクエストを送信するクライアント

画像を解析する

Rekognition 顔分析(detect_faces)のレスポンス

レスポンスの例

ad

ad

関連記事