TuneCoreの売上データCSVをS3に格納してAthenaのクエリをRe:dashのデータソースにして可視化する

2017/06/05 2017/06/06

先日参加しましたAWS Summit Tokyo 2017で、
[JapanTaxi] Athena 指向アナリティクス〜真面目に手を抜き価値を得よ〜(AWS Summit Tokyo 2017)を聞いてきました、
ので、S3->Athen->Re:dashの構成をやってみたくなりましたのでやってみました。

TuneCoreという国内外の音楽配信サービスのディストリビューターとして一括で仲介してくれるサービスに個人的にお世話になっておりまして、その月次レポートをS3->Athen->Re:dashで可視化してみました。

S3の設定

特に設定するところはありません。
バケットを作成して、TuneCoreからダウンロード出来るCSVをアップロードしました。
CSVは1行目とフッタにあるコメント行を削除してShift-JISからUTF-8に変換しました。

Athenaの設定

[Add Table]からウィザードを使ってCSV選択で1カラムだけのテーブル作成のSQLを生成して、そこにカラムを手書きで足しました。

こんなSQLになりました。

CREATE EXTERNAL TABLE IF NOT EXISTS tunecore8bangai.tunecorelist (
  `application_month` string ,
  `achievement_month` string,
  `store` string,
  `service` string,
  `country` string,
  `artist` string,
  `release` string,
  `music` string,
  `jan_upc` string,
  `isrc` string,
  `label` string,
  `sales_format` string,
  `unit_selling_price` double,
  `sales_currency` string,
  `sales_revenue_unit_price` double,
  `request_count` int,
  `sales_revenue_sum` double 
)
ROW FORMAT SERDE 'org.apache.hadoop.hive.serde2.lazy.LazySimpleSerDe'
WITH SERDEPROPERTIES (
  'serialization.format' = ',',
  'field.delim' = ','
) LOCATION 's3://bucket-name/'
TBLPROPERTIES ('has_encrypted_data'='true');

CREATE EXTERNAL TABLE IF NOT EXISTS tunecore8bangai.tunecorelist (

`application_month` string ,

`achievement_month` string,

`store` string,

`service` string,

`country` string,

`artist` string,

`release` string,

`music` string,

`jan_upc` string,

`isrc` string,

`label` string,

`sales_format` string,

`unit_selling_price` double,

`sales_currency` string,

`sales_revenue_unit_price` double,

`request_count` int,

`sales_revenue_sum` double

)

ROW FORMAT SERDE 'org.apache.hadoop.hive.serde2.lazy.LazySimpleSerDe'

WITH SERDEPROPERTIES (

'serialization.format' = ',',

'field.delim' = ','

) LOCATION 's3://bucket-name/'

TBLPROPERTIES ('has_encrypted_data'='true');

Re:dash用のIAMの作成

Re:dash Help Center Amazon Athena Setupに準じて設定します。

アタッチするポリシーは
AWSQuicksightAthenaAccess
と
次のポリシーです。
「my-bucket」はAthenaの[Setting] – [Query result location]を設定しました。

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Effect": "Allow",
            "Action": [
                "s3:GetObject"
            ],
            "Resource": [
                "arn:aws:s3:::my-bucket/*"
            ]
        },
        {
            "Effect": "Allow",
            "Action": [
                "s3:GetBucketLocation",
                "s3:ListBucket"
            ],
            "Resource": [
                "arn:aws:s3:::my-bucket"
            ]
        }
    ]
}

{

"Version": "2012-10-17",

"Statement": [

{

"Effect": "Allow",

"Action": [

"s3:GetObject"

"Resource": [

"arn:aws:s3:::my-bucket/*"

]

{

"Effect": "Allow",

"Action": [

"s3:GetBucketLocation",

"s3:ListBucket"

"Resource": [

"arn:aws:s3:::my-bucket"

]

}

]

}

Re:dashの設定

Re:dashのバージョンは1.0.3+b2850です。

ここからは手間取りましたが、最終的にこちらの2サイトの通りにやって出来ました。
ありがとうございます。

[Docker] ubuntu 14.04/16.04にDockerをインストール

Redash での Amazon Athena 連携に関して

Re:dashサーバにDockerをインストール

ubuntuは14.04です。

Athena ProxyサーバをDockerで起動するためにRe:dashサーバ(ubuntu)にDockerをインストールします。

$ sudo apt-get update
$ sudo apt-get install apt-transport-https ca-certificates
$ sudo apt-key adv \
               --keyserver hkp://ha.pool.sks-keyservers.net:80 \
               --recv-keys 58118E89F3A912897C070ADBF76221572C52609D
$ echo "deb https://apt.dockerproject.org/repo ubuntu-trusty main" | sudo tee /etc/apt/sources.list.d/docker.list
$ sudo apt-get update
$ sudo apt-get install linux-image-extra-$(uname -r) linux-image-extra-virtual
$ sudo apt-get update
$ sudo apt-get install docker-engine

$ sudo apt-get update

$ sudo apt-get install apt-transport-https ca-certificates

$ sudo apt-key adv \

--keyserver hkp://ha.pool.sks-keyservers.net:80 \

--recv-keys 58118E89F3A912897C070ADBF76221572C52609D

$ echo "deb https://apt.dockerproject.org/repo ubuntu-trusty main" | sudo tee /etc/apt/sources.list.d/docker.list

$ sudo apt-get update

$ sudo apt-get install linux-image-extra-$(uname -r) linux-image-extra-virtual

$ sudo apt-get update

$ sudo apt-get install docker-engine

Re:dashサーバでredash-amazon-athena-proxyを起動

$ git clone https://github.com/getredash/redash-amazon-athena-proxy.git
$ cd redash-amazon-athena-proxy
$ sudo docker build .
$ sudo docker images

$ git clone https://github.com/getredash/redash-amazon-athena-proxy.git

$ cd redash-amazon-athena-proxy

$ sudo docker build .

$ sudo docker images

IMAGE IDを確認して次のコマンドで使用

$ sudo docker run -d --name redash-amazon-athena-proxy -p 4567:4567 <IMAGE ID>

1 2	$ sudo docker run -d --name redash-amazon-athena-proxy -p 4567:4567 <IMAGE ID>

Re:dashの .envに環境変数を追加

※環境にもよりますがイメージからRe:dashを作っている場合は、 /opt/redash/.env

export ATHENA_PROXY_URL=http://localhost:4567/query
export REDASH_ADDITIONAL_QUERY_RUNNERS=redash.query_runner.athena

export ATHENA_PROXY_URL=http://localhost:4567/query

export REDASH_ADDITIONAL_QUERY_RUNNERS=redash.query_runner.athena

Re:dashでAthenaをデータソースに設定

Re:dashのデータソースでAmazon Athenaが選択出来るようなりました。

Name : 任意
Type : Amazon Athena
AWS Secret Key : 事前に作成したIAMユーザのシークレットキー
AWS Region : Athenaのリージョン
AWS Access key : 事前に作成したIAMユーザのアクセスキー
S3 Staging Path : Athenaの[Setting] – [Query result location]

これでクエリーが実行出来て、ビジュアライゼーションが作成出来て、ダッシュボードに設定出来ます。

ストア別とか、曲別とか、一覧とか作ってみて、、、、、
出来た！

@yamamanx

開発ベンダー5年、ユーザ企業システム部門通算8年目のSoftware Engineerです。
質問はコメントかSNSなどからお気軽にどうぞ。
出来る限りなるべく答えます。

- AWS, BI athena, AWS, re:dash, s3

Message コメントをキャンセル

: AWS RDS でMySQLインスタンスを構築する

Amazon Web ServiceにはAmazon Relational Da …

: AWS EC2 でインスタンスにIPアドレスを紐付ける

AWS EC2で作ったサーバは何もしなければ起動するたびにIPアドレスが変わって …

: AWS EC2でAMI(Amazon Machine Image)を作成しておく

前回まででひとまずRedmineを構築するところまで出来たので、念のためスナップ …

: JAWS-UG Osaka 第14回勉強会「DIY」〜自社内システムを作る側からの物申す〜に参加、運営、登壇しました

先日、JAWS-UG Osaka 第14回勉強会「DIY」〜自社内システムを …

: DS18B20センサー+Raspberry Piで取得した温度をAmazon Kinesis FirehoseからS3へ格納してAthenaでクエリーしたのをQuickSightで可視化する

JAWS DAYS 2017でやりますハンズオンの「[IoTハンズオン] Ras …

: Amazon LinuxのNginx+RDS MySQLにレンタルWebサーバーからWordPressを移設する(失敗、手戻りそのまま記載版)

勉強のためブログサイトを長らくお世話になったロリポップさんから、AWSに移設する …

: Re:dash CSVの出力コードをUTF-8から他の文字コードに変更する事が出来るようになります

先日、Re:dash CSVの出力文字コードをUTF-8からShift-JISに …

: LINE Bot APIのファーストステップをLambda+API Gatewayでやってみたらものすごく簡単で驚いた

トライアル当初はホワイトリストのしばりや、初回反応するまで時間がかかったりとみな …

: AWS Code Commitをプライベートリポジトリとして使う

GitHubでもいいんですが、アクセスキーとかパスワードとかコンフィグ系で書いて …

: TwilioからのリクエストをAPI Gateway+LambdaでTwimlを返して処理する

Twilioで着信した時のリクエスト先としてTwimlをWebサーバやS3で用意 …

PREV: [JapanTaxi] Athena 指向アナリティクス〜真面目に手を抜き価値を得よ〜(AWS Summit Tokyo 2017)を聞いてきました
NEXT: Raspberry PIとLinux(Mint)でUSB Serial通信

TuneCoreの売上データCSVをS3に格納してAthenaのクエリをRe:dashのデータソースにして可視化する

S3の設定

Athenaの設定

Re:dash用のIAMの作成

Re:dashの設定

Re:dashサーバにDockerをインストール

Re:dashサーバでredash-amazon-athena-proxyを起動

Re:dashの .envに環境変数を追加

Re:dashでAthenaをデータソースに設定

ad

ad

Message コメントをキャンセル

関連記事