Feedlyのフィードを自動でSlackへ投稿する(AWS Lambda , Amazon DynamoDB)

2017/09/30

やりたいこと

Feedlyで共有したいフィードに特定のタグを付けます。
特定のタグがついたフィードは自動的にSlackへ投稿されます。

実現方法

FeedlyのAPIを使ってダイレクトでSlackへ投稿すればいいのですが、単純にそれをすると投稿が重複する可能性があるので、間にAmazon DynamoDBを挟みました。

(1) 5分ごとにAmazon CloudWatchスケジュールで実行されるLambdaが過去30分にFeedlyで特定のタグがつけられたフィードを取得して、Amazon DynamoDBに格納します。

(2) Amazon DynamoDBのストリームにより実行されたLambdaがレコードを受け取って、Slackへ投稿します。

パーティションキーをFeedlyのfeed_idにすることで同じフィードがDynamoDBに格納されないようにしました。

この方法だと、RSSリーダーを変更するときや増やすときは、(1)の機能だけ変更するか追加するかでいいので変化を考えやすいと思いました。

動作

例えばスマートフォンアプリのFeedlyでフィードに特定のタグを付けると、

5分間隔ぐらいでSlackに投稿されます。

ソースコード

Python 3.6.1

ソースコードはGitHubにあります。

2つのディレクトリにLambda_Functionをそれぞれ入れているので、ご利用される場合はそれぞれでzipを作成して、Lambda関数を設定してください。

feedly_to_dynamo

Feedlyで特定のタグがつけられたフィードを取得して、Amazon DynamoDBに格納します。

環境変数

FEEDLY_URL : FeedlyのAPI URLです。
FEEDLY_TOKEN : Feedlyのトークンです。
DYNAMO_TABLE : Amazon Dynamodbのテーブル名
INTERVAL_MINUTE : 何分前に登録されたフィードから取得するか、指定しない場合は7日前から取得します。
FEED_COUNT : 取得するフィードの最大数を指定。指定しない場合は100。
ERROR_SLACK_URL : エラー発生時に通知したいSlackのWebhook Incoming URL
ERROR_SLACK_CHANNEL : エラー発生時に通知したいSlackのチャンネル
LOG_LEVEL : ログレベル。指定しない場合はERROR。

FeedlyのAPI URLの例

https://cloud.feedly.com/v3/streams/contents?streamId=user/userid/tag/tagname
詳しくはFeedlyのAPIのドキュメントを見てください。

Feedlyのトークン

FeedlyのAPIのドキュメント Developer Access Token内のStart hereリンクから取得してください。

コード抜粋 Feed取得

unix_time = int(time.mktime(interval_time.timetuple())) * 1000
headers = {'Authorization': feedly_token}

response_stream = requests.get(
    '{url}&count={count}&newerThan={time}'.format(
        url=feedly_url,
        count=feed_count,
        time=unix_time
    ),
    headers=headers
)
stream_data = json.loads(response_stream.text)

stream_datas = stream_data['items']

unix_time = int(time.mktime(interval_time.timetuple())) * 1000

headers = {'Authorization': feedly_token}

response_stream = requests.get(

'{url}&count={count}&newerThan={time}'.format(

url=feedly_url,

count=feed_count,

time=unix_time

headers=headers

)

stream_data = json.loads(response_stream.text)

stream_datas = stream_data['items']

コード抜粋 DynamoDB格納

dynamodb = boto3.resource('dynamodb')
table = dynamodb.Table(table_name)

for stream in stream_datas:
　　　　item = {
        'id': stream['id'],
        'url': stream['alternate'][0]['href'],
        'title': stream['title'],
        'origin': stream['origin']['title']
　　　　}
　　　　if 'summary' in stream:
        item['summary'] = stream['summary']['content']

　　　　response = table.put_item(
        Item=item
　　　　)

dynamodb = boto3.resource('dynamodb')

table = dynamodb.Table(table_name)

for stream in stream_datas:

　　　　item = {

'id': stream['id'],

'url': stream['alternate'][0]['href'],

'title': stream['title'],

'origin': stream['origin']['title']

　　　　}

　　　　if 'summary' in stream:

item['summary'] = stream['summary']['content']

　　　　response = table.put_item(

Item=item

　　　　)

dynamo_to_slack

Amazon DynamoDBのストリームにより実行されたLambdaがレコードを受け取って、Slackへ投稿します。

環境変数

SLACK_URL : 投稿先のSLACKのWebhook Incoming URL
SLACK_CHANNEL : 投稿先のSlackのチャンネル
ERROR_SLACK_URL : エラー発生時に通知したいSlackのWebhook Incoming URL
ERROR_SLACK_CHANNEL : エラー発生時に通知したいSlackのチャンネル
LOG_LEVEL : ログレベル。指定しない場合はERROR。

コード抜粋

feed = record['dynamodb']['NewImage']
url = feed['url']['S']
title = feed['title']['S']
origin = feed['origin']['S']

if 'summary' in feed:
    summary = feed['summary']['S'][0:100] + '....'
else:
    summary = ''

requests.post(
    slack_url,
    json.dumps(
        {
            'channel': slack_channel,
            'attachments':[
                {
                    'author_name': origin,
                    'title': title,
                    'title_link': url,
                    'text': summary
                }
            ]
        }
    )
)

feed = record['dynamodb']['NewImage']

url = feed['url']['S']

title = feed['title']['S']

origin = feed['origin']['S']

if 'summary' in feed:

summary = feed['summary']['S'][0:100] + '....'

else:

summary = ''

requests.post(

slack_url,

json.dumps(

{

'channel': slack_channel,

'attachments':[

{

'author_name': origin,

'title': title,

'title_link': url,

'text': summary

}

]

}

)

DynamoDBの設定

パーティションキー : id

トリガー

トリガーにLambda関数を指定します。

参考 DynamoDB ストリームイベント

{
  'Records': [
    {
      'eventID': '43dbcc14d38293df8c0112d99f3f82ad',
      'eventName': 'INSERT',
      'eventVersion': '1.1',
      'eventSource': 'aws:dynamodb',
      'awsRegion': 'ap-northeast-1',
      'dynamodb': {
        'ApproximateCreationDateTime': 1506497160.0,
        'Keys': {
          'id': {
            'S': 'ErsO8+IlENj7fuWSmTbhEXLAVFekPDwIC2AoBs6/hf0=_15e9f3c95d3:3080da7:4cab23bc'
          }
        },
        'NewImage': {
          'to_slack': {
            'N': '0'
          },
          'id': {
            'S': 'ErsO8+IlENj7fuWSmTbhEXLAVFekPDwIC2AoBs6/hf0=_15e9f3c95d3:3080da7:4cab23bc'
          },
          'url': {
            'S': 'http://dev.classmethod.jp/cloud/aws/arrange-cflogs-for-athena-by-lambda/'
          }
        },
        'SequenceNumber': '108500000000004255644569',
        'SizeBytes': 234,
        'StreamViewType': 'NEW_AND_OLD_IMAGES'
      },
      'eventSourceARN': 'arn:aws:dynamodb:ap-northeast-1:123456789012:table/table/stream/2017-09-27T07:00:53.136'
    },
    {
      'eventID': 'f9870907827c1a85c1ec00ee6129daf2',
      'eventName': 'INSERT',
      'eventVersion': '1.1',
      'eventSource': 'aws:dynamodb',
      'awsRegion': 'ap-northeast-1',
      'dynamodb': {
        'ApproximateCreationDateTime': 1506497160.0,
        'Keys': {
          'id': {
            'S': '+7yK2Kk1L25t94+pJoYpyyIvh8n5WvWLazJZb65JPpE=_15eab221e48:c66f83:c84bd0de'
          }
        },
        'NewImage': {
          'to_slack': {
            'N': '0'
          },
          'id': {
            'S': '+7yK2Kk1L25t94+pJoYpyyIvh8n5WvWLazJZb65JPpE=_15eab221e48:c66f83:c84bd0de'
          },
          'url': {
            'S': 'https://aws.amazon.com/blogs/big-data/query-and-visualize-aws-cost-and-usage-data-using-amazon-athena-and-amazon-quicksight/'
          }
        },
        'SequenceNumber': '108600000000004255644570',
        'SizeBytes': 284,
        'StreamViewType': 'NEW_AND_OLD_IMAGES'
      },
      'eventSourceARN': 'arn:aws:dynamodb:ap-northeast-1:123456789012:table/table/stream/2017-09-27T07:00:53.136'
    }
  ]
}

{

'Records': [

{

'eventID': '43dbcc14d38293df8c0112d99f3f82ad',

'eventName': 'INSERT',

'eventVersion': '1.1',

'eventSource': 'aws:dynamodb',

'awsRegion': 'ap-northeast-1',

'dynamodb': {

'ApproximateCreationDateTime': 1506497160.0,

'Keys': {

'id': {

'S': 'ErsO8+IlENj7fuWSmTbhEXLAVFekPDwIC2AoBs6/hf0=_15e9f3c95d3:3080da7:4cab23bc'

}

'NewImage': {

'to_slack': {

'N': '0'

'id': {

'S': 'ErsO8+IlENj7fuWSmTbhEXLAVFekPDwIC2AoBs6/hf0=_15e9f3c95d3:3080da7:4cab23bc'

'url': {

'S': 'http://dev.classmethod.jp/cloud/aws/arrange-cflogs-for-athena-by-lambda/'

}

'SequenceNumber': '108500000000004255644569',

'SizeBytes': 234,

'StreamViewType': 'NEW_AND_OLD_IMAGES'

'eventSourceARN': 'arn:aws:dynamodb:ap-northeast-1:123456789012:table/table/stream/2017-09-27T07:00:53.136'

{

'eventID': 'f9870907827c1a85c1ec00ee6129daf2',

'eventName': 'INSERT',

'eventVersion': '1.1',

'eventSource': 'aws:dynamodb',

'awsRegion': 'ap-northeast-1',

'dynamodb': {

'ApproximateCreationDateTime': 1506497160.0,

'Keys': {

'id': {

'S': '+7yK2Kk1L25t94+pJoYpyyIvh8n5WvWLazJZb65JPpE=_15eab221e48:c66f83:c84bd0de'

}

'NewImage': {

'to_slack': {

'N': '0'

'id': {

'S': '+7yK2Kk1L25t94+pJoYpyyIvh8n5WvWLazJZb65JPpE=_15eab221e48:c66f83:c84bd0de'

'url': {

'S': 'https://aws.amazon.com/blogs/big-data/query-and-visualize-aws-cost-and-usage-data-using-amazon-athena-and-amazon-quicksight/'

}

'SequenceNumber': '108600000000004255644570',

'SizeBytes': 284,

'StreamViewType': 'NEW_AND_OLD_IMAGES'

'eventSourceARN': 'arn:aws:dynamodb:ap-northeast-1:123456789012:table/table/stream/2017-09-27T07:00:53.136'

}

]

}

最後までお読みいただきましてありがとうございました！

「AWS認定資格試験テキスト＆問題集　AWS認定ソリューションアーキテクト - プロフェッショナル改訂第2版」という本を書きました。

「AWS認定資格試験テキスト AWS認定クラウドプラクティショナー改訂第3版」という本を書きました。

「ポケットスタディ AWS認定デベロッパーアソシエイト［DVA-C02対応］」という本を書きました。

「要点整理から攻略するAWS認定ソリューションアーキテクト-アソシエイト」という本を書きました。

「AWSではじめるLinux入門ガイド」という本を書きました。

@yamamanx

開発ベンダー5年、ユーザ企業システム部門通算9年、ITインストラクター5年目でプロトタイプビルダーもやりだしたSoftware Engineerです。
質問はコメントかSNSなどからお気軽にどうぞ。
出来る限りなるべく答えます。

このブログの内容/発言の一切は個人の見解であり、所属する組織とは関係ありません。
このブログは経験したことなどの共有を目的としており、手順や結果などを保証するものではありません。
ご参考にされる際は、読者様自身のご判断にてご対応をお願いいたします。

また、勉強会やイベントのレポートは自分が気になったことをメモしたり、聞いて思ったことを書いていますので、登壇者の意見や発表内容ではありません。

- AWS, Python api, AWS, dynamodb, lambda, python

: AWS Secrets ManagerのローテーションでLambda関数の管理が必要なくなりました

Amazon RDS と AWS Secrets Manager の統合を発表と …

: TwilioからのリクエストをAPI Gateway+LambdaでTwimlを返して処理する

Twilioで着信した時のリクエスト先としてTwimlをWebサーバやS3で用意 …

: SCPが影響しないサービスにリンクされたロールにEC2が引き受けるIAMロールは含まれないことを確認

ドキュメントで確認サービスコントロールポリシーのユーザーガイドには、「SCPは …

: AWS EC2 でインスタンスにIPアドレスを紐付ける

AWS EC2で作ったサーバは何もしなければ起動するたびにIPアドレスが変わって …

: このブログをAWS大阪リージョンへ移行しました

大阪リージョン爆誕！！朝起きて寝ぼけながらリージョンを見てると。「大阪リージ …

: Amazon EC2のスクリーンショットとは

ドキュメント見てたらAmazon EC2でスクリーンショットって機能があったので …

: 「関西AWSスタートアップ勉強会」に行ってきました

第2回関西スタートアップAWS勉強会に行ってきました。 akippa 拠点数コ …

: LMA(amazon-transcribe-live-meeting-assistant)を海外とのインタビューミーティングで使ってみました

amazon-transcribe-live-meeting-assistant …

: 特定のIAMロールをLambda(Python)で削除する

やりたいこと特定アカウントの特定の名前が含まれるIAMロールをまとめて削除した …

: Amazon Cognito User Poolsのデモをしてみました

AWS Summit 2016 Tokyoのアップデートおっかけ会をJAWS-U …

PREV: Python openpyxlで結合セルを含むExcelファイルを開くと罫線が消える
NEXT: 「kintone Café 大阪 Vol.14 〜モザイクなし！うちのkintoneはこれだ！〜」で登壇しました

Feedlyのフィードを自動でSlackへ投稿する(AWS Lambda , Amazon DynamoDB)

やりたいこと

実現方法

動作

ソースコード

feedly_to_dynamo

環境変数

FeedlyのAPI URLの例

Feedlyのトークン

コード抜粋 Feed取得

コード抜粋 DynamoDB格納

dynamo_to_slack

環境変数

コード抜粋

DynamoDBの設定

トリガー

参考 DynamoDB ストリーム イベント

ad

ad

関連記事

参考 DynamoDB ストリームイベント