Feedlyのフィードを自動でSlackへ投稿する(AWS Lambda , Amazon DynamoDB)

2017/09/30

やりたいこと

Feedlyで共有したいフィードに特定のタグを付けます。
特定のタグがついたフィードは自動的にSlackへ投稿されます。

実現方法

FeedlyのAPIを使ってダイレクトでSlackへ投稿すればいいのですが、単純にそれをすると投稿が重複する可能性があるので、間にAmazon DynamoDBを挟みました。

(1) 5分ごとにAmazon CloudWatchスケジュールで実行されるLambdaが過去30分にFeedlyで特定のタグがつけられたフィードを取得して、Amazon DynamoDBに格納します。

(2) Amazon DynamoDBのストリームにより実行されたLambdaがレコードを受け取って、Slackへ投稿します。

パーティションキーをFeedlyのfeed_idにすることで同じフィードがDynamoDBに格納されないようにしました。

この方法だと、RSSリーダーを変更するときや増やすときは、(1)の機能だけ変更するか追加するかでいいので変化を考えやすいと思いました。

動作

例えばスマートフォンアプリのFeedlyでフィードに特定のタグを付けると、

5分間隔ぐらいでSlackに投稿されます。

ソースコード

Python 3.6.1

ソースコードはGitHubにあります。

2つのディレクトリにLambda_Functionをそれぞれ入れているので、ご利用される場合はそれぞれでzipを作成して、Lambda関数を設定してください。

feedly_to_dynamo

Feedlyで特定のタグがつけられたフィードを取得して、Amazon DynamoDBに格納します。

環境変数

FEEDLY_URL : FeedlyのAPI URLです。
FEEDLY_TOKEN : Feedlyのトークンです。
DYNAMO_TABLE : Amazon Dynamodbのテーブル名
INTERVAL_MINUTE : 何分前に登録されたフィードから取得するか、指定しない場合は7日前から取得します。
FEED_COUNT : 取得するフィードの最大数を指定。指定しない場合は100。
ERROR_SLACK_URL : エラー発生時に通知したいSlackのWebhook Incoming URL
ERROR_SLACK_CHANNEL : エラー発生時に通知したいSlackのチャンネル
LOG_LEVEL : ログレベル。指定しない場合はERROR。

FeedlyのAPI URLの例

https://cloud.feedly.com/v3/streams/contents?streamId=user/userid/tag/tagname
詳しくはFeedlyのAPIのドキュメントを見てください。

Feedlyのトークン

FeedlyのAPIのドキュメント Developer Access Token内のStart hereリンクから取得してください。

コード抜粋 Feed取得

unix_time = int(time.mktime(interval_time.timetuple())) * 1000
headers = {'Authorization': feedly_token}

response_stream = requests.get(
    '{url}&count={count}&newerThan={time}'.format(
        url=feedly_url,
        count=feed_count,
        time=unix_time
    ),
    headers=headers
)
stream_data = json.loads(response_stream.text)

stream_datas = stream_data['items']

unix_time = int(time.mktime(interval_time.timetuple())) * 1000

headers = {'Authorization': feedly_token}

response_stream = requests.get(

'{url}&count={count}&newerThan={time}'.format(

url=feedly_url,

count=feed_count,

time=unix_time

headers=headers

)

stream_data = json.loads(response_stream.text)

stream_datas = stream_data['items']

コード抜粋 DynamoDB格納

dynamodb = boto3.resource('dynamodb')
table = dynamodb.Table(table_name)

for stream in stream_datas:
　　　　item = {
        'id': stream['id'],
        'url': stream['alternate'][0]['href'],
        'title': stream['title'],
        'origin': stream['origin']['title']
　　　　}
　　　　if 'summary' in stream:
        item['summary'] = stream['summary']['content']

　　　　response = table.put_item(
        Item=item
　　　　)

dynamodb = boto3.resource('dynamodb')

table = dynamodb.Table(table_name)

for stream in stream_datas:

　　　　item = {

'id': stream['id'],

'url': stream['alternate'][0]['href'],

'title': stream['title'],

'origin': stream['origin']['title']

　　　　}

　　　　if 'summary' in stream:

item['summary'] = stream['summary']['content']

　　　　response = table.put_item(

Item=item

　　　　)

dynamo_to_slack

Amazon DynamoDBのストリームにより実行されたLambdaがレコードを受け取って、Slackへ投稿します。

環境変数

SLACK_URL : 投稿先のSLACKのWebhook Incoming URL
SLACK_CHANNEL : 投稿先のSlackのチャンネル
ERROR_SLACK_URL : エラー発生時に通知したいSlackのWebhook Incoming URL
ERROR_SLACK_CHANNEL : エラー発生時に通知したいSlackのチャンネル
LOG_LEVEL : ログレベル。指定しない場合はERROR。

コード抜粋

feed = record['dynamodb']['NewImage']
url = feed['url']['S']
title = feed['title']['S']
origin = feed['origin']['S']

if 'summary' in feed:
    summary = feed['summary']['S'][0:100] + '....'
else:
    summary = ''

requests.post(
    slack_url,
    json.dumps(
        {
            'channel': slack_channel,
            'attachments':[
                {
                    'author_name': origin,
                    'title': title,
                    'title_link': url,
                    'text': summary
                }
            ]
        }
    )
)

feed = record['dynamodb']['NewImage']

url = feed['url']['S']

title = feed['title']['S']

origin = feed['origin']['S']

if 'summary' in feed:

summary = feed['summary']['S'][0:100] + '....'

else:

summary = ''

requests.post(

slack_url,

json.dumps(

{

'channel': slack_channel,

'attachments':[

{

'author_name': origin,

'title': title,

'title_link': url,

'text': summary

}

]

}

)

DynamoDBの設定

パーティションキー : id

トリガー

トリガーにLambda関数を指定します。

参考 DynamoDB ストリームイベント

{
  'Records': [
    {
      'eventID': '43dbcc14d38293df8c0112d99f3f82ad',
      'eventName': 'INSERT',
      'eventVersion': '1.1',
      'eventSource': 'aws:dynamodb',
      'awsRegion': 'ap-northeast-1',
      'dynamodb': {
        'ApproximateCreationDateTime': 1506497160.0,
        'Keys': {
          'id': {
            'S': 'ErsO8+IlENj7fuWSmTbhEXLAVFekPDwIC2AoBs6/hf0=_15e9f3c95d3:3080da7:4cab23bc'
          }
        },
        'NewImage': {
          'to_slack': {
            'N': '0'
          },
          'id': {
            'S': 'ErsO8+IlENj7fuWSmTbhEXLAVFekPDwIC2AoBs6/hf0=_15e9f3c95d3:3080da7:4cab23bc'
          },
          'url': {
            'S': 'http://dev.classmethod.jp/cloud/aws/arrange-cflogs-for-athena-by-lambda/'
          }
        },
        'SequenceNumber': '108500000000004255644569',
        'SizeBytes': 234,
        'StreamViewType': 'NEW_AND_OLD_IMAGES'
      },
      'eventSourceARN': 'arn:aws:dynamodb:ap-northeast-1:123456789012:table/table/stream/2017-09-27T07:00:53.136'
    },
    {
      'eventID': 'f9870907827c1a85c1ec00ee6129daf2',
      'eventName': 'INSERT',
      'eventVersion': '1.1',
      'eventSource': 'aws:dynamodb',
      'awsRegion': 'ap-northeast-1',
      'dynamodb': {
        'ApproximateCreationDateTime': 1506497160.0,
        'Keys': {
          'id': {
            'S': '+7yK2Kk1L25t94+pJoYpyyIvh8n5WvWLazJZb65JPpE=_15eab221e48:c66f83:c84bd0de'
          }
        },
        'NewImage': {
          'to_slack': {
            'N': '0'
          },
          'id': {
            'S': '+7yK2Kk1L25t94+pJoYpyyIvh8n5WvWLazJZb65JPpE=_15eab221e48:c66f83:c84bd0de'
          },
          'url': {
            'S': 'https://aws.amazon.com/blogs/big-data/query-and-visualize-aws-cost-and-usage-data-using-amazon-athena-and-amazon-quicksight/'
          }
        },
        'SequenceNumber': '108600000000004255644570',
        'SizeBytes': 284,
        'StreamViewType': 'NEW_AND_OLD_IMAGES'
      },
      'eventSourceARN': 'arn:aws:dynamodb:ap-northeast-1:123456789012:table/table/stream/2017-09-27T07:00:53.136'
    }
  ]
}

{

'Records': [

{

'eventID': '43dbcc14d38293df8c0112d99f3f82ad',

'eventName': 'INSERT',

'eventVersion': '1.1',

'eventSource': 'aws:dynamodb',

'awsRegion': 'ap-northeast-1',

'dynamodb': {

'ApproximateCreationDateTime': 1506497160.0,

'Keys': {

'id': {

'S': 'ErsO8+IlENj7fuWSmTbhEXLAVFekPDwIC2AoBs6/hf0=_15e9f3c95d3:3080da7:4cab23bc'

}

'NewImage': {

'to_slack': {

'N': '0'

'id': {

'S': 'ErsO8+IlENj7fuWSmTbhEXLAVFekPDwIC2AoBs6/hf0=_15e9f3c95d3:3080da7:4cab23bc'

'url': {

'S': 'http://dev.classmethod.jp/cloud/aws/arrange-cflogs-for-athena-by-lambda/'

}

'SequenceNumber': '108500000000004255644569',

'SizeBytes': 234,

'StreamViewType': 'NEW_AND_OLD_IMAGES'

'eventSourceARN': 'arn:aws:dynamodb:ap-northeast-1:123456789012:table/table/stream/2017-09-27T07:00:53.136'

{

'eventID': 'f9870907827c1a85c1ec00ee6129daf2',

'eventName': 'INSERT',

'eventVersion': '1.1',

'eventSource': 'aws:dynamodb',

'awsRegion': 'ap-northeast-1',

'dynamodb': {

'ApproximateCreationDateTime': 1506497160.0,

'Keys': {

'id': {

'S': '+7yK2Kk1L25t94+pJoYpyyIvh8n5WvWLazJZb65JPpE=_15eab221e48:c66f83:c84bd0de'

}

'NewImage': {

'to_slack': {

'N': '0'

'id': {

'S': '+7yK2Kk1L25t94+pJoYpyyIvh8n5WvWLazJZb65JPpE=_15eab221e48:c66f83:c84bd0de'

'url': {

'S': 'https://aws.amazon.com/blogs/big-data/query-and-visualize-aws-cost-and-usage-data-using-amazon-athena-and-amazon-quicksight/'

}

'SequenceNumber': '108600000000004255644570',

'SizeBytes': 284,

'StreamViewType': 'NEW_AND_OLD_IMAGES'

'eventSourceARN': 'arn:aws:dynamodb:ap-northeast-1:123456789012:table/table/stream/2017-09-27T07:00:53.136'

}

]

}

最後までお読みいただきましてありがとうございました！

「AWS認定資格試験テキスト＆問題集　AWS認定ソリューションアーキテクト - プロフェッショナル改訂第2版」という本を書きました。

「AWS認定資格試験テキスト AWS認定クラウドプラクティショナー改訂第3版」という本を書きました。

「ポケットスタディ AWS認定デベロッパーアソシエイト［DVA-C02対応］」という本を書きました。

「要点整理から攻略するAWS認定ソリューションアーキテクト-アソシエイト」という本を書きました。

「AWSではじめるLinux入門ガイド」という本を書きました。

@yamamanx

開発ベンダー5年、ユーザ企業システム部門通算9年、ITインストラクター5年目でプロトタイプビルダーもやりだしたSoftware Engineerです。
質問はコメントかSNSなどからお気軽にどうぞ。
出来る限りなるべく答えます。

このブログの内容/発言の一切は個人の見解であり、所属する組織とは関係ありません。
このブログは経験したことなどの共有を目的としており、手順や結果などを保証するものではありません。
ご参考にされる際は、読者様自身のご判断にてご対応をお願いいたします。

また、勉強会やイベントのレポートは自分が気になったことをメモしたり、聞いて思ったことを書いていますので、登壇者の意見や発表内容ではありません。

- AWS, Python api, AWS, dynamodb, lambda, python

: AWS EC2 Amazon Linux にEC-CUBE3をnginx+MySql環境へインストール(手順検証中)

EC2インスタンスを作成する少し古い記事で恐縮ですが試したい事があるのでAWS …

: ALBの重み付けルーティングでカナリアリリースをしてみました

当ブログのAMIの更新と、ALBターゲットグループのヘルスチェックを変更したかっ …

: BearからNotionへの引っ越し(Amazon Q Developer for CLIに丸投げ)

MacとiPhoneでのテキスト管理と共有で長年Bearを使っていましたが、Wi …

: Amazon EC2 Auto Scalingのライフサイクルフック

EC2 Auto Scalingにライフサイクルフックという機能があります。ス …

: EC2ユーザーデータからメタデータを取得してRocket.Chatで80ポートを使用する

Rocket.Chatのデフォルトポート番号は3000です。 80を使うようにす …

: VyOSでssm-userからvyosユーザーに切り替える

EC2 VyOSで/etc/resolv.confを設定しました VyOSにSS …

: Amazon Rekognitionでイベント参加者の顔写真を解析して似ている人ランキングをその場で作る

2017/9/21に開催されたAWS Cloud Roadshow 2017 大 …

: Amzon Linux のApacheでRedmineとWordPressをバーチャルホストで共存する

EC2とRDSを節約しようと思いまして、Redmineを動かしてるとこに検証用W …

: AWS CLIを使用せずにCodeCommitへSSHユーザーで接続する

AWS CLIやアクセスキーID、シークレットアクセスキーなどを開発環境にセット …

: JAWS FESTA 2017 Reverse X re:Birth

JAWS FESTA 2017 中四国今年はブログタイトル「JAWS FEST …

PREV: Python openpyxlで結合セルを含むExcelファイルを開くと罫線が消える
NEXT: 「kintone Café 大阪 Vol.14 〜モザイクなし！うちのkintoneはこれだ！〜」で登壇しました

Feedlyのフィードを自動でSlackへ投稿する(AWS Lambda , Amazon DynamoDB)

やりたいこと

実現方法

動作

ソースコード

feedly_to_dynamo

環境変数

FeedlyのAPI URLの例

Feedlyのトークン

コード抜粋 Feed取得

コード抜粋 DynamoDB格納

dynamo_to_slack

環境変数

コード抜粋

DynamoDBの設定

トリガー

参考 DynamoDB ストリーム イベント

ad

ad

関連記事

参考 DynamoDB ストリームイベント