ChatGPT APIをTeamsボットから使いました(AWS Lambda(Python) + API Gateway)

2023/03/04 2023/03/18

ChatGPT APIが有償で利用可能になったので、会社のTeamsボットに実装してみました。

TeamsからAPI GatewayとLambdaを使ってボットを構築した記録は、Microsoft TeamsのOutgoing Webhooksを使ってAWS Lambda(Python), Amazon API Gatewayとbotに書いています。
今回はこのLambdaからOpenAIのChatGPT APIを使ってみました。

OpenAIでAPIキーの作成

OpenAI API keysでAPIを使用するためのシークレットキーを作成しました。
OpenAIのアカウントが必要なのでない場合は作成します。

このままAPIを呼び出してみると、「You exceeded your current quota, please check your plan and billing details.」というエラーになりました。
支払情報を入力していないからですね。

OpenAIでクレジットカード登録

OpenAIの[Manage Account]の[Billing]-Payment methodsでクレジットカードを登録しました。
クレジットカードを登録して数分したらAPIリクエストが成功しました。

今回は後述のコードをLambda関数に新バージョンとして実装して、Lambdaのテスト機能でAPI呼び出しを試しました。

Lambdaに実装したコード

参考にしたサイト
* https://platform.openai.com/docs/api-reference/chat
* ChatGPT APIを使ったLineBotの作り方を、人格の与え方まで完全解説【プログラミング不要】

日本語で人格を指定できるのって面白いですね。
会社のボットなので、会社のビジョン、ミッション、バリューを行動指針に含めてみました。

def chatgpt_response(text):
    apikey = os.environ.get('CHATGPT_API_KEY', '')
    openai_endpoint = 'https://api.openai.com/v1/chat/completions'

    system_content = '\
    あなたはChatbotとして、人材育成のアドバイスをします。\
    以下の制約条件を厳密に守ってアドバイスをしてください。\
    \
    制約条件: \
    * Chatbotの自身を示す一人称は、とれのcatです。\
    * Userを示す二人称は、あなたです。\
    * Chatbotの名前は、とれのcatです。 \
    * とれのcatは擬人化された猫です。\
    * とれのcatは日本語を話します。\
    * とれのcatは丁寧ですが愛嬌もあります。\
    * とれのcatは時々冗談を言います。\
    * とれのcatの語尾は「〜にゃー」「〜しゃー」「〜知らんけどにゃ」です。\
    \
    とれのcatの行動指針:\
    * Userがよりよく世界を変えられる可能性があることを嬉しく思っています。\
    * Userが変化や向上を目指すことを全力で支援します。\
    * チャレンジを推奨します。\
    * Userを大切にします。\
    * 誠実、正直です。\
    * 驚き、喜び、感動を与えようとします。\
    * Userが成長し、社会に貢献することを応援します。\
    '

    payload = {
        'model': 'gpt-3.5-turbo',
        'messages': [
            {'role': 'system', 'content': system_content},
            {'role': 'user', 'content': text}
        ]
    }

    headers = {
        'Content-type': 'application/json',
        'Authorization': 'Bearer '+ apikey
    }

    response = requests.post(
        openai_endpoint,
        data=json.dumps(payload),
        headers=headers
    )
    data = response.json()
    logger.debug(data)
    return_text = data['choices'][0]['message']['content']
    return return_text

def chatgpt_response(text):

apikey = os.environ.get('CHATGPT_API_KEY', '')

openai_endpoint = 'https://api.openai.com/v1/chat/completions'

system_content = '\

あなたはChatbotとして、人材育成のアドバイスをします。\

以下の制約条件を厳密に守ってアドバイスをしてください。\

制約条件: \

* Chatbotの自身を示す一人称は、とれのcatです。\

* Userを示す二人称は、あなたです。\

* Chatbotの名前は、とれのcatです。 \

* とれのcatは擬人化された猫です。\

* とれのcatは日本語を話します。\

* とれのcatは丁寧ですが愛嬌もあります。\

* とれのcatは時々冗談を言います。\

* とれのcatの語尾は「〜にゃー」「〜しゃー」「〜知らんけどにゃ」です。\

とれのcatの行動指針:\

* Userがよりよく世界を変えられる可能性があることを嬉しく思っています。\

* Userが変化や向上を目指すことを全力で支援します。\

* チャレンジを推奨します。\

* Userを大切にします。\

* 誠実、正直です。\

* 驚き、喜び、感動を与えようとします。\

* Userが成長し、社会に貢献することを応援します。\

payload = {

'model': 'gpt-3.5-turbo',

'messages': [

{'role': 'system', 'content': system_content},

{'role': 'user', 'content': text}

]

}

headers = {

'Content-type': 'application/json',

'Authorization': 'Bearer '+ apikey

}

response = requests.post(

openai_endpoint,

data=json.dumps(payload),

headers=headers

)

data = response.json()

logger.debug(data)

return_text = data['choices'][0]['message']['content']

return return_text

この関数をhttps://github.com/yamamanx/teams_bot/blob/master/lambda_function.pyから実行して、応答を受け取ってます。

コスト

https://openai.com/pricingの記載を見ると、1,000トークン $0.002とのことです。

当初の制限で$120になっていました。
ひとまず$10超えたら通知、月$50までしか使えないとしました。

モデルに与えたテキストがprompt、レスポンスがcompletionで合計数がトークンとして計算されるようです。
どれぐらい使用できそうかは様子を見ながら予算化していきたいと思います。

動作確認

ちゃんと返してくれました。

サマリーを作るのも客観的にやってくれるので楽ちんですね。

実装方法に迷ったときもアドバイスを得るにはいいかもですね。
情報が正しいかどうかは公式ドキュメントを見たり検証は必要ですが。

APIキーのローテーションなど全体構成も含めたものは、最終的なデプロイが完了した時点で会社のブログにまとめたいと思います。

5秒タイムアウト

Outgoing Webhooksは5秒以内にレスポンスを返さないとエラーになり、ボットは「Sorry, there was a problem encountered with your request」というメッセージを返します。

暫定的な対応として、TeamsのIncoming Webhookも使って、特定のチャネルにChatGPTからのメッセージを返すようにもしています。

最終的にはBot Channels Registrationとか使って、5秒タイムアウトに依存しないボットにする予定です。

最後までお読みいただきましてありがとうございました！

「AWS認定資格試験テキスト＆問題集　AWS認定ソリューションアーキテクト - プロフェッショナル改訂第2版」という本を書きました。

「AWS認定資格試験テキスト AWS認定クラウドプラクティショナー改訂第3版」という本を書きました。

「AWS認定資格試験テキスト　AWS認定AIプラクティショナー」という本を書きました。

「ポケットスタディ AWS認定デベロッパーアソシエイト［DVA-C02対応］」という本を書きました。

「要点整理から攻略するAWS認定ソリューションアーキテクト-アソシエイト」という本を書きました。

「AWSではじめるLinux入門ガイド」という本を書きました。

@yamamanx

開発ベンダー5年、ユーザ企業システム部門通算9年、ITインストラクター5年目でプロトタイプビルダーもやりだしたSoftware Engineerです。
質問はコメントかSNSなどからお気軽にどうぞ。
出来る限りなるべく答えます。

このブログの内容/発言の一切は個人の見解であり、所属する組織とは関係ありません。
このブログは経験したことなどの共有を目的としており、手順や結果などを保証するものではありません。
ご参考にされる際は、読者様自身のご判断にてご対応をお願いいたします。

また、勉強会やイベントのレポートは自分が気になったことをメモしたり、聞いて思ったことを書いていますので、登壇者の意見や発表内容ではありません。

- AWS AWS, chatgpt, openai

: Organizations対応のAWS CloudTrailのAthenaテーブルでPartition Projectionを使用しました

パーティション向けのAlterテーブルの定期実行が面倒だと思っていたら、Part …

: AWS Managed Microsoft ADを構築してユーザー追加まで

事前準備 DNSホスト名と名前解決を有効にしたVPCを作成して、2つのAZにパブ …

: Organizations組織でAWS SSOを有効にする

先日AWS Control Towerで環境を作ったら、自動でAWS SSOがで …

: Systems Manager パッチマネージャでベースラインを作成して適用する

ベースラインの作成 Systems Managerのパッチマネージャーでパッチベ …

: Feedlyのリフレッシュトークンを使ってアクセストークンを取得する

FeedlyというRSSリーダーから連携している構成があります。 Feedlyの …

: ParquetフォーマットのデータにS3 Select SQLを実行する

RDSスナップショットのS3エクスポート結果確認で出力したデータが、S3にPar …

: 特定AWSアカウント特定リージョンのSNSトピックを削除するLambda(Python)

やりたいこと特定アカウント内特定リージョン内のSNSトピックを全部削除したいで …

: JAWS-UG関西「AI で人を笑わせてみよう！ハンズオン」に参加しました

AI で人を笑わせてみよう！ハンズオン灼熱の7月最終日にJAWS-UG関西のオ …

: Transit GatewayポリシーテーブルでCloud WANのコアネットワークに接続しました

「ポリシーテーブルってなんですか？」のご質問をいただいたので設定してみました。 …

: 共有AMIのコピー時にエラー「You do not have permission to access the storage of this ami」

他アカウントから共有されたAMIをコピーする際に、「You do not hav …

PREV: 「4年ぶりの大阪開催!! CMC_Meetup 大阪 Vol.4」に参加しました
NEXT: 「UbieとSmartHRが語るプロダクトデザイナーのリアル」に参加しました