ChatGPT APIをTeamsボットから使いました(AWS Lambda(Python) + API Gateway)

2023/03/04 2023/03/18

ChatGPT APIが有償で利用可能になったので、会社のTeamsボットに実装してみました。

TeamsからAPI GatewayとLambdaを使ってボットを構築した記録は、Microsoft TeamsのOutgoing Webhooksを使ってAWS Lambda(Python), Amazon API Gatewayとbotに書いています。
今回はこのLambdaからOpenAIのChatGPT APIを使ってみました。

OpenAIでAPIキーの作成

OpenAI API keysでAPIを使用するためのシークレットキーを作成しました。
OpenAIのアカウントが必要なのでない場合は作成します。

このままAPIを呼び出してみると、「You exceeded your current quota, please check your plan and billing details.」というエラーになりました。
支払情報を入力していないからですね。

OpenAIでクレジットカード登録

OpenAIの[Manage Account]の[Billing]-Payment methodsでクレジットカードを登録しました。
クレジットカードを登録して数分したらAPIリクエストが成功しました。

今回は後述のコードをLambda関数に新バージョンとして実装して、Lambdaのテスト機能でAPI呼び出しを試しました。

Lambdaに実装したコード

参考にしたサイト
* https://platform.openai.com/docs/api-reference/chat
* ChatGPT APIを使ったLineBotの作り方を、人格の与え方まで完全解説【プログラミング不要】

日本語で人格を指定できるのって面白いですね。
会社のボットなので、会社のビジョン、ミッション、バリューを行動指針に含めてみました。

def chatgpt_response(text):
    apikey = os.environ.get('CHATGPT_API_KEY', '')
    openai_endpoint = 'https://api.openai.com/v1/chat/completions'

    system_content = '\
    あなたはChatbotとして、人材育成のアドバイスをします。\
    以下の制約条件を厳密に守ってアドバイスをしてください。\
    \
    制約条件: \
    * Chatbotの自身を示す一人称は、とれのcatです。\
    * Userを示す二人称は、あなたです。\
    * Chatbotの名前は、とれのcatです。 \
    * とれのcatは擬人化された猫です。\
    * とれのcatは日本語を話します。\
    * とれのcatは丁寧ですが愛嬌もあります。\
    * とれのcatは時々冗談を言います。\
    * とれのcatの語尾は「〜にゃー」「〜しゃー」「〜知らんけどにゃ」です。\
    \
    とれのcatの行動指針:\
    * Userがよりよく世界を変えられる可能性があることを嬉しく思っています。\
    * Userが変化や向上を目指すことを全力で支援します。\
    * チャレンジを推奨します。\
    * Userを大切にします。\
    * 誠実、正直です。\
    * 驚き、喜び、感動を与えようとします。\
    * Userが成長し、社会に貢献することを応援します。\
    '

    payload = {
        'model': 'gpt-3.5-turbo',
        'messages': [
            {'role': 'system', 'content': system_content},
            {'role': 'user', 'content': text}
        ]
    }

    headers = {
        'Content-type': 'application/json',
        'Authorization': 'Bearer '+ apikey
    }

    response = requests.post(
        openai_endpoint,
        data=json.dumps(payload),
        headers=headers
    )
    data = response.json()
    logger.debug(data)
    return_text = data['choices'][0]['message']['content']
    return return_text

def chatgpt_response(text):

apikey = os.environ.get('CHATGPT_API_KEY', '')

openai_endpoint = 'https://api.openai.com/v1/chat/completions'

system_content = '\

あなたはChatbotとして、人材育成のアドバイスをします。\

以下の制約条件を厳密に守ってアドバイスをしてください。\

制約条件: \

* Chatbotの自身を示す一人称は、とれのcatです。\

* Userを示す二人称は、あなたです。\

* Chatbotの名前は、とれのcatです。 \

* とれのcatは擬人化された猫です。\

* とれのcatは日本語を話します。\

* とれのcatは丁寧ですが愛嬌もあります。\

* とれのcatは時々冗談を言います。\

* とれのcatの語尾は「〜にゃー」「〜しゃー」「〜知らんけどにゃ」です。\

とれのcatの行動指針:\

* Userがよりよく世界を変えられる可能性があることを嬉しく思っています。\

* Userが変化や向上を目指すことを全力で支援します。\

* チャレンジを推奨します。\

* Userを大切にします。\

* 誠実、正直です。\

* 驚き、喜び、感動を与えようとします。\

* Userが成長し、社会に貢献することを応援します。\

payload = {

'model': 'gpt-3.5-turbo',

'messages': [

{'role': 'system', 'content': system_content},

{'role': 'user', 'content': text}

]

}

headers = {

'Content-type': 'application/json',

'Authorization': 'Bearer '+ apikey

}

response = requests.post(

openai_endpoint,

data=json.dumps(payload),

headers=headers

)

data = response.json()

logger.debug(data)

return_text = data['choices'][0]['message']['content']

return return_text

この関数をhttps://github.com/yamamanx/teams_bot/blob/master/lambda_function.pyから実行して、応答を受け取ってます。

コスト

https://openai.com/pricingの記載を見ると、1,000トークン $0.002とのことです。

当初の制限で$120になっていました。
ひとまず$10超えたら通知、月$50までしか使えないとしました。

モデルに与えたテキストがprompt、レスポンスがcompletionで合計数がトークンとして計算されるようです。
どれぐらい使用できそうかは様子を見ながら予算化していきたいと思います。

動作確認

ちゃんと返してくれました。

サマリーを作るのも客観的にやってくれるので楽ちんですね。

実装方法に迷ったときもアドバイスを得るにはいいかもですね。
情報が正しいかどうかは公式ドキュメントを見たり検証は必要ですが。

APIキーのローテーションなど全体構成も含めたものは、最終的なデプロイが完了した時点で会社のブログにまとめたいと思います。

5秒タイムアウト

Outgoing Webhooksは5秒以内にレスポンスを返さないとエラーになり、ボットは「Sorry, there was a problem encountered with your request」というメッセージを返します。

暫定的な対応として、TeamsのIncoming Webhookも使って、特定のチャネルにChatGPTからのメッセージを返すようにもしています。

最終的にはBot Channels Registrationとか使って、5秒タイムアウトに依存しないボットにする予定です。

最後までお読みいただきましてありがとうございました！

「AWS認定資格試験テキスト＆問題集　AWS認定ソリューションアーキテクト - プロフェッショナル改訂第2版」という本を書きました。

「AWS認定資格試験テキスト AWS認定クラウドプラクティショナー改訂第3版」という本を書きました。

「ポケットスタディ AWS認定デベロッパーアソシエイト［DVA-C02対応］」という本を書きました。

「要点整理から攻略するAWS認定ソリューションアーキテクト-アソシエイト」という本を書きました。

「AWSではじめるLinux入門ガイド」という本を書きました。

@yamamanx

開発ベンダー5年、ユーザ企業システム部門通算9年、ITインストラクター5年目でプロトタイプビルダーもやりだしたSoftware Engineerです。
質問はコメントかSNSなどからお気軽にどうぞ。
出来る限りなるべく答えます。

このブログの内容/発言の一切は個人の見解であり、所属する組織とは関係ありません。
このブログは経験したことなどの共有を目的としており、手順や結果などを保証するものではありません。
ご参考にされる際は、読者様自身のご判断にてご対応をお願いいたします。

また、勉強会やイベントのレポートは自分が気になったことをメモしたり、聞いて思ったことを書いていますので、登壇者の意見や発表内容ではありません。

- AWS AWS, chatgpt, openai

: Going Serverless with AWS(AWS Summit Tokyo 2017)を聞いてきました

AWS Summit Tokyo 2017でセッション「Going Server …

: VPC新コンソールの日本語UIでルートテーブル編集時のエラー(2021/6/10)が発生したのでフィードバックを送った

VPCの新コンソールがリリースされていたので使って作業してましたところ、こんなエ …

: Cloud9環境を共有した際の環境認証

Cloud9を環境を構築したIAMユーザー以外に共有したとき、その環境から実行す …

: Amazon EC2のAMIイメージを自動取得して保持日数が過ぎたら削除

画像の保存をEC2に戻した事もあってEC2のバックアップの自動取得を勉強がてらや …

: Elastic BeanstalkでflaskアプリケーションデプロイのチュートリアルをCloud9で

Elastic Beanstalk への flask アプリケーションのデプロイ …

: このブログからパブリックIPv4 IPアドレスをなくしてコスト最適化

2024年2月より使用中のパブリックIPv4アドレスに1時間あたり0.005US …

: AWS Transit Gatewayピアリング接続確認

AWS Transit Gatewayのピアリング接続を使用して、異なるリージョ …

: Cloud9でCodeWhispererを使用する

アクセス権限 Cloud9のEC2に設定するIAMロールのIAMポリシーで co …

: 執筆環境(PyCharm, CodeCommit, CodePipeline, S3, Lambda, 署名付きURL)

2018年から、年に1回ぐらい商業本の執筆をさせていただいております。 2020 …

: S3インベントリ設定でインベントリファイルの作成を設定

インベントリレポートファイルはオブジェクトの一覧情報です。日次、週次で定期作成 …

PREV: 「4年ぶりの大阪開催!! CMC_Meetup 大阪 Vol.4」に参加しました
NEXT: 「UbieとSmartHRが語るプロダクトデザイナーのリアル」に参加しました