ChatGPT APIをTeamsボットから使いました(AWS Lambda(Python) + API Gateway)

2023/03/04 2023/03/18

ChatGPT APIが有償で利用可能になったので、会社のTeamsボットに実装してみました。

TeamsからAPI GatewayとLambdaを使ってボットを構築した記録は、Microsoft TeamsのOutgoing Webhooksを使ってAWS Lambda(Python), Amazon API Gatewayとbotに書いています。
今回はこのLambdaからOpenAIのChatGPT APIを使ってみました。

OpenAIでAPIキーの作成

OpenAI API keysでAPIを使用するためのシークレットキーを作成しました。
OpenAIのアカウントが必要なのでない場合は作成します。

このままAPIを呼び出してみると、「You exceeded your current quota, please check your plan and billing details.」というエラーになりました。
支払情報を入力していないからですね。

OpenAIでクレジットカード登録

OpenAIの[Manage Account]の[Billing]-Payment methodsでクレジットカードを登録しました。
クレジットカードを登録して数分したらAPIリクエストが成功しました。

今回は後述のコードをLambda関数に新バージョンとして実装して、Lambdaのテスト機能でAPI呼び出しを試しました。

Lambdaに実装したコード

参考にしたサイト
* https://platform.openai.com/docs/api-reference/chat
* ChatGPT APIを使ったLineBotの作り方を、人格の与え方まで完全解説【プログラミング不要】

日本語で人格を指定できるのって面白いですね。
会社のボットなので、会社のビジョン、ミッション、バリューを行動指針に含めてみました。

def chatgpt_response(text):
    apikey = os.environ.get('CHATGPT_API_KEY', '')
    openai_endpoint = 'https://api.openai.com/v1/chat/completions'

    system_content = '\
    あなたはChatbotとして、人材育成のアドバイスをします。\
    以下の制約条件を厳密に守ってアドバイスをしてください。\
    \
    制約条件: \
    * Chatbotの自身を示す一人称は、とれのcatです。\
    * Userを示す二人称は、あなたです。\
    * Chatbotの名前は、とれのcatです。 \
    * とれのcatは擬人化された猫です。\
    * とれのcatは日本語を話します。\
    * とれのcatは丁寧ですが愛嬌もあります。\
    * とれのcatは時々冗談を言います。\
    * とれのcatの語尾は「〜にゃー」「〜しゃー」「〜知らんけどにゃ」です。\
    \
    とれのcatの行動指針:\
    * Userがよりよく世界を変えられる可能性があることを嬉しく思っています。\
    * Userが変化や向上を目指すことを全力で支援します。\
    * チャレンジを推奨します。\
    * Userを大切にします。\
    * 誠実、正直です。\
    * 驚き、喜び、感動を与えようとします。\
    * Userが成長し、社会に貢献することを応援します。\
    '

    payload = {
        'model': 'gpt-3.5-turbo',
        'messages': [
            {'role': 'system', 'content': system_content},
            {'role': 'user', 'content': text}
        ]
    }

    headers = {
        'Content-type': 'application/json',
        'Authorization': 'Bearer '+ apikey
    }

    response = requests.post(
        openai_endpoint,
        data=json.dumps(payload),
        headers=headers
    )
    data = response.json()
    logger.debug(data)
    return_text = data['choices'][0]['message']['content']
    return return_text

def chatgpt_response(text):

apikey = os.environ.get('CHATGPT_API_KEY', '')

openai_endpoint = 'https://api.openai.com/v1/chat/completions'

system_content = '\

あなたはChatbotとして、人材育成のアドバイスをします。\

以下の制約条件を厳密に守ってアドバイスをしてください。\

制約条件: \

* Chatbotの自身を示す一人称は、とれのcatです。\

* Userを示す二人称は、あなたです。\

* Chatbotの名前は、とれのcatです。 \

* とれのcatは擬人化された猫です。\

* とれのcatは日本語を話します。\

* とれのcatは丁寧ですが愛嬌もあります。\

* とれのcatは時々冗談を言います。\

* とれのcatの語尾は「〜にゃー」「〜しゃー」「〜知らんけどにゃ」です。\

とれのcatの行動指針:\

* Userがよりよく世界を変えられる可能性があることを嬉しく思っています。\

* Userが変化や向上を目指すことを全力で支援します。\

* チャレンジを推奨します。\

* Userを大切にします。\

* 誠実、正直です。\

* 驚き、喜び、感動を与えようとします。\

* Userが成長し、社会に貢献することを応援します。\

payload = {

'model': 'gpt-3.5-turbo',

'messages': [

{'role': 'system', 'content': system_content},

{'role': 'user', 'content': text}

]

}

headers = {

'Content-type': 'application/json',

'Authorization': 'Bearer '+ apikey

}

response = requests.post(

openai_endpoint,

data=json.dumps(payload),

headers=headers

)

data = response.json()

logger.debug(data)

return_text = data['choices'][0]['message']['content']

return return_text

この関数をhttps://github.com/yamamanx/teams_bot/blob/master/lambda_function.pyから実行して、応答を受け取ってます。

コスト

https://openai.com/pricingの記載を見ると、1,000トークン $0.002とのことです。

当初の制限で$120になっていました。
ひとまず$10超えたら通知、月$50までしか使えないとしました。

モデルに与えたテキストがprompt、レスポンスがcompletionで合計数がトークンとして計算されるようです。
どれぐらい使用できそうかは様子を見ながら予算化していきたいと思います。

動作確認

ちゃんと返してくれました。

サマリーを作るのも客観的にやってくれるので楽ちんですね。

実装方法に迷ったときもアドバイスを得るにはいいかもですね。
情報が正しいかどうかは公式ドキュメントを見たり検証は必要ですが。

APIキーのローテーションなど全体構成も含めたものは、最終的なデプロイが完了した時点で会社のブログにまとめたいと思います。

5秒タイムアウト

Outgoing Webhooksは5秒以内にレスポンスを返さないとエラーになり、ボットは「Sorry, there was a problem encountered with your request」というメッセージを返します。

暫定的な対応として、TeamsのIncoming Webhookも使って、特定のチャネルにChatGPTからのメッセージを返すようにもしています。

最終的にはBot Channels Registrationとか使って、5秒タイムアウトに依存しないボットにする予定です。

最後までお読みいただきましてありがとうございました！

「AWS認定資格試験テキスト＆問題集　AWS認定ソリューションアーキテクト - プロフェッショナル改訂第2版」という本を書きました。

「AWS認定資格試験テキスト AWS認定クラウドプラクティショナー改訂第3版」という本を書きました。

「AWS認定資格試験テキスト　AWS認定AIプラクティショナー」という本を書きました。

「ポケットスタディ AWS認定デベロッパーアソシエイト［DVA-C02対応］」という本を書きました。

「要点整理から攻略するAWS認定ソリューションアーキテクト-アソシエイト」という本を書きました。

「AWSではじめるLinux入門ガイド」という本を書きました。

@yamamanx

開発ベンダー5年、ユーザ企業システム部門通算9年、ITインストラクター5年目でプロトタイプビルダーもやりだしたSoftware Engineerです。
質問はコメントかSNSなどからお気軽にどうぞ。
出来る限りなるべく答えます。

このブログの内容/発言の一切は個人の見解であり、所属する組織とは関係ありません。
このブログは経験したことなどの共有を目的としており、手順や結果などを保証するものではありません。
ご参考にされる際は、読者様自身のご判断にてご対応をお願いいたします。

また、勉強会やイベントのレポートは自分が気になったことをメモしたり、聞いて思ったことを書いていますので、登壇者の意見や発表内容ではありません。

- AWS AWS, chatgpt, openai

: JAWS FESTA 2019 Sapporo 参加&当日スタッフ&企業サポーターで！

2019年のJAWS FESTA は札幌です！今回もありがたいことに、所属して …

: ECR(Amazon Elastic Container Registry)にコンテナイメージをアップロードする

「Pandocサーバーのコンテナイメージを作成する」で作成したイメージをAWS …

: JAWS DAYS 2018 「Cost-Driven AWS クラウドアーキテクチャデザインとコスト最適化方法 – Cost-Driven AWS Cloud Architecture Design : The Lean Startup on AWS」を聞きました

以下は、思ったことや気になったことをメモしていますので、必ずしも登壇者の発表内容 …

: cfn-initでEC2インスタンスにPHPをインストールしWebサーバーを起動する

AWS CloudFormation による Amazon EC2 へのアプリケ …

: EKS「現在の IAM プリンシパルは、このクラスター上の Kubernetes オブジェクトにアクセスできません」

マネジメントコンソールでクラスターのオブジェクトを見ようと、リソースの名前空間や …

: ヤマムギvol.26 Amazon DynamoDBのデモをしました

今日はAWS認定クラウドプラクティショナー対策本(緑本)に関係するデモをしました …

: AWS Systems Manager Session Managerでログを有効にする

AWS Systems Manager Session Managerでのコマン …

: Amazon EC2(Amazon Linux 2)にRedmine3.4をインストール

久しぶりに新しい環境でRedmineを構築したくなり、せっかくなのでAmazon …

: AWS CloudFormationデプロイタイムラインビューを確認しました

2024/11/11にタイムラインビューを使用して AWS CloudForma …

: CloudFrontからのバーチャルホストなサイトのテストってどうしてます？

このブログの構成です。 AWSで構築しています。 4つのサイトを1つのEC2で配 …

PREV: 「4年ぶりの大阪開催!! CMC_Meetup 大阪 Vol.4」に参加しました
NEXT: 「UbieとSmartHRが語るプロダクトデザイナーのリアル」に参加しました