Amazon BedrockがGAしたので触りました(boto3からも)

2023/09/29

Amazon Bedrock Is Now Generally Available – Build and Scale Generative AI Applications with Foundation Modelsというニュースが飛び込んできたので、マネジメントコンソールでアクセスしてみました。

GA当日

アクセスできました！待ってました！

噂のClaudeを触ってみようと思ったらモデルリクエストしないとダメっぽいです。

ということでついでにほかのモデルもリクエストしました。
Claudeはアンケートがあったので答えました。

マネジメントコンソールのPlay Groundで試せるのでClaude v2を選択してチャットしてみました。
ClaudeでもChatGPTというのですね。
日本語でも使えそうです。

Stable Difussionで自分のプロフィールを渡してみました。
実際におられそうなナイスミドルの写真が生成されました。

AWSブログにあったコードを試してみようと、CloudShellで現時点のboto3最新と思えるバージョンをインストールして試してみましたがダメでした。

$ pip3 install boto3==1.28.56
$ python3

$ pip3 install boto3==1.28.56

$ python3

boto3 1.28.56をインストールして対話モードで実行

import boto3
print(boto3.__version__)

import boto3

print(boto3.__version__)

boto3のバージョン確認
1.28.56でした。

bedrock_runtime = boto3.client('bedrock-runtime')

1 2	bedrock_runtime = boto3.client('bedrock-runtime')

ブログにあったboto3.client(‘bedrock-runtime’)を実行。
botocore.exceptions.UnknownServiceErrorになりました。

Amazon Bedrock ユーザーガイド List the base modelsにあった
boto3.client(service_name=’bedrock’)
も同じようにUnknownServiceErrorでした。

Pythonから実行できるようになったら会社のbotをClaudeに変えようっと。

翌日

boto3 1.28.57がリリースされたそうです！

$ pip3 install boto3==1.28.57
$ python3

$ pip3 install boto3==1.28.57

$ python3

boto3 1.28.57をインストールして対話モードで実行

import boto3
print(boto3.__version__)

import boto3

print(boto3.__version__)

boto3のバージョン確認
1.28.57でした。

bedrock_runtime = boto3.client('bedrock-runtime')

1 2	bedrock_runtime = boto3.client('bedrock-runtime')

とおりました！！

サンプルコードをこんな感じにしてClaudeを呼び出してみました。

import boto3
import json

bedrock_runtime = boto3.client(
    service_name='bedrock-runtime',
    region_name='us-east-1'
)

modelId = 'anthropic.claude-v2'
accept = 'application/json'
contentType = 'application/json'

body = json.dumps(
    {
        "prompt": "Human:モチベーションのあがる一言をお願いします！ Assistant:",
        "max_tokens_to_sample": 2048,
        "temperature": 0.5,
        "top_k": 250,
        "top_p": 1,
    }
)

response = bedrock_runtime.invoke_model(
    body=body,
    modelId=modelId,
    accept=accept,
    contentType=contentType
)

response_body = json.loads(response.get('body').read())

outputText = response_body.get('completion')
print(outputText)