AWS BedrockがGAされていたので早速使ってみた
2023-10-02
azblob://2023/10/02/eyecatch/2023-10-02-hello-bedrock-000.png

待ちに待ったBedrockのGA

4月ごろにアナウンスがあったAWS Bedrock、首を長くして待っていましたが先日GAされました!!!

Amazon Bedrock Is Now Generally Available – Build and Scale Generative AI Applications with Foundation Models

https://aws.amazon.com/blogs/aws/amazon-bedrock-is-now-generally-available-build-and-scale-generative-ai-applications-with-foundation-models/

早速マネコンにアクセスして使ってみたので使用レポを書いていきたいと思います。

Bedrockへのアクセス

まずはAWSのマネジメントコンソールからBedrockにアクセスします。

現在は以下の3つのリージョンで使えるみたいです。東京リージョンでのGAが楽しみですね

Amazon Bedrock is available in the following AWS Regions:

2023/10/02 追記

ドキュメントにはまだ記載されていませんでしたが米国東部(オハイオ)リージョンでも使用可能となっていました!

使う前に

初期状態ではどのモデルも使えない状態なので 左側のModel access から使用したいモデルのリクエストを行います。

使用可能なモデル一覧が表示されますので使用したいモデルにチェックを入れて右下のSaveChangesを押すとリクエストされます。

一部モデルは用途等を入力してリクエストが必要ですが今回は必要としないモデルを触っていきたいと思います。

リクエストが許可されると以下のようなメールが届き、マネジメントコンソール上の表記が Avaliable表記になります。

今回はまだサービスがGAされたばかりということもあるのか数分程度で許可されました。

これでBedrockを使用する準備が整いました。

右側のExample、もしくはPlaygroundsからデモを試すことができます。

今回はPlaygroundsにある

  • Chat
  • Image

の2つを試していきたいと思います。

Chat

Chatでは選択したモデルと ChatGPTGaiXerの様にチャット形式で会話を行うことができます。

今回は簡単な質問を行ってみました。

日本語で質問すると英語で返されたので英語しか対応してないのかと思いきや

日本語で返答するようにプロンプトを修正すると日本語で返答してくれました。
 

また、チャットの入力欄にあるAdd instructionsをクリックすると初期プロンプトを与えることが可能なようです。


質問に対して日本語で応答するように初期プロンプトを与えたところ、最初から日本語で応答してくれるようになりました。

Image

Imageでは与えられたプロンプトに対して画像を生成することが可能です。

試しに英語でプロンプトを入力したところ以下のような画像が出力されました。

日本語でも試してみましたが若干異なる画像が出力され、プロンプトが悪かったのか鳥という言葉には認識してくれたのですが山という言葉はあまり汲み取ってはくれなかったようです.... 

ここはモデルや右側のパラメータを調節することによって変化するかと思われるので今後色々試してみたいですね

まとめ

AWS Bedrockの登場によって、自前でEC2などのコンピューティングリソースを用意することなく文章生成や画像の生成などが行えるようになり、既存のAWSリソースを使って更に色々なことが行えるように感じました。

そのうちLambdaやその他リソースを使った呼び出しを試してみたいなぁと思う今日この頃でした。

余談

AWSからの発表に

Amazon Bedrock is integrated with Amazon CloudWatch and AWS CloudTrail to support your monitoring and governance needs.
とあったのでCloud Trailを見たところ、しっかりと記録されていました。
どのモデルを叩いたかなどまで残っていたのでもしかするとSCPなどを使って特定のモデルの使用を禁止することも可能なのかな...? という疑問が湧きました。
今後どこかで検証してみたいですね
 
azblob://2024/05/21/eyecatch/2024-05-20-llm-from-scratch-000.png
2024/05/22
AI/Machine Learning