[AWS]Amazon Q in Connectの回答の違い
2023-12-22
azblob://2023/12/20/eyecatch/2023-12-22-amazon-q-in-connect-difference-000.jpg

はじめに

こんにちは、ヘルプデスクの光武です。

前回は、Amazon QについてS3を用いたデータソース連携を行い、どのような回答が行われるか試してみました。

今回は、Amazon Q in Connectを作成してみて、その回答に違いがみられるかを調べてみたいと思います。

Amazon Q in Connectの前に

前回同様、プレビュー期間のためAmazon Qは、バージニア北部(us-east-1)とオレゴン(us-west-2)しか対応していないので、リージョンをバージニア北部で作成します。

Amazon Q in Connectの設定する前に、データソースとしてバージニア北部でS3を作成しておきます。

また、Amazon Connectもバージニア北部で作成しておきます。

特に設定はないのでどちらもデフォルトのまま作成でOK。

実際にAmazon ConnectにアクセスしてエージェントWorkspaceを開いてみると、右側にAmazon Qの質問スペースがあることが分かります。

Amazon Q in Connectの設定

まず、AWSコンソールから作成したAmazon Connectのインスタンスを選択します。

左側のAmazon Qを選択し、ドメインを追加を押します。

次にドメインの設定は新規ドメインを作成を選択し、任意のドメイン名を入力します。

暗号化については、デフォルトキーを使用するためチェックを外します。

ドメインを追加を押します。

完了するとドメインが追加されているので、統合を追加を選択します

新しい統合を作成、ソースにS3を選択します。

統合名は任意のものを入力します。

S3を接続では、先に作成しておいたS3を選択します。

暗号化ではAWS KMSキーを作成するため、AWS KMSキーを作成を選択します。

キーのタイプを対称、キーの使用方法を暗号化および復号化を選択します。

その他の設定はデフォルトのまま作成でOK。

Amazon Qの設定に戻り、作成したキーを選択します。

最後に確認を行い、統合を追加を押して終了となります。

試してみる

実際に質問してみます。

まず何もS3にアップロードしていない状態で質問してみます。

もちろん答えませんでした。しかし、英語で質問したにもかかわらず日本語で「結果が見つかりません。新しい探索をお試しください。」と答えました。

今回もS3にはFIXERについての説明を英語に翻訳して記述したファイルをアップロードしておきます。

同じ質問をしてみます。

すると、画像のように質問・回答・ソースがセットとなって返されました。

正しい内容を回答しているように見えます。

また、リファレンスでは用いたソースを示しており、クリックすると中央部にその内容を表示してくれます。

次にS3にアップロードしたファイルには書かれていないことを質問してみます。

Amazon Q in Connectでは答えられない時、「We couldn't generate a response or a solution.」と表示するようです。

仕様の違い

Amazon QとAmazon Q in Connectの違いについてまとめます。

Amazon Qはデータソースからしか答えない正確性の高いモード(RAGがOn)と生成を行う(+英語以外で質問できる)モードを切り替えることができましたが、Amazon Q in Connectはデータソース外のものを用いたり、生成を行ったり、英語以外で質問できなかったりします。(キーワードさえ英語であれば回答されやすい)

用いることができるソースの量が異なり、Amazon Qは40種類以上ありますが、Amazon Q in ConnectはS3を選択するときに確認できたように少ないです。

対応するドキュメントが異なります。Amazon Qはドキュメントにもあるように「pdf, html, xml, xslt, md, xsv, xslx, json, rtf, ppt, docx, txt」ですが、Amazon Q in Connectは作成時の画像にもありましたが、「pdf, txt, docx, html, htm」です。

Amazon Qはcsvやcsvをpdf化した表を列や行ごとで読み取ることは難しいですが、Amazon Q in Connectはcsvは読みとることができませんが、pdf化した表ならば列や行ごとで読み取ることができそうです。画像は日本の各県についての表を作成し、その内容について質問したものです。

Amazon Qの時はソースの中身を見ようとしたときS3が開かれるのではなく、オブジェクトURLが示されていたのでそのままだと見れませんでした。しかし、Amazon Q in Connectは、すぐに中身を見ることができます。ただし、日本語や特殊な文字は省かれて表示されるようです。また、実際にS3のどこにファイルがあるのかはわかりません。

Amazon QはデータがSyncできたかが分かりやすかったですが、Amazon Q in Connectでは終了したのかエラーがあったのかがわかりにくいです。

また、Amazon QではSyncを手動や一定周期で行わせていました。対してAmazon Q in Connectは小さいファイルをアップロードと削除を行ったところ、S3にアップロードや削除を行った瞬間にSyncされることがAWSコンソールのAmazon ConnectのAmazon Qの最終更新日時からわかりました。

おわりに

実際にAmazon QとAmazon Q in Connectを触ってみて、どちらもなるべくハルシネーションを起こさないようにしていると感じました。また、ソースが短めな文章であれば、そのまま抜き出して答えてくれるので、エージェントのスキルに依存せず、毎回同じ回答が行えるといえるでしょう。

日本語が対応していない所は、まだ実際に使う上でネックとなる部分ではありますが、会話しながら探す手間を省けるようになれば、より対応の質や安定性、速度は高まるであろうと考えられます。