先日、クラスメソッドさんが開催した「Amazon Bedrock GenUハンズオン(東京開催) #2：GenU環境でRAGを体験」に参加してきました
Amazon Bedrock GenUハンズオン(東京開催) #2：GenU環境でRAGを体験
https://classmethod.connpass.com/event/346443/
手順に従ってハンズオンを進めていたのですが、、、最終的にエラーが発生して時間内に予定していた内容を完了させることができませんでした。
原因としては、ユースケースがOSSで作られており、直前のコミットで不具合が埋め込まれてしまったとのこと。。。
なんとも、、なところです。
というわけで、手順は公開されているので手元でやってみました
Generative AI Use Cases JP (GenU)を使ってRAGを体験してみよう（KnowledgeBases編）
https://dev.classmethod.jp/articles/generative-ai-use-cases-jp-handson-kb-rag/
リージョンを変えることによる影響
ハンズオンで一度やっている内容ではあるので、進めていきます。
ただ、ハンズオンでは us-east-1リージョンを使っていたんですよね。手元では、ap-northeas-1（東京）でSageMakerStudioを起動してみました。
流れとしては、
- SageMakerStudioの構築（開発環境準備）
- モデルの有効化
- ユースケースの構築
というようなものがざっくりとした内容。
1のSageMakerStudioをap-northeast-1で構築したからと言って、3によるユースケースのデプロイ先やモデルの参照先がap-northeast-1になるわけではないようです。
そのため、最初やってみるとナレッジベースで同期する予定だったファイルはus-east-1にできており、更に動かしてみるとエラーとなりました
対応としては、今回はus-east-1で必要となるモデルを有効化。
その後、us-east-1でBedrockのナレッジベースを同期させ実行することでエラーは解消されました
ちなみに、上のキャプチャで1回目はナレッジベースの同期を行う前。
そして同期を行ったあとでは正しく返答が返ってくることが確認できました。
1回目、なんで英語で返ってきたのかがいまいちよくわかりませんが。。。。
モデルの参照先自体は、cdk.json内の”modelRegion”を適切な値にすれば大丈夫だと思います。
気になったのは、ナレッジベースへの登録先リージョンですね。。。
SageMakerStudio自体はap-northeast-1で起動しているので、パラメータが特に存在していないのであれば自動的に現在のリージョンで作って欲しいところですが。。
おそらくCDKの中にあるのだとは思うので、後でちょっと調べてみよう。。