AWS BedrockでClaudeとGPTモデルを使用する(Bedrock Mantle対応)
- POST
はじめに AWS Bedrockでは、ClaudeだけでなくOpenAIのGPTモデルも利用できます。 本記事では、BedrockのClaude・GPTモデルを呼び出すときに知っておきたい2つのエンドポイントの違い、必要なIAM権限、そしてPythonのサンプルコードを紹介します。
1. Bedrockの2つのエンドポイント Bedrockには2つのエンドポイントがあります。
通常のBedrock: bedrock-runtime Bedrock Mantle: bedrock-mantle Bedrock Mantleとは Amazon Bedrock Mantleは、OpenAIやAnthropic互換のAPIを利用して最新モデルをスムーズに実行できるよう最適化された、Amazon Bedrockの分散推論エンジンおよび専用コンソール体験です。
従来のBedrockとの最大の違いは、AWS固有の仕様から解放され、OpenAIやAnthropicのコードをそのまま持ち込めるようになった点です。 従来はAWS独自の仕様に合わせるため、boto3などを使って複雑なレスポンスのパース処理(JSONの解析など)を書く必要がありました。
OpenAI/Anthropic互換APIの利用: 既存のOpenAI SDKやAnthropic SDKのコードから、ベースURLとAPIキーを書き換えるだけで、そのままBedrock上のモデルを呼び出せる モデルID指定の違い Mantleでは、global.openai.gpt-6-luna の global. 部分を外し、openai.gpt-6-luna のようにモデルIDを指定する必要があります。 この点が通常のBedrockと異なります。
2. IAMに付与すべき権限 ユーザーグループを作成し、対象のユーザーグループにBedrockのAPIを実行する権限を付与します。 必要な権限は、以下の組み込みポリシーです。
ポリシー 用途 AmazonBedrockLimitedAccess 通常のBedrockを採用する場合に必要。Bedrockへの限定的なアクセス権で、一般的なAPI呼び出し(bedrock:InvokeModel)やモデル一覧取得などが許可されますが、利用可能なモデルや機能は制限される場合があります AmazonBedrockMantleInferenceAccess Mantleを使用する場合に必要 AmazonBedrockMarketplaceAccess AWS Marketplace経由で提供されるモデルのサブスクリプション関連の権限。GPTなどMarketplaceモデルを使う場合、初回に必要 3. 設定手順 ユーザーグループにポリシーを付与する ユーザーグループを作成し、アプリが使用する上記の組み込みポリシーを付与します。
ユーザーを作成しアクセスキーを発行する ユーザーグループ内にユーザーを作成し、作成したユーザーのアクセスキーを作成します。