Amazon Bedrock のデベロッパーエクスペリエンス

Amazon Bedrock では、API コールと同じくらい簡単に、さまざまな基盤モデル (FM) を使用して構築できます。Amazon Bedrockでは、AI21ラボのジュラシック、アンスロピックのクロード、コヘレのコマンドアンドエンベッド、メタのラマ2、スタビリティAIのステーブルディフュージョンなどの主要モデルや、独自のAmazon Titanモデルにアクセスできます。Amazon Bedrockでは、ユースケースとアプリケーション要件に最も適したFMを選択できます。

テキスト、チャット、画像など、さまざまなモダリティのインタラクティブプレイグラウンドを使用して、種々の FM を実験できます。プレイグラウンドでは、ユースケースに合わせてさまざまなモデルを試して、そのモデルが特定のタスクに適しているかどうかを試すことができます。

Amazon Bedrockのモデル評価では、自動評価と人間による評価を使用して、特定のユースケースに合うFMを選択できます。自動モデル評価では、厳選されたデータセットを使用し、精度、堅牢性、毒性などの事前定義されたメトリクスを提供します。主観的なメトリクスの場合は、Amazon Bedrock を利用して、簡単ないくつかのステップを実行するだけで、人間による評価ワークフローを設定できます。人間による評価では、独自のデータセットを持ち込んで、関連性、スタイル、ブランドボイスとの整合性などのカスタム指標を定義できます。人間による評価ワークフローでは、自社の従業員をレビュー担当者としたり、AWS によって管理されるチームをエンゲージしたりして、人間による評価を行うことができます。この場合、AWS は熟練した評価者を関与させ、お客様に代わって完全なワークフローを管理します。詳細については、ブログをお読みください。

Amazon Bedrock では、簡単ないくつかのステップを実行するだけで、一般的なモデルから、ビジネスやユースケースに合わせて特化してカスタマイズされたモデルに移行できます。 特定のタスクに合わせてFMを調整するには、ファインチューニングと呼ばれる手法を使用できます。Amazon Simple Storage Service (Amazon S3) でラベルが付けられたいくつかの例をポイントすると、Amazon Bedrock はベースモデルのコピーを作成し、お客様のデータを利用してトレーニングして、お客様だけがアクセスできる微調整されたモデルを作成するので、お客様はカスタマイズされた回答を得ることができます。 微調整は、Command、Llama 2、Amazon Titan Text Lite and Express、Amazon Titan Image Generator、Amazon Titan Multimodal Embeddings モデルで利用できます。 Amazon Bedrock で Amazon Titan Text Lite と Amazon Titan Express FM を適応させる 2 つ目の方法は、継続的な事前トレーニングを行うことです。これは、ラベルが付いていないデータセットを使用して、ドメインや業界に合わせて FM をカスタマイズする手法です。 Amazon Bedrock は、微調整と継続的な事前トレーニングの両方により、ベース FM のプライベートでカスタマイズされたコピーを作成します。お客様のデータは、元のベースモデルのトレーニングには使用されません。モデルのカスタマイズに使用されるデータは、Amazon Virtual Private Cloud (Amazon VPC) を通じて安全に転送されます。詳細については、ブログをご覧ください。

Converse API は、Amazon Bedrock モデルを呼び出すための一貫的な方法を開発者に提供するため、推論パラメータなどのモデル固有の差異を調整するという複雑な作業が不要になります。