Amazon Bedrock – Entwicklererlebnis

Mit Amazon Bedrock ist das Erstellen mit einer Reihe von Basismodellen (FMs) so einfach wie ein API-Aufruf. Amazon Bedrock bietet Zugriff auf führende Modelle wie Jurassic von AI21 Labs, Claude von Anthropic, Command and Embed von Cohere, Llama 2 von Meta und Stable Diffusion von Stability AI sowie auf unsere eigenen Amazon Titan-Modelle. Mit Amazon Bedrock können Sie das FM auswählen, das für Ihren Anwendungsfall und Ihre Anwendungsanforderungen am besten geeignet ist.

Experimentieren Sie mit verschiedenen FMs, indem Sie interaktive Lernumgebungen für verschiedene Modalitäten wie Text, Chat und Bild verwenden. Die Playgrounds ermöglichen es, verschiedene Modelle für Ihren Anwendungsfall auszuprobieren, um ein Gefühl für die Eignung des Modells für eine bestimmte Aufgabe zu bekommen.

Die Modellevaluierung in Amazon Bedrock ermöglicht es Ihnen, automatische und menschliche Evaluierungen zu verwenden, um FMs für einen bestimmten Anwendungsfall auszuwählen. Die automatische Modellbewertung verwendet kuratierte Datensätze und bietet vordefinierte Metriken wie Genauigkeit, Robustheit und Toxizität. Für subjektive Metriken können Sie mit Amazon Bedrock in wenigen schnellen Schritten einen Workflow zur menschliche Bewertung einrichten. Mit menschlichen Bewertungen können Sie Ihre eigenen Datensätze einbringen und benutzerdefinierte Kennzahlen wie Relevanz, Stil und Ausrichtung auf die Markenstimme definieren. Bei Workflows zur menschlichen Bewertung können Sie Ihre eigenen Mitarbeiter als Prüfer einsetzen oder Sie können ein von AWS verwaltetes Team mit der Durchführung der menschlichen Bewertung beauftragen, wobei AWS qualifizierte Gutachter anstellt und den gesamten Workflow in Ihrem Namen verwaltet. Um mehr zu erfahren, lesen Sie den Blog.

In nur wenigen schnellen Schritten können Sie mit Amazon Bedrock von generischen Modellen zu Modellen wechseln, die speziell auf Ihr Unternehmen und Ihren Anwendungsfall zugeschnitten sind. Um ein FM an eine bestimmte Aufgabe anzupassen, können Sie eine Technik verwenden, die als „Fine-Tuning“ bezeichnet wird. Zeigen Sie auf einige gekennzeichnete Beispiele in Amazon Simple Storage Service (Amazon S3), und Amazon Bedrock erstellt eine Kopie des Basismodells, trainiert es mit Ihren Daten und erstellt ein fein abgestimmtes Modell, auf das nur Sie zugreifen können, sodass Sie maßgeschneiderte Antworten erhalten. Die Feinabstimmung ist für die Modelle Command, Llama 2, Amazon Titan Text Lite und Express, Amazon Titan Image Generator und Amazon Titan Multimodal Embeddings verfügbar. Eine zweite Möglichkeit zur Anpassung von Amazon Titan Text Lite und Amazon Titan Express FMs in Amazon Bedrock ist das fortgesetzte Vortraining, eine Technik, die Ihre nicht gekennzeichneten Datensätze verwendet, um die FM für Ihre Domain oder Ihre Branche anzupassen. Sowohl bei der Feinabstimmung als auch beim fortlaufenden Vortraining erstellt Amazon Bedrock eine private, angepasste Kopie des Basis-FM für Sie, und Ihre Daten werden nicht zum Trainieren der ursprünglichen Basismodelle verwendet. Ihre Daten, die zur Anpassung der Modelle verwendet werden, werden sicher über Ihre Amazon Virtual Private Cloud (Amazon VPC) übertragen. Weitere Informationen erhalten Sie im Blog.

Die Converse-API bietet Entwicklern eine einheitliche Methode zum Aufrufen von Amazon-Bedrock-Modellen. Das vereinfacht die Arbeit, da die Anpassung an modellspezifische Unterschiede wie etwa Inferenzparameter entfällt.