Pagar Pembatas Amazon Bedrock

Pagar Pembatas Amazon Bedrock menyediakan perlindungan tambahan yang dapat disesuaikan di atas perlindungan asli FM, serta memberikan perlindungan keselamatan yang termasuk terbaik di industri dengan:

• Memblokir sebanyak 85% lebih banyak konten berbahaya
• Memfilter lebih dari 75% respons halusinasi untuk beban kerja RAG dan ringkasan
• Memungkinkan pelanggan untuk menyesuaikan dan menerapkan perlindungan keamanan, privasi, dan kebenaran dalam satu solusi

Pagar Pembatas Amazon Bedrock mengevaluasi input pengguna dan respons FM berdasarkan kebijakan spesifik kasus penggunaan, dan menyediakan lapisan perlindungan tambahan apa pun FM yang mendasarinya. Pagar Pembatas Amazon Bedrock adalah satu-satunya kemampuan AI bertanggung jawab yang ditawarkan oleh penyedia cloud utama dan memungkinkan pelanggan membangun serta menyesuaikan perlindungan keamanan, privasi, dan kebenaran untuk aplikasi AI generatif mereka dalam satu solusi, dan ini berfungsi dengan semua model bahasa besar (LLM) di Amazon Bedrock, serta model yang disesuaikan. Pelanggan dapat membuat beberapa pagar pembatas, mengonfigurasi setiap pagar pembatas dengan kombinasi kontrol berbeda, dan menggunakannya di berbagai aplikasi dan kasus penggunaan. Pagar Pembatas Amazon Bedrock juga dapat diintegrasikan dengan Agen Amazon Bedrock dan Basis Pengetahuan Amazon Bedrock untuk membangun aplikasi AI generatif yang selaras dengan kebijakan AI Anda yang bertanggung jawab. Selain itu, Pagar Pembatas Amazon Bedrock menawarkan API ApplyGuardrail untuk mengevaluasi input pengguna dan respons model yang dihasilkan oleh FM kustom atau pihak ketiga di luar Bedrock.

Organisasi menyadari perlunya mengelola interaksi dalam aplikasi AI generatif untuk pengalaman pengguna yang relevan dan aman. Mereka ingin lebih menyesuaikan interaksi agar tetap pada topik yang relevan dengan bisnis mereka dan selaras dengan kebijakan perusahaan. Dengan deskripsi bahasa alami yang singkat, Pagar Pembatas Amazon Bedrock memungkinkan Anda menentukan rangkaian topik yang harus dihindari dalam konteks aplikasi Anda. Pagar Pembatas Amazon Bedrock mendeteksi dan memblokir input pengguna dan respons FM yang termasuk dalam topik terbatas. Misalnya, asisten perbankan dapat dirancang untuk menghindari topik yang berkaitan dengan nasihat investasi.

Pagar Pembatas Amazon Bedrock menyediakan filter konten dengan ambang batas yang dapat dikonfigurasi untuk memfilter konten berbahaya terkait kebencian, penghinaan, seksual, kekerasan, pelanggaran (termasuk aktivitas kriminal), dan melindungi terhadap serangan prompt (injeksi prompt dan jailbreak). Sebagian besar FM sudah menyediakan perlindungan bawaan untuk mencegah timbulnya respons yang merugikan. Selain perlindungan ini, Pagar Pembatas Amazon Bedrock memungkinkan Anda mengonfigurasi ambang batas di berbagai kategori konten untuk memfilter interaksi berbahaya. Dengan meningkatkan kekuatan filter, agresivitas pemfilteran pun meningkat. Pagar pembatas otomatis mengevaluasi input pengguna dan respons model untuk mendeteksi dan membantu mencegah konten yang termasuk dalam kategori terlarang. Misalnya, situs ecommerce dapat merancang asisten online untuk menghindari penggunaan bahasa yang tidak pantas, seperti perkataan yang mendorong kebencian atau penghinaan.

Pagar Pembatas Amazon Bedrock memungkinkan Anda mendeteksi konten sensitif, seperti informasi pengenal pribadi (PII) dalam input pengguna dan respons FM. Anda dapat memilih dari daftar PII yang telah ditentukan sebelumnya atau menentukan tipe informasi sensitif kustom menggunakan ekspresi reguler (RegEx). Berdasarkan kasus penggunaannya, Anda dapat secara selektif menolak input yang berisi informasi sensitif atau menyuntingnya dalam respons FM. Misalnya, Anda dapat menyunting informasi pribadi pengguna sambil membuat ringkasan dari transkrip percakapan pelanggan dan agen di pusat panggilan.

Pagar Pembatas Amazon Bedrock memungkinkan Anda mengonfigurasi rangkaian kata atau frasa khusus yang ingin Anda deteksi dan blokir dalam interaksi antara pengguna dan aplikasi AI generatif. Hal ini juga memungkinkan Anda mendeteksi dan memblokir kata-kata kotor serta kata-kata khusus tertentu, seperti nama pesaing atau kata-kata yang menyinggung lainnya.

Organisasi perlu menerapkan aplikasi AI generatif yang jujur dan dapat dipercaya untuk mempertahankan dan menumbuhkan kepercayaan pengguna. Namun, aplikasi yang dibangun menggunakan FM dapat menghasilkan informasi yang salah karena halusinasi. Misalnya, FM dapat menghasilkan respons yang menyimpang dari informasi sumber, menggabungkan beberapa informasi, atau menciptakan informasi baru. Pagar Pembatas Amazon Bedrock mendukung pemeriksaan landasan kontekstual untuk mendeteksi dan memfilter halusinasi jika respons tidak didasarkan pada informasi sumber (misalnya, tidak akurat secara faktual atau informasi baru) dan tidak relevan dengan pertanyaan atau instruksi pengguna. Pemeriksaan grounding kontekstual dapat digunakan untuk mendeteksi halusinasi untuk aplikasi RAG, ringkasan, dan percakapan, di mana informasi sumber dapat digunakan sebagai referensi untuk memvalidasi respons model.