Amazon Web Services (AWS) meluncurkan layanan baru pada konferensi re:Invent yang sedang berlangsung yang akan membantu perusahaan mengurangi terjadinya halusinasi kecerdasan buatan (AI). Diluncurkan pada hari Senin, alat pemeriksaan Penalaran Otomatis tersedia dalam pratinjau dan dapat ditemukan di dalam Pagar Pembatas Amazon Bedrock. Perusahaan mengklaim bahwa alat tersebut secara matematis memvalidasi keakuratan respons yang dihasilkan oleh model bahasa besar (LLM) dan mencegah kesalahan faktual dari halusinasi. Ini mirip dengan fitur Grounding dengan Google Search yang tersedia di Gemini API serta Google AI Studio.
Pemeriksaan Penalaran Otomatis AWS
Model AI seringkali dapat menghasilkan respons yang salah, menyesatkan, atau fiksi. Ini dikenal sebagai halusinasi AI, dan masalah ini memengaruhi kredibilitas model AI, terutama ketika digunakan di ruang perusahaan. Sementara perusahaan dapat mengurangi masalah ini dengan melatih sistem AI pada data organisasi berkualitas tinggi, data pra-pelatihan dan kelemahan arsitektur masih dapat membuat AI berhalusinasi.
AWS merinci solusinya untuk halusinasi AI dalam sebuah posting blog. Alat pemeriksaan Penalaran Otomatis telah diperkenalkan sebagai perlindungan baru dan ditambahkan dalam pratinjau dalam Amazon Bedrock Guardrails. Amazon menjelaskan bahwa mereka menggunakan “proses verifikasi dan penalaran algoritmik berbasis logika matematis” untuk memverifikasi informasi yang dihasilkan oleh LLM.
Prosesnya cukup mudah. Pengguna harus mengunggah dokumen relevan yang menjelaskan aturan organisasi ke konsol Amazon Bedrock. Bedrock akan secara otomatis menganalisis dokumen-dokumen ini dan membuat kebijakan Penalaran Otomatis awal, yang akan mengubah teks bahasa alami menjadi format matematika.
Setelah selesai, pengguna dapat pindah ke menu Penalaran Otomatis di bawah bagian Pengamanan. Di sana, kebijakan baru dapat dibuat dan pengguna dapat menambahkan dokumen yang ada yang berisi informasi yang harus dipelajari oleh AI. Pengguna juga dapat mengatur parameter pemrosesan dan maksud kebijakan secara manual. Selain itu, contoh pertanyaan dan jawaban juga dapat ditambahkan untuk membantu AI memahami interaksi yang khas.
Setelah semua ini selesai, AI akan siap untuk diterapkan, dan alat pemeriksaan Penalaran Otomatis akan secara otomatis memverifikasi jika chatbot memberikan respons yang salah. Saat ini, alat ini tersedia dalam pratinjau hanya di wilayah AWS AS Barat (Oregon). Perusahaan berencana untuk segera meluncurkannya ke wilayah lain.
