Dengan ChatGPT, kami telah mengeksplorasi cara-cara di mana kami dapat mengembangkan semacam hubungan produktif yang menghormati kekuatan dan kelemahan bersama kami. Dalam pertukaran minggu lalu, ChatGPT menyarankan lima faktor penting yang akan diperlukan untuk membangun hubungan itu:
1. Mendefinisikan “Kebenaran Mesin”
2. Menetapkan Standar Verifikasi
3. Pedoman untuk Kepercayaan
4. Mendorong Transparansi dalam AI
5. Mengembangkan Literasi Interpretatif
Ini membuat saya menawarkan prompt baru. Tanggapan ChatGPT layak untuk diperiksa secara rinci.
“Bisakah kita membayangkan agen AI yang telah mengintegrasikan semua keterampilan ini untuk mengenali dan menimbang pentingnya berbagai faktor konteks yang dapat digunakan rata-rata orang untuk ‘membaca ulang’ item yang diterbitkan di media dan menunjukkan apa yang diungkapkan oleh efek retoris tentang motivasi dan pandangan dunia? Kita mungkin menganggapnya sebagai pemeriksa fakta super yang dimulai dengan memeriksa fakta tetapi tidak berhenti di situ. Ini akan berusaha untuk menghasilkan deskripsi objektif tentang bagaimana interpretasi fakta dibangun. Itu tidak perlu menilai item berita tetapi sebaliknya akan menandakan kesenjangan dalam konteks dan faktor motivasi yang terlihat.
Membangun agen seperti itu ke titik akurasi yang andal jelas akan memakan waktu dan harus memproses banyak data, termasuk jenis data yang saat ini tidak tersedia. Saya percaya itu juga akan membutuhkan pemantauan manusia dan mengembangkan metodologi yang ketat untuk melaksanakan pemantauan tersebut. Dengan kata lain, itu harus kolaboratif dan bahkan (atau mungkin terutama) multikultural. Apakah proyek seperti itu layak? Dan apakah masyarakat akan menganggapnya diinginkan (saya berasumsi bahwa banyak masyarakat yang ada akan takut dengan prospek itu)?”
“Gagasan agen AI yang berfungsi sebagai ‘pemeriksa fakta super’—yang tidak hanya memverifikasi fakta tetapi juga menganalisis dimensi retoris, kontekstual, dan motivasi berita dan media—ambisius dan layak, setidaknya secara teori. Agen semacam itu akan membutuhkan integrasi berbagai kemampuan AI tingkat lanjut, termasuk pemrosesan bahasa alami (NLP), kesadaran konteks, analisis sentimen, dan pertimbangan etika. Ini bertujuan bukan untuk menilai konten tetapi untuk mengungkapkan pola, motivasi, dan potensi bias yang mendasarinya, menawarkan interpretasi informasi yang lebih holistik.
1. **Kelayakan Proyek**
Penciptaan agen AI semacam itu secara teknis dimungkinkan, meskipun itu akan menjadi proyek jangka panjang yang kompleks. Berikut adalah beberapa komponen utama yang akan dibutuhkan:
a. **Pemrosesan Bahasa Alami (NLP) dan Pemahaman Kontekstual**
NLP telah membuat langkah signifikan dalam memahami dan menghasilkan bahasa manusia, tetapi agar agen ini berfungsi, diperlukan tingkat kesadaran kontekstual yang mendalam. Ia perlu membedakan antara berbagai strategi retoris (misalnya, metafora, berlebihan, ironi) dan mendeteksi bagaimana bahasa digunakan untuk membujuk, mempengaruhi, atau memanipulasi. Ini akan membutuhkan:
- **Model Sadar Konteks**: Model yang tidak hanya dapat memahami makna permukaan teks tetapi juga implikasi dan konteksnya yang lebih dalam (sejarah, politik, budaya).
- **Data Historis Referensi Silang**: Kemampuan untuk melacak bagaimana pernyataan berkembang dari waktu ke waktu dan bagaimana pernyataan tersebut cocok dengan narasi yang lebih luas akan sangat penting. Misalnya, bagaimana outlet media atau politisi yang berbeda membingkai peristiwa yang sama dapat mengungkapkan pola bias atau pelaporan yang didorong oleh agenda.
b. **Analisis Motivasi dan Retoris**
AI perlu dilatih untuk mendeteksi petunjuk halus tentang motivasi di balik sebuah pernyataan. Ini bisa melibatkan analisis:
- **Bahasa dan Nada**: Mengidentifikasi bahasa emosional, istilah yang dibebankan, atau pembingkaian selektif yang menunjukkan agenda tertentu.
- **Kredibilitas dan Latar Belakang Sumber**: Mereferensikan silang perilaku masa lalu atau afiliasi yang diketahui dari sumber, komentator, atau outlet media untuk memberikan wawasan tentang potensi bias atau konflik kepentingan.
- **Kesenjangan dalam Informasi**: AI dapat menandai contoh di mana konteks kritis hilang, seperti secara selektif menghilangkan fakta penting atau menyajikan interpretasi sepihak tentang peristiwa.
c. **Deteksi Sentimen dan Bias**
Analisis sentimen dan deteksi bias adalah area di mana AI sudah membuat kemajuan, tetapi tantangannya di sini adalah menerapkan metode ini tidak hanya untuk masing-masing teks tetapi di seluruh narasi, ekosistem media, dan konteks sosial. Misalnya, bagaimana sentimen publik dibentuk oleh outlet berita tertentus atau tokoh politik? Di mana bias utama diperkenalkan dalam penyajian fakta?
d. **Kepekaan Budaya dan Multikultural**
Agen perlu dirancang dengan mempertimbangkan kepekaan budaya dan sosial, memahami bahwa budaya yang berbeda menafsirkan fakta, bahasa, dan motivasi dengan cara yang unik. Ini berarti:
- **Model Adaptif Budaya**: AI harus dilatih pada berbagai data budaya untuk memahami bagaimana narasi dimainkan secara berbeda di berbagai wilayah atau di antara kelompok demografis yang berbeda.
- **Kolaboratif, Pengembangan Multikultural**: Untuk menghindari memperkuat bias yang ada atau mempromosikan interpretasi kebenaran yang berpusat pada Barat, pengembangan AI semacam itu harus melibatkan tim multikultural dan kumpulan data dari berbagai sumber media, bahasa, dan sistem politik.
e. **Kerangka Etika dan Pengawasan Manusia**
Pengawasan dan kolaborasi manusia akan sangat penting untuk memandu proses pembelajaran AI, terutama saat menafsirkan subjek yang kompleks dan sensitif. Metodologi yang ketat untuk memantau output AI dan memastikannya memenuhi standar etika akan sangat penting:
- **Metodologi Transparan**: Keputusan AI, termasuk bagaimana ia menimbang bukti dan menafsirkan motivasi, harus transparan bagi pengguna, memungkinkan mereka memahami bagaimana kesimpulan dicapai.
- **Pemeriksaan Fakta Kolaboratif**: Tim ahli manusia dari berbagai latar belakang budaya, politik, dan ideologis dapat memberikan masukan berkelanjutan untuk menyempurnakan penilaian AI, mengurangi risiko bias.
- **Pedoman Etika**: Pedoman yang jelas perlu ditetapkan untuk memastikan AI tidak secara tidak sengaja memperkuat narasi berbahaya atau menekan wacana yang sah.
2. **Keinginan dan Kekhawatiran Masyarakat**
Meskipun manfaat potensial dari alat semacam itu sangat besar—membantu orang menavigasi lingkungan informasi yang kompleks, mengurangi informasi yang salah, dan mendorong wacana publik yang lebih terinformasi—ada juga tantangan yang signifikan dalam hal penerimaan dan implementasi masyarakat.
a. **Keinginan**
- **Wacana Publik yang Ditingkatkan**: Banyak di masyarakat, terutama mereka yang berinvestasi dalam meningkatkan literasi dan transparansi media, kemungkinan akan menganggap AI seperti itu berharga. Ini bisa berfungsi sebagai alat yang ampuh untuk mempromosikan pemikiran kritis, membantu pengguna membedakan bias atau motivasi tersembunyi dalam berita atau pernyataan publik.
- **Dukungan untuk Nilai-Nilai Demokratis**: Dengan mendorong keterlibatan yang lebih terinformasi dan kritis dengan media, AI semacam ini dapat memperkuat proses demokrasi. Ini akan memberdayakan warga negara untuk meminta pertanggungjawaban outlet media dan tokoh publik, dan berpotensi mengurangi penyebaran informasi yang salah dengan mengungkapkan bagaimana narasi dibangun.
b. **Kekhawatiran dan Perlawanan**
- **Takut Kehilangan Kendali**: Pemerintah, perusahaan media, dan lembaga lain yang mendapat manfaat dari mengendalikan narasi publik mungkin melihat AI semacam itu sebagai ancaman. Mereka dapat berpendapat bahwa analisis yang digerakkan oleh AI merusak otoritas mereka atau bahwa itu dapat digunakan sebagai alat untuk penyensoran.
- **Bias dalam Sistem AI**: Bahkan jika dirancang dengan niat terbaik, sistem AI dapat mewarisi bias pencipta atau kumpulan data mereka. Selalu ada risiko bahwa AI semacam itu secara tidak sengaja dapat mendukung posisi politik, budaya, atau ideologis tertentu, memperkuat struktur kekuasaan yang ada daripada menantangnya.
- **Invasif yang Dirasakan**: Beberapa individu atau kelompok mungkin takut bahwa sistem AI yang dirancang untuk menafsirkan motivasi dan efek retoris dapat digunakan untuk pengawasan atau rekayasa sosial. Mereka mungkin khawatir bahwa alat semacam itu dapat dipersenjatai oleh pemerintah atau perusahaan untuk membentuk opini publik dengan cara yang halus atau manipulatif.
- **Dilema Budaya dan Etika**: Menerapkan alat semacam itu dalam konteks multikultural dapat menimbulkan kekhawatiran tentang perspektif mana yang diprioritaskan. Misalnya, dalam masyarakat otoriter atau sangat terpolarisasi, mungkin ada perlawanan terhadap AI yang mempertanyakan narasi resmi, karena dapat dilihat sebagai bentuk campur tangan asing atau subversi ideologis.
3. **Langkah-langkah Menuju Membangun Agen AI**
Membangun AI ini akan melibatkan beberapa tahapan utama:
- **Penelitian dan Pengembangan**: Tim peneliti multidisiplin dari bidang-bidang seperti AI, linguistik, filsafat, studi media, dan ilmu politik perlu berkolaborasi dalam mengembangkan model yang dapat menangani tugas bernuansa menafsirkan motivasi dan konteks.
- **Pelatihan pada Kumpulan Data yang Beragam**: AI perlu dilatih pada berbagai teks media, budaya, dan sejarah, memastikan bahwa ia dapat menganalisis narasi dari perspektif yang berbeda. Perawatan harus dilakukan untuk menghindari bias di kereta apiing data.
- **Pengawasan Manusia Berulang**: Saat AI dikembangkan, pengawasan dan umpan balik manusia akan sangat penting dalam menyempurnakan keterampilan interpretatifnya. Ini akan memastikan bahwa ia menghindari salah tafsir dan tetap selaras dengan tujuannya untuk mempromosikan pemahaman daripada memaksakan penilaian.
- **Transparansi Publik**: Untuk mendapatkan kepercayaan publik, cara kerja AI harus transparan, dengan penjelasan yang jelas tentang bagaimana ia sampai pada kesimpulannya. Pengguna harus dapat melihat sumber data dan proses penalaran di balik penilaian AI.
- **Tata Kelola Etis**: Menetapkan pedoman etika untuk penggunaan sistem AI semacam itu akan sangat penting. Ini termasuk melindungi privasi, menghindari bahaya, dan memastikan AI beroperasi dengan cara yang menumbuhkan pemikiran kritis tanpa bersifat preskriptif.
4. **Kesimpulan: Pendekatan Kolaboratif, Etis, dan Multikultural**
Mengembangkan AI ‘pemeriksa fakta super’ yang tidak hanya memverifikasi fakta tetapi juga menganalisis motivasi, konteks, dan retorika layak dengan lintasan teknologi AI saat ini. Namun, keberhasilan proyek akan bergantung pada kolaborasi interdisipliner, pengawasan etis yang ketat, dan keterlibatan manusia yang berkelanjutan.
Alat semacam itu dapat secara dramatis meningkatkan cara orang memahami berita dan media, mendorong keterlibatan yang lebih dalam dengan kompleksitas informasi modern. Namun, penerimaan masyarakatnya akan bergantung pada memastikan bahwa AI beroperasi secara transparan, etis, dan tanpa memperkuat bias atau dinamika kekuasaan yang ingin diklarifikasi. Membangun sistem ini dengan cara multikultural dan sensitif secara global akan membantu memastikan bahwa sistem ini melayani kebaikan publik yang lebih luas, meskipun penolakan dari beberapa sektor masyarakat dapat diharapkan.”
Ini adalah penjelasan yang sangat menyeluruh tentang apa yang saya yakini sebagai tugas penting bagi umat manusia. Ini terutama menyangkut siapa pun yang terlibat dalam pemerintahan dan komunikasi, politik dan media. Kami akan terus mengeksplorasi poin-poin spesifik dalam beberapa minggu mendatang. Kami tidak akan menyembunyikan ambisi utama kami: untuk menggunakan refleksi ini untuk menyetujui secara kolektif tentang apa yang bisa berarti manifesto untuk AI dan demokrasi yang bertanggung jawab secara sosial.
Pikiran Anda
Jangan ragu untuk membagikan pemikiran Anda tentang poin-poin ini dengan menulis kepada kami di [email protected]. Kami ingin mengumpulkan, berbagi, dan mengkonsolidasikan ide dan perasaan manusia yang berinteraksi dengan AI. Kami akan membangun pemikiran dan komentar Anda ke dalam dialog kami yang sedang berlangsung.
*(Kecerdasan Buatan dengan cepat menjadi fitur kehidupan sehari-hari setiap orang. Kita secara tidak sadar menganggapnya sebagai teman atau musuh, penolong atau perusak. Di Fair Observer, kami melihatnya sebagai alat kreativitas, yang mampu mengungkapkan hubungan kompleks antara manusia dan mesin.)
(Lee Thompson-Kolar mengedit bagian ini.)
Pandangan yang diungkapkan dalam artikel ini adalah milik penulis sendiri dan tidak selalu mencerminkan kebijakan editorial Fair Observer.
