Jalan Baru Menuju Perbudakan

Pada dekade awal abad ke-21, generasi baru oligarki telah muncul: raksasa teknologi global. Pernah dipuji sebagai pengganggu visioner, orang-orang ini – Peter Thiel, Marc Andreessen, Mark Zuckerberg, Elon Musk, Jeff Bezos dan segelintir lainnya – sekarang memegang kekuasaan yang menyaingi atau melampaui banyak pemerintah. Platform, jejaring sosial, dan alat infrastruktur mereka menyentuh hampir setiap aspek kehidupan sehari-hari, mulai dari cara kita berkomunikasi dengan orang yang kita cintai hingga bagaimana kita menerima perawatan medis, bagaimana kita menavigasi jalan-jalan kota, dan bahkan bagaimana kita mengkonseptualisasikan demokrasi kita.

Meskipun berbeda dalam gaya dan filosofi pribadi, individu-individu ini semakin menyatu pada gagasan bahwa “inovasi” harus menang atas struktur warisan: tradisi budaya, perlindungan tenaga kerja, norma-norma demokrasi dan kadang-kadang bahkan premis dasar pemerintahan mayoritas. Thiel telah berulang kali mempertanyakan apakah demokrasi tetap kompatibel dengan kemajuan teknologi; Teknologi Neuralink Musk bercita-cita untuk memadukan otak manusia dengan mesin dengan cara yang dapat mengatur ulang identitas manusia itu sendiri; Andreessen memperjuangkan “perangkat lunak yang memakan dunia” sebagai kekuatan yang tak terbendung; Bezos berinvestasi dalam perjalanan luar angkasa pribadi sementara kerajaan e-commerce-nya “mengganggu” ritel dan logistik; dan Zuckerberg mengawasi konglomerat media yang luas, luas, dan tidak diatur yang dapat “membuat persetujuan” sesuai keinginannya. Kekayaan gabungan, pengaruh mereka pada kebijakan dan kapasitas untuk membentuk wacana publik telah tumbuh begitu cepat sehingga kerangka kerja yang dirancang untuk meminta pertanggungjawaban kapitalis tradisional – undang-undang antimonopoli, pengawasan pemerintah dan tekanan publik – berjuang untuk mengimbangi.

Dalam esai ini, saya mengusulkan bahwa era kita memasuki fase baru: potensi perosotan menuju tekno-fasisme atau neo-feodalisme, di mana sekelompok kecil visioner ultra-kaya mengatur petak besar ekonomi global, hubungan sosial, dan pemerintahan politik – seringkali di luar lingkup lembaga demokrasi. Menggambar pada peringatan sejarah (dari F.A. Hayek Si Jalan ke Perbudakan untuk kritik Hannah Arendt terhadap gerakan totaliter) dan analisis kontemporer tentang ekonomi politik (kapitalisme pengawasan Shoshana Zuboff, tekno-fasisme Janis Mimura di Jepang sebelum perang), esai ini akan mengeksplorasi bagaimana kebangkitan AI, robotika dan rekayasa genetika, di bawah kendali ketat dari tokoh-tokoh yang kuat, menantang mata pencaharian material kita dan gagasan otonomi manusia. Ini juga akan mengusulkan bahwa perjuangan historis untuk pemerintahan sendiri kolektif – sekali melawan raja, kemudian melawan negara-negara totaliter – harus ditata ulang untuk era di mana platform perusahaan mengontrol jalan utama kehidupan dan pengetahuan, dan di mana publik berisiko menjadi tunduk pada aristokrasi digital yang muncul.

Kebangkitan oligarki teknologi

Kemenangan teknologi dalam ekonomi modern, pada pandangan pertama, adalah kisah inovasi yang luar biasa. Raksasa generasi pertama teknologi – Microsoft, Apple, Amazon, Google, Facebook – mengklaim memperjuangkan konektivitas, efisiensi, dan pemberdayaan. Publik awalnya menyambut mereka dengan euforia, merayakan potensi demokratisasi komputasi pribadi dan Internet. Namun, pada tahun 2020, dinamika yang lebih dalam jelas: Alih-alih meratakan hierarki, perusahaan-perusahaan teknologi ini telah mengumpulkan modal dan kontrol yang sangat besar. Valuasi pasar melonjak, memungkinkan perusahaan-perusahaan ini untuk mengakuisisi atau membuat calon pesaing bangkrut. Pendiri mereka menjadi miliarder berkali-kali lipat.

Konsentrasi kekayaan yang dipercepat seperti itu pasti terwujud dalam pengaruh politik. Para pemimpin teknologi di Amerika Serikat, misalnya, menggelontorkan uang ke dalam lobi dan donasi kampanye, membentuk segala sesuatu mulai dari undang-undang privasi data dan undang-undang pajak hingga parameter peraturan ketenagakerjaan. Kami melihat tren serupa di China, di mana perusahaan seperti Tencent dan Alibaba mengklaim basis pengguna yang luas dan memegang hampir monopoli pada layanan sehari-hari, sering bekerja sama dengan otoritas negara.

Namun di samping kesuksesan finansial terdapat rasa keangkuhan yang membengkak. Melalui kekayaan generasi atau lotere genetik yang beruntung, para pemimpin ini menghadiri universitas elit dan memanfaatkan jaringan profesional yang kuat yang memelihara kebangkitan mereka. Subsidi pemerintah yang signifikan, lingkungan pajak yang menguntungkan, penelitian dan infrastruktur sektor publik (didanai oleh dolar pembayar pajak) dan bahkan reapropriasi teknologi yang ada (awalnya dikembangkan untuk proyek pertahanan atau akademis) semuanya berkontribusi pada terobosan mereka. Berani oleh pujian di media dan pasar, mereka sekarang sering menganggap diri mereka sebagai arsitek kemajuan yang hampir ilahi – baru übermenschen (manusia super) yang, dalam perkiraan mereka, telah melampaui konstri moral dan politik biasaaints. Perpaduan antara ucapan selamat diri dan supremasi finansial ini membentuk tulang punggung pola pikir tekno-fasis di mana mereka mengklaim hak ilahi untuk membentuk masa depan kolektif kita dalam citra distopia mereka sendiri.

Dinamika ini menciptakan asimetri kekuatan yang hanya dapat ditangkap oleh beberapa analogi historis. Para baron feodal Abad Pertengahan tidak pernah memegang begitu banyak nyawa manusia di tangan mereka atau memiliki alat untuk mengawasi atau membentuk kesadaran subjek mereka dalam skala planet. Sementara negara-bangsa kontemporer secara teoritis ada untuk memeriksa kekuatan ini melalui regulasi dan undang-undang, kecepatan perubahan teknologi melampaui kecepatan di mana sebagian besar lembaga demokrasi dapat merespons. Hasilnya adalah oligarki yang tampak, bagi banyak orang, tidak dapat dibendung dan tidak dapat dipertanggungjawabkan – kontingen kecil tekno-royalti yang memimpin sistem penting untuk keberadaan modern.

Peringatan Hayek di Jalan menuju Perbudakan adalah bahwa perencanaan terpusat dapat membahayakan kebebasan individu dan pemerintahan demokratis. Dalam konteks kita saat ini, perencana pusat bukanlah lembaga pemerintah birokrasi tetapi dewan perusahaan dan CEO visioner yang memegang kendali ekosistem digital yang hampir total. Sementara bentuk tirani berbeda dari contoh abad ke-20 yang diperiksa Hayek, Akibatnya pembatasan kebebasan mungkin terbukti sangat mirip.

Gema kekaisaran dan fasisme

Karya Mimura tentang Jepang sebelum perang, Perencanaan untuk Kekaisaran: Birokrat Reformasi dan Negara Masa Perang Jepang, menerangi fenomena penting tahun 1930-an: Sekelompok teknokrat – sering dilatih sebagai insinyur atau birokrat – membayangkan sebuah kerajaan yang dikelola oleh para ahli daripada politisi tradisional. Kolonisasi Jepang di Manchuria menjadi laboratorium untuk pengembangan industri paksa, memanfaatkan penduduk lokal tanpa memperhatikan otonomi mereka. Dalam eksperimen tekno-fasis ini, teknologi dipuji sebagai instrumen peradaban tertinggi – alat ilmiah yang rasional yang dapat menyempurnakan pemerintahan dan masyarakat. Tetapi keputusan itu dibuat oleh para elit yang terisolasi dari kehendak rakyat.

Gema dari Perencanaan untuk Kekaisaran terdengar dalam proklamasi flamboyan Silicon Valley tentang kolonisasi Mars (SpaceX), seasteading (awalnya diperjuangkan oleh Thiel) atau negara-negara jaringan (seperti yang diusulkan oleh investor teknologi Balaji Srinivasan). Ambisi futuristik ini menampilkan diri mereka sebagai pelarian dari demokrasi yang tidak efisien. Tidak ada birokrasi, tidak ada politisi yang ikut campur – hanya kemajuan murni dan tanpa gesekan. Namun muncul pertanyaan: kemajuan untuk siapa? Jika seluruh komunitas direkayasa oleh segelintir elit, apakah rata-rata warga negara memiliki jalan lain?

Demikian pula, Italia Mussolini menjunjung tinggi negara korporatis, di mana pemerintah dan industrialis terkemuka menggabungkan kekuasaan, masing-masing memajukan kepentingan satu sama lain sambil mengesampingkan serikat buruh dan pemeriksaan demokratis. Meskipun para pemimpin teknologi abad ke-21 mungkin menjauhkan diri dari kebrutalan Mussolini, preferensi mereka untuk kemitraan publik-swasta yang gesit, jaringan pengawasan milik swasta, dan pengabaian yang hampir biasa terhadap proses legislatif mengingatkan pada korporatisme otoriter.

Di mana para pemimpin fasis yang dulunya bersikeras bahwa mereka menempa era modern, kita sekarang mendengar paduan suara baru gangguan, otomatisasi, dan desain sistem cerdas. Benang pemersatu adalah keyakinan bahwa “orang normal” tidak tahu apa yang terbaik untuk mereka, dan bahwa demokrasi hanya menghambat potensi visioner dari elit yang diurapi sendiri.

Otomatisasi dan budak digital

Langkah dramatis dalam AI, robotika, dan pembelajaran mesin secara luas disebut-sebut sebagai perbatasan akhir produktivitas. Kami diberitahu bahwa kendaraan otonom akan menghilangkan kecelakaan dan merevolusi rantai pasokan; Alat diagnostik berbasis AI akan meningkatkan perawatan pasien dan mengurangi biaya perawatan kesehatan; Robot akan menangani tugas-tugas yang membosankan atau berbahaya di gudang dan pabrik. Dan memang, janji-janji ini memiliki beberapa manfaat: Kemajuan teknologi dapat membawa keuntungan dalam keamanan, efisiensi, dan kenyamanan.

Namun, teknologi yang sama juga mengancam seluruh kategori pekerjaan. Industri truk dan taksi, yang mempekerjakan jutaan orang di seluruh dunia, dapat menghilang jika armada self-driving menjadi norma. Chatbots dan mesin rekomendasi berbasis AI sudah menggantikan peran manusia dalam pemasaran, layanan pelanggan, dan bahkan fungsi hukum atau analitis tertentu. Musk sendiri, sambil memperdebatkan keniscayaan masa depan yang didominasi robot, telah memprediksi pendapatan dasar universal – sebuah pengakuan bahwa kapitalisme, seperti yang terstruktur saat ini, mungkin tidak selamat dari gelombang pengangguran yang dipicu oleh otomatisasi.

Ahli teori politik Karl Marx menulis tentang keterasingan di era industri, tetapi keterasingan itu tidak ada artinya Era pasca-persalinan mungkin terlihat seperti. Jika kepemilikan AI dan sistem otomatis tetap sangat terkonsentrasi di antara beberapa perusahaan bernilai triliun dolar, masyarakat umum berisiko menjadi sepenuhnya bergantung pada mereka untuk segala hal mulai dari barang sehari-hari hingga layanan sosial. Sementara budak feodal pernah berhutang kerja dan kesetiaan kepada tuan mereka dengan imbalan tanah dan perlindungan, budak digital saat ini mungkin menawarkan data, pembuatan konten, dan perhatian untuk tetap berada dalam jaringan perusahaan – jaringan yang tidak hanya membentuk akses ke sumber daya tetapi juga batas-batas pemikiran dan tindakan yang diizinkan.

Dalam skenario yang sedang berlangsung ini, demokrasi menjadi genting. Ketika sebagian pemilih yang semakin cepat terpinggirkan secara ekonomi, bergantung pada segelintir pelayan perusahaan, konsep berpartisipasi sebagai warga negara yang bebas dan setara di sebuah republik berubah menjadi hampa. Mereka yang tidak memiliki keamanan ekonomi, apalagi sumber daya untuk menahan pengawasan otomatis atau manipulasi algoritmik, mungkin menemukan kekuatan politik mereka secara efektif dibatalkan.

Militerisme AI dan kekuatan perusahaan

Dalam waktu yang tidak terlalu lama, perang berbasis AI dapat meluas jauh melampaui serangan drone atau spionase digital. Robotika canggih, mulai dari kendaraan darat otonom hingga mesin humanoid, semakin mampu mereplikasi tugas tentara dan petugas penegak hukum. Perusahaan di garis depan robotika sudah mendemonstrasikan prototipe anjing robot, drone udara, dan kerangka luar mekanis yang dapat melintasi medan kasar atau menavigasi lanskap perkotaan untuk menghadapi target. Ketika dipasangkan dengan sensor berkemampuan AI, algoritme pengenalan wajah, dan analitik prediktif, unit robot ini dapat mendeteksi dan merespons ancaman yang dirasakan dengan kecepatan dan presisi yang melampaui kekuatan manusia.

Potensi perpindahan perwira dan tentara manusia membawa konsekuensi sosial dan politik yang sangat besar. Penegak manusia, dengan bahasa, budaya, dan intuisi moral yang sama, terkadang dapat mempertanyakan atau menolak perintah yang tidak bermoral; mereka dapat meniup peluit tentang pelecehan. Sebaliknya, mesin otonom mengikuti aturan yang telah diprogram sebelumnya atau arahan AI waktu nyata. Setelah ambang batas kekuatan mematikan atau koersif dipercayakan pada robotika berbasis AI, kontrol atas aturan tersebut menjadi yang terpenting. Jika sekelompok kecil raksasa teknologi swasta memegang algoritme dan desain perangkat keras berpemilik, akuntabilitas menguap. Baik beroperasi di bawah bendera negara-bangsa atau melalui kontrak keamanan swasta, para elit ini secara efektif menggunakan aparat paramiliter yang lebih menjawab keharusan perusahaan atau individu daripada pengawasan demokratis.

Paralel yang jelas muncul dalam fenomena sejarah kompleks industri militer, di mana pemerintah sangat bergantung pada kontraktor swasta untuk memproduksi senjata dan membentuk kebijakan pertahanan. Pergeseran hari ini mungkin lebih dalam. Robotika dan AI bukan hanya persenjataan baru; Mereka memperkenalkan bentuk kepatuhan algoritmik yang dapat menghilangkan dimensi manusia dari peperangan dan kepolisian. Jika pembaruan perangkat lunak atau perbaikan bug hanya datang dari segelintir perusahaan, pemerintah – apalagi publik – dapat menyandera tekno-fasis yang memiliki dan memelihara kekuatan robotik.

Konsekuensi bagi kebebasan sipil membayangi besar. Polisi otonom yang dilengkapi dengan pemindaian biometrik dapat dikerahkan untuk memadamkan protes, menegakkan jam malam, atau melakukan pengawasan massal tanpa gesekan hati nurani manusia atau hak-hak buruh. Warga negara mungkin menemukan diri mereka diatur oleh apa yang pada dasarnya adalah militer swasta yang digerakkan oleh AI – yang beroperasi di bawah ilusi yurisdiksi nasional tetapi pada akhirnya tunduk pada kehendak kader kecil triliuner. Revolusi dalam pasukan militer dan polisi yang digerakkan oleh AI dengan demikian berisiko menjadi pengungkit baru untuk kekuasaan otokrasi, memungkinkan segelintir orang untuk memaksakan visi ketertiban mereka pada banyak orang, sambil membongkar institusi yang pernah membatasi penyalahgunaan wewenang. Di sinilah ide tekno-fasisme muncul dengan kejelasan yang mencolok: Sebuah elit teknokratis, yang mengendalikan tidak hanya pasar tetapi juga mekanisme pengawasan dan pemaksaan, menggunakan otoritas yang dulunya disediakan untuk para despot.

Bioengineering dan eugenika baru

Di luar otomatisasi dan pengawasan, perbatasan lain mengisyaratkan: rekayasa tubuh dan pikiran itu sendiri. Neuralink Musk, misalnya, bertujuan untuk menanamkan chip komputer di otak manusia, seolah-olah untuk mengembalikan fungsionalitas bagi penyandang cacat atau menggabungkan kognisi manusia dengan kecerdasan buatan. Teknik pengeditan gen seperti CRISPR memberi para ilmuwan kemampuan untuk mengubah sifat-sifat yang dapat diwariskan, meningkatkan kemungkinan manusia desainer.

Bagaimana jika hanya 1% teratas yang mampu melakukan intervensi ini? Akankah kita melihat eugenika baru, tidak dituangkan dalam pseudosains rasial yang mengerikan dari masa lalu, tetapi dalam logika peningkatan berbasis pasar yang hanya tersedia untuk elit yang membayar?

Di era terobosan bioteknologi yang dikendalikan oleh perusahaan swasta, bayangkan skenario di mana kesenjangan antara manusia yang ditingkatkan dan yang tidak ditingkatkan melebar secara eksponensial. Jika biaya teknologi membuatnya tetap eksklusif, stratifikasi masyarakat mungkin terkunci pada tingkat biologis atau neurologis. Kelas teknokratik yang memiliki hak istimewa secara genetik bisa secara harfiah menjadi semacam spesies yang terpisah, mengantarkan sistem kasta baru yang mengerdilkan ketidaksetaraan Era Informasi – ini sebenarnya adalah visi plutokrat seperti Theil, Andreesen dan sejenisnya.

Bahkan jika badan pengatur berusaha mengendalikan perkembangan tersebut, sejarah menunjukkan bahwa aktor terkaya dapat berbelanja yurisdiksi atau memengaruhi anggota parlemen untuk mengizinkan program percontohan yang secara bertahap berkembang. Misalnya, pariwisata ibu pengganti atau liburan reproduksi sudah terjadi di mana peraturan longgar; Demikian pula, pengusaha pengeditan gen dapat mendirikan laboratorium di negara-negara dengan pengawasan minimal. Seiring waktu, normalisasi elit biotek dapat terjadi melalui narasi pemasaran yang menggembar-gemborkan penggunaan peningkatan yang bertanggung jawab. Sementara itu, pertanyaan filosofis tentang kebebasan manusia, hak pilihan, dan kesetaraan – landasan masyarakat demokratis – akan terkikis di bawah logika “jika Anda bisa membayar, Anda bisa menjadi lebih baik.”

Neoreaksi dan tekno-feodalisme

Salah satu tren intelektual yang lebih meresahkan yang mendapatkan daya tarik di Silicon Valley adalah neoreaction, diperjuangkan oleh blogger seperti Curtis Yarvin (juga dikenal dengan nama samarannya, Mencius Moldbug) dan diam-diam dihibur oleh beberapa investor teknologi terkenal. Neoreaction berpendapat bahwa demokrasi tidak efisien, merusak diri sendiri dan ditakdirkan. Para advokat percaya bahwa “CEO bangsa” yang berpendidikan tinggi dan kuasi-monarki akan lebih efektif daripada proses legislatif yang berantakan. Beberapa bahkan menyerukan tambal sulam kota piagam atau negara jaringan, masing-masing diatur oleh pendiri visioner yang dapat menetapkan undang-undang setempat, menangani kepolisian, dan mengelola sumber daya sesuai keinginan mereka.

Pandangan dunia ini beresonansi dengan sudut-sudut tertentu dari elit teknologi yang melihat diri mereka sebagai aristokrat alami: pembuat kode, pengusaha, dan insinyur brilian yang telah mendapatkan hak untuk memerintah berdasarkan kecerdasan dan penciptaan kekayaan. Demokrasi, di mata mereka, adalah batu sandungan bagi kemajuan rasional – penuh kompromi, ketidaktahuan, dan birokrasi. Jauh dari pinggiran, ide-ide ini telah beredar di lingkaran sosial jutawan dan miliarder yang melihatnya sebagai perpanjangan logis dari budaya pemujaan pendiri Silicon Valley.

Bukan kebetulan bahwa para kritikus menggambarkan fenomena ini sebagai tekno-feodalisme. Di bawah monarki, penguasa feodal pernah menjalankan perkebunan dengan otonomi yang hampir total. Varian saat ini adalah sekelompok pendiri teknologi, masing-masing menguasai ranah digital – mesin pencari, saluran ritel, platform media sosial, ekosistem periklanan, dan harta karun data – di mana mereka menjalankan otoritas yang hampir mutlak atas bagaimana miliaran orang bekerja, berkomunikasi, atau berbelanja.

Institusi yang rusak, publik yang terfragmentasi

Di luar ancaman teoretis, kenyataannya adalah bahwa lembaga publik telah menunjukkan diri mereka tidak siap untuk menangani kecepatan eksponensial teknologi atau skala platform swasta yang belum pernah terjadi sebelumnya. Regulator berebut untuk mengadaptasi alat antimonopoli berusia puluhan tahun ke jaringan tidak berwujud yang didorong oleh ekonomi data. Kebuntuan partisan di legislatif mencegah tanggapan legislatif yang cepat. Lembaga yang mengawasi hak-hak buruh tetap dikalahkan oleh pasukan pengacara dan pelobi di sisi perusahaan. Sementara itu, masyarakat lokal berjuang melawan raksasa berbagi tumpangan atau pengiriman yang algoritmenya melewati kode ketenagakerjaan lokal dan standar lingkungan.

Bahkan bentuk wacana publik berubah-ubah. Perusahaan media sosial, didorong oleh metrik keterlibatan, menghargai konten ekstrem atau memecah belah. Umpan algoritmik memecah pemilih menjadi publik mikro dengan propaganda yang disesuaikan. Demokrasi bergantung pada beberapa dasar fakta bersama dan kesediaan untuk terlibat dalam debat yang masuk akal; Kondisi penting ini memburuk ketika kurasi perusahaan menumbuhkan ruang gema. Dalam lingkungan seperti itu, membujuk massa kritis warga untuk berdiri bersama dalam isu-isu utama — apakah perubahan iklim, perlindungan pekerja, atau privasi data — menjadi semakin menantang.

Ditambah dengan pengenalan teknologi deepfake canggih, teks yang dihasilkan AI, dan pasukan bot manipulatif: lingkungan disinformasi yang berputar-putar yang dapat memenuhi lanskap politik, semakin melemahkan kepercayaan pada proses demokrasi. Kita sudah melihat petunjuk tentang hal ini dengan campur tangan pemilu asing; bayangkan skenario di mana pemain domestik, yang diberdayakan oleh mesin pemasaran AI, dapat mengubah opini publik dalam skala besar atau menenggelamkan suara-suara yang berbeda pendapat. Ketika tokoh teknologi memiliki platformRMS (dan data tentang bagaimana kita berpikir dan merasakan), mereka secara efektif mengontrol percakapan, bahkan jika kehalusan adalah taktik pilihan mereka. Memang, jika mereka dapat membentuk lingkungan mental di mana pemilih membuat pilihan, fasad pemilihan bebas mungkin tetap ada, tetapi substansinya menjadi dipertanyakan.

Tantangan terhadap tirani

Namun sejarah juga mengajarkan bahwa semua bentuk tirani – monarki, totaliter, plutokrasi – dapat ditantang dan sering dibatalkan, dengan perlawanan yang cukup terorganisir. Pertanyaannya adalah apakah besarnya dan kebaruan kekuatan elit teknologi dapat ditandingi dengan bentuk pengorganisasian politik dan sosial yang kuat dan imajinatif. Beberapa titik awal:

1. Antimonopoli dan regulasi platform: Pembuat kebijakan harus menemukan kembali kerangka kerja antimonopoli yang cocok untuk pasar berbasis data. Memecah atau mengatur monopoli teknologi terbesar dapat mengembalikan tekanan persaingan. Proposal yang lebih radikal termasuk mengubah platform utama menjadi utilitas publik atau kepercayaan data, memastikan bahwa tidak ada satu pun perusahaan atau individu yang dapat menggunakan kekuasaan tak terkendali atas infrastruktur digital yang penting.
2. RUU Hak Digital: Para sarjana dan aktivis telah mengusulkan Undang-Undang Hak Digital yang memastikan privasi pengguna, portabilitas data, transparansi algoritmik, dan hak untuk memutuskan hubungan. Dengan menetapkan prinsip-prinsip ini, masyarakat dapat merebut kembali beberapa otonomi dari platform perusahaan, membatasi kapasitas untuk manipulasi perilaku skala besar.
3. Investasi publik dalam AI dan robotika: Alih-alih menyerahkan pengembangan AI hanya kepada perusahaan swasta, lembaga publik, termasuk universitas dan lembaga pemerintah, harus memperluas penelitian dan pengembangan sumber terbuka. Dengan menjadikan AI dan robotika canggih sebagai barang publik, kami mengurangi risiko bahwa beberapa maestro dapat secara eksklusif mendikte bagaimana alat ini membentuk kembali kehidupan tenaga kerja dan sosial.
4. Jaring pengaman sosial dan layanan dasar universal: Jika otomatisasi memang menggusur puluhan juta pekerja, hanya membagikan tunjangan minimal mungkin tidak cukup. Jaring pengaman sosial yang kuat – termasuk perumahan, pendidikan, dan perawatan kesehatan sebagai barang publik – akan memastikan bahwa orang mempertahankan jalan menuju partisipasi sipil dan independensi dari perintah perusahaan.
5. Perjanjian internasional tentang peperangan AI dan rekayasa genetika: Seperti halnya senjata nuklir di era sebelumnya, perjanjian global dan badan pengatur internasional harus membatasi penggunaan sistem senjata berbasis AI dan sangat membatasi pengeditan gen klandestin. Tanpa kolaborasi global, aktor swasta atau negara dapat dengan mudah menghindari hukum domestik dengan bergerak melintasi perbatasan.
6. Keterlibatan sipil dan literasi digital yang diperbarui: Kelompok masyarakat sipil, organisasi akar rumput, dan organisasi nirlaba harus bekerja tanpa lelah untuk meningkatkan kesadaran publik tentang bagaimana inovasi dapat menutupi bentuk-bentuk baru eksploitasi dan kontrol. Melibatkan generasi muda dalam literasi digital – perspektif kritis tentang algoritme, privasi data, dan manipulasi online – dapat mengurangi kerentanan terhadap penggunaan teknologi yang tidak bermoral.
7. Kerangka etika untuk insinyur dan ilmuwan: Sama seperti dokter mengambil Sumpah Hippocratic, orang-orang yang membangun sistem AI, implan saraf, atau alat pengeditan gen dapat berjanji untuk menjunjung tinggi standar yang melindungi hak-hak individu dan kesejahteraan sosial. Meskipun komitmen etis semacam itu tidak dapat menggantikan regulasi, mereka dapat menumbuhkan norma-norma profesional yang membuat penyalahgunaan teknologi yang merusak lebih kecil kemungkinannya.

Proposal ini, meskipun beragam, semuanya bergantung pada satu premis: bahwa warga negara dan perwakilan terpilih mereka harus secara aktif membentuk masa depan teknologi, daripada secara pasif menerimanya dari CEO atau dewan direksi yang digerakkan oleh keuntungan.

Perjuangan kami untuk agensi

Pada pendiriannya, AS membuang monarki dalam tindakan revolusioner yang berusaha menjamin pemerintahan sendiri. Di seluruh Eropa, warga akhirnya membongkar monarki absolut, menggantinya dengan rezim konstitusional dan berjuang melawan totalitarianisme abad ke-20. Dorongan di balik pergolakan ini serupa di mana-mana: klaim bahwa orang tidak boleh menjadi pion dalam rancangan besar orang lain, tidak peduli seberapa baik atau “visioner” yang diklaim calon penguasa.

Hari ini, kita menghadapi versi baru dari godaan lama. Di bawah bendera disrupsi dan inovasi, elit teknologi menegaskan bahwa proses demokrasi tidak dapat mengimbangi laju perubahan teknologi. Mereka berpendapat, secara implisit jika tidak secara eksplisit, bahwa kita harus mempercayai mereka untuk menetapkan aturan untuk dunia masa depan. Paternalisme ini mungkin dibalut dengan gerakan filantropi — seperti meluncurkan broadband universal atau memerangi pandemi dengan dana filantropi — tetapi tetap melewati pengambilan keputusan kolektif yang mendasari konsep modern kebebasan dan kesetaraan.

Melawan gelombang ini berdiri solidaritas potensial jutaan, bahkan miliaran, individu yang mengakui bahwa teknologi harus menjadi alat untuk meningkatkan perkembangan manusia, daripada sarana untuk memusatkan kekayaan dan otoritas. Jalan Baru Menuju Perbudakan bukanlah takdir yang tak terelakkan; itu adalah peringatan. Ketika orang-orang di seluruh masyarakat memahami taruhannya – ketika mereka menyadari bahwa kehebatan ilmiah bisa sama berbahayanya dengan senjata tradisional jika dikendalikan oleh tangan yang tidak dapat dipertanggungjawabkan – mereka mungkin bersatu untuk melawan. Resistensi ini tidak perlu Luddite atau anti-teknologi. Sebaliknya, ia dapat merangkul visi kemajuan yang manusiawi dan inklusif: yang berinvestasi dalam platform sumber terbuka, akses universal ke terobosan canggih, dan komitmen yang tak tergoyahkan untuk musyawarah demokratis tentang bagaimana menyebarkan kekuatan baru.

Sejarah menunjukkan bahwa setiap kali busur kekuasaan tumbuh terlalu terkonsentrasi, gerakan muncul untuk membubarkannya. Gerakan buruh abad ke-19, perjuangan hak-hak sipil abad ke-20 dan kampanye anti-kolonial di seluruh Global South semuanya menunjukkan bahwa sistem dominasi yang mengakar, tidak peduli seberapa luasnya, dapat ditantang. Tantangan generasi kita bisa dibilang lebih halus karena memakai lapisan kenyamanan dan modernisasi. Dengan smartphone di setiap saku dan aplikasi untuk setiap kebutuhan, kita berisiko lupa bahwa kebebasan sejati membutuhkan lebih dari sekadar pilihan merek dan transaksi tanpa gesekan. Ini bertumpu pada kapasitas orang biasa untuk mengatur diri mereka sendiri – untuk berbicara, bertindak dan membentuk institusi yang menyusun kehidupan mereka.

Jika kita membiarkan baron teknologi baru menentukan bagaimana kita bekerja, berpikir, berkembang, dan bahkan berkembang biak, kita melepaskan inti dari eksperimen demokratis. Masa kini digital kita sangat efisien, tetapi berisiko membatasi keterbukaan radikal, ketidakpastian, dan agensi moral yang dituntut oleh demokrasi sejati. Jadi, saat kita berdiri di persimpangan jalan, pertanyaannya bukanlah apakah teknologi akan terus maju tetapi apakah kita, sebagai warga negara, akan menegaskan kembali hak kolektif kita untuk mengarahkan kemajuan itu menuju kebaikan bersama, daripada hanya melayani keinginan elit.

Ini adalah inti dari kesulitan modern kita: Akankah kita terbangun pada realitas tekno-fasisme yang merayap, di mana kader kecil visioner miliarder membentuk nasib kolektif kita? Atau dapatkah kita mengambil revolusi demokrasi yang belum selesai, menegaskan kembali bahwa kekuatan teknologi apa pun harus tetap berada di bawah kehendak kolektif rakyat? Jawabannya akan menentukan tidak hanya dekade mendatang tetapi seluruh lintasan masyarakat manusia di dunia di mana mesin dan data memandu porsi yang semakin besar dari kehidupan kita.

Pada akhirnya, perjuangan melawan tirani, dalam segala bentuknya, adalah perjuangan untuk hak pilihan manusia. Biarkan itu menjadi panduan terakhir kami. Kita harus menghadapi Jalan Baru menuju Perbudakan sebelum mengeras menjadi jalan yang darinya tidak ada kembalinya dengan mudah. Dengan melakukan itu, kami menegaskan bahwa, tidak peduli seberapa canggih alat kami, tanggung jawab moral dan politik kami – untuk diri kami sendiri, satu sama lain dan untuk generasi mendatang – tetap menjadi milik kami sendiri. Kita tidak dapat mengalihdayakannya kepada raja, teknokrat, atau algoritma mana pun tanpa mengorbankan esensi dari apa artinya menjadi bebas.

(Lee Thompson-Kolar mengedit bagian ini.)

Pandangan yang diungkapkan dalam artikel ini adalah milik penulis sendiri dan tidak selalu mencerminkan kebijakan editorial Fair Observer.