Elijah Heacock adalah remaja yang bersemangat yang membuat orang tersenyum. Dia “tidak tertekan, dia tidak sedih, dia tidak marah,” kata ayah John Burnett kepada CBS Saturday Morning.
Tetapi ketika Elijah menerima teks mengancam dengan foto telanjang yang dibuat AI tentang dirinya yang menuntut dia membayar $ 3.000 agar tidak dikirim ke teman dan keluarga, semuanya berubah. Dia meninggal karena bunuh diri tak lama setelah menerima pesan itu, afiliasi CBS KFDA melaporkan. Burnett dan ibu Elijah, Shannon Heacock, tidak tahu apa yang terjadi sampai mereka menemukan pesan di ponselnya.
Elia adalah korban penipuan sextortion, di mana aktor jahat menargetkan kaum muda secara online dan mengancam akan merilis gambar eksplisit mereka. Penipu sering meminta uang atau memaksa korbannya untuk melakukan tindakan berbahaya. Orang tua Elijah mengatakan mereka bahkan belum pernah mendengar istilah itu sampai penyelidikan atas kematiannya.
“Orang-orang yang mengejar anak-anak kami terorganisir dengan baik,” kata Burnett. “Mereka dibiayai dengan baik, dan mereka tanpa henti. Mereka tidak membutuhkan foto itu nyata, mereka dapat menghasilkan apa pun yang mereka inginkan, dan kemudian mereka menggunakannya untuk memeras anak itu.”
CBS Sabtu Pagi 
Asal-usul penipuan sextortion
Laporan tentang skema tersebut telah meroket: Pusat Nasional untuk Anak-anak yang Hilang dan Dieksploitasi mengatakan pihaknya menerima lebih dari 500.000 laporan penipuan sextortion yang menargetkan anak di bawah umur hanya dalam setahun terakhir. Setidaknya 20 anak muda telah bunuh diri karena penipuan sextortion sejak 2021, perkiraan Biro Investigasi Federal.
Remaja laki-laki telah menjadi sasaran khusus, kata NCMEC pada tahun 2023, dan dengan meningkatnya AI generatif layanan, gambarnya bahkan tidak perlu nyata. Lebih dari 100.000 laporan yang diajukan ke Pusat Nasional untuk Anak Hilang dan Dieksploitasi tahun ini melibatkan AI generatif, kata organisasi itu.
“Anda sebenarnya tidak memerlukan keterampilan teknis apa pun pada saat ini untuk membuat materi ilegal dan berbahaya semacam ini,” kata Dr. Rebecca Portnoff, kepala ilmu data di Thorn, sebuah organisasi nirlaba yang berfokus pada pencegahan eksploitasi anak online. Hanya mencari cara membuat gambar telanjang seseorang akan memunculkan hasil pencarian untuk aplikasi, situs web, dan sumber daya lainnya, kata Portnoff.
Krisis mungkin tampak luar biasa. Tapi ada solusi, kata Portnoff. Thorn memiliki inisiatifnya sendiri, “Safety By Design,” yang menguraikan hambatan yang harus ditetapkan perusahaan AI saat mengembangkan teknologi mereka. Hambatan itu dirancang untuk membantu mengurangi sextortion, kata Thorn. Segelintir perusahaan AI besar telah menyetujui prinsip-prinsip kampanye, kata Thorn.
“Ada solusi nyata dan nyata yang memang ada yang sedang digunakan saat ini yang dapat membantu mencegah penyalahgunaan semacam ini,” kata Portnoff.
Entitas pemerintah juga bekerja untuk memerangi sextortion. Yang baru saja berlalu Tindakan “Turunkan”, diperjuangkan oleh Melania Trump dan ditandatangani menjadi undang-undang oleh Presiden Trump, menjadikannya kejahatan federal untuk memposting gambar seksual eksplisit nyata dan palsu seseorang secara online tanpa persetujuan mereka. Undang-undang juga mengharuskan perusahaan media sosial dan situs web lain untuk menghapus gambar tersebut dalam waktu 48 jam setelah permintaan korban.
Orang tua Elia mengatakan mereka tidak pernah ingin keluarga lain menderita seperti yang mereka alami. Mereka telah berjuang untuk perubahan, afiliasi CBS WLKY melaporkan. Mereka mengatakan mereka berharap Tindakan “Turunkan” akan membuat perbedaan.
“Ini seperti peluru dalam perang. Itu tidak akan memenangkan perang,” kata Burnett. “Tidak ada perang yang pernah dimenangkan dengan satu peluru. Anda harus memenangkan pertempuran. Anda harus memenangkan pertarungan. Dan kami ada di dalamnya.”
