Teknologi deepfake saat ini semakin menjadi sorotan karena potensinya untuk membuat video dan gambar palsu yang sangat meyakinkan. Salah satu aplikasi yang belakangan ini tengah jadi sorotan adalah ClothOff, yang memungkinkan pengguna untuk membuat gambar telanjang yang realistis dari siapa saja dengan menggunakan AI. Walau siapa pembuat aplikasi ini sudah lama jadi misteri, sebuah investigasi yang dilakukan The Guardian sepertinya telah mengungkap nama-nama beberapa orang yang terkait dengan aplikasi ini.
Dampak Berbahaya dari Pornografi Deepfake
Pornografi deepfake belakangan ini semakin marak, dan hal ini berdampak buruk secara emosional dan psikologis bagi para korbannya, terutama wanita dan anak perempuan. Contohnya, baru-baru ini sebuah kota kecil di Spanyol, Almendralejo, menjadi tempat terjadinya skandal pornografi dengan teknik deepfake. Lusinan gambar telanjang siswi di sebuah sekolah dibuat dengan menggunakan kecerdasan buatan dan beredar luas di WhatsApp. Insiden ini dilaporkan menyebabkan keresahan dan kepanikan di antara para siswi, dengan beberapa di antaranya tidak mau lagi pergi ke sekolah dan mengalami gangguan jiwa. Insiden serupa terjadi di sekolah menengah Westfield di New Jersey, yang memicu tuntutan perdata dan upaya bipartisan di Kongres AS untuk melarang pembuatan dan penyebaran gambar-gambar palsu tanpa persetujuan.
Investigasi terhadap ClothOff
Melalui investigasi yang dilakukan oleh The Guardian, telah terungkap siapa orang-orang di balik ClothOff, aplikasi pornografi deepfake yang digunakan dalam insiden di Spanyol dan New Jersey. Investigasi tersebut menemukan bahwa orang-orang yang menjalankan ClothOff sangat berhati-hati dalam menjaga kerahasiaan mereka, menggunakan rekayasa digital untuk menjawab pertanyaan media, dan bahkan menggunakan AI untuk membuat identitas palsu seorang lelaki, dilengkapi gambar yang 100% buatan AI, yang mereka klaim adalah CEO dari ClothOff.
Orang-orang yang terkait dengan ClothOff
Investigasi menemukan bahwa kakak beradik di Belarus, Dasha Babicheva dan Alaiksandr Babichau, diduga kuat adalah orang dibelakang aplikasi tersebut, karena kaitannya yang erat dengan berbagai aspek bisnis ClothOff. Akun Telegram Babicheva digunakan untuk menjalankan bisnis atas nama ClothOff, termasuk mendiskusikan aplikasi ke bank, perubahan pada situs web, dan kemitraan bisnis. Alamat email Babichau digunakan dalam iklan perekrutan untuk ClothOff, dan catatan nama domain menunjukkan bahwa dia adalah pemilik situs web yang merupakan duplikat yang hampir sama dengan situs web ClothOff. Selain itu, tangkapan layar percakapan antara staf ClothOff dan mitra bisnis potensial menunjukkan bahwa Babichau mungkin adalah pendiri aplikasi tersebut.
Bahaya Identitas Palsu
Investigasi terhadap ClothOff menunjukkan semakin sulitnya membedakan orang asli dengan identitas palsu yang bisa disertai dengan foto, video, dan bahkan audio berkualitas tinggi. Identitas palsu dapat digunakan untuk berbagai tujuan jahat, seperti penipuan, kecurangan, dan pencurian identitas.
Dalam kasus ClothOff, pembuatnya menggunakan bisnis palsu dan perusahaan samaran untuk menyembunyikan identitas mereka untuk menghindari pertanggungjawaban atas dampak buruk yang ditimbulkan oleh aplikasi mereka.
Maraknya teknologi deepfake dan potensi penyalahgunaannya telah menimbulkan kekhawatiran tentang perlunya regulasi. Investigasi terhadap ClothOff menyoroti pentingnya meminta pertanggungjawaban dari mereka yang bertanggung jawab atas pembuatan dan penyebaran pornografi deepfake. Kongres AS saat ini sedang mempertimbangkan rancangan undang-undang bipartisan yang akan mengkriminalisasi pembuatan dan penyebaran pornografi deepfake yang tidak konsensual. Namun, masih banyak yang harus dilakukan untuk mengatasi masalah ini, termasuk kampanye pendidikan dan kesadaran tentang bahaya teknologi deepfake.
Klik disini apabila anda tertarik untuk melihat secara lengkap hasil investigasi Guardian tentang pembuat aplikasi ClothOff.
