Wajahnya palsu, tapi lukanya nyata. Deepfake porn menunjukkan bagaimana teknologi bisa melukai martabat manusia.

Scholariumlp3es.com

Berminggu-minggu ia sulit tidur, merasa sendirian, dan tak berdaya. Perasaan itu dialami oleh Ruma (nama samaran), seorang perempuan asal Korea Selatan, pada 2021, sebagaimana dilaporkan ABC News Australia (2024). Saat masih menempuh studi di salah satu universitas di Seoul dan mengikuti kelas daring, Ruma mendapati gawainya berdering karena ada pesan masuk melalui media sosial Telegram. Ia terkejut melihat gambar-gambar dengan wajahnya yang ditempelkan pada tubuh berpose erotis. Begitulah cara deepfake porn bekerja.

Kasus serupa merebak dan menelan korban di berbagai jenjang pendidikan, mulai dari sekolah dasar hingga perguruan tinggi di Korea Selatan. Pada 2021, polisi menangani 156 kasus, menurut East Asia Forum. Ruma berkali-kali melaporkan kejadian itu ke polisi, tetapi mereka tidak mampu menindaklanjutinya karena tidak memiliki alat untuk melacak pengguna media sosial anonim. Sejak saat itu, Ruma menghapus akun media sosialnya dan pindah ke luar negeri untuk melanjutkan studi pascasarjana,sebuah langkah yang ia ambil untuk memulihkan trauma atas peristiwa tersebut.

Kejadian itu menegaskan semakin meluasnya kejahatan berbasis gender di ranah digital seiring perkembangan kecerdasan buatan (artificial intelligence/AI). Fenomena ini berkaitan dengan pemanfaatan teknologi rekayasa atau sintetis citra manusia melalui AI atau deepfake (Khusna & Pengestuti, 2019). Dalam kasus Ruma, teknologi tersebut digunakan untuk membuat konten foto, audio, maupun video pornografi (deepfake porn) (Kasita, 2022).

Rekayasa tersebut menghasilkan konten seksual palsu dengan mengganti wajah seseorang dalam materi asli dengan wajah orang lain sebagai target. Fenomena ini merupakan bentuk komunikasi tidak langsung yang mereduksi martabat manusia, menjadikannya sebagai objek visual demi pemenuhan hasrat sensual.

Kebebasan manusia yang kini ditopang instrumen teknologi artifisial dan komunikasi digital dalam hal ini deepfake porn, telah menciptakan implikasi brutal: manusia sebagai objek dari pesan dilecehkan martabatnya. Fenomena ini tidak memandang usia, tetapi dapat dihadapi melalui peran kaum muda. Menurut data Snapcart Global (April 2025), generasi yang paling sering menggunakan AI di Indonesia adalah Gen Z (usia 13–28 tahun) sebesar 50 persen, disusul Generasi Alpha (usia di bawah 13 tahun) sebesar 40 persen.

Kemajuan dunia digital sejatinya perlu disikapi dengan kewaspadaan moral. Meski tidak sepenuhnya identik dengan amoralitas dan tetap menghadirkan dampak positif, transformasi ini juga menyingkap sisi “brutal” manusia ketika berkelindan di ruang digital.

Reduksi martabat manusia akibat teknologi ini dapat ditelisik melalui pemikiran Prof. Dr. Fransisco Budi Hardiman. Penulis menawarkan dua pertanyaan mendasar: pertama, bagaimana rekayasa semacam ini melukai martabat manusia dalam konteks komunikasi dan etika digital? Kedua, sebagai kaum muda, bagaimana fenomena ini sepantasnya disikapi dan ditindaklanjuti?

Manipulasi Gambar

Istilah deepfake berasal dari gabungan kata deep (teknologi pembelajaran mendalam/AI) dan fake (palsu/tidak nyata). Terminologi ini pertama kali digunakan pada 2017 oleh seorang pengguna platform forum Reddit, yang menukar wajah pemeran video porno dengan wajah selebritas. Ia memanfaatkan GAN (generative adversarial network) untuk membuat data baru dari data yang sudah ada dalam algoritma, dalam hal ini foto atau video, serta aplikasi TensorFlow untuk mengubah wajah pada data tersebut.

Fenomena ini jelas dapat digolongkan sebagai kekerasan berbasis gender di ranah siber atau elektronik. Komisi Nasional (Komnas) Perempuan mengategorikannya sebagai Kekerasan Berbasis Gender Online (KBGO). KBGO didefinisikan sebagai “… tindakan kekerasan berbasis gender yang dilakukan, didukung, atau diperburuk sebagian atau seluruhnya dengan penggunaan teknologi informasi dan komunikasi (TIK) yang menyasar terhadap perempuan sebagai korban…”.

Seiring meningkatnya jumlah aplikasi berbasis AI dengan fitur rekayasa video dan foto, kasus KBGO melalui deepfake porn juga bertambah. Menurut data platform daring yang berfokus pada pendidikan keamanan siber, Security Hero.io, secara global pada 2023 dari 95.820 video deepfake yang diteliti di berbagai situs web dan platform daring, 98 persen di antaranya merupakan deepfake porn dan 99 persen menempatkan perempuan sebagai subjek utama.

Di Indonesia, Southeast Asia Freedom of Expression Network (SAFEnet) mencatat 1.902 aduan terkait KBGO pada 2024 dengan jumlah korban mencapai 1.756 orang, naik sekitar 55 persen dibanding tahun sebelumnya. Salah satu bentuk kekerasan yang dilaporkan berkaitan dengan fenomena rekayasa teknologi ini adalah morphing (2,47 persen).

Peningkatan ini ditandai dengan cara kerja yang semakin canggih. Motif pelaku umumnya mencakup pelampiasan hasrat seksual, balas dendam, kepentingan ekonomi, dan lain-lain. Tanpa sepengetahuan maupun persetujuan korban, pelaku memanipulasi wajah korban dan menghidupkannya dengan ekspresi seksual tertentu yang tampak seolah-olah asli melalui AI (Kasita, 2022). Aksi ini membuka peluang kejahatan yang lebih luas, seperti pemerasan, perundungan, dan pencurian data pribadi.

Objektifikasi Tubuh

Dari sisi pelaku, kejahatan ini tidak sebatas membuka ruang kejahatan yang lebih luas, tetapi juga menegaskan adanya monopoli identitas berbasis gender. Hal ini membiaskan salah satu fungsi utama dunia maya, yakni sebagai ruang bebas gender, sebagaimana dikemukakan oleh teoritikus sekaligus pengusaha di bidang teknologi feminis dan studi media, Anne Balsamo (dalam Prasetyono & Damayanti, 2022). Kemudahan akses teknologi memberi kuasa tersendiri bagi pelaku untuk mengolah dan mengeksploitasi tubuh perempuan di ruang digital.

Kuasa yang dimiliki pelaku jelas mengobjektifikasi korban, terutama perempuan. Kaum hawa tidak lagi dipandang dari segi martabat, kontribusi positif bagi masyarakat, maupun kepatutan untuk dihormati (Kernen & Risse, 2020). Otonomi atas tubuh yang ditampilkan di ruang digital direduksi menjadi konsumsi publik dengan nilai yang rendah. Kondisi ini bertentangan dengan kehendak korban serta berdampak serius pada kesehatan mental, kerugian ekonomi, keterasingan sosial, rendahnya mobilitas diri, hingga pemutusan akses terhadap teknologi digital.

Dalam perendahan martabat yang dialami, identitas digital korban, meliputi wajah, suara, dan nama, direkayasa sehingga memengaruhi pandangan publik terhadap dirinya (Kasita, 2022). Personalitas korban kemudian dikonstruksi melalui representasi di media sosial dan diperkuat oleh viralitas di ruang maya.

Ketika identitas korban dipersepsikan negatif, citra dirinya pun ikut terdegradasi. Lantas, bagaimana seseorang dapat merealisasikan, atau setidaknya menghargai dirinya sebagai manusia, jika tubuh dan identitasnya dimanipulasi serta dipandang rendah?

Lepas dari Kaidah Moral

Konten deepfake porn menciptakan perubahan dinamika dalam komunikasi digital. Fenomena ini dapat ditelusuri melalui gagasan Aku Klik maka Aku Ada (2021) oleh Fransisco Budi Hardiman. Jika sebelumnya manusia berkomunikasi untuk saling berinteraksi, kini komunikasi sering direduksi sebatas menyampaikan atau meneruskan pesan. Hardiman, dengan mengacu pada Christian Montag, menyebut pergeseran ini sebagai transisi dari homo sapiens menuju homo digitalis. Antarindividu sejatinya tetap menciptakan pesan, namun senantiasa dibayangi niat manipulatif. Lalu, bagaimana pergeseran itu dapat dibaca dalam praktik digital hari ini?

Homo digitalis bereksistensi melalui gawai dan berselancar dalam algoritma. Pikiran, emosi, hasrat, dan motivasi seakan terkonsentrasi pada gerakan jari. Hardiman menilai perilaku ini menjerat manusia dalam brutalitas: merasa “hidup” hanya ketika berhadapan dengan gawai dan algoritma, sembari mengabaikan kaidah moral yang dalam relasi tatap muka sejatinya selalu mengikat.

Lompatan dari pengawasan moral telah menyeret individu ke dalam dunia tanpa batas—melampaui negara maupun wilayah. Implikasinya, manusia menjadi buta, atau sengaja membutakan diri, dalam membedakan ranah moral dan amoral, orisinal dan artifisial.

Kecenderungan brutalitas dalam ruang komunikasi digital tercermin dari ketidakmampuan mengolah pesan sekaligus kebiasaan mengunggah tanpa pertimbangan etis yang matang. Pola ini dipengaruhi oleh algoritme yang memainkan sisi hasrat sensual, narsistik, dan emosional. Pelaku kemudian menghimpun pesan-pesan bermuatan negatif dan mengolahnya melalui AI hingga menjadi kesatuan yang bersifat merugikan, menyerang, bahkan destruktif.

Deepfake porn merupakan pengejawantahan nyata manusia sebagai pesan yang dimanipulasi secara brutal. Pelaku menghadirkan eksibisionisme ke dalam ruang digital. Tindakan mereka—didukung oleh pengaruh algoritme, minimnya pengawasan etis, maupun faktor psikologis—berjalan secara kalkulatif, bukan berdasarkan pertimbangan moral, melainkan demi pemenuhan hasrat sensual dan perolehan keuntungan.

Ada obsesi yang diarahkan pada rekayasa citra seseorang, dengan menjadikan AI seolah entitas “hidup” yang mampu memenuhi keinginan atau kondisi tertentu, sebagai alter ego. Alhasil, pelaku merasa nyaman bersandar pada alter ego tersebut, hingga kesadarannya terhadap penghormatan sesama manusia pun terbutakan.

Garis besar perilaku pelaku tepat digambarkan Budiman melalui kritik awal filsuf Jerman, Jurgen Habermas, terhadap teori rasionalisasi yang dirumuskan oleh sosiolog Jerman, Max Weber. Weber menekankan rasionalitas sebagai pertimbangan masuk akal dalam bertindak (rasionalitas tindakan). Konsep ini mengacu pada “rasionalitas tujuan”: menekankan cara mencapai tujuan, tanpa menyelami isi kesadaran.

Pelaku hanya berorientasi pada keuntungan setelah merekayasa dan mengunggah konten pornografi, atau pada pemuasan hasrat tertentu, tanpa memperhatikan kaidah prinsip universal dalam kehidupan media sosial—misalnya menjaga privasi, menghindari penyebaran konten negatif, dan menghormati martabat sesama.

Budiman kemudian mengajukan konsep “rasionalitas teknologi” dari Herbert Marcuse sebagai kelanjutan kritik atas teori rasionalisasi Weber. Teknologi, sebagai salah satu hasil dari rasionalitas, menyimpan kontradiksi di dalam dirinya (an sich): ia dapat bersikap kontra terhadap sistem tradisional yang menindas, namun sekaligus pro terhadap mekanisme baru yang pada gilirannya juga menindas. Dalam kerangka inilah, korban pada akhirnya direduksi menjadi pesan yang dimanipulasi karena kemajuan rasionalitas teknologi.

Maka, secara garis besar, fenomena ini memperlihatkan kecolongan digitalisasi dalam menegaskan dimensi moral. Korban rekayasa teknologi menghadapi persoalan mendasar: bagaimana makna manusia diperlakukan dalam pesan yang beredar. Meski saat ini ia hadir melalui medium digital, manusia tetap perlu dipahami secara utuh—meliputi pikiran, sikap, dan tindakan dalam realitas kehidupan.

Manusia tidak dapat direduksi menjadi wajah, postur, atau gaya semata. Kendati terseret dalam arus algoritma, manusia harus tetap dipandang sebagai pesan yang memancarkan situasi, autentisitas pribadi, serta harapan kemanusiaan.

Antara konten dan kenyataan

Dari pembacaan atas perilaku tersebut, apa implikasi brutalitas ini dalam komunikasi? Fransisco Budi Hardiman setidaknya menawarkan empat poin tentang kebenaran di era hoaks yang relevan bagi fenomena ini.

Pertama, deepfake porn menghapus keselarasan antara kenyataan dan konten. Dalam realitas, citra seseorang segera bergerak ke kutub negatif akibat manipulasi yang berdampak sistematis pada persepsi publik. Padahal, secara ideal, kebenaran adalah kesesuaian antara pernyataan (konten digital) dan kenyataan.

Kedua, fenomena ini memunculkan dominasi sentimen sensual dan sensasi. Rekayasa parsial atas tubuh diutamakan dengan tujuan eksplisit, seraya menyingkirkan kaidah moral. Padahal, kebenaran semestinya dipahami sebagai kesatuan pernyataan yang berdasar pada kaidah logis.

Ketiga, pengambilan data dan pengunggahan konten tanpa izin menandakan absennya hak korban atas suatu persetujuan. Dalam kerangka kebenaran, persetujuan bersama adalah fondasi validitas pernyataan.

Keempat, kekerasan gender dalam ranah digital merepresentasikan kebohongan yang tampak benar. Konten hasil manipulasi seakan menjadi bukti valid, kemudian disebarluaskan. Partisipasi pengguna dalam mengonsumsi dan menyebarkan konten justru membentuk kebenaran faktual semu yang menyerang korban. Padahal, kebenaran seharusnya ditetapkan oleh pihak yang memiliki kapasitas dan otoritas untuk menemukannya (performatif).

Dengan demikian, untuk menata ruang digital yang etis dan bermakna positif, Hardiman menawarkan empat langkah: legislasi hukum, moralisasi ruang digital, solidarisasi jejaring komunitas digital, dan peran pemimpin pluralis. Dari keempatnya, tulisan ini menitikberatkan pada proses kedua dan ketiga.

Jaga Ruang Digital

Siapa yang dapat memerangi fenomena ini? Media sosial dan AI sangat melekat pada generasi muda, sehingga potensi mereka dapat menjadi basis solusi atas persoalan di ruang digital.

Pertama, moralisasi ruang digital dapat dilakukan melalui kolaborasi antarpemuda dengan fokus pada bidang teknologi informasi dan sosial-budaya. Mereka dapat menyusun standar pengaturan ketat terkait persebaran konten digital, berlandaskan Pasal 27 ayat (1) UU Nomor 1 Tahun 2024 tentang penyalahgunaan AI untuk perbuatan asusila.

Langkah ini dapat diperkuat dengan kolaborasi bersama pemerintah, misalnya melalui penyisiran berkala pada laman (website) di mesin pencari yang tidak terverifikasi dan berpotensi mengandung konten pornografi. Kaum muda bahkan dapat memanfaatkan AI untuk melakukan penyaringan konten secara lebih efektif.

Kedua, pada ranah media sosial, kerja sama antara pemerintah dan generasi muda dapat diarahkan pada pengawasan grup atau akun yang menjadi motor penyebaran deepfake porn. Selain itu, perlu diadakan penyuluhan dan sosialisasi berkelanjutan mengenai dampak konten serta etika digital bagi para pengguna, khususnya mereka yang mengonsumsi konten bermuatan negatif.

Kesimpulan

Pemanfaatan ruang digital secara bijak merupakan tantangan masyarakat masa kini. Kebebasan digital perlu dijalankan dengan prinsip humanis yang berlandaskan nilai-nilai universal kemanusiaan. Upaya membangun moralitas melalui jejaring positif dapat meminimalkan persebaran deepfake porn.

Dengan begitu, manusia dalam pusaran digitalisme tetap harus dilihat sebagai keutuhan: identitas dan martabat. Manusia sebagai pesan di media sosial dan AI bukan hanya objek manipulasi, melainkan subjek yang menghadirkan keresahan, harapan, dan nurani bangsa.

Audit MBG Demi Keselamatan Publik | LP3ES PERSPEKTIF