BandungBergerak – Kecerdasan buatan (artificial intelligence - AI) semakin menentukan citra diri kita di ruang digital hari ini. Foto yang diunggah ke media sosial tidak berhenti menjadi representasi diri, tetapi dapat diproses ulang, dimodifikasi, dan disebarkan kembali entah oleh siapa. Di sini, tubuh manusia menjadi semakin rentan terhadap praktik manipulasi visual yang berlangsung tanpa persetujuan. Salah satu praktik yang kian marak adalah morphing berbasis AI, yakni pengeditan wajah seseorang agar tampak berada pada tubuh atau situasi lain sehingga menghasilkan gambar atau video yang terlihat autentik. Demikianlah kontrol atas citra diri kini tidak sepenuhnya berada di tangan pemiliknya, dan merujuk kajian Buschman, dkk., perempuan menjadi yang paling rentan sebagai sasaran penyalahgunaan. 

Baru-baru ini kita menyaksikan bagaimana AI Grok digunakan ramai-ramai untuk memanipulasi foto perempuan menjadi gambar sensual tanpa izin. Para pelaku memasukkan prompt sederhana, seperti meminta AI mengganti pakaian atau mengubah pose pada foto target yang awalnya berpakaian sopan. Dalam waktu singkat, sistem menghasilkan versi gambar yang lebih vulgar, mulai dari tampilan berbikini hingga sajian visual yang jauh lebih seronok. Ratusan bahkan mungkin ribuan foto perempuan, mulai dari publik figur hingga warga biasa pengguna media sosial, menjadi korbannnya. Di kasus yang lain, seorang mahasiswa Universitas Diponegoro (Undip) Semarang memproduksi konten pornografi dengan mengedit wajah perempuan menggunakan teknologi AI dan mengunggahnya ke media sosial.

Rangkaian kasus morphing berbasis AI, yang menempatkan perempuan sebagai objek visual yang dieksploritasi, dapat dipahami sebagai bagian dari persoalan yang lebih luas dalam lanskap kekerasan digital di Indonesia. Catatan Tahunan Komisi Nasional Perempuan 2024 mendokumentasikan 445.502 kekerasan terhadap perempuan di sepanjang tahun 2024, atau meningkat 9,77 persen dibandingkan tahun sebelumnya. Lonjakan signifikan, hingga 40,8 persen, terjadi pada jumlah kekerasan berbasis gender online (KBGO). Ada eskalasi persoalan keamanan di ruang digital, dan praktik morphing muncul sebagai ancaman yang semakin menonjol. SAFEnet mencatat sedikitnya 40 laporan korban pada 2025, dengan mayoritas korban merupakan perempuan.

Temuan-temuan ini memperlihatkan bahwa perkembangan teknologi kecerdasan buatan tidak hanya menghadirkan kemudahan, tetapi juga membuka celah baru bagi pelanggaran rasa aman. Kita patut mempertanyakan, dan bahkan menggugat: sejauh mana ruang digital mampu memberikan perlindungan bagi penggunanya, terutama perempuan, serta mengapa pengalaman korban kerap terpinggirkan di tengah dominasi narasi tentang kemajuan teknologi.

Dari Bias Algoritma ke Sensasionalisme Media

Maraknya praktik morphing berbasis AI tidak dapat dilepaskan dari kenyataan bahwa kecerdasan buatan bekerja dengan bias gender yang melekat sejak proses pengembangannya. AI kerap dipersepsikan sebagai teknologi yang objektif dan netral, tetapi pada kenyataannya sistem ini dibangun dari data, algoritma, dan keputusan desain yang merefleksikan ketimpangan sosial yang telah ada sebelumnya. Riset Ho, dkk. (2025) menunjukkan bahwa sistem AI cenderung mereproduksi bias gender karena dilatih menggunakan dataset yang tidak seimbang, serta dikembangkan tanpa melibatkan pengalaman dan perspektif perempuan secara memadai. Dalam konteks manipulasi visual, bias ini tampak ketika AI dengan mudah merespons prompt yang mengarah pada objektifikasi tubuh perempuan seolah praktik tersebut merupakan bentuk penggunaan yang wajar dan dapat diterima. 

Bias gender tersebut semakin diperkuat oleh logika industri teknologi yang mengutamakan kecepatan dan efisiensi. Dalam konteks bisnis, percepatan inovasi seringkali menjadikan pertimbangan etika sebagai aspek yang mudah diabaikan. Hagendorff (2020) menegaskan bahwa praktik pengembangan, implementasi, dan penggunaan aplikasi AI kerap tidak benar-benar berangkat dari nilai dan prinsip etika, melainkan dari kepentingan pasar. Akibatnya, risiko sosial termasuk kekerasan berbasis gender diposisikan sebagai konsekuensi yang dianggap wajar. Dalam situasi ini, AI tidak hanya memproduksi bias yang telah ada, tetapi juga mengotomatisasikan misogini dalam skala yang lebih luas, sementara pengalaman dan kerugian korban perempuan terus terpinggirkan. 

Tak cukup sampai di situ, peminggiran pengalaman korban diamplifikasi oleh cara media memberitakan kasus morphing. Alih-alih mengambil peran penting dalam membentuk pemahaman publik terhadap isu ini lewat pemilihan dan penonjolan informasi tertentu secara faktual dan adil, media memilih memperkenalkan kasus ini melalui diksi yang menekankan kehebohan dan dinamika media sosial. Simak saja judul berita ini: “Heboh di X Chatbot AI Grok Manipulasi Foto Perempuan Jadi Nyaris Bugil”! Atau juga ini: “Heboh Foto Vulgar Siswi SMA Cirebon Editan AI, Kuasa Hukum Ungkap Peran Pemasok hingga Pengedit”.

Penyajian kedua berita ini berpotensi membuat perhatian publik lebih tertuju pada kegaduhan di platform digital dan peran teknologi, sementara pengalaman korban sebagai pihak yang mengalami pelanggaran atas tubuh dan citra dirinya belum tentu langsung terbaca sebagai fokus utama. Pilihan diksi yang memberi penekanan pada kehebohan, disertai fokus pada peran pemasok dan pengedit, berimplikasi pada pembacaan yang cenderung melihat peristiwa dari sisi sensasional dan teknis. Dalam bingkai ini, korban berpotensi diposisikan sebagai bagian dari peristiwa yang menggemparkan, bukan sebagai subjek yang mengalami kekerasan visual dengan dampak psikososial yang serius. Pembacaan semacam ini menunjukkan bagaimana framing awal melalui judul dapat memengaruhi pemahaman publik, sehingga praktik morphing berbasis AI berisiko dipahami hanya sebagai persoalan teknologi, alih-alih sebagai bentuk KBGO yang berkaitan dengan objektifikasi tubuh perempuan. 

Dari Kecanggihan Teknologi ke Keberpihakan Ruang Digital

Penyederhanaan persoalan yang tampak dalam cara media membingkai kasus kekerasan juga dapat ditemukan dalam ranah hukum, meskipun bekerja melalui logika yang berbeda. Kerangka hukum di Indonesia sebenarnya telah menyediakan sejumlah aturan yang dapat digunakan untuk menangani kasus ini, tetapi belum sepenuhnya menjelaskan dimensi kekerasan yang dialami korban. Undang-Undang Nomor 44 Tahun 2008 tentang Pornografi, khususnya Pasal 4 ayat (1), melarang pembuatan dan penyebaran konten pornografi yang memuat ketelanjangan atau eksploitasi seksual, tetapi berangkat dari asumsi bahwa konten tersebut merepresentasikan tubuh dan peristiwa yang terjadi secara langsung. Dalam kasus morphing berbasis AI, tubuh dalam gambar dapat merupakan hasil rekayasa teknologi, sementara wajah korban adalah identitas personal yang dilekatkan tanpa persetujuan. 

Akibatnya, fokus hukum cenderung berhenti pada pertanyaan “apakah ini pornografi”, sementara pelanggaran atas citra diri korban justru terabaikan. Perspektif serupa juga tampak dalam Undang-Undang Nomor 11 Tahun 2008 tentang Informasi dan Transaksi Elektronik (UU ITE) dengan Pasal 27 ayat (1) menitikberatkan larangan pada distribusi atau penyebaran konten yang melanggar kesusilaan. Dalam kerangka ini, kekerasan baru menjadi perhatian saat konten telah beredar. Padahal, tindakan menggunakan wajah dan identitas seseorang untuk membentuk citra seksual tanpa persetujuan sudah merupakan pelanggaran atas rasa aman korban sejak manipulasi dilakukan. 

Undang-Undang Nomor 12 Tahun 2022 tentang Tindak Pidana Kekerasan Seksual (UU TPKS) sebenarnya memberikan dasar hukum yang lebih relevan untuk menangani praktik morphing berbasis AI. Pasal 14 ayat (1) mengatur Kekerasan Seksual Berbasis Elektronik, termasuk pengambilan gambar dan transmisi informasi elektronik bermuatan seksual yang dilakukan tanpa persetujuan orang yang menjadi objek. Dalam konteks ini, penggunaan wajah seseorang untuk membentuk konten seksual melalui manipulasi AI dapat diposisikan sebagai tindak pidana karena dilakukan tanpa persetujuan dan berimplikasi pada pelanggaran rasa aman serta martabat korban. Meski demikian, karena rumusan pasal masih menitikberatkan pada perekaman atau pengambilan gambar, sementara morphing memanfaatkan foto yang sudah beredar dan dimodifikasi ulang, penerapan pasal ini tetap membutuhkan penafsiran hukum yang lebih kontekstual. 

Praktik kekerasan berbasis AI tidak dapat dipahami secara parsial, melainkan sebagai kegagalan sistemik yang melibatkan berbagai aktor dalam ekosistem digital. Tanpa perubahan cara pandang yang mendasar, kekerasan yang dialami perempuan berisiko terus dipahami sebagai efek samping dari kecanggihan teknologi semata. Efisiensi yang diutamakan pengembang, sensasionalisme narasi media, dan kategori hukum yang terbatas menyebabkan perlindungan atas citra diri dan rasa aman perempuan semakin melemah di ruang digital. Saatnya menggeser fokus kita dari legalitas dan kecanggihan teknologi ke keberpihakan ruang digital terhadap korban perempuan dan pengakuan manipulasi visual berbasis AI sebagai bentuk kekerasan yang serius.

***

*Kawan-kawan dapat mengikuti kabar terkini dari BandungBergerak dengan bergabung di Saluran WhatsApp bit.ly/ChannelBB