Gambar AI Telanjang: 'Take It Down Act' di AS akan memungkinkan pengguna meminta penghapusan cepat

Sejak akhir Desember 2025, chatbot kecerdasan buatan X, Grok, telah merespons banyak permintaan pengguna untuk membuka pakaian orang sungguhan dengan mengubah foto orang-orang tersebut menjadi materi seksual eksplisit. Setelah orang-orang mulai menggunakan fitur tersebut, perusahaan platform sosial ini menghadapi pengawasan global karena memungkinkan pengguna menghasilkan penggambaran seksual eksplisit orang sungguhan tanpa persetujuan.

Akun Grok telah memposting ribuan gambar "telanjang" dan sugestif seksual per jam. Yang lebih mengganggu, Grok telah menghasilkan gambar-gambar seksual dan materi seksual eksplisit dari anak di bawah umur.

Respons X: Salahkan pengguna platform, bukan kami. Perusahaan tersebut mengeluarkan pernyataan pada 3 Januari 2026, yang mengatakan bahwa "Siapa pun yang menggunakan atau meminta Grok untuk membuat konten ilegal akan menderita konsekuensi yang sama seolah-olah mereka mengunggah konten ilegal." Tidak jelas tindakan apa, jika ada, yang telah diambil X terhadap pengguna mana pun.

Sebagai sarjana hukum yang mempelajari persimpangan hukum dan teknologi yang muncul, saya melihat banjir citra tanpa persetujuan ini sebagai hasil yang dapat diprediksi dari kombinasi kebijakan moderasi konten X yang longgar dan aksesibilitas alat AI generatif yang kuat.

Menargetkan pengguna

Pesatnya pertumbuhan AI generatif telah menghasilkan situs web, aplikasi, dan chatbot yang tak terhitung jumlahnya yang memungkinkan pengguna menghasilkan materi seksual eksplisit, termasuk "telanjangkan" gambar anak-anak sungguhan. Tetapi aplikasi dan situs web ini tidak dikenal atau digunakan secara luas seperti platform media sosial utama mana pun, seperti X.

Legislatif negara bagian dan Kongres cukup cepat merespons. Pada Mei 2025, Kongres memberlakukan Take It Down Act, yang menjadikan penerbitan materi seksual eksplisit orang sungguhan tanpa persetujuan sebagai tindak pidana. Take It Down Act mengkriminalisasi baik penerbitan tanpa persetujuan "penggambaran visual intim" dari orang yang dapat diidentifikasi dan penggambaran yang dihasilkan AI atau komputer dari orang yang dapat diidentifikasi.

Ketentuan pidana tersebut hanya berlaku untuk setiap individu yang memposting konten seksual eksplisit, bukan untuk platform yang mendistribusikan konten tersebut, seperti situs web media sosial.

Namun, ketentuan lain dari Take It Down Act mengharuskan platform untuk menetapkan proses bagi orang yang digambarkan untuk meminta penghapusan citra tersebut. Setelah "Permintaan Take It Down" diajukan, platform harus menghapus penggambaran seksual eksplisit dalam waktu 48 jam. Tetapi persyaratan ini tidak berlaku hingga 19 Mei 2026.

Masalah dengan platform

Sementara itu, permintaan pengguna untuk menghapus citra seksual eksplisit yang diproduksi oleh Grok tampaknya tidak dijawab. Bahkan ibu dari salah satu anak Elon Musk, Ashley St. Clair, tidak dapat membuat X menghapus gambar seksual palsu dirinya yang diproduksi penggemar Musk menggunakan Grok. The Guardian melaporkan bahwa St. Clair mengatakan "keluhannya kepada staf X tidak ada hasilnya."

Ini tidak mengejutkan saya karena Musk menghancurkan kelompok penasihat Trust and Safety Twitter-saat-itu tak lama setelah dia mengakuisisi platform tersebut dan memecat 80% insinyur perusahaan yang didedikasikan untuk trust and safety. Tim trust and safety biasanya bertanggung jawab atas moderasi konten dan inisiatif untuk mencegah penyalahgunaan di perusahaan teknologi.

Secara publik, tampaknya Musk telah mengabaikan keseriusan situasi ini. Musk dilaporkan memposting emoji tertawa-menangis sebagai respons terhadap beberapa gambar, dan X merespons pertanyaan reporter Reuters dengan balasan otomatis "Legacy Media Lies."

Batasan gugatan hukum

Gugatan perdata seperti yang diajukan oleh orang tua Adam Raine, seorang remaja yang bunuh diri pada April 2025 setelah berinteraksi dengan ChatGPT OpenAI, adalah salah satu cara untuk meminta pertanggungjawaban platform. Tetapi gugatan menghadapi perjuangan berat di Amerika Serikat mengingat Pasal 230 dari Communications Decency Act, yang umumnya memberikan kekebalan kepada platform media sosial dari tanggung jawab hukum atas konten yang diposting pengguna di platform mereka.

Hakim Mahkamah Agung Clarence Thomas dan banyak sarjana hukum, bagaimanapun, berpendapat bahwa Pasal 230 telah diterapkan terlalu luas oleh pengadilan. Saya umumnya setuju bahwa kekebalan Pasal 230 perlu dipersempit karena memberikan kekebalan kepada perusahaan teknologi dan platform mereka untuk pilihan desain yang disengaja — bagaimana perangkat lunak mereka dibangun, bagaimana perangkat lunak beroperasi dan apa yang dihasilkan perangkat lunak — berada di luar cakupan perlindungan Pasal 230.

Dalam kasus ini, X secara sadar atau lalai gagal menerapkan pengamanan dan kontrol di Grok untuk mencegah pengguna menghasilkan citra seksual eksplisit dari orang yang dapat diidentifikasi. Bahkan jika Musk dan X percaya bahwa pengguna harus memiliki kemampuan untuk menghasilkan gambar seksual eksplisit orang dewasa menggunakan Grok, saya percaya bahwa di dunia mana pun X tidak boleh lepas dari pertanggungjawaban karena membangun produk yang menghasilkan materi seksual eksplisit anak-anak kehidupan nyata.

Pagar pembatas regulasi

Jika orang tidak dapat meminta pertanggungjawaban platform seperti X melalui gugatan perdata, maka tugas pemerintah federal untuk menyelidiki dan mengatur mereka. Federal Trade Commission, Departemen Kehakiman atau Kongres, misalnya, dapat menyelidiki X atas pembuatan materi seksual eksplisit tanpa persetujuan oleh Grok. Tetapi dengan ikatan politik Musk yang diperbarui dengan Presiden Donald Trump, saya tidak mengharapkan penyelidikan dan pertanggungjawaban serius dalam waktu dekat.

Untuk saat ini, regulator internasional telah meluncurkan penyelidikan terhadap X dan Grok. Otoritas Prancis telah memulai penyelidikan tentang "proliferasi deepfake seksual eksplisit" dari Grok, dan Irish Council for Civil Liberties dan Digital Rights Ireland sangat mendesak polisi nasional Irlandia untuk menyelidiki "aksi buka pakaian massal." Badan regulasi Inggris Office of Communications mengatakan sedang menyelidiki masalah tersebut, dan regulator di Komisi Eropa, India dan Malaysia dilaporkan juga menyelidiki X.

Di Amerika Serikat, mungkin tindakan terbaik sampai Take It Down Act berlaku pada Mei adalah bagi orang-orang untuk menuntut tindakan dari pejabat terpilih. – Rappler.com

Artikel ini awalnya muncul di The Conversation.

Wayne Unger, Associate Professor of Law, Quinnipiac University