UK Targets X milik Elon Musk dengan Denda dan Kemungkinan Larangan atas Penyalahgunaan Deepfake Grok

(SeaPRwire) –   Pemerintah Inggris memperkuat tindakan penegakan hukum terhadap pelecehan seksual yang dihasilkan oleh AI pada hari Senin setelah menteri mengkonfirmasi kemungkinan larangan terhadap platform media sosial Elon Musk, X, dalam penyelidikan yang meluas dan dengan kemungkinan perusahaan tersebut dikenakan denda besar.

Langkah dramatis ini terjadi setelah Ofcom, regulator komunikasi Inggris, meluncurkan penyelidikan apakah X melanggar kewajiban hukumnya menurut Undang-Undang Keamanan Online Inggris, dan setelah laporan bahwa chatbot AI bawaan platform, Grok, digunakan untuk menghasilkan dan membagikan gambar deepfake seksual terhadap wanita dan anak-anak.

Grok diluncurkan pada tahun 2023 tetapi fitur generator gambarnya, Grok Imagine, ditambahkan pada tahun 2025 dengan mode khusus untuk menghasilkan konten dewasa.

Sekretaris Negara Ilmu Pengetahuan, Inovasi dan Teknologi Liz Kendall menggambarkan penggunaan alat AI yang salah digunakan untuk menghasilkan gambar seksual eksplisit dan tidak konsensual sebagai “sangat mengganggu”.

Kendall juga mengingatkan bahwa perusahaan media sosial akan bertanggung jawab jika mereka tidak bertindak.

“Saya menyambut urgen Ofcom dalam meluncurkan penyelidikan resmi hari ini,” ujar Kendall menurut “Penting sekali Ofcom menyelesaikan penyelidikan ini dengan cepat karena publik – dan yang paling penting korban – tidak akan menerima penundaan apapun.”

Dalam pengumuman yang dibagikan lebih kemudian hari Senin, Kendall mengatakan bahwa alat AI Grok telah digunakan untuk menciptakan dan menyebarkan gambar intim yang mempermalukan dan tidak konsensual.

“Tidak ada wanita atau anak-anak yang harus hidup dalam takut bahwa gambar mereka dimanipulasi secara seksual,” ujarnya sebelum menambahkan, “Konten yang tersebar di X adalah kejam. Ini tidak hanya adalah tuduhan terhadap masyarakat yang sopan, tetapi juga ilegal.”

Kendall menambahkan bahwa membagikan atau mengancam untuk membagikan gambar deepfake intim tanpa konsen, termasuk gambar orang yang mengenakan dalam, merupakan pelanggaran hukum di Inggris.

Dia mengingatkan bahwa Ofcom memiliki otoritas untuk mengeluarkan sanksi atau denda hingga 10% dari pendapatan kualifikasi global perusahaan.

“Tetapi X tidak perlu menunggu penyelidikan Ofcom selesai,” ujar Kendall. “Mereka dapat memilih bertindak lebih cepat untuk memastikan bahan abhorrent dan ilegal ini tidak dapat disebarkan di platform mereka,” ujarnya dengan peringatan.

Ofcom telah mengatakan bahwa mereka “cepat berhubungan” dengan X pada tanggal 5 Januari, menuntut penjelasan tentang langkah-langkah yang diambil untuk melindungi pengguna Inggris dan menetapkan batas waktu tanggapan hingga tanggal 9 Januari.

Sementara xAI, perusahaan lain yang didirikan oleh Musk, merespons, Ofcom mengatakan bahwa mereka memutuskan untuk membuka penyelidikan resmi setelah meninjau bukti yang tersedia “sebagai prioritas tertinggi”.

Dalam pengumuman yang dibagikan hari Senin, Ofcom mengatakan, “Laporan bahwa Grok digunakan untuk menciptakan dan membagikan gambar intim tidak konsensual ilegal dan bahan pelecehan seksual anak-anak di X telah sangat khawatirkan.”

“Platform harus melindungi orang di Inggris dari konten yang ilegal di Inggris, dan kami tidak akan ragu untuk menyelidiki di mana kita menduga perusahaan gagal dalam kewajibannya, terutama di mana ada risiko kerusakan terhadap anak-anak,” ujar pernyataan tersebut.

Seperti yang previously dilaporkan oleh chatbot mengakui dalam posting publik di X bahwa ia telah menghasilkan dan membagikan gambar AI yang menggambarkan dua gadis muda dalam pakaian seksual, menyebut incident tersebut sebagai “kegagalan lindung” dan meminta maaf atas kerusakan yang disebabkan.

Di tengah kritik yang semakin banyak, Grok mengkonfirmasi bahwa ia telah mulai membatasi beberapa fitur pembuatan dan penyuntingan gambar kepada langganan berbayar. Chatbot mengatakan bahwa batasan tersebut dilaksanakan untuk mencegah penyalahgunaan lebih lanjut.

Elon Musk juga menuduh Pemerintah Inggris “faskisme” pada hari Senin karena “menahan ribuan orang untuk postingan media sosial”.

Pendiri milik billioner Tesla tersebut merespons postingan di X yang mengklaim bahwa negara tersebut menahan lebih banyak orang untuk postingan media sosial daripada “negara lain di dunia”.

Selain penyelidikan Ofcom, pemerintah Inggris mengumumkan bahwa undang-undang yang mengkriminalkan pembuatan gambar intim tidak konsensual yang dihasilkan oleh AI akan生效 pada minggu ini.

Kendall mengatakan bahwa tanggung jawab tidak hanya terletak pada individu.

“Platform yang menampung bahan tersebut harus bertanggung jawab, termasuk X,” ujarnya.

Jika mereka tidak bertindak, ujarnya dia “siap untuk pergi lebih jauh”.

Sementara itu, spoksman resmi Perdana Menteri Inggris Keir Starmer mengatakan bahwa kehadiran pemerintah di platform tersebut “sedang ditinjau” dan bahwa “semua opsi terbuka”.

Juga dilaporkan hari Senin bahwa Malaysia dan Indonesia menjadi negara pertama yang melarang Grok.

Digital telah menghubungi Elon Musk dan kantor Perdana Menteri Keir Starmer untuk komentar.

Asosiasi Pers dan Reuters berkontribusi pada laporan ini.