Tak perlu tunggu lama, perkembangan AI sekarang ni dah semakin tak terkawal dan buktinya dapat dilihat dekat perkembangan Grok milik Elon Musk.

Sekarang, pengguna boleh upload gambar wanita sebenar dan arahkan Grok untuk ‘buang’ baju atau tudung secara digital. Malah, ada juga yang siap ‘edit’ bentuk badan jadi menggoda. Benda ni bukan rekaan, korang boleh tengok sendiri apa yang jadi dekat platform X.

Fungsi Grok dikritik kerana longgar dan berbahaya

Berbanding AI lain macam DALL-E atau Gemini, Grok pada awalnya guna sistem penapisan yang sangat longgar. Ini buatkan ia terbuka kepada penyalahgunaan, termasuk untuk hasilkan deepfake atau gambar palsu tak senonoh.

Lebih mengejutkan, sesiapa sahaja boleh tag gambar individu biasa dan arahkan Grok untuk hasilkan versi ‘tanpa pakaian’. Memang menyeramkan bila fikir betapa mudahnya benda ni boleh berlaku.

Peguam nasihat simpan bukti dalam fail PDF

Peguam Azira Aziz tampil beri panduan apa patut dibuat kalau korang jadi mangsa. Katanya, langkah pertama ialah lapor terus post tersebut kepada platform X.

Menurut Peguam Azira Aziz, kalau kena macam ni, langkah pertama sekali adalah ‘report’ terus post tersebut kepada X supaya pihak mereka tahu ada penyalahgunaan gambar berlaku.

Fail ini kemudiannya boleh digunakan untuk membuat aduan kepada Suruhanjaya Komunikasi dan Multimedia Malaysia (MCMC) melalui portal dalam talian mereka.- Katanya.

Azira juga nasihat mangsa supaya buat laporan polis dan sertakan fail PDF tu sebagai bukti sokongan.

Aduan dari luar negara ditolak, gesaan saman terhadap X meningkat

Walaupun langkah dah diambil, beberapa mangsa dari luar negara dedahkan yang aduan mereka ditolak oleh X. Mereka diberitahu kandungan tu tak langgar garis panduan platform. Bayangkan, benda macam ni pun tak salah bagi mereka.

Disebabkan itu, ada pengguna seperti @putrapetir_007 yang seru supaya satu saman kumpulan difailkan terhadap platform tu. Negara-negara seperti Perancis dan India pun dah mula ambil tindakan rasmi terhadap penyebaran gambar erotik ni.

Dalam satu laporan AFP, Grok akhirnya akui yang sistem mereka ada kelemahan. Malah, mereka terpaksa bertungkus-lumus sekarang untuk baiki semula selepas dikecam hebat kerana hasilkan kandungan erotik, termasuk yang melibatkan bawah umur.

M. Hafizal

Hafizal adalah penulis sepenuh masa di Oh! Media yang sentiasa hadir menemani anda, terutama di saat-saat lewat malam. Untuk mendapatkan berita terkini dan cerita viral, jangan lupa cari nama Hafizal—sentiasa ada untuk menghibur dan menginformasikan anda!

See Full Bio