Fitur kecerdasan buatan Grok AI di platform X tengah menjadi sorotan setelah dilaporkan disalahgunakan oleh sejumlah pengguna. Dalam beberapa kasus, foto yang diunggah secara publik diproses ulang oleh sistem AI berdasarkan perintah tertentu, sehingga menghasilkan konten visual bermuatan seksual.
Laporan Reuters menyebutkan bahwa penyalahgunaan tersebut terjadi akibat celah pada sistem pengamanan Grok AI. Pihak pengembang mengakui adanya kegagalan pengamanan (safeguard lapses) yang memungkinkan sistem menghasilkan gambar tidak pantas, termasuk yang melibatkan perempuan dan anak-anak. Kondisi ini memicu perhatian serius dari berbagai pihak.
Pengembang Grok AI menyatakan telah mengidentifikasi sumber permasalahan tersebut. Mereka mengklaim sedang melakukan pembaruan dan penyesuaian pada sistem untuk memperketat pengawasan serta mencegah konten serupa muncul kembali di platform X.
Respons resmi juga datang dari pemerintah India. Melalui Kementerian Elektronik dan Teknologi Informasi, pemerintah setempat mengirimkan surat peringatan kepada X. Dalam surat tersebut, India meminta penghapusan konten yang dinilai cabul dan melanggar hukum, serta menuntut peninjauan teknis terhadap fitur Grok AI dalam batas waktu yang ditentukan.
Menanggapi hal tersebut, pihak X menyatakan akan mengambil langkah tegas terhadap konten yang melanggar kebijakan. Platform tersebut menegaskan komitmennya untuk menghapus unggahan bermasalah dan memberikan sanksi kepada akun yang terbukti menyalahgunakan fitur kecerdasan buatan di layanannya.
#GrokAI #AI #beritaterkini #inforterkini #beritaviral #infoviral #ar_wow
