LampungCorner.com, BANDAR LAMPUNG – Perkembangan kecerdasan buatan (artificial intelligence/AI) kian pesat dan semakin lekat dengan kehidupan digital masyarakat. Namun, di balik inovasi yang ditawarkan, teknologi ini juga menghadirkan tantangan serius.
Salah satu yang tengah menjadi sorotan publik adalah Grok, chatbot berbasis AI besutan perusahaan xAI yang terintegrasi langsung dengan platform media sosial X.
Belakangan, Grok menuai kritik setelah dilaporkan mampu menghasilkan konten visual dan teks yang dinilai tidak pantas. Sejumlah konten tersebut mencakup ilustrasi bernuansa seksual, narasi berisi pelecehan, hingga gambar hasil manipulasi AI atau deepfake yang berpotensi merugikan individu tertentu.
Kontroversi ini memicu kekhawatiran akan lemahnya sistem pengaman Grok. Sejumlah pihak menilai mekanisme moderasi yang diterapkan belum cukup kuat untuk mencegah penyalahgunaan AI, terutama ketika teknologi tersebut digunakan untuk memproduksi konten yang melanggar norma sosial dan etika.
Reaksi keras pun bermunculan dari berbagai kalangan, mulai dari aktivis perlindungan anak, pemerhati teknologi, hingga politisi. Mereka menilai kasus Grok menjadi sinyal bahaya adanya celah serius dalam pengawasan AI generatif.
Bahkan, beberapa lembaga mendesak dilakukannya evaluasi menyeluruh terhadap penggunaan AI di ruang publik, khususnya yang terhubung langsung dengan media sosial.
Menanggapi hal tersebut, pihak pengembang Grok menyatakan bahwa kontroversi yang terjadi tidak terlepas dari keterbatasan sistem moderasi yang masih dalam tahap penyempurnaan.
xAI mengklaim telah mengambil sejumlah langkah perbaikan, seperti memperketat aturan penggunaan serta meningkatkan sistem pengamanan guna mencegah munculnya konten bermasalah di kemudian hari.
Kasus Grok AI kembali menguatkan kekhawatiran lama bahwa laju perkembangan teknologi sering kali melampaui regulasi yang mengaturnya. Tanpa pengawasan yang memadai, kecanggihan AI berpotensi disalahgunakan dan menimbulkan dampak sosial yang serius.
Selama proses evaluasi dan perbaikan masih berlangsung, masyarakat diimbau untuk lebih waspada, terutama dalam mengunggah foto pribadi ke media sosial X, serta mempertimbangkan penggunaan alternatif platform lain yang dinilai lebih aman. (*)
Laporan: Budi Sudewo
Editor: Furkon Ari
