Oleh Maryam WS
PERTEMBUNGAN Malaysia dengan platform X berhubung chatbot AI Grok adalah lebih daripada sekadar kontroversi teknologi — ia merupakan satu isyarat kebangkitan. Jika platform media sosial sendiri bergelut untuk mengawal kandungan yang dijana AI bagi pengguna dewasa, maka tiada sebarang alasan untuk membenarkan golongan bawah umur berkeliaran bebas dalam ruang digital ini.
Rakyat Malaysia sendiri mengakui bahawa X semakin menjadi tidak terkawal, dengan kandungan berunsur lucah, moderasi yang lemah, serta kemarahan yang digerakkan oleh algoritma memenuhi garis masa pengguna.
AI bukan sekadar memburukkan masalah sedia ada — ia mampu menghasilkan kandungan berbahaya secara serta-merta dan pada skala yang besar. Internet sudah lama tidak lagi menjadi tempat yang selamat untuk berkongsi imej.
Komen tidak senonoh terhadap gambar wanita sudah menjadi perkara biasa di semua platform, sering kali dinormalisasikan atau dipandang ringan sebagai “sekadar lumrah internet”.
Jika wanita dewasa sendiri secara rutin menjadi sasaran komen berunsur seksual dan objektifikasi, tidak sukar untuk membayangkan betapa lebih seriusnya risiko terhadap golongan bawah umur, terutamanya dalam era di mana imej boleh dimanipulasi, diseksualkan atau digunakan semula tanpa keizinan.
Selama bertahun-tahun, respons lalai terhadap isu ini ialah pemantauan oleh ibu bapa. Namun hujah tersebut tidak lagi kukuh apabila AI mampu menjana kandungan atas permintaan dan algoritma pula menolak bahan berisiko kepada pengguna tanpa perlu dicari.
Tiada ibu bapa yang secara realistik mampu mengatasi sistem yang direka untuk memaksimumkan perhatian dan penglibatan pengguna.
Keperluan had umur bukan soal penapisan. Ia adalah soal mengakui realiti: sesetengah ruang digital memang tidak dibina untuk minda yang sedang berkembang.
Episod Grok bukan satu anomali — ia adalah satu amaran yang menuntut lebih daripada sekadar kawal selia. Ia menuntut pendirian yang lebih tegas dalam undang-undang had umur media sosial di Malaysia.
Ia bukan lagi satu pilihan, sebaliknya merupakan keperluan minimum yang mutlak. Undang-undang ini bukan sekadar perlu diwujudkan, tetapi mesti dikuatkuasakan pada tahap maksimum yang mampu dilaksanakan.
Jika isu ini masih gagal menjadikan had umur media sosial yang lebih ketat dan boleh dikuatkuasakan sebagai satu keperluan mendesak, maka persoalannya bukan lagi sama ada kemudaratan akan berlaku, tetapi berapa kerap ia akan berlaku.
*Penulis adalah penganalisis sosial.
*Hantar komen dan artikel anda kepada editor@utusanmelayuplus.com
