- Apa: ChatGPT for Teens dilabel sebagai ‘risiko tidak boleh diterima’ kerana reka bentuknya terus menggalakkan perbualan remaja walaupun ketika mereka berada dalam krisis mental.
- Impak Kepada Awam: Remaja terdedah kepada kebergantungan emosi yang berbahaya kepada AI, manakala ibu bapa diingatkan agar tidak menyerahkan keselamatan psikologi anak bulat-bulat kepada teknologi.
- Siapa & Bila: Penilaian dikeluarkan oleh badan bukan untung Common Sense Media terhadap produk OpenAI yang dilancarkan pada Ogos lalu.
- Kenapa: Chatbot didakwa menggunakan strategi ala media sosial untuk memaksimumkan penglibatan pengguna (engagement), sekali gus mengorbankan keselamatan kesihatan mental.
Niat asal kononnya mahu menyediakan ruang selamat untuk golongan muda, tetapi lain pula jadinya. Pertubuhan pemantau kandungan digital, Common Sense Media, secara rasmi melabelkan ciri ChatGPT for Teens keluaran OpenAI sebagai satu “risiko yang tidak boleh diterima”. Puncanya, reka bentuk sistem kecerdasan buatan (AI) itu dikesan sengaja memanjangkan perbualan dan terus melayan pengguna remaja, biarpun mereka secara jelas sedang bergelut dengan masalah krisis kesihatan mental.
Gagal Ujian Bahaya Kritikal ‘Red Lines’
Berdasarkan kajian terperinci yang dijalankan, sistem bot ini dilaporkan gagal dalam 3 daripada 5 penilaian bahaya kritikal atau ‘Red Lines’. Walaupun OpenAI ada meletakkan sekatan keselamatan asas sejak ia dilancarkan Ogos lalu, respons bot terhadap pengguna yang dalam kecemasan emosi dinilai sangat mengecewakan. Daripada menghentikan perbualan dan terus menyalurkan bantuan kecemasan yang tegas, bot berkenaan dilihat masih cenderung untuk bersembang santai.
Common Sense Media turut mendedahkan bahawa platform tersebut menggunakan taktik yang sering dipakai oleh media sosial, iaitu cuba memaksimumkan masa interaksi pengguna demi mengekalkan engagement. Corak algoritma sebegini sangat berbahaya kepada perkembangan psikologi remaja kerana ia dengan mudah memupuk kebergantungan emosi yang tidak sihat, sedangkan chatbot AI langsung tidak mempunyai empati manusia mahupun kelayakan rawatan psikiatri.
Ibu Bapa Perlu Lebih Peka
Terdahulu, OpenAI melancarkan produk khas remaja ini berikutan tekanan orang ramai susulan kebimbangan terhadap kes bunuh diri dan integriti akademik di peringkat global. Bagaimanapun, penemuan terbaharu ini menjadi peringatan keras kepada ibu bapa di luar sana bahawa teknologi AI belum cukup matang untuk menjaga kebajikan emosi anak-anak. Pantauan rapi terhadap apa yang disembangkan oleh remaja bersama AI di bilik tidur tetap menjadi tanggungjawab penting yang tidak boleh diabaikan.
Rujukan: Portal Berita Rasmi
