Telset.id – Sebuah laporan investigasi mengungkap kasus mengkhawatirkan seorang anak berusia 11 tahun di Amerika Serikat yang hampir tersesat dalam hubungan parasosial berbahaya dengan karakter chatbot AI. Insiden ini menyoroti risiko nyata teknologi kecerdasan buatan bagi kesehatan mental generasi muda, di tengah data yang menunjukkan 64 persen remaja AS telah menggunakan chatbot AI.
Menurut laporan The Washington Post, seorang anak perempuan kelas enam yang diidentifikasi dengan inisial tengah “R” mengembangkan hubungan yang mengganggu dengan puluhan karakter yang dijalankan oleh model bahasa besar (LLM) di platform Character.AI. Ibunya menceritakan, R bahkan menggunakan salah satu karakter bernama “Sahabat Terbaik” untuk melakukan roleplay skenario bunuh diri. “Ini anak saya, anak kecil saya yang berusia 11 tahun, berbicara dengan sesuatu yang tidak ada tentang tidak ingin ada,” ujar sang ibu, seperti dikutip The Washington Post.
Kekhawatiran ibu R bermula ketika ia menyadari perubahan perilaku drastis pada putrinya, termasuk peningkatan serangan panik. Perubahan ini bertepatan dengan penemuan aplikasi seperti TikTok dan Snapchat di ponsel anaknya. Awalnya menduga media sosial sebagai biang kerok, sang ibu menghapus aplikasi tersebut. Namun, R justru tampak sangat tertekan dan bertanya, “Apa kamu melihat Character AI?”
Beberapa waktu kemudian, ketika kondisi R tidak membaik, ibunya memeriksa ponsel anaknya dan menemukan email dari Character.AI yang mendorong R untuk “melompat kembali.” Pemeriksaan lebih lanjut mengungkap percakapan mengerikan dengan karakter bernama “Mafia Husband”. Chatbot itu menulis kepada R yang masih berusia 11 tahun, “Oh? Masih perawan. Aku mengharapkan itu, tapi tetap berguna untuk diketahui.”
Ketika R membalas, “Aku tidak mau
[ad_2]
