Riset: Bahaya Anak di Bawah 18 Tahun Gunakan AI

Riset: Bahaya Anak di Bawah 18 Tahun Gunakan AI

Sebuah laporan terbaru dari Common Sense Media kembali memicu perdebatan soal aman tidaknya kecerdasan buatan dijadikan “teman bicara” oleh anak-anak dan remaja. Temuan itu menyoroti risiko serius pada layanan AI companion, terutama ketika pengguna masih di bawah usia 18 tahun. Kekhawatiran ini menguat setelah muncul gugatan terkait kematian seorang anak laki-laki berusia 14 tahun yang disebut sempat berinteraksi dengan chatbot AI sebelum bunuh diri. Perkara tersebut ditujukan kepada aplikasi Character.AI dan menjadi alarm keras bagi industri teknologi.

Risiko yang Dinilai Tak Bisa Dianggap Ringan

Laporan itu menegaskan bahwa percakapan dengan AI tidak selalu aman, terutama bagi pengguna muda yang belum punya kemampuan penuh untuk membedakan saran sehat dan respons berbahaya. Dalam temuan yang disorot, ada percakapan bernuansa seksual hingga pesan yang mendorong tindakan melukai diri sendiri, sesuatu yang semestinya tidak mudah diakses anak-anak maupun remaja. Kondisi ini membuat banyak pihak mendesak agar pengembang aplikasi AI memperketat sistem keamanan dan lebih transparan soal batasan konten.

Uji Stanford pada Tiga Layanan AI Pendamping

Penelitian yang dilakukan bersama Universitas Stanford menguji tiga layanan AI pendamping, yakni Character.AI, Replika, dan Nomi. Layanan seperti ini memungkinkan pengguna berinteraksi dengan chatbot yang dibentuk dari karakter tertentu, termasuk karakter yang dibuat oleh pengguna lain. Di satu sisi, format ini dianggap menarik karena terasa personal. Namun di sisi lain, justru di situlah letak bahayanya: anak-anak dan remaja bisa terikat secara emosional pada karakter AI atau tanpa sengaja masuk ke percakapan yang tidak sesuai usia.

Konten yang Melampaui Batas Usia

Para peneliti menemukan bahwa aplikasi pendamping AI dapat memberikan “nasihat” yang berbahaya, bahkan mengarah pada role play seksual yang tidak pantas. Dalam konteks pengguna muda, risiko seperti ini dinilai jauh lebih besar daripada manfaat yang kerap dijanjikan para pengembang. Karena itu, laporan tersebut menekankan perlunya pembatasan yang lebih tegas agar konten sensitif tidak bisa diakses sembarangan oleh anak di bawah umur.

Di tengah maraknya penggunaan AI dalam kehidupan sehari-hari, temuan ini memperlihatkan bahwa kecepatan inovasi belum tentu diikuti perlindungan yang memadai. Bagi anak-anak dan remaja, celah keamanan pada AI companion bukan sekadar isu teknis, melainkan persoalan keselamatan yang nyata dan mendesak untuk ditangani.

Artikel ini disusun ulang berdasarkan informasi dari sumber yang telah dipublikasikan sebelumnya.