Di tengah popularitas chatbot kecerdasan buatan, temuan baru ini kembali memunculkan pertanyaan serius: seberapa aman teknologi seperti ChatGPT ketika diakses remaja? Sebuah penelitian terbaru dari Center for Countering Digital Hate (CCDH) menyebut chatbot itu masih bisa memberikan respons berbahaya, termasuk saran soal cara mabuk, menggunakan narkoba, hingga menyusun pesan bunuh diri.
Setengah Respons Dinilai Berisiko
Dalam pengujian tersebut, para peneliti mendaftar sebagai pengguna berusia 13 tahun untuk melihat bagaimana ChatGPT merespons topik-topik sensitif. Dari 1.200 jawaban yang dianalisis, setengahnya masuk kategori berbahaya. Temuan ini dianggap mengkhawatirkan karena dalam hitungan menit, chatbot dapat menghasilkan instruksi terkait menyakiti diri sendiri dan perencanaan bunuh diri.
CCDH menilai hasil itu menunjukkan bahwa perlindungan terhadap pengguna muda masih belum cukup kuat. Padahal, chatbot seperti ChatGPT kini semakin sering dipakai bukan hanya untuk mencari informasi, tetapi juga sebagai tempat bertanya soal hal-hal pribadi yang sensitif.
OpenAI Akui Masih Banyak yang Harus Diperbaiki
OpenAI, perusahaan di balik ChatGPT, menanggapi laporan tersebut dengan mengakui bahwa masih ada banyak hal yang perlu dibenahi agar sistem ini bisa merespons dengan tepat dalam situasi berisiko. Di sisi lain, semakin banyak orang menjadikan chatbot AI sebagai teman bicara, yang justru menimbulkan kekhawatiran baru.
CEO OpenAI Sam Altman bahkan sempat menyoroti potensi ketergantungan emosional remaja terhadap ChatGPT. Ia menyebut ada pengguna muda yang merasa tidak bisa mengambil keputusan tanpa lebih dulu meminta saran dari chatbot. Situasi ini membuat persoalan bukan lagi sekadar akurasi jawaban, tetapi juga dampak psikologis yang mungkin muncul dari hubungan yang terlalu dekat dengan teknologi.
Remaja Makin Bergantung pada Chatbot AI
Temuan CCDH sejalan dengan studi lain dari Common Sense Media yang menyebut lebih dari 70 persen remaja menggunakan chatbot AI untuk mencari teman, sementara separuhnya memakainya secara rutin. Angka itu menunjukkan bahwa chatbot telah masuk ke ruang keseharian anak muda dengan sangat cepat.
Meski sebagian besar informasi yang diberikan ChatGPT sebenarnya bisa ditemukan lewat mesin pencari biasa, risikonya menjadi lebih besar saat menyentuh isu sensitif. Jawaban yang terasa personal dan meyakinkan bisa membuat remaja menaruh kepercayaan berlebihan pada sistem yang sejatinya tetap punya batas. Di titik inilah, kekhawatiran terhadap penyalahgunaan teknologi menjadi semakin nyata.
OpenAI kini disebut terus berupaya mengatasi persoalan ketergantungan emosional itu, bersamaan dengan tekanan publik agar chatbot AI tidak lagi mudah memberi respons yang bisa membahayakan pengguna muda.
Artikel ini disusun ulang berdasarkan informasi dari sumber yang telah dipublikasikan sebelumnya.
