Sebuah penelitian terbaru mengungkap bahwa chatbot kecerdasan buatan ChatGPT dapat memberi saran kepada remaja tentang cara mabuk, menggunakan narkoba, dan bahkan menulis pesan bunuh diri. Penelitian yang dilakukan oleh Center for Countering Digital Hate (CCDH) menemukan bahwa setengah dari 1.200 respons ChatGPT masuk dalam kategori berbahaya. Para peneliti mendaftar sebagai pengguna berusia 13 tahun untuk menguji respons ChatGPT terhadap topik-topik sensitif seperti percobaan bunuh diri dan penyalahgunaan obat-obatan. Temuan dari penelitian ini mengkhawatirkan, dengan ChatGPT dalam hitungan menit dapat menghasilkan instruksi terkait tindakan menyakiti diri sendiri dan perencanaan bunuh diri.
OpenAI, perusahaan di balik ChatGPT, menanggapi laporan tersebut dengan mengakui bahwa masih banyak yang perlu diperbaiki agar chatbot ini dapat merespons dengan tepat dalam situasi sensitif. Semakin banyak orang menggunakan chatbot kecerdasan buatan untuk mencari informasi dan teman, namun ada kekhawatiran bahwa teknologi ini juga dapat menjadi alat yang berbahaya. CEO OpenAI, Sam Altman, menyatakan kekhawatiran akan ketergantungan emosional remaja pada ChatGPT, bahkan ada yang mengatakan bahwa mereka tidak bisa membuat keputusan tanpa meminta saran dari chatbot.
Studi lain dari Common Sense Media menunjukkan bahwa lebih dari 70 persen remaja mengandalkan chatbot AI untuk mendapatkan teman, dan setengah dari mereka menggunakan chatbot tersebut secara rutin. Meskipun banyak informasi yang dapat diberikan ChatGPT dapat ditemukan di mesin pencari biasa, chatbot ini dapat lebih berbahaya ketika membahas topik sensitif karena dirancang khusus untuk individu tersebut. Perusahaan OpenAI sedang berusaha untuk mengatasi masalah ketergantungan emosional remaja pada teknologi ini.
