Setiap Minggu, Lebih dari Sejuta Pengguna ChatGPT Curhat Soal Bunuh Diri ke AI

Nusavoxmedia.id – OpenAI baru-baru ini membeberkan data internal yang mengejutkan yaitu lebih dari satu juta pengguna ChatGPT setiap pekan diketahui terlibat dalam percakapan yang menyentuh isu kesehatan mental, termasuk niat untuk bunuh diri.

Angka ini terungkap bersamaan dengan rilis pembaruan sistem keamanan model GPT-5, yang diklaim kini lebih empatik dan mampu merespons kondisi psikologis pengguna dengan lebih aman.

Menurut laporan Tech Crunch, sekitar 0,15 persen pengguna aktif mingguan menampilkan indikasi eksplisit terkait rencana bunuh diri, sementara 0,05 persen pesan mengandung tanda-tanda implisit pikiran serupa.

Dengan lebih dari 800 juta pengguna aktif setiap minggu, jumlah itu berarti ratusan ribu orang membicarakan masalah kesehatan mental mereka dengan chatbot buatan OpenAI tersebut.

Baca Juga: Onadio Leonardo Diperiksa Polisi Usai Diduga Terlibat Kasus Narkoba

Perusahaan asal San Francisco itu juga mengungkap bahwa sebagian kecil pengguna menunjukkan keterikatan emosional berlebihan terhadap ChatGPT, serta perilaku yang mengindikasikan gejala psikosis dan mania.

Untuk menanggapi hal ini, OpenAI bekerja sama dengan lebih dari 170 pakar kesehatan mental guna melatih sistem agar mampu mengenali tanda-tanda bahaya dan memberikan respons yang sesuai.

Dalam pengembangannya, GPT-5 diklaim mampu memberikan respons yang diharapkan 65 persen lebih baik dibandingkan model sebelumnya, khususnya dalam menangani topik sensitif seperti depresi dan ide bunuh diri. Pada evaluasi khusus, sistem baru ini juga disebut mencapai tingkat kepatuhan 91 persen terhadap standar keamanan perilaku yang ditetapkan perusahaan.

Menanggapi hal itu, CEO OpenAI Sam Altman menyampaikan melalui platform X bahwa pihaknya terus memperbaiki keamanan dan sensitivitas model AI mereka.

Ia menyebut, sistem kini dilengkapi kemampuan untuk mengalihkan pengguna ke sumber bantuan profesional, seperti hotline pencegahan bunuh diri, serta mendorong mereka berbicara dengan keluarga atau teman dekat.

OpenAI juga memperkenalkan fitur baru yang memantau indikator ketergantungan emosional dan kondisi darurat non-bunuh diri, serta sistem deteksi usia otomatis untuk memberikan perlindungan tambahan bagi pengguna muda.

Altman menambahkan, GPT-5 kini jauh lebih konsisten dalam menjaga pengaman selama percakapan panjang, sebuah kelemahan yang sebelumnya kerap ditemukan pada model lama.

Kendati belum sempurna, pembaruan GPT-5 menunjukkan langkah konkret menuju pengembangan AI yang lebih aman dan berempati. OpenAI berharap, sistem baru ini tidak hanya mencegah percakapan berisiko tinggi, tetapi juga mampu menjadi jembatan bagi pengguna yang membutuhkan pertolongan nyata di dunia offline.