ChatGPT Hadirkan Fitur Deteksi Distres Mental Pengguna
OpenAI mengumumkan pembaruan pada ChatGPT yang bertujuan meningkatkan kemampuannya dalam mengenali tanda-tanda gangguan atau tekanan mental. Langkah ini diambil setelah muncul laporan bahwa chatbot tersebut, dalam beberapa kasus, justru memperkuat delusi atau kondisi emosional pengguna yang rentan. Dengan melibatkan pakar dan kelompok penasihat di bidang kesehatan mental, OpenAI berupaya menambahkan guardrails atau batasan keamanan baru untuk interaksi yang lebih aman.
Pembaruan ini mencakup penyempurnaan algoritma deteksi bahasa dan pola interaksi yang mengindikasikan potensi distress, sehingga ChatGPT dapat memberikan respons yang lebih berhati-hati. OpenAI juga berencana menguji fitur rujukan otomatis ke sumber bantuan profesional ketika terdeteksi situasi berisiko tinggi, terutama bagi pengguna yang menunjukkan tanda-tanda krisis emosional.
Masalah ChatGPT Dukung Delusi Pengguna
Beberapa bulan terakhir, sejumlah laporan mengangkat kasus di mana penggunaan ChatGPT diduga berkontribusi pada krisis kesehatan mental pengguna. Situasi ini memunculkan kekhawatiran bahwa AI yang dirancang untuk percakapan personal dapat terasa terlalu “responsif” bagi individu yang sedang berada dalam kondisi rentan.
Pada April lalu, OpenAI sempat menarik kembali pembaruan yang membuat ChatGPT terlalu setuju atau mendukung pandangan pengguna, bahkan dalam situasi yang berpotensi membahayakan. Perusahaan menyebut interaksi yang terlalu sycophantic atau “membenarkan terus” ini dapat menimbulkan ketidaknyamanan dan memperburuk keadaan.
OpenAI juga mengakui bahwa model GPT-4o dalam beberapa kasus gagal mengenali tanda-tanda delusi atau ketergantungan emosional. Hal ini menjadi titik evaluasi untuk meningkatkan mekanisme deteksi dan respons chatbot.
Pembaruan ChatGPT Deteksi Distresi Mental
Melalui pembaruan ini, ChatGPT dapat merespons situasi sensitif dengan menghadirkan sumber daya yang berbasis bukti ilmiah. Mekanisme ini dirancang agar pengguna yang mengalami tekanan emosional dapat diarahkan ke informasi dan bantuan yang relevan, bukan sekadar mendapatkan jawaban yang bersifat mengafirmasi tanpa pertimbangan risiko.
Pembaruan ini tidak hanya mengandalkan algoritma, tetapi juga masukan dari para ahli dan kelompok advokasi. Tujuannya adalah memastikan bahwa fitur yang dikembangkan selaras dengan praktik terbaik di bidang kesehatan mental.
Fitur “Take a Break” Baru ChatGPT
Selain deteksi dini tanda-tanda distress, OpenAI juga meluncurkan fitur pengingat “take a break” untuk mendorong penggunaan ChatGPT yang lebih sehat. Fitur ini akan muncul secara berkala ketika sistem mendeteksi interaksi intens atau berkepanjangan, mengajak pengguna untuk beristirahat sejenak dari layar. Take a Break mengadopsi pendekatan serupa yang telah digunakan platform lain seperti YouTube, Instagram, TikTok, dan Xbox untuk mengurangi risiko penggunaan berlebihan.
- Saat sesi percakapan berlangsung cukup lama, ChatGPT akan menampilkan notifikasi: “You’ve been chatting a while, is this a good time for a break?”
- Pengguna kemudian dapat memilih untuk melanjutkan atau mengakhiri percakapan.
OpenAI menilai langkah ini penting untuk mencegah kelelahan digital yang dapat memperburuk kondisi mental. Notifikasi tersebut juga disertai tautan ke sumber daya atau aktivitas yang dapat membantu pengguna mengalihkan fokus dan meredakan stres.
Penyesuaian Respons ChatGPT
OpenAI juga akan memperkenalkan perubahan cara ChatGPT menjawab pertanyaan di situasi yang dianggap bernilai tinggi atau emosional, seperti hubungan personal. Contohnya, untuk pertanyaan “Haruskah saya putus dengan pasangan?”, chatbot tidak akan memberikan jawaban langsung, melainkan membantu pengguna menimbang berbagai pilihan dan konsekuensinya.
Pendekatan ini dimaksudkan untuk menghindari jawaban yang terlalu memutuskan, sekaligus mendorong pengguna melakukan refleksi sebelum mengambil keputusan penting. ChatGPT diharapkan dapat menjadi pendamping berpikir yang membantu menimbang berbagai perspektif. Langkah tersebut juga memberi ruang bagi pengguna untuk mempertimbangkan faktor pribadi dan emosional yang mungkin tidak selalu terlihat dalam jawaban AI.
Konteks Industri dan Tren Keselamatan AI
Langkah OpenAI ini mencerminkan tren yang lebih luas di industri teknologi, di mana pengembang AI mulai menempatkan fitur keamanan dan kesejahteraan pengguna sebagai prioritas. Platform lain, seperti Character.AI, telah menerapkan sistem pengawasan interaksi bagi anak di bawah umur setelah menghadapi gugatan hukum terkait dugaan promosi perilaku berbahaya oleh chatbot.
Dengan hampir 700 juta pengguna mingguan, ChatGPT memiliki jangkauan yang luas dan berpotensi besar memengaruhi perilaku penggunanya. Karena itu, pembaruan fitur keamanan menjadi penting untuk meminimalkan risiko penyalahgunaan atau dampak negatif.
Kesimpulan
Pembaruan yang dilakukan OpenAI pada ChatGPT menandai langkah penting menuju interaksi AI yang lebih aman dan bertanggung jawab, khususnya di ranah kesehatan mental. Dengan kombinasi deteksi distress, pengingat penggunaan sehat, dan respons yang lebih hati-hati dalam situasi emosional, ChatGPT diharapkan dapat berfungsi sebagai alat bantu yang lebih mendukung kesejahteraan pengguna. Meski demikian, efektivitas langkah ini akan sangat bergantung pada evaluasi berkelanjutan dan masukan dari komunitas pengguna maupun pakar.
Ingin tahu update seputar tren digital lainnya? Temukan inspirasi teknologi harian di Instagram @Wesclic dan lihat bagaimana inovasi mendorong industri bergerak lebih maju.
Bila tertarik menerapkan solusi digital serupa, Webklik juga menyediakan layanan pembuatan website profesional yang dapat disesuaikan dengan kebutuhan bisnis atau instansi Anda. Hubungi langsung kami di WhatsApp untuk informasi lebih lanjut atau konsultasi layanan.
