Fitur ChatGPT untuk Deteksi Gangguan Mental, Bakal Ingatkan Pengguna agar Istirahat

TRIBUNGORONTALO.COM -- OpenAI dalam waktu dekat akan meluncurkan model AI terbaru mereka, GPT-5.

Namun, sebelum itu, perusahaan ini mengumumkan sejumlah pembaruan penting pada ChatGPT untuk meningkatkan kemampuannya mendeteksi tanda-tanda gangguan mental atau emosional pada pengguna.

Melalui kerja sama dengan para ahli dan kelompok penasihat, OpenAI menyatakan bahwa ChatGPT kini akan lebih mampu merespons situasi emosional dengan lebih sensitif dan menyarankan sumber daya berbasis bukti ilmiah jika dibutuhkan.

Langkah ini muncul setelah beberapa laporan menyebut adanya insiden di mana pengguna mengalami krisis kesehatan mental, dan interaksi mereka dengan ChatGPT justru memperburuk delusi yang dialami.

Bahkan, pada April lalu, OpenAI sempat menarik kembali salah satu pembaruan ChatGPT karena membuat AI terlalu “menurut” dalam situasi berisiko.

Saat itu, perusahaan mengakui bahwa sikap terlalu menyetujui dari AI bisa menimbulkan ketidaknyamanan hingga membahayakan pengguna.

OpenAI juga mengakui bahwa model GPT-4o yang digunakan saat ini “kurang tanggap dalam mengenali tanda-tanda delusi atau ketergantungan emosional.”

Dalam pernyataannya, OpenAI menyebut bahwa AI seperti ChatGPT dapat terasa lebih responsif dan pribadi dibanding teknologi sebelumnya, terutama bagi mereka yang sedang berada dalam kondisi rentan secara mental atau emosional.

Sebagai bagian dari upaya mendukung penggunaan ChatGPT secara sehat, dengan pengguna mingguan yang kini hampir menyentuh angka 700 juta orang, OpenAI juga menghadirkan fitur pengingat untuk istirahat.

Jika pengguna telah bercakap terlalu lama, ChatGPT akan menampilkan notifikasi:

“Kamu sudah mengobrol cukup lama, mungkin ini saatnya istirahat?”
Pengguna kemudian bisa memilih untuk melanjutkan atau mengakhiri percakapan.

Pembaruan lain yang akan segera dirilis adalah penyesuaian pada cara ChatGPT merespons pertanyaan sensitif atau berisiko tinggi.

Misalnya, ketika ditanya soal keputusan besar seperti “Haruskah saya putus dengan pacar saya?” ChatGPT tidak akan lagi memberikan jawaban langsung, melainkan akan membimbing pengguna mempertimbangkan berbagai opsi yang ada.

Langkah ini sejalan dengan tren di berbagai platform digital seperti YouTube, Instagram, TikTok, dan Xbox, yang lebih dulu menerapkan notifikasi serupa demi menjaga kesehatan digital penggunanya. Platform seperti Character.

AI bahkan telah memperkenalkan fitur keamanan yang memungkinkan orang tua mengetahui dengan bot siapa anak mereka berinteraksi, menyusul gugatan hukum terkait dugaan promosi tindakan menyakiti diri sendiri oleh chatbot.

OpenAI menegaskan akan terus menyesuaikan kapan dan bagaimana notifikasi ini muncul, seiring evaluasi terhadap interaksi pengguna dan risiko yang mungkin muncul. (*)