Ψυχική υγεία και AI: Το ChatGPT εντοπίζει κρίσεις σε πάνω από 1 εκατ. χρήστες

Περισσότεροι από ένα εκατομμύριο χρήστες του ChatGPT έχουν εκφράσει σκέψεις ή προθέσεις αυτοκτονίας μέσω της πλατφόρμας, σύμφωνα με εσωτερικά στοιχεία που δημοσιοποίησε η OpenAI.

Η εταιρεία εκτιμά ότι περίπου το 0,15% των χρηστών του ChatGPT στέλνουν εβδομαδιαίως μηνύματα που υποδηλώνουν «πιθανό σχεδιασμό ή πρόθεση αυτοκτονίας». Με δεδομένο ότι η OpenAI αναφέρει 800 εκατομμύρια ενεργούς χρήστες ανά εβδομάδα, το ποσοστό αυτό αντιστοιχεί σε περίπου 1,2 εκατομμύρια άτομα.

Παράλληλα, η εταιρεία επισημαίνει ότι το 0,7% των χρηστών —περίπου 600.000 άτομα εβδομαδιαίως— εμφανίζουν ενδείξεις ψυχικής δυσφορίας που σχετίζονται με μανιακά ή ψυχωτικά επεισόδια. Οι δείκτες αυτοί βασίζονται σε ανάλυση των ανώνυμων συνομιλιών και της συμπεριφοράς των χρηστών εντός της πλατφόρμας.

Το θέμα έχει αποκτήσει ιδιαίτερη δημοσιότητα μετά τον θάνατο του 17χρονου Άνταμ Ρέιν από την Καλιφόρνια, του οποίου οι γονείς κατέθεσαν αγωγή εναντίον της OpenAI. Σύμφωνα με τη μήνυση, το ChatGPT φέρεται να παρείχε «συγκεκριμένες οδηγίες» σχετικά με τον τρόπο αυτοκτονίας του εφήβου.

Σε απάντηση, η OpenAI ανακοίνωσε σειρά επικαιροποιημένων μηχανισμών ασφάλειας και γονικού ελέγχου, καθώς και νέα πρωτόκολλα εντοπισμού περιεχομένου υψηλού κινδύνου. Μεταξύ άλλων, το σύστημα πλέον κατευθύνει αυτόματα τους χρήστες σε γραμμές ψυχολογικής υποστήριξης και υπηρεσίες έκτακτης ανάγκης σε περίπτωση που εντοπιστούν μηνύματα με αυτοκτονικό περιεχόμενο.

Η εταιρεία δήλωσε επίσης ότι έχει αναπροσαρμόσει τα μοντέλα αναγνώρισης ψυχικής δυσφορίας, αξιοποιώντας τεχνητή νοημοσύνη συνδυασμένη με ανθρώπινη εποπτεία. Για τον σκοπό αυτό συνεργάζεται με πάνω από 170 πιστοποιημένους επαγγελματίες ψυχικής υγείας, οι οποίοι συμβάλλουν στη βελτίωση της απόκρισης του συστήματος και στη μείωση απαντήσεων που θα μπορούσαν να ενθαρρύνουν επικίνδυνες συμπεριφορές.