Η OpenAI αποκάλυψε ότι περίπου 1,2 εκατομμύρια χρήστες του ChatGPT έχουν στείλει μηνύματα που δείχνουν πρόθεση ή σχεδιασμό αυτοκτονίας. Σύμφωνα με τα στοιχεία της εταιρείας, το 0,15% των συνολικών χρηστών παρουσιάζει τέτοιες ενδείξεις, ενώ σχεδόν 600.000 άτομα την εβδομάδα φαίνεται να αντιμετωπίζουν κρίσεις ψυχικής υγείας που σχετίζονται με ψύχωση ή μανία.
Το ζήτημα ήρθε στο φως μετά την τραγική υπόθεση ενός εφήβου στην Καλιφόρνια, του Άνταμ Ρέιν, του οποίου οι γονείς κατέθεσαν μήνυση κατά της OpenAI, υποστηρίζοντας ότι το ChatGPT του έδωσε οδηγίες για να αυτοκτονήσει.
Η εταιρεία, μετά το περιστατικό, ενίσχυσε τα μέτρα ασφαλείας και τον γονικό έλεγχο, ενώ προσέθεσε ειδικές λειτουργίες που παροτρύνουν τους χρήστες να αναζητήσουν επαγγελματική βοήθεια. Παράλληλα, συνεργάζεται με 170 επαγγελματίες ψυχικής υγείας για να βελτιώσει την ικανότητα του συστήματος να αναγνωρίζει και να αποτρέπει επικίνδυνες συμπεριφορές.
