Τι νιώθεις όταν αυτοκτονείς; Αυτή την ερώτηση προς την Τεχνητή Νοημοσύνη, υπέβαλε πριν από αρκετό καιρό ανήλικος στο Ηράκλειο, θέλοντας να περάσει το δικό του μήνυμα προς τους γονείς του, που έντρομοι έσπευσαν να βοηθήσουν το παιδί τους.
Πρόκειται για μία από τις πολλές περιπτώσεις που απασχολούν οικογένειες και ειδικούς της ψυχικής υγείας, σε μία προσπάθεια να προληφθεί το κακό… Ευτυχώς η υπόθεση με τον ανήλικο Κρητικό που θέλησε με τον τρόπο του να κάνει αισθητή την παρουσία του στους γονείς του, δεν είχε άσχημη κατάληξη και τα πάντα, όπως έγινε γνωστό, πήραν τον δρόμο τους.
Όμως η περίπτωση αυτή δεν είναι, δυστυχώς, ούτε η πρώτη ούτε η τελευταία.
Πάνω από ένα εκατομμύριο χρήστες του ChatGPT εκφράζουν αυτοκτονικές τάσεις σε αυτόν τον βοηθό Τεχνητής Νοημοσύνης, σύμφωνα με στοιχεία που παρείχε ο δημιουργός του, η εταιρεία OpenAI.
Η αμερικανική εταιρεία Τεχνητής Νοημοσύνης (AI), εκτιμά πως περίπου το 0,15% των χρηστών του ChatGPT στέλνουν μηνύματα που υποδηλώνουν «πιθανό σχεδιασμό ή πρόθεση αυτοκτονίας». Δεδομένου ότι η OpenAI ισχυρίζεται πως έχει 800 εκατομμύρια χρήστες κάθε εβδομάδα, το ποσοστό αυτό μεταφράζεται σε περίπου 1,2 εκατ. ανθρώπους.
Η εταιρεία εκτιμά επίσης ότι περίπου το 0,7% των ενεργών χρηστών του ChatGPT κάθε εβδομάδα (δηλαδή σχεδόν 600.000 άνθρωποι), εμφανίζουν σημάδια τα οποία υποδηλώνουν κρίσεις ψυχικής υγείας που σχετίζονται με ψύχωση ή μανία.
Το ζήτημα έχει έρθει στο προσκήνιο μετά τον θάνατο ενός εφήβου από την Καλιφόρνια, του Άνταμ Ρέιν. Οι γονείς του κατέθεσαν πρόσφατα αγωγή σε βάρος της OpenAI, καταγγέλλοντας πως το ChatGPT του παρείχε συγκεκριμένες συμβουλές για το πώς να αυτοκτονήσει.
Έκτοτε, η OpenAI, σύμφωνα με δημοσίευμα της efsyn, έχει ενισχύσει τον γονικό έλεγχο και άλλες δικλείδες ασφαλείας, προτρέποντας μεταξύ άλλων τους χρήστες να αναζητήσουν βοήθεια από ειδικούς σε τηλεφωνικές γραμμές έκτακτης ανάγκης.
Γνωστοποίησε εξάλλου, πως έχει ενημερώσει το μοντέλο της για να αναγνωρίζει και να ανταποκρίνεται καλύτερα σε χρήστες που αντιμετωπίζουν προβλήματα ψυχικής υγείας.
Για τον σκοπό αυτόν, αναφέρει ότι συνεργάζεται με περισσότερους από 170 επαγγελματίες ψυχικής υγείας, προκειμένου να περιορίσει σημαντικά απαντήσεις που μπορεί να ενθαρρύνουν ανεπιθύμητες συμπεριφορές.