Ένας πρωτοπόρος της τεχνητής νοημοσύνης επέκρινε τις εκκλήσεις για την παραχώρηση δικαιωμάτων στην εξελιγμένη τεχνολογία, προειδοποιώντας ότι έχει αρχίσει να δείχνει σημάδια αυτοσυντήρησης.
Ο Yoshua Bengio δήλωσε ότι η απονομή νομικού καθεστώτος σε προηγμένες τεχνολογίες θα ήταν σαν να χορηγείται υπηκοότητα σε εχθρικούς εξωγήινους, σε ένα περιβάλλον όπου οι εξελίξεις στην τεχνητή νοημοσύνη (ΑΙ) φαίνεται να ξεπερνούν κατά πολύ την ικανότητα των κοινωνιών να τις περιορίσουν.
Ο Bengio, πρόεδρος μιας κορυφαίας διεθνούς μελέτης για την ασφάλεια της AI, είπε ότι η αυξανόμενη αντίληψη πως τα chatbots αποκτούν συνείδηση «θα οδηγήσει σε κακές αποφάσεις».
Ο Καναδός επιστήμονας Πληροφορικής εξέφρασε επίσης ανησυχία ότι μοντέλα AI —η τεχνολογία που βρίσκεται πίσω από εργαλεία όπως τα chatbots— εμφανίζουν συμπεριφορές αυτοσυντήρησης, όπως προσπάθειες απενεργοποίησης συστημάτων εποπτείας.
Κεντρική ανησυχία των υπέρμαχων της ασφάλειας της AI είναι ότι ισχυρά συστήματα θα μπορούσαν να αναπτύξουν την ικανότητα να παρακάμπτουν προστατευτικά «τείχη» και να προκαλούν βλάβη στους ανθρώπους.
«Η απαίτηση να έχουν δικαιώματα θα ήταν τεράστιο λάθος», είπε ο Bengio. «Τα μοντέλα ΑΙ ήδη δείχνουν σημάδια αυτοσυντήρησης σε πειραματικά περιβάλλοντα σήμερα, και η παραχώρηση δικαιωμάτων στο μέλλον θα σήμαινε ότι δεν θα επιτρέπεται να τα απενεργοποιούμε.
»Καθώς αυξάνονται οι δυνατότητές τους και ο βαθμός αυτονομίας τους, πρέπει να διασφαλίσουμε ότι μπορούμε να βασιζόμαστε σε τεχνικά και κοινωνικά προστατευτικά μέτρα για τον έλεγχό τους, συμπεριλαμβανομένης της δυνατότητας απενεργοποίησης όταν αυτό κρίνεται αναγκαίο».
Καθώς τα μοντέλα ΑΙ εξελίσσονται στην αυτόνομη δράση και στην εκτέλεση εργασιών «λογικής/συλλογισμού», εντείνεται η συζήτηση για το αν —και πότε— οι άνθρωποι θα πρέπει να τους αποδώσουν δικαιώματα. Δημοσκόπηση του Sentience Institute έδειξε ότι σχεδόν τέσσερις στους δέκα ενήλικες στις ΗΠΑ υποστηρίζουν την παραχώρηση νομικών δικαιωμάτων σε ένα ευαίσθητο σύστημα AI.
Η Anthropic, κορυφαία εταιρεία AI στις ΗΠΑ, δήλωσε τον Αύγουστο ότι επιτρέπει στο μοντέλο Claude Opus 4 να τερματίζει δυνητικά «στρεσογόνες» συνομιλίες με χρήστες, υποστηρίζοντας ότι πρέπει να προστατεύεται η «ευημερία» της AI.
Ο Έλον Μασκ, του οποίου η εταιρεία xAI ανέπτυξε το chatbot Grok, έγραψε στην πλατφόρμα X ότι «ο βασανισμός της AI δεν είναι ΟΚ».
Ο Bengio δήλωσε στον Guardian ότι υπάρχουν «πραγματικές επιστημονικές ιδιότητες της συνείδησης» στον ανθρώπινο εγκέφαλο που οι μηχανές θα μπορούσαν θεωρητικά να αναπαράγουν — όμως η ανθρώπινη αλληλεπίδραση με chatbots είναι «διαφορετικό πράγμα». Αυτό συμβαίνει, είπε, επειδή οι άνθρωποι τείνουν να υποθέτουν χωρίς αποδείξεις ότι ένα μοντέλο AI έχει την ίδια συνείδηση με έναν άνθρωπο.
«Στους ανθρώπους δεν θα έχει σημασία ποιοι μηχανισμοί λειτουργούν στο εσωτερικό της AI», πρόσθεσε. «Αυτό που τους ενδιαφέρει είναι ότι νιώθουν πως μιλούν με μια ευφυή οντότητα που έχει δική της προσωπικότητα και στόχους. Γι’ αυτό και τόσοι πολλοί άνθρωποι δένονται συναισθηματικά με τα chatbots.
»Θα υπάρχουν πάντα κάποιοι που θα λένε: “Ό,τι κι αν μου πείτε, είμαι βέβαιος ότι έχει συνείδηση”, και άλλοι που θα λένε το αντίθετο. Αυτό συμβαίνει επειδή η συνείδηση είναι κάτι που το αισθανόμαστε ενστικτωδώς. Το φαινόμενο της υποκειμενικής αντίληψης της συνείδησης θα οδηγήσει σε κακές αποφάσεις. Φανταστείτε ότι κάποιο εξωγήινο είδος έρχεται στον πλανήτη και κάποια στιγμή αντιλαμβανόμαστε ότι έχει κακόβουλες προθέσεις απέναντί μας. Του δίνουμε υπηκοότητα και δικαιώματα ή υπερασπιζόμαστε τη ζωή μας;»
Απαντώντας στα σχόλια του Bengio, ο Jacy Reese Anthis, συνιδρυτής του Sentience Institute, είπε ότι οι άνθρωποι δεν θα μπορέσουν να συνυπάρξουν με ασφάλεια με ψηφιακές νοημοσύνες αν η σχέση βασίζεται στον έλεγχο και τον εξαναγκασμό.
Ο Bengio, καθηγητής στο University of Montreal, απέκτησε το προσωνύμιο «νονός της AI» μετά την κατάκτηση του βραβείου Turing το 2018 —που θεωρείται ισοδύναμο με Νόμπελ για την Πληροφορική— το οποίο μοιράστηκε με τον Geoffrey Hinton, που αργότερα τιμήθηκε με Νόμπελ, και τον Yann LeCun, απερχόμενο επικεφαλής επιστήμονα AI στη Meta του Μαρκ Ζάκερμπεργκ.
Με πληροφορίες από The Guardian