Όπως η κοινωνία αναγνωρίζει εδώ και αιώνες τον κίνδυνο της αυθεντίας του γιατρού ή του δασκάλου όταν αυτή υπερβαίνει τα όρια του αντικειμένου τους, έτσι οφείλουμε να εξετάσουμε σήμερα, στην εποχή της Τεχνητής Νοημοσύνης (ΤΝ), τον κίνδυνο η τεχνική αυθεντία των κορυφαίων προγραμματιστών της να μετατραπεί σε αξίωσή τους για συνολική κοινωνική και πολιτική καθοδήγηση των λαών.
Η αρχαία διάγνωση της δοκησισοφίας
Η στηλίτευση της πνευματικής αλαζονείας δεν αποτελεί προϊόν της σύγχρονης εποχής. Ήδη από τον 2ο αιώνα μ.Χ., ο Αθήναιος ο Ναυκρατίτης, στο μνημειώδες έργο του «Δειπνοσοφισταί», συμπύκνωσε την καχυποψία του αρχαίου κόσμου απέναντι στην επαγγελματική αυθεντία ως εξής: «Αν δεν υπήρχαν οι γιατροί, κανείς δεν θα ήταν πιο ανόητος από τους δασκάλους» («Εἰ μὴ ἰατροὶ ἦσαν, οὐδὲν ἂν ἦν τῶν γραμματικῶν ἀνοητότερον»).
Η αρχαία αυτή διαπίστωση πέρασε αυτούσια στη νεοελληνική λαϊκή παράδοση, με τη μορφή της παροιμίας που επιβιώνει μέχρι τις μέρες μας: «ουδείς μωρότερος των διδασκάλων πλην ιατρών».
Γιατί, όμως, ο λαός επέλεξε να επιτεθεί διαχρονικά και με τέτοια οξύτητα στις δύο κατεξοχήν μορφωμένες τάξεις της παραδοσιακής κοινωνίας; Η απάντηση βρίσκεται στη δοκησισοφία -την τάση των ανθρώπων που κατέχουν μια εξειδικευμένη γνώση να θεωρούν εαυτούς καθολικά σοφούς.
Ο γιατρός και ο δάσκαλος ασκούν την επιστήμη τους μέσα σε ένα πλαίσιο απόλυτης θεσμικής και συναισθηματικής ασυμμετρίας. Ο ασθενής προσέρχεται στο ιατρείο ευάλωτος, φοβισμένος και πρόθυμος να υπακούσει. Ο μαθητής εισέρχεται στην αίθουσα για να καθοδηγηθεί, να αξιολογηθεί και να πειθαρχήσει.
Αυτή η καθημερινή, πολυετής τριβή με ανθρώπους που σπάνια τους αμφισβητούν, μπορεί να καλλιεργήσει σε κάποιους -όχι όλους- γιατρούς ή δασκάλους, το σύνδρομο της αυθεντίας, ή πρακτικά τη μεταφορά της αυθεντίας στους υπόλοιπους τομείς της ζωής τους.
Επειδή ασκούν την Ιατρική ή την Παιδαγωγική σε ελεγχόμενο από αυτούς ιατρικό ή σχολικό περιβάλλον, μπορεί να αναπτύξουν την ψευδαίσθηση ότι δικαιούνται να ρυθμίζουν ευρύτερα, ακόμα κι έξω από αυτό το περιβάλλον, τις διαπροσωπικές τους σχέσεις, την κοινωνία ή ακόμα και την πολιτική.
Η περίοδος της πανδημίας λειτούργησε ως το απόλυτο «crash test» αυτού του φαινομένου. Είδαμε επιστήμονες να συγχέουν την εξειδικευμένη ιατρική τους γνώση με την απόλυτη πολιτική, ηθική και κοινωνική αυθεντία, απαιτώντας όχι απλώς υγειονομική συμμόρφωση, αλλά εξουσιαστική υποταγή από τους λαούς του κόσμου.
Τα δε τηλεοπτικά παράθυρα προσφέρουν δημόσιο βήμα σε πανεπιστημιακούς διδασκάλους, απ’ όπου εκφωνούν ανέκκλητες «αλήθειες» χωρίς αντίλογο, μεταφέροντας την αυθεντία τους επί παντός επιστητού και αποφαινόμενοι αφ’ υψηλού (ex cathedra), τηλεοπτική σεζόν με τη σεζόν.
Το ψηφιακό περιβάλλον και η ψευδαίσθηση του ελέγχου
Ωστόσο, η παραδοσιακή αυτή δοκησισοφία είχε πάντα ένα ανυπέρβλητο όριο. Είχε το «βέτο» της φύσης.
Όσο αλαζόνας κι αν γίνεται κάποιος γιατρός, η πραγματικότητα τον επαναφέρει περιοδικά στην ταπεινότητα. Ακόμη και ο σπουδαιότερος χειρουργός έρχεται αντιμέτωπος με το απρόβλεπτο της βιολογίας: ασθενείς του πεθαίνουν παρά την τέλεια επέμβαση.
Όσο αυταρχικός κι αν γίνεται κάποιος δάσκαλος, προσκρούει συχνά στο χάος της ανθρώπινης βούλησης: σε μαθητές που παραμένουν αδιάφοροι, αδαείς ή απείθαρχοι. Η φύση, ο θάνατος και η ανθρώπινη ψυχολογία παρεμβαίνουν διαρκώς ως εξωτερικοί ρυθμιστές, υπενθυμίζοντας βιωματικά στους εκπροσώπους της παραδοσιακής αυθεντίας τα όρια της δύναμής τους.
Στη Μεταπολεμική Εποχή, όμως, η τεχνολογική εξέλιξη γέννησε μια νέα συνομοταξία επαγγελματιών, στην οποία αυτό το φυσικό βέτο είναι απόν: τους αναλυτές/προγραμματιστές λογισμικού.
Ο προγραμματιστής δεν εργάζεται στον χαοτικό υλικό κόσμο, αλλά σε ένα κλειστό, τεχνητό σύστημα-ένα ψηφιακό sandbox (απόλυτα ελεγχόμενο περιβάλλον δοκιμών), που σήμερα χωράει σε ένα laptop. Στο περιβάλλον του κώδικα, ο υπολογιστής δεν διαθέτει ελεύθερη βούληση, δεν παθαίνει κατάθλιψη και δεν πεθαίνει από ασθένεια. Είναι ένας δούλος απόλυτης μαθηματικής υπακοής, καθολικά χειραγωγήσιμος και επαρκώς προβλέψιμος.
Εάν παρουσιαστεί ένα «bug» (σφάλμα στον κώδικα του προγράμματος), αυτό δεν οφείλεται σε κάποια αστάθμητη εξωτερική δύναμη, αλλά αποκλειστικά σε μια λάθος διατύπωση της ανθρώπινης λογικής του προγραμματιστή.
Εδώ ακριβώς θεμελιώνεται η νοοτροπία της παντοδυναμίας ορισμένων τεχνολογικών ηγετών. Ένας ικανός μηχανικός λογισμικού θα επιλύσει ένα αλγοριθμικό πρόβλημα σε 5 λεπτά, ενώ ένας μέτριος σε 5 ώρες. Το κρίσιμο όμως στοιχείο είναι ότι και οι δύο θα το επιλύσουν στο τέλος της ημέρας με 100% βεβαιότητα -σε όλες τις περιπτώσεις όπου το πρόβλημα είναι επιλύσιμο (tractable).
Έτσι, κάποιοι τέτοιοι μηχανικοί, εθισμένοι στην 100% επικράτηση πάνω στον ψηφιακό τους κόσμο, παρωθούνται ασυνείδητα να θεωρούν την κοινωνία όλο και περισσότερο ως πρόβλημα μηχανικής: βλέπουν τις ανθρώπινες σχέσεις και τους θεσμούς όχι ως πολύπλοκα, οργανικά συστήματα που απαιτούν συναινέσεις και ενσυναίσθηση, αλλά ως «κακογραμμένο λογισμικό» (legacy software) που περιμένει το δικό του debugging.
Αυτό καταδεικνύεται από την εμφανή έπαρση ορισμένων ιδιοκτητών και υψηλόβαθμων στελεχών εταιρειών λογισμικού ΤΝ, οσάκις βγαίνουν σε δημόσιο χώρο, από του βήματος συνεδρίων ή από τηλεοπτικές οθόνες, όπου ομιλούν αφ’ υψηλού για το μέλλον της… ανθρωπότητας.
Από τον Φρανκενστάιν στην Τεχνητή Νοημοσύνη
Αυτή η αλαζονεία, που επιχειρεί να ανασχεδιάσει την πραγματικότητα μέσα από ένα αποστειρωμένο εργαστήριο, δεν είναι καινούργια ως ιδέα. Η λογοτεχνία την προτύπωσε με εκπληκτική διορατικότητα πριν από δύο αιώνες.
Το μυθιστόρημα της Μαίρης Σέλλεϋ, Φρανκενστάιν ή ο Σύγχρονος Προμηθέας (1818), δεν αποτελεί μια απλή ιστορία τρόμου, αλλά την πρώτη ανατομία αυτής της νοοτροπίας. Ο Βίκτορ Φρανκενστάιν δεν εργάζεται στην κοινωνία. Κλείνεται στο εργαστήριό του, απομονώνεται από κάθε ανθρώπινο συναίσθημα και αντιμετωπίζει τη δημιουργία της ζωής ως ένα αμιγώς τεχνικό πρόβλημα βελτιστοποίησης (optimization task).
Όσο βρίσκεται στο στάδιο του σχεδιασμού, βιώνει την ψευδαίσθηση της παντοδυναμίας. Η «φύση» όμως εισβάλλει βίαια τη στιγμή της «εμψύχωσης» -μόλις το Πλάσμα ανοίγει το κίτρινο μάτι του. Τότε ο Φρανκενστάιν συνειδητοποιεί σοκαρισμένος ότι άλλο η τεχνική σύλληψη κι άλλο η υπαρκτή πραγματικότητα.
Και όπως ακριβώς κάνει η σύγχρονη βιομηχανία τεχνολογίας όταν οι αλγόριθμοί της (ή τα βιοτεχνολογικά σκευάσματα) προκαλούν κοινωνικό χάος, ο Φρανκενστάιν εγκαταλείπει το δημιούργημά του, αρνούμενος να αναλάβει την ηθική ευθύνη του «κώδικα» που απελευθέρωσε στον κόσμο.
Το Hollywood συνέλαβε αυτή τη τεχνοκρατική ύβρη, εξελίσσοντας τον τύπο του «τρελού επιστήμονα» στον αρχέτυπο κακό της ψηφιακής εποχής: τον αλαζόνα προγραμματιστή. Σε ταινίες όπως το Moonraker (με τον Hugo Drax) ή το The Matrix (με τον Architect), ο «κακός» (villain) δεν υποκινείται από παραδοσιακή απληστία ή μίσος.
Διακατέχεται από μια ψυχρή και επιφανειακά «αλάθητη» λογική. Βλέποντας την ανθρωπότητα από ψηλά, διαπιστώνει ότι το σύστημα έχει «bugs» (υπερπληθυσμός, πόλεμοι, περιβαλλοντική ρύπανση) και καταλήγει στο συμπέρασμα ότι η μόνη λύση είναι ένα «system reboot», ένα καθολικό «reset», που θα διορθώσει όλα αυτά τα… απαλειπτέα σφάλματα-bugs του συστήματος (system errors).
Ο τεχνοκακός (tech villain) είναι τρομακτικός επειδή θεωρεί ότι κατέχει την πλήρη πρόσβαση (root access) στην πραγματικότητα ως διαχειριστής συστήματος (system administrator), βλέποντας τους υπόλοιπους ανθρώπους ως τελικούς χρήστες (end users) που «πρέπει» να υποταχθούν στον δικό του αλγόριθμο.
Παρομοίως στην πραγματική ζωή, ο προγραμματιστής που συνηθίζει να διορθώνει τον κώδικα μέχρι να υπακούσει, κινδυνεύει να κοιτάξει και την κοινωνία με το ίδιο βλέμμα: ως ένα κακογραμμένο πρόγραμμα που περιμένει τον κατάλληλο διαχειριστή. Μόνο που οι άνθρωποι δεν είναι κώδικας, η διαφωνία δεν είναι bug και η ελευθερία δεν είναι σφάλμα προς εξάλειψη.
Έλλειμμα ταπεινότητας στη βιομηχανία ΤΝ
Αυτός ο κίνδυνος είναι αισθητός λόγω της διπλής ψευδαίσθησης που ενίοτε διακατέχει σύγχρονους μηχανικούς και αρχιτέκτονες ΤΝ:
- Η ψευδαίσθηση της θεϊκής δημιουργίας
Οι προγραμματιστές ΑΙ δεν γράφουν απλώς εντολές deterministic λογικής (if/then/else). Εκπαιδεύουν νευρωνικά δίκτυα που μαθαίνουν, «σκέφτονται» και παράγουν λόγο. Αυτό μπορεί να τους δημιουργεί την υποσυνείδητη πεποίθηση ότι δεν είναι πλέον απλοί μηχανικοί, αλλά δημιουργοί συνείδησης (το σύνδρομο Φρανκενστάιν). Η αίσθηση ότι πλάθουν μια νέα, ανώτερη μορφή νοημοσύνης, την οποία έχουν ήδη αρχίσει να αποκαλούν Υπερνοημοσύνη (Superintelligence), διογκώνει την ύβρη τους σε επίπεδα που ξεπερνούν κάθε ιστορικό προηγούμενο.
- Η ψευδαίσθηση της «Αντικειμενικής Αλήθειας»
Ενώ κατά κανόνα ο γιατρός και ο δάσκαλος αντιλαμβάνονται βιωματικά τα όρια και τις αβεβαιότητες του πεδίου τους -λόγω της φυσικής αβεβαιότητας ο πρώτος, και της ανθρώπινης υποκειμενικότητας ο δεύτερος- ο μηχανικός ΑΙ μπορεί τελικά να αρχίσει να πιστεύει ότι τα μοντέλα του είναι απολύτως ουδέτερα και αντικειμενικά, επειδή βασίζονται σε μαθηματικά και δεδομένα.
Στην πραγματικότητα, όμως, τα δεδομένα εκπαίδευσης που επιλέγει αντικατοπτρίζουν τις δικές του προκαταλήψεις, την ταξική του προέλευση και την τεχνοκρατική του ιδεολογία.
Έτσι, μπορεί στο εγγύς μέλλον να δούμε μια κλειστή ομάδα «πεφωτισμένων» ανθρώπων να επιδιώκει, μέσα από την απομόνωση του sandbox, να «λύσει» την ανθρώπινη φύση. Υποτίθεται ότι αυτό θα το πετύχουν σχεδιάζοντας αλγορίθμους που αποφασίζουν για τη δικαιοσύνη, την εργασία, την περίθαλψη, την ενημέρωση, ακόμα και για τη διεξαγωγή πολέμων, αντιμετωπίζοντας την ανθρώπινη ύπαρξη σαν μια παράμετρο προς βελτιστοποίηση (optimization vector).
Στην πραγματικότητα δηλαδή, η Πληροφορική φαίνεται ότι πάσχει από ένα δομικό -και αυτοκαταστροφικό- έλλειμμα ταπεινότητας.
O John D. Pappas είναι πτυχιούχος του Columbia University στην Επιστήμη Υπολογιστών (Computer Science)