Η στηλίτευση της πνευματικής αλαζονείας δεν αποτελεί προϊόν της σύγχρονης εποχής. Ήδη από τον 3ο αιώνα μ.Χ., ο Αθήναιος ο Ναυκρατίτης, στο μνημειώδες έργο του Δειπνοσοφισταί, κατέγραφε μια καυστική παρατήρηση που συμπύκνωνε την καχυποψία του αρχαίου κόσμου απέναντι στην επαγγελματική αυθεντία: «Αν δεν υπήρχαν οι γιατροί, κανείς δεν θα ήταν πιο ανόητος από τους δασκάλους» («Εἰ μὴ ἰατροὶ ἦσαν, οὐδὲν ἂν ἦν τῶν γραμματικῶν ἀνοητότερον»).
Η αρχαία αυτή διαπίστωση πέρασε αυτούσια στη νεοελληνική λαϊκή παράδοση, με τη μορφή της παροιμίας που επιβιώνει μέχρι τις μέρες μας: «Ουδείς μωρότερος των ιατρών, ει μη οι διδάσκαλοι».
Γιατί όμως ο λαός επέλεξε να επιτεθεί διαχρονικά και με τέτοια οξύτητα στις δύο κατεξοχήν μορφωμένες τάξεις της παραδοσιακής κοινωνίας; Η απάντηση βρίσκεται στην δοκησισοφία —την τάση των ανθρώπων που κατέχουν μια εξειδικευμένη γνώση να θεωρούν εαυτούς καθολικούς σοφούς.
Ο γιατρός και ο δάσκαλος ασκούν την επιστήμη τους μέσα σε ένα πλαίσιο απόλυτης θεσμικής και συναισθηματικής ασυμμετρίας. Ο ασθενής προσέρχεται στο ιατρείο ευάλωτος, φοβισμένος και πρόθυμος να υπακούσει. Ο μαθητής εισέρχεται στην αίθουσα για να καθοδηγηθεί, να αξιολογηθεί και να πειθαρχήσει.
Αυτή η καθημερινή, πολυετής τριβή με ανθρώπους που σπάνια αμφισβητούν τον λόγο του, καλλιεργεί στον γιατρό ή τον δάσκαλο ένα επικίνδυνο ψυχολογικό παράγωγο: το σύνδρομο της αυθεντίας, ή πρακτικά τη μεταφορά της αυθεντίας στους υπόλοιπους τομείς της ζωής του. Επειδή ασκεί την ιατρική ή την παιδαγωγική σε ένα ελεγχόμενο από αυτόν ιατρικό ή σχολικό περιβάλλον, αναπτύσσει την ψευδαίσθηση ότι δικαιούται να ρυθμίζει ευρύτερα—έξω από αυτό το περιβάλλον—τις διαπροσωπικές σχέσεις, την κοινωνία ή ακόμα και την πολιτική.
Αυτό το ζήσαμε με την έπαρση πολλών γιατρών κατά την πανδημία. Το ζούμε καθημερινά με τις συχνές εμφανίσεις περισπούδαστων καθηγητών σε τηλεοπτικά παράθυρα. Ειδικότερα, η περίοδος της πανδημίας λειτούργησε ως το απόλυτο «crash test» αυτού του φαινομένου. Είδαμε επιστήμονες να συγχέουν την εξειδικευμένη ιατρική τους γνώση με την απόλυτη πολιτική, ηθική και κοινωνική αυθεντία, απαιτώντας όχι απλώς υγειονομική συμμόρφωση, αλλά ιδεολογική υποταγή από τους λαούς του Κόσμου. Και βεβαίως, τα τηλεοπτικά παράθυρα των τελευταίων ετών προσφέρουν μόνιμο δημόσιο βήμα σε πανεπιστημιακούς διδασκάλους, απ’ όπου εκφωνούν αναιρεσίδικες «αλήθειες» χωρίς αντίλογο, εφαρμόζοντας αφ’ υψηλού τη μεταφορά της αυθεντίας επί παντός επιστητού σεζόν με τη σεζόν.
Οι ψευδαισθησιακές βεβαιότητες του προγραμματιστή
Ωστόσο, η παραδοσιακή αυτή δοκησισοφία είχε πάντα ένα ανυπέρβλητο όριο. Είχε το «βέτο» της φύσης.
Όσο αλαζόνας κι αν γίνεται ο γιατρός, η πραγματικότητα τον επαναφέρει περιοδικά στην ταπεινότητα. Ακόμη και ο σπουδαιότερος χειρουργός έρχεται αντιμέτωπος με το απρόβλεπτο της βιολογίας: ασθενείς του πεθαίνουν παρά την τέλεια επέμβαση. Όσο αυταρχικός κι αν γίνεται ο δάσκαλος ή ο καθηγητής, προσκρούει συχνά στο χάος της ανθρώπινης βούλησης: μαθητές ή φοιτητές που παραμένουν αδιάφοροι, αδαείς ή απείθαρχοι. Η φύση, ο θάνατος και η ανθρώπινη ψυχολογία παρεμβαίνουν διαρκώς ως εξωτερικοί ρυθμιστές, υπενθυμίζοντας βιωματικά στους εκπροσώπους της παραδοσιακής αυθεντίας τα όρια της δύναμής τους.
Στη Μεταπολεμική εποχή όμως, η τεχνολογική εξέλιξη γέννησε μια νέα συνομοταξία επαγγελματιών, στην οποία το φυσικό αυτό βέτο είναι πλήρως απόν: τους προγραμματιστές ηλεκτρονικών υπολογιστών.
Ο προγραμματιστής δεν εργάζεται στον χαοτικό υλικό κόσμο, αλλά σε ένα κλειστό, τεχνητό σύστημα —ένα ψηφιακό sandbox (απόλυτα ελεγχόμενο περιβάλλον δοκιμών) που σήμερα χωράει σε ένα laptop. Μέσα στο περιβάλλον του κώδικα, ο υπολογιστής δεν διαθέτει ελεύθερη βούληση, δεν παθαίνει κατάθλιψη και δεν πεθαίνει από ασθένεια. Είναι ένας δούλος απόλυτης, μαθηματικής υπακοής, ένας δούλος απόλυτα χειραγωγήσιμος και προβλέψιμος.
Εάν παρουσιαστεί ένα «bug» (σφάλμα στον κώδικα του προγράμματος), αυτό δεν οφείλεται σε κάποια αστάθμητη εξωτερική δύναμη, αλλά αποκλειστικά σε μια λάθος διατύπωση της ανθρώπινης λογικής του προγραμματιστή.
Εδώ ακριβώς θεμελιώνεται η βαθύτερη ψυχοπαθολογία του προγραμματιστή. Ένας ικανός μηχανικός λογισμικού θα επιλύσει ένα πολύπλοκο αλγοριθμικό πρόβλημα σε 5 λεπτά, ενώ ένας μέτριος σε 5 ώρες. Το κρίσιμο όμως στοιχείο είναι ότι και οι δύο θα το επιλύσουν στο τέλος της ημέρας με 100% βεβαιότητα.
Αυτή η διαρκής, εγγυημένη νίκη απέναντι στο σύστημα εκπαιδεύει τον εγκέφαλο του προγραμματιστή με έναν τρόπο που δεν γνώρισε ποτέ κανένας γιατρός ή δάσκαλος στην ιστορία: του εμφυσά την ψευδαισθησιακή πεποίθηση ότι δεν υπάρχει πρόβλημα που να μην έχει τεχνική, οριστική λύση.
Έτσι, κάποιοι προγραμματιστές, εθισμένοι στην 100% επικράτηση πάνω στον ψηφιακό τους κόσμο, βγαίνουν έξω στην κοινωνία και βλέπουν τις ανθρώπινες σχέσεις και τους θεσμούς όχι ως πολύπλοκα, οργανικά συστήματα που απαιτούν συναινέσεις και ενσυναίσθηση, αλλά ως «κακογραμμένο λογισμικό» (legacy software) που περιμένει το δικό του debugging.
Αυτό καταδεικνύεται από την εμφανή έπαρση ορισμένων ιδιοκτητών και υψηλόβαθμων στελεχών εταιρειών λογισμικού, και ειδικά μηχανικών Τεχνητής Νοημοσύνης, οσάκις βγαίνουν σε δημόσιο χώρο, από του βήματος συνεδρίων ή από τηλεοπτικές οθόνες, όπου ομιλούν αφ’ υψηλού για το μέλλον της… ανθρωπότητας.
Προειδοποιήσεις από τη Λογοτεχνία και τον Κινηματογράφο
Αυτή η αλαζονεία του ανθρώπου που επιχειρεί να ανασχεδιάσει την πραγματικότητα μέσα από ένα αποστειρωμένο εργαστήριο δεν είναι καινούργια ως ιδέα. Η λογοτεχνία την προτύπωσε με εκπληκτική διορατικότητα πριν από δύο αιώνες.
Το μυθιστόρημα της Μαίρης Σέλλεϋ, Φρανκενστάιν ή ο Σύγχρονος Προμηθέας (1818), δεν αποτελεί μια απλή ιστορία τρόμου, αλλά την πρώτη ανατομία της ψυχολογίας του προγραμματιστή. Ο Βίκτορ Φρανκενστάιν δεν εργάζεται στην κοινωνία. Κλείνεται στο εργαστήριό του, απομονώνεται από κάθε ανθρώπινο συναίσθημα και αντιμετωπίζει τη δημιουργία της ζωής ως ένα αμιγώς τεχνικό πρόβλημα βελτιστοποίησης (optimization task).
Όσο βρίσκεται στο στάδιο του σχεδιασμού, βιώνει την ψευδαίσθηση της παντοδυναμίας. Η «φύση» εισβάλλει βίαια τη στιγμή του πρώτου execution (όταν το Πλάσμα ανοίγει το μάτι του). Τότε ο Φρανκενστάιν συνειδητοποιεί σοκαρισμένος ότι άλλο η τεχνική σύλληψη κι άλλο η υπαρκτή πραγματικότητα.
Και όπως ακριβώς κάνει η σύγχρονη βιομηχανία τεχνολογίας όταν οι αλγόριθμοί της (ή τα βιοτεχνολογικά σκευάσματα) προκαλούν κοινωνικό χάος, ο Φρανκενστάιν εγκαταλείπει το δημιούργημά του, αρνούμενος να αναλάβει την ηθική ευθύνη του «κώδικα» που απελευθέρωσε στον κόσμο.
Το Hollywood συνέλαβε αυτή τη μετάλλαξη της τεχνοκρατικής ύβρεως, εξελίσσοντας τον τύπο του «τρελού επιστήμονα» στον αρχέτυπο κακό της ψηφιακής εποχής: τον αλαζόνα προγραμματιστή. Σε ταινίες όπως το Moonraker (με τον Hugo Drax) ή το The Matrix (με τον Architect), ο «κακός» (villain) δεν υποκινείται από παραδοσιακή απληστία ή μίσος. Διακατέχεται από μια ψυχρή και επιφανειακά «αλάθητη» λογική. Βλέπει την ανθρωπότητα από ψηλά, διαπιστώνει ότι το σύστημα έχει «bugs» (υπερπληθυσμός, πόλεμοι, περιβαλλοντική ρύπανση) και καταλήγει στο συμπέρασμα ότι η μόνη λύση είναι ένα «system reboot» —ένα καθολικό «reset», όπως το προτεινόμενο «The Great Reset».
Ο τεχνοκακός (tech villain) είναι τρομακτικός επειδή θεωρεί ότι κατέχει την πλήρη πρόσβαση (root access) στην πραγματικότητα ως διαχειριστής συστήματος (systems administrator), βλέποντας τους υπόλοιπους ανθρώπους ως τελικούς χρήστες (end users) που «πρέπει» να υποταχθούν στον δικό του αλγόριθμο.
Η πλέον επικίνδυνη φάρα στην ιστορία του Πλανήτη
Οι σύγχρονοι μηχανικοί και αρχιτέκτονες Τεχνητής Νοημοσύνης (ΑΙ) αντιπροσωπεύουν την πιο επικίνδυνη εκδοχή της ψυχοπαθολογίας του προγραμματιστή στην ιστορία του πλανήτη.
Η επικινδυνότητά τους δεν έγκειται στην τεχνική ισχύ των εργαλείων που κατασκευάζουν, αλλά στη διπλή ψευδαίσθηση μέσα στην οποία λειτουργούν:
- Η ψευδαίσθηση της θεϊκής δημιουργίας (The God Mode Mindset):
Οι προγραμματιστές ΑΙ δεν γράφουν απλώς εντολές deterministic λογικής (if/else). Εκπαιδεύουν νευρωνικά δίκτυα που «μαθαίνουν», «σκέφτονται» και παράγουν λόγο. Αυτό τους δημιουργεί την υποσυνείδητη πεποίθηση ότι δεν είναι πλέον απλοί μηχανικοί, αλλά δημιουργοί συνείδησης. Η αίσθηση ότι πλάθουν μια νέα, ανώτερη μορφή νοημοσύνης, την οποία έχουν ήδη αρχίσει να αποκαλούν αυτοεπιβεβαιωτικώς Υπερνοημοσύνη (Superintelligence), διογκώνει την ύβρη τους σε επίπεδα που ξεπερνούν κάθε ιστορικό προηγούμενο.
- Η ψευδαίσθηση της «Αντικειμενικής Αλήθειας»
Ενώ ο γιατρός και ο δάσκαλος αντιλαμβάνονται (έστω και στοιχειωδώς) τα όρια και τις αβεβαιότητες του πεδίου τους, λόγω της φυσικής αβεβαιότητας ο πρώτος και της ανθρώπινης υποκειμενικότητας ο δεύτερος, ο μηχανικός ΑΙ πιστεύει ακράδαντα ότι τα μοντέλα του είναι απόλυτα ουδέτερα και αντικειμενικά, επειδή βασίζονται σε μαθηματικά και δεδομένα. Αγνοεί επιδεικτικά ότι τα δεδομένα εκπαίδευσης που επιλέγει να χρησιμοποιεί αντικατοπτρίζουν τις δικές του προκαταλήψεις, την ταξική του προέλευση και την τεχνοκρατική του ιδεολογία.
Έτσι, μια στενή ομάδα ανθρώπων, εκπαιδευμένη στην απομόνωση του sandbox, χωρίς ουσιαστική παιδεία στις ανθρωπιστικές επιστήμες, την ιστορία ή τη φιλοσοφία, αναλαμβάνει σήμερα να «λύσει» την ανθρώπινη φύση.
Σχεδιάζουν αλγορίθμους που αποφασίζουν για τη δικαιοσύνη, την εργασία, την περίθαλψη, την ενημέρωση, ακόμα και για τη διεξαγωγή πολέμων, αντιμετωπίζοντας την ανθρώπινη ύπαρξη σαν μια παράμετρο προς βελτιστοποίηση (optimization vector). Επιγραμματικά, η Πληροφορική, ως επιστήμη, πάσχει από μια δομική έλλειψη ταπεινότητας.
Αν επομένως η ανθρωπότητα δεν αντιληφθεί εγκαίρως ότι η πραγματικότητα δεν είναι ένα πρόγραμμα που περιμένει debugging από αλαζόνες developers, κινδυνεύει να εγκλωβιστεί στο πιο επικίνδυνο sandbox που κατασκευάστηκε ποτέ: ένα σύμπαν όπου η ανθρώπινη ελευθερία, το λάθος και το συναίσθημα θα θεωρούνται απλώς... απαλειπτέα σφάλματα συστήματος (system errors).
* Πτυχιούχου του Columbia University στην Υπολογιστική Επιστήμη (Computer Science)
