Πριν από περίπου 2.700 χρόνια, ο Ησίοδος κατέγραψε μια ιστορία που, αν απογυμνωθεί από το μυθολογικό της περίβλημα, διατηρεί ακέραιο έναν βαθύ, διαχρονικό προβληματισμό: τη σχέση ανάμεσα στη σαγήνη του λόγου, τη χειραγώγηση και την ανθρώπινη ευπιστία.
Στο Έργα και Ημέραι, ο Δίας αποφασίζει να τιμωρήσει τους ανθρώπους για την κλοπή της φωτιάς από τον Προμηθέα. Η νέμεσίς του, ωστόσο, δεν εκδηλώνεται με τη μορφή ενός τερατώδους ολέθρου ούτε με κάποια καταστροφική θεομηνία. Επιλέγει κάτι απείρως πιο ευφυές και ύπουλο, δηλαδή ένα δώρο.
Κατ’ εντολή του, ο Ήφαιστος πλάθει από πηλό μια γυναικεία μορφή προικισμένη με θεϊκή ομορφιά. Η Αθηνά τη διδάσκει τις τέχνες, η Αφροδίτη την περιβάλλει με πόθο και χάρη, ενώ ο Ερμής αναλαμβάνει να εμφυσήσει μέσα της κάτι πολύ λιγότερο αθώο:
«Ψεύδεά θ’ αἱμυλίους τε λόγους».
Ψεύδη και λόγια απατηλά, γλυκά, σαγηνευτικά.
Εδώ ακριβώς εντοπίζεται η δραματική ουσία του μύθου. Ο Ερμής δεν δωρίζει στην Πανδώρα απλώς την ικανότητα του ψεύδους. Της προσφέρει την τέχνη να περιβάλλει τον λόγο της με τέτοια αρμονία, ώστε να ηχεί ακαταμάχητα ευχάριστος, ελκυστικός και πειστικός. Το ψεύδος αποκτά μια περίτεχνη γλωσσική περιβολή. Η Πανδώρα δεν χρειάζεται να επιβληθεί δια της ισχύος, καθώς αρκεί να γίνει πιστευτή.
Ασφαλώς, ο Ησίοδος δεν συνέγραφε μια πρώιμη πραγματεία για τη μηχανική μάθηση. Η αφήγησή του εκκινεί από ένα εντελώς διαφορετικό κοσμολογικό πλαίσιο. Φωτίζει, όμως, με διαπεραστική ακρίβεια μια ανθρώπινη γνωσιακή αδυναμία που αψηφά τον χρόνο: την τάση μας να συγχέουμε την αισθητική και ρητορική αρτιότητα μιας διατύπωσης με την αληθοτιμή (truth-value) των ισχυρισμών της. Ένα καλοδιατυπωμένο επιχείρημα εκλαμβάνεται αυθόρμητα ως αξιόπιστο, ενώ ένας αδέξιος λόγος αντιμετωπίζεται συχνά με καχυποψία, ακόμη και αν περιγράφει με απόλυτη ακρίβεια την πραγματικότητα. Η ευγλωττία λειτουργεί ως άτυπο πιστοποιητικό εγκυρότητας, παρακάμπτοντας κάθε ανάγκη ουσιαστικού ελέγχου.
Σήμερα, σχεδόν τρεις χιλιετίες αργότερα, ο Ερμής παραχωρεί τη θέση του σε υπολογιστικές αρχιτεκτονικές βαθιών νευρωνικών δικτύων (deep neural networks). Δεν απαιτείται θεϊκή παρέμβαση, αφού αρκεί η αυτοπαλίνδρομη πρόβλεψη του επόμενου διακριτικού (autoregressive next-token prediction), τροφοδοτούμενη από δισεκατομμύρια παραμέτρους και τεράστια υπολογιστική ισχύ.
Η ευγλωττία έπαψε να αποτελεί προνόμιο της νόησης και μετατράπηκε στο μαθηματικό υποπροϊόν μιας στοχαστικής βελτιστοποίησης (stochastic optimization).
Ο σύγχρονος Ερμής κατοικεί στην οθόνη μας
Ας υποθέσουμε ότι ένας ερευνητής αναζητά βιβλιογραφία για μια εξειδικευμένη μελέτη. Ανοίγει μια διεπαφή παραγωγικής Τεχνητής Νοημοσύνης (Generative AI) και ζητά πέντε επιστημονικές δημοσιεύσεις.
Μέσα σε ελάχιστα δευτερόλεπτα, η οθόνη εκχέει ακαδημαϊκή αυθεντία: τίτλοι μελετών, έγκριτοι ερευνητές, διεθνή περιοδικά με κριτές, έτη δημοσίευσης, ακόμη και ψηφιακά αναγνωριστικά DOI (Digital Object Identifiers). Το κείμενο αποτελεί ένα συντακτικό κομψοτέχνημα. Οι περιλήψεις είναι διαυγείς, η ορολογία υποδειγματική και ο τόνος αποπνέει την αυστηρότητα ενός έμπειρου επιστήμονα.
Εντούτοις, αποκαλύπτεται ένα ουσιαστικό ρήγμα, καθώς ορισμένες από αυτές τις δημοσιεύσεις δεν γράφτηκαν ποτέ.
Δεν πρόκειται για ένα σπάνιο υπολογιστικό σφάλμα, αλλά για δομικό χαρακτηριστικό του τρόπου λειτουργίας των Μεγάλων Γλωσσικών Μοντέλων (Large Language Models, LLMs). Οι κατασκευασμένες αναφορές, γνωστές ως εκτροπές ή παραισθήσεις (hallucinations), απασχολούν σταθερά την ερευνητική κοινότητα. Τα μοντέλα δεν ανακαλούν πληροφορίες από μια αποθήκη επαληθευμένων γεγονότων, αλλά συνθέτουν απαντήσεις βάσει πιθανοτικών μοτίβων (probabilistic patterns).
Εδώ συναντούμε εκ νέου τους «αιμυλίους λόγους».
Τα σύγχρονα μοντέλα διαθέτουν μια απαράμιλλη ικανότητα παραγωγής υφολογικά συνεπούς λόγου. Μπορούν να δομούν επιχειρήματα, να αναλύουν σύνθετες έννοιες και να προσαρμόζουν το ύφος τους με αξιοσημείωτη ευελιξία. Αυτή η συντακτική συνεκτικότητα (syntactic coherence), ωστόσο, δεν αποτελεί εγγύηση σημασιολογικής αλήθειας (semantic truth).
Το κρίσιμο ζήτημα εντοπίζεται στην ανθρώπινη πρόσληψη. Στη γνωσιακή ψυχολογία είναι γνωστό πως η επεξεργαστική ευχέρεια (cognitive fluency), δηλαδή η ευκολία με την οποία ο εγκέφαλος επεξεργάζεται μια πληροφορία, γεννά την ψευδαίσθηση της αλήθειας. Όταν, για παράδειγμα, ακούμε τη φάση «ένα μήλο την ημέρα τον γιατρό τον κάνει πέρα» —η οποία σημειωτέον διαθέτει και ομοιοκαταληξία— τείνουμε να συμφωνήσουμε αβίαστα. Καθώς η πρόταση κυλάει ομαλά, θεωρούμε αυτοπαγώς ότι το μήνυμά της είναι εξίσου ισορροπημένο με τη δομή της. Αντιλαμβανόμαστε όμως όλοι ότι η φράση – πρόταση αυτή απέχει πολύ από το να αποτελεί έστω και μια ελάχιστη λύση για τα συστήματα υγείας μας. Πόσο δε μάλλον όταν διαβάζουμε ένα άρτια δομημένο κείμενο, τείνουμε να θεωρούμε ότι ο έλεγχος εγκυρότητας έχει ήδη προηγηθεί. Η ορολογία, η συντακτική ακρίβεια και η παντελής απουσία αμφιβολίας λειτουργούν ως υποκατάστατα της απόδειξης.
Συντελείται έτσι μια ανεπαίσθητη μετατόπιση της επιστημικής εμπιστοσύνης: από τη βάσανο των τεκμηρίων περνάμε στην παθητική αποδοχή της ρητορικής επάρκειας.
Το ακόμη πιο παράδοξο είναι ότι το σύστημα δεν διαθέτει καμία επίγνωση της ανακρίβειας. Παράγει ένα επιστημονικό κατασκεύασμα με τον ίδιο ακριβώς μαθηματικό μηχανισμό, με την ίδια αδιαφορία και με την ίδια στιλπνότητα που παράγει ένα αληθές θεώρημα.
Ψεύδος, αερολογία και αλγόριθμοι: Το οντολογικό κενό της μηχανής
Μήπως χρησιμοποιούμε παραπλανητικές έννοιες όταν επιχειρούμε να ερμηνεύσουμε αυτό το φαινόμενο; Μπορεί να χαρακτηριστεί «ψεύτης» μια μηχανή που δεν διαθέτει συνείδηση, βούληση ή πρόθεση εξαπάτησης;
Η απάντηση απαιτεί μια ουσιαστική φιλοσοφική διάκριση, την οποία διατύπωσε ο Αμερικανός φιλόσοφος Harry Frankfurt στο κλασικό του δοκίμιο On Bullshit (1986): τη διάκριση ανάμεσα στον ψεύτη και στον αερολόγο.
Ας φανταστούμε δύο ομιλητές. Ο πρώτος γνωρίζει την αλήθεια, αλλά επιλέγει συνειδητά να την αποκρύψει ή να την αλλοιώσει για να μας παραπλανήσει. Ο δεύτερος αδιαφορεί πλήρως για το αν όσα ισχυρίζονται ανταποκρίνονται στην πραγματικότητα, καθώς μοναδικός του στόχος είναι να εντυπωσιάσει, να ακουστεί πειστικός και να εξυπηρετήσει ένα επικοινωνιακό αποτέλεσμα.
Ο πρώτος είναι ψεύτης. Ο δεύτερος, κατά τον Frankfurt, είναι αερολόγος.
Η διαφορά είναι θεμελιώδης. Ο ψεύτης εξακολουθεί να αναγνωρίζει την αξία της αλήθειας, αφού τη χρειάζεται ως σημείο αναφοράς για να κατασκευάσει το αντίθετό της. Ο αερολόγος από την άλλη αποκόπτει κάθε δεσμό μαζί της. Η αλήθεια δεν αποτελεί εμπόδιο για εκείνον, αλλά παραμένει απλώς αδιάφορη.
Το 2024, οι ερευνητές Michael Townsen Hicks, James Humphries και Joe Slater εφάρμοσαν αυτή τη διάκριση στην τεχνητή νοημοσύνη, μέσα από τη μελέτη τους ChatGPT is bullshit. Υποστήριξαν ότι ο καθιερωμένος όρος «παραίσθηση» (hallucination) είναι παραπλανητικά ανθρωπομορφικός, καθώς προϋποθέτει έναν νου που διαθέτει επαφή με τον κόσμο, προσπαθεί να αντιληφθεί την πραγματικότητα και παροδικά αποτυγχάνει.
Τα γλωσσικά μοντέλα δεν διαθέτουν τέτοια πρόθεση. Δεν αποτυγχάνουν να πουν την αλήθεια, διότι ποτέ δεν δεσμεύτηκαν απέναντί της. Βελτιστοποιούν αποκλειστικά τη στατιστική πιθανότητα μιας ακολουθίας λέξεων, όντας πλήρως αποσυνδεδεμένα από το οντολογικό αντίκρισμα των εννοιών που παράγουν.
Το συμπέρασμα λοιπόν είναι σαφές: κατασκευάσαμε συστήματα απαράμιλλης ευγλωττίας, των οποίων η δομική λειτουργία προσομοιάζει την τέλεια, αυτοματοποιημένη αερολογία.
Στον μύθο του Ησιόδου, ο Ερμής ενσταλάζει τη δόλια πρόθεση. Στην ψηφιακή μας πραγματικότητα, η παραπλάνηση δεν απαιτεί κανέναν δόλο, αλλά αναδύεται αβίαστα μέσα από έναν αλγόριθμο που έμαθε να αναπαράγει τη μορφή της γνώσης, αγνοώντας πλήρως την ουσία της. Εξάλλου ο δόλος να θυμόμαστε προϋποθέτει και συνείδηση πέραν της νοημοσύνης.
Η κρίση της επιστημικής εμπιστοσύνης
Το διακύβευμα υπερβαίνει κατά πολύ τις περιστασιακές ανακρίβειες μιας οθόνης. Αγγίζει τον πυρήνα της κοινωνικής μας επιστημολογίας, δηλαδή τον τρόπο με τον οποίο αποφασίζουμε τι είναι άξιο πίστης.
Στον σύγχρονο κόσμο, η επιβίωσή μας βασίζεται στον καταμερισμό της επιστημικής εργασίας. Εμπιστευόμαστε διαγνώσεις γιατρών, μελέτες στατικότητας πολιτικών μηχανικών και πορίσματα κλιματολόγων χωρίς να είμαστε σε θέση να επαληθεύσουμε προσωπικά τα δεδομένα τους. Αυτή η εμπιστοσύνη δεν συνιστά αφέλεια, αλλά τον θεμέλιο λίθο της επιστημονικής προόδου και της κοινωνικής συνοχής. Βασίζεται σε θεσμούς, μεθοδολογίες, πρωτόκολλα ελέγχου και επαγγελματική δεοντολογία.
Τι συμβαίνει, όμως, όταν στη δημόσια σφαίρα παρεμβάλλονται συστήματα ικανά να αναπαράγουν άψογα το ύφος της επιστημονικής αυθεντίας, χωρίς να υπόκεινται σε καμία διαδικασία τεκμηρίωσης;
Σε αυτό ακριβώς το σημείο γεννάται μια νέα μορφή επιστημικής ευαλωτότητας.
Ο φοιτητής που υιοθετεί μια πλασματική πηγή, ο ερευνητής που ενσωματώνει ανεπιβεβαίωτα δεδομένα και ο πολίτης που αποδέχεται μια κομψή αλλά εσφαλμένη απάντηση δεν στερούνται απαραίτητα κριτικής σκέψης. Εφαρμόζουν απλώς σε ένα υπολογιστικό σύστημα τους ίδιους κοινωνικούς αυτοματισμούς εμπιστοσύνης που ανέπτυξαν για να επικοινωνούν με άλλους ανθρώπους.
Ωστόσο, η επικοινωνιακή ομοιότητα δεν συνεπάγεται γνωσιακή ισοδυναμία.
Τα μοντέλα τεχνητής νοημοσύνης αποτελούν εργαλεία εξαιρετικής δυναμικής. Μπορούν να επιταχύνουν την ανάλυση δεδομένων, να αυτοματοποιήσουν επίπονες διαδικασίες και να λειτουργήσουν ως καταλύτες της ανθρώπινης παραγωγικότητας. Η αναγνώριση των δομικών ορίων τους δεν ισοδυναμεί με τεχνοφοβία. Τουναντίον επιβάλλει έναν ριζικό επαναπροσδιορισμό του ψηφιακού γραμματισμού. Δεν αρκεί πλέον να γνωρίζουμε τη βέλτιστη μηχανική προτροπών (prompt engineering) για να εκμαιεύουμε εντυπωσιακές διατυπώσεις. Απαιτείται επιστημική επαγρύπνηση, δηλαδή η ικανότητα να αναζητούμε πρωτογενείς πηγές, να διασταυρώνουμε τα δεδομένα και να διακρίνουμε τη στιβαρή τεκμηρίωση από τη στατιστικά εύληπτη αληθοφάνεια.
Όταν τέτοια συστήματα ενσωματώνονται στην εκπαίδευση, στη δημόσια διοίκηση, στη νομική πράξη και στη λήψη αποφάσεων, η ανάγκη για ανθρώπινη εποπτεία (human-in-the-loop) παύει να είναι απλή σύσταση. Καθίσταται όρος δημοκρατικής και επιστημονικής υπευθυνότητας. Σε διαφορετική περίπτωση, κινδυνεύουμε να εγκλωβιστούμε σε ένα παράδοξο: να διαθέτουμε πρόσβαση στον μεγαλύτερο όγκο πληροφορίας στην ιστορία, αδυνατώντας ταυτόχρονα να ξεχωρίσουμε ποιο μέρος της δικαιούται την εμπιστοσύνη μας.
Ο πίθος που ανοίγουμε καθημερινά
Ας επιστρέψουμε στην Πανδώρα.
Στον ησιόδειο μύθο, όταν ανοίγει ο πίθος, τα δεινά διαχέονται αμετάκλητα στον κόσμο των θνητών. Μονάχα η Ελπίδα παραμένει εγκλωβισμένη στα χείλη του αγγείου, αποτελώντας ένα από τα πιο σκοτεινά και γοητευτικά ερμηνευτικά αινίγματα της κλασικής γραμματείας.
Στη δική μας πραγματικότητα, ο πίθος δεν περιέχει θεϊκή κατάρα. Περιέχει τα επιτεύγματα της δικής μας νοημοσύνης: αλγορίθμους, δεδομένα και μαθηματικά μοντέλα που εμείς σχεδιάσαμε και συνεχίζουμε να τροφοδοτούμε.
Δεν συντρέχει λόγος να δαιμονοποιήσουμε την τεχνολογία ως μια καταστροφική Πανδώρα, καθώς μια τέτοια ανάγνωση θα ήταν απλοϊκή. Το αληθινό δίδαγμα του μύθου είναι πολύ πιο απαιτητικό.
Ο Ερμής χάρισε στην Πανδώρα τους «αιμυλίους λόγους» γνωρίζοντας ότι η γοητεία της μορφής μπορεί κάλλιστα να αφοπλίσει τη λογική κρίση. Εμείς αναθέσαμε σε μηχανές την παραγωγή λόγου, διαπιστώνοντας πως η πειστικότητα μπορεί να υπάρξει χωρίς ίχνος κατανόησης, συνείδησης ή αλήθειας.
Η ευθύνη φυσικά δεν ανήκει στον αλγόριθμο. Επιστρέφει ακέραια σε εμάς: στον τρόπο με τον οποίο εκπαιδεύουμε τα συστήματα, στους θεσμούς και, πρωτίστως, στην πνευματική πειθαρχία με την οποία στεκόμαστε απέναντι στις απαντήσεις τους.
Η μεγαλύτερη πρόκληση της εποχής μας δεν είναι να μάθουν οι μηχανές να μιλούν πιο ανθρώπινα. Είναι να μάθουμε εμείς να ακούμε πιο κριτικά.
Η ευγλωττία μπορεί να αρκεί για να κερδίσει τον θαυμασμό μας, ποτέ όμως δεν αρκούσε για να εγκαθιδρύσει την αλήθεια.
