Επιστήμη 0

Αληθοφάνειες κι αερολογίες: Η ευγλωττία της ΤΝ και η ευθύνη της ανθρώπινης κρίσης

μουσείο
Google Logo Μάθε πρώτος όλες τις σημαντικές ειδήσεις. Βάλε το alfavita.gr στα αποτελέσματα αναζήτησης της Google
Από τους «Αιμυλίους Λόγους» του Ησιοδου, στην ενεργητική κατανόηση του αλγοριθμικού Άλλου
Η «ευγλωττία» της ΤΝ δεν αποτελεί από μόνη της εξαπάτηση. Η μηχανή δεν διαθέτει κατ’ ανάγκην πρόθεση παραπλάνησης, όπως ο ανθρώπινος ψεύτης. Παράγει λόγο μέσω υπολογιστικών διαδικασιών που δεν ταυτίζονται με την ανθρώπινη κατανόηση, χωρίς αυτό να σημαίνει ότι κάθε αποτέλεσμά της είναι ψευδές ή γνωσιακά άχρηστο. Η διάκριση ανάμεσα στην εύλογη διατύπωση και στην τεκμηρίωση της αλήθειάς της είναι αναγκαία. Εξίσου αναγκαία είναι η αποφυγή της αντίστροφης πλάνης: να θεωρούμε ότι η απουσία συνείδησης αποκλείει κάθε ουσιαστική γνωστική συνεισφορά.
 
Η ανάγνωση των «Αιμυλίων Λόγων» του Ησιόδου μέσα από τη σύγχρονη Τεχνητή Νοημοσύνη, όπως την πρότεινε ο Θανάσης Δαβαλάς, αναδεικνύει ένα πραγματικό πρόβλημα: η πειστικότητα του Λόγου δεν εγγυάται την αλήθειά του. Οι γλωσσικές μηχανές παράγουν εντυπωσιακά συνεκτικές απαντήσεις, ακόμη και όταν οι πληροφορίες τους είναι ανακριβείς ή ανύπαρκτες. Σε αυτό συμφωνώ. Διαφωνώ, όμως, με το συμπέρασμα ότι τα συστήματα αυτά συνιστούν «τέλεια αυτοματοποιημένη αερολογία», σαν η αερολογία να ήταν ιδιότητα της ίδιας της μηχανής.
 
Ο μύθος που επιστρατεύει ο Δαβαλάς λέει περισσότερα απ’ όσα αντλεί ο ίδιος από αυτόν, γιατί δεν διαβάζεται μόνο από τη μεριά της Πανδώρας και του Ερμή που τη σαγηνεύει, αλλά και από τη μεριά εκείνου που δέχεται το δώρο. Ο Δίας δεν επιτίθεται, προσφέρει. Η Πανδώρα είναι η ίδια ένα δώρο προς τους ανθρώπους, μια σκόπιμη κατασκευή: την πλάθει ο Ήφαιστος κατ’ εντολή του Δία (Έργα και Ημέραι, 60-82), ως αντάλλαγμα για τη φωτιά που έκλεψε ο Προμηθέας. Το όνομά της παραπέμπει στα δώρα όλων των θεών, καθώς καθένας της προσφέρει ένα χάρισμα, και δίνει πράγματι όλα, όχι μόνο τα αγαθά αλλά και τα δεινά. Ο Ερμής, ο πανούργος θεός της πειθούς, της χαρίζει το ψεύδος και τους Αιμυλίους Λόγους, δηλαδή την ικανότητα να χρησιμοποιεί έναν σαγηνευτικό λόγο που δεν δεσμεύεται από την αλήθεια.
 
Τα δεινά έρχονται μαζί της, κλεισμένα σε ένα δοχείο. Ο Ησίοδος το ονομάζει πίθο, μεγάλο πιθάρι, και όχι κουτί. Το «κουτί της Πανδώρας» είναι μεταγενέστερη παράδοση απο τον Ερασμο.. Ο ποιητής δεν προσδιορίζει ποιος γέμισε τον πίθο ούτε πότε. Λέει μόνο ότι η Ελπίδα έμεινε μέσα του, σύμφωνα με τη βουλή του Δία. Ο δωρητής, επομένως, ελέγχει ακόμη και το τι θα διαφύγει και τι θα παραμείνει. Ο Προμηθέας, ο «προνοητής», έχει προειδοποιήσει τον αδελφό του Επιμηθέα, τον «εκ των υστέρων σκεπτόμενο», να μη δεχτεί δώρο από τον Δία. Εκείνος το δέχεται και καταλαβαίνει μόνο όταν είναι πια αργά.
 
Το δώρο, ανθρωπολογικά κρινόμενο, δεν είναι ποτέ ουδέτερο. Κατά τον Mauss, δεσμεύει με τρεις υποχρεώσεις: να προσφέρεις, να δεχτείς και να ανταποδώσεις. Η άρνησή του μπορεί να ισοδυναμεί με άρνηση της ίδιας της σχέσης. Είναι δύσκολο να αρνηθεί κανείς ένα δώρο θεού, όπως είναι δύσκολο να αρνηθούμε μια τεχνολογία που προσφέρεται δωρεάν, είναι εξυπηρετική και παντού διαθέσιμη, ενώ το τίμημα της ανταπόδοσης (δεδομένα, προσοχή, ενδεχόμενη εξάρτηση) δεν γίνεται πάντοτε αντιληπτό. Τα δεινά ήρθαν ως δώρα άδωρα, κατά τη γνωστή σοφόκλεια διατύπωση για τα δώρα των εχθρών (Αίας, 665). Ο μύθος δεν θέτει, λοιπόν, μόνο το ερώτημα αν το δώρο είναι καλό ή κακό, αλλά και πώς μπορεί κανείς να το δεχτεί χωρίς να δεσμευτεί άκριτα από αυτό. Η απάντηση περνά από όσα ο Επιμηθέας δεν έκανε πριν το δεχτεί: δεν σκέφτηκε εγκαίρως τις συνέπειες.
 
Ίσως ο Frankfurt, τον οποίο επικαλείται και ο Δαβαλάς, μας προσφέρει ένα κλειδί. Ο ψεύτης γνωρίζει την αλήθεια και την παραβιάζει, άρα εξακολουθεί να την αναγνωρίζει ως σημείο αναφοράς. Ο αερολόγος αδιαφορεί γι’ αυτήν, γιατί τον ενδιαφέρει κυρίως το αποτέλεσμα που θα προκαλέσει. Αυτή η αδιαφορία μπορεί να αποδοθεί λειτουργικά στον μηχανισμό, ο οποίος βελτιστοποιεί πιθανότητες παραγωγής και όχι αλήθειες. Θα μπορούσε να αντιτείνει κανείς ότι η αδιαφορία αυτή αρκεί για να μιλούμε για αερολογία ακόμη κι όταν το αποτέλεσμα αληθεύει, και ως προς τον μηχανισμό αυτό ισχύει, η ευθύνη όμως κρίνεται σε εκείνον που τον χρησιμοποιεί. Η αερολογία (bullshit) κατα Frankfurt, αποκτά την πλήρη σημασία της στην ανθρώπινη πλευρά: όταν παίρνω μια απάντηση και τη μεταφέρω σε ένα κείμενο, σε ένα μάθημα ή σε μια απόφαση χωρίς να με ενδιαφέρει αν αληθεύει, ο αερολόγος είμαι εγώ και η μηχανή απλώς προμήθευσε την ύλη.
 
Το βάρος μετατοπίζεται έτσι από τη μηχανή στη χρήση της. Όταν αποδεχόμαστε μια απάντηση επειδή είναι καλογραμμένη, παραδίδουμε την κρίση μας στη γοητεία της μορφής. Όταν εξετάζουμε τα επιχειρήματα, αναζητούμε τις πηγές, ελέγχουμε τις παραδοχές και αναθεωρούμε τις αρχικές μας θέσεις, η ίδια τεχνολογική δυνατότητα γίνεται αφορμή διανοητικής εγρήγορσης. Αυτό έχει ιδιαίτερη σημασία για την εκπαίδευση. Η ΤΝ μπορεί να οδηγήσει σε γνωστική εκχώρηση, όταν ο μαθητής παραδίδει στη μηχανή όχι μόνο την παραγωγή του κειμένου, αλλά και την ίδια τη διαδικασία σκέψης. Μπορεί, όμως, να λειτουργήσει και ως γνωστική υποβοήθηση, όταν ο μαθητής αντιπαραθέτει τις απαντήσεις της με τις δικές του γνώσεις, εντοπίζει ασυνέπειες και αναγκάζεται να αιτιολογήσει τις επιλογές του. Στην πρώτη περίπτωση η ευκολία υποκαθιστά τη μάθηση. Στη δεύτερη γίνεται αφετηρία μιας πιο απαιτητικής μαθησιακής διαδικασίας.
 
Η διάκριση αυτή οδηγεί στο Verstehen, την κατανόηση ως ενεργητική διαδικασία νοηματοδότησης, όπως την εννοεί ο Weber. Κατανοώ δεν σημαίνει ότι αναγνωρίζω μια πληροφορία ή αναπαράγω μια διατύπωση. Σημαίνει ότι την εντάσσω σε ένα πεδίο σχέσεων, εξετάζω τις προϋποθέσεις της και αναλαμβάνω την ευθύνη της ερμηνείας της. Η απάντηση της μηχανής μπορεί να γίνει αντικείμενο Verstehen, δεν μπορεί όμως να το εκτελέσει εκ μέρους μου.
 
Από ανθρωπολογική σκοπιά, η Αλλοφοβία, όρος που εισήγαγα το 2002, δεν είναι απλώς φόβος. Πριν από τη φοβία υπάρχει η δυσκολία σχέσης και κατανόησης του Άλλου, δηλαδή η αδυναμία του Verstehen, και ο φόβος μπορεί να γεννηθεί από αυτό το κενό. Απέναντι στον αλγοριθμικό Άλλο βλέπουμε δύο αντίθετες όψεις της ίδιας δυσκολίας. Ο θαυμασμός τον αναγορεύει σε αυθεντία που γνωρίζει, δηλαδή τον εξομοιώνει με ανθρώπινο νου. Η απόρριψη τον υποβιβάζει σε απειλή ή σε ένα άψυχο εργαλείο, αρνούμενη να αναγνωρίσει την ιδιαίτερη ετερότητά του. Και στις δύο περιπτώσεις ο Άλλος παραμένει ακατανόητος, είτε μέσα από την εξομοίωση είτε μέσα από την άρνηση της διαφοράς του.
 
Μένει, ωστόσο, η δυνατότητα της συνομιλίας. Η συνομιλία δεν προϋποθέτει ισοδυναμία των μερών, προϋποθέτει ερωτήματα, ενεργητική συμμετοχή και δυνατότητα αμφισβήτησης. Ο αλγοριθμικός Άλλος δεν χρειάζεται να είναι ανθρώπινο υποκείμενο για να αποτελέσει συνομιλητή σε μια διαδικασία παραγωγής και ελέγχου της Γνώσης. Για τον ίδιο λόγο, η επιστημική εμπιστοσύνη δεν μπορεί να στηρίζεται στην αισθητική αρτιότητα μιας απάντησης, αλλά ούτε και να καταργείται εξαιτίας της πιθανότητας ανακρίβειας. Χρειάζεται να μετασχηματίζεται σε κριτική εμπιστοσύνη, που δοκιμάζει πριν δεχτεί.
Ίσως, τελικά, η πιο ενδιαφέρουσα απάντηση στους «Αιμυλίους Λόγους» να μην είναι η σιωπή της μηχανής, αλλά η αφύπνιση της ανθρώπινης κρίσης. Η ΤΝ μπορεί να μας προσφέρει λόγους, πληροφορίες και επιχειρήματα.
 
Το αν αυτά θα γίνουν Γνώση εξαρτάται από τη δική μας συμμετοχή. Η πραγματική πρόκληση δεν είναι να προστατευθούμε από κάθε πιθανή αλγοριθμική πλάνη, αλλά να μη χάσουμε την ικανότητα να σκεφτόμαστε μέσα από τη συνομιλία μας με την τεχνολογία.
 
Οι «Αιμύλιοι Λόγοι» δεν είναι καταδικασμένοι να μεταφέρουν ψεύδη, ούτε η μηχανή που τους παράγει είναι ένοχη για δόλο. Η αλήθεια ενός Λόγου δεν εξασφαλίζεται από την πηγή του ούτε από την ευγλωττία του. Δοκιμάζεται στη συνάντησή του με εκείνον που τον εξετάζει, τον κατανοεί και αναλαμβάνει την ευθύνη της κρίσης του. Εκεί, και όχι στον αλγόριθμο, κρίνεται αν θα παραμείνει αερολογία ή θα γίνει Γνώση. Η Παιδεία οφείλει να καλλιεργεί ακριβώς αυτή τη συνάντηση. Ο Επιμηθέας κατάλαβε αφού άνοιξε το κουτί, ενώ εμείς μπορούμε ακόμη να σκεφτούμε πριν το ανοίξουμε.
0 Δείτε τα σχόλια

Όλες οι σημαντικές ειδήσεις στο alfavita.gr

Πώς επιλέγουμε ιδιωτικό σχολείο για τα παιδιά μας; Το μεγάλο αφιέρωμα του alfavita για την επόμενη χρονιά

Το βίντεο του alfavita με 700.000 προβολές για σχολείο της Κυψέλης! Πώς θα στείλετε την δικιά σας σχολική ιστορία

Δίπλες σαν της γιαγιάς: Τα μυστικά για το σωστό τηγάνισμα

Google Logo Μάθε πρώτος όλες τις σημαντικές ειδήσεις. Βάλε το alfavita.gr στα αποτελέσματα αναζήτησης της Google
Viber Ακολουθήστε το Αlfavita στο Viber

επιστήμη