Ο μεγαλύτερος κίνδυνος από την ταχύτατη εξάπλωση της Τεχνητής Νοημοσύνης ίσως να μην βρίσκεται στα δυστοπικά σενάρια μιας πανίσχυρης μηχανής που αποκτά ξαφνικά τον έλεγχο κρίσιμων υποδομών και στρέφεται εναντίον της ανθρωπότητας. Μπορεί να είναι πολύ πιο αργός, σχεδόν αόρατος και, ακριβώς γι’ αυτό, δυσκολότερο να γίνει αντιληπτός: να συνηθίσουμε τόσο πολύ να αναθέτουμε στις μηχανές τη σκέψη, τον σχεδιασμό και τη λήψη αποφάσεων, ώστε σταδιακά να αρχίσουμε να χάνουμε μέρος αυτών των ικανοτήτων.
Το φαινόμενο περιγράφεται με τον όρο «deskilling» – αποδυνάμωση ή απώλεια δεξιοτήτων και δεν αφορά απλώς το ενδεχόμενο να ξεχάσουμε πώς γράφεται ένα κείμενο ή πώς πραγματοποιείται μια αναζήτηση χωρίς τη βοήθεια ενός chatbot. Η ανησυχία εκτείνεται πολύ βαθύτερα: στην κριτική σκέψη, στην ικανότητα ελέγχου μιας πληροφορίας, στην αξιολόγηση εναλλακτικών λύσεων και τελικά στην αυτονομία της ανθρώπινης κρίσης.
Ο κίνδυνος δεν έρχεται από μια «υπερ-ΑΙ»
Ο Samuele Vinanzi, αναπληρωτής καθηγητής Ρομποτικής και Τεχνητής Νοημοσύνης στο Sheffield Hallam University, συγκαταλέγει αυτή τη σταδιακή αποδυνάμωση μεταξύ των σοβαρότερων πραγματικών κινδύνων που συνδέονται με την AI.
Η ανησυχία του δεν εστιάζει τόσο στα σενάρια μιας υπερνοημοσύνης που θα καταλάβει από μόνη της ηλεκτρικά δίκτυα ή πυρηνικά συστήματα, όσο σε κάτι πολύ πιο καθημερινό: στις χιλιάδες μικρές αποφάσεις με τις οποίες οι άνθρωποι αρχίζουν να παραδίδουν σε ένα σύστημα όλο και περισσότερα κομμάτια της νοητικής τους εργασίας.
Η διαδικασία αυτή μπορεί να είναι τόσο ανεπαίσθητη ώστε αρχικά να μοιάζει απολύτως θετική. Η AI γράφει πιο γρήγορα ένα email, συνοψίζει ένα έγγραφο, οργανώνει ένα ταξίδι, προτείνει μια λύση σε ένα πρόβλημα, δημιουργεί κώδικα ή συγκεντρώνει πληροφορίες που διαφορετικά θα απαιτούσαν ώρες εργασίας.
Το πρόβλημα αρχίζει όταν η διευκόλυνση μετατρέπεται σε μόνιμη υποκατάσταση της ανθρώπινης σκέψης.
Από την ευκολία στην εξάρτηση
Στην ψυχολογία υπάρχει ο όρος «γνωστική εκφόρτωση»: η χρήση εξωτερικών εργαλείων ώστε να μειώνεται το νοητικό φορτίο μιας εργασίας.
Δεν πρόκειται από μόνη της για κάτι αρνητικό. Οι άνθρωποι το κάνουν εδώ και αιώνες, από τη χρήση του χαρτιού και του ημερολογίου μέχρι την αριθμομηχανή και τις μηχανές αναζήτησης.
Η διαφορά με τη γενετική AI είναι η έκταση των λειτουργιών που μπορεί πλέον να αναλάβει. Δεν αποθηκεύει απλώς μια πληροφορία ή δεν πραγματοποιεί έναν υπολογισμό· μπορεί να συντάξει, να ερμηνεύσει, να συγκρίνει, να προτείνει και να εμφανίσει μια ολοκληρωμένη απάντηση σαν να έχει ήδη γίνει όλη η πνευματική εργασία.
Κάπου εκεί εμφανίζεται ο κίνδυνος: όταν ο άνθρωπος σταματά να βλέπει το εργαλείο ως βοηθό και αρχίζει να το αντιμετωπίζει ως τον τελικό κριτή.
Το περιστατικό με το κινεζικό πλοίο
Ένα πρόσφατο περιστατικό στις αμερικανικές ένοπλες δυνάμεις δείχνει πόσο σοβαρές μπορεί να γίνουν οι συνέπειες όταν μια απάντηση AI περάσει χωρίς επαρκή ανθρώπινο έλεγχο.
Σύμφωνα με ρεπορτάζ του CNN, αναλυτής της Διοίκησης Ειδικών Επιχειρήσεων των ΗΠΑ χρησιμοποίησε chatbot για να επεξεργαστεί πληροφορίες σχετικά με φορτίο κινεζικού πλοίου που βρισκόταν στη Μέση Ανατολή. Το σύστημα φέρεται να κατέληξε λανθασμένα στο συμπέρασμα ότι το πλοίο μετέφερε εξαρτήματα που σχετίζονταν με πρόγραμμα πυρηνικών όπλων.
Η πληροφορία ενσωματώθηκε σε στρατιωτική αναφορά και οι αμερικανικές δυνάμεις άρχισαν να προετοιμάζονται για την αναχαίτιση και πιθανή επιβίβαση στο πλοίο. Σύμφωνα με τις ίδιες πηγές, στρατιωτικά αεροσκάφη είχαν ήδη απογειωθεί όταν έγινε νέος έλεγχος και διαπιστώθηκε ότι το συμπέρασμα του chatbot ήταν λανθασμένο.
Η επιχείρηση ακυρώθηκε.
Το περιστατικό έχει ιδιαίτερη σημασία όχι επειδή «η AI επιχείρησε να ξεκινήσει έναν πόλεμο», αλλά επειδή μια ανθρώπινη αλυσίδα αποφάσεων έφτασε πολύ κοντά σε μια εξαιρετικά σοβαρή ενέργεια έχοντας στη βάση της μια μη επαληθευμένη, AI-assisted πληροφορία.
Η κρίσιμη ικανότητα είναι να αμφισβητείς την απάντηση
Και εδώ βρίσκεται ίσως η ουσία της «αποδυνάμωσης».
Το πιο πολύτιμο ανθρώπινο προσόν στην εποχή της AI μπορεί να μην είναι πλέον μόνο η δυνατότητα να βρίσκουμε γρήγορα μια απάντηση, αλλά η ικανότητα να σταματάμε και να ρωτάμε αν αυτή η απάντηση στέκει.
Ποια είναι η πηγή; Ποια στοιχεία την επιβεβαιώνουν; Τι μπορεί να έχει παραλειφθεί; Υπάρχει κάποια αντίφαση; Μήπως το σύστημα παρουσιάζει με μεγάλη βεβαιότητα κάτι που στην πραγματικότητα δεν γνωρίζει;
Αυτές οι ερωτήσεις είναι ο πυρήνας της κριτικής σκέψης. Και είναι ακριβώς οι ερωτήσεις που κινδυνεύουν να γίνουν λιγότερο συχνές όσο τα συστήματα AI παράγουν ολοένα πιο πειστικές, καλογραμμένες και άμεσες απαντήσεις.
Το πρόβλημα δεν είναι η χρήση της AI, αλλά η παραίτηση από την κρίση
Η Τεχνητή Νοημοσύνη μπορεί να αποτελεί εξαιρετικά ισχυρό εργαλείο για την εκπαίδευση, την επιστήμη, την εργασία και την καθημερινή ζωή.
Το πραγματικό ερώτημα είναι ποιος παραμένει υπεύθυνος για την τελική κρίση.
Εάν η AI χρησιμοποιείται για να επεκτείνει τις ανθρώπινες δυνατότητες, να προσφέρει εναλλακτικές, να επιταχύνει την έρευνα και να βοηθά στην επεξεργασία μεγάλου όγκου πληροφοριών, μπορεί να λειτουργήσει ως ενίσχυση της ανθρώπινης σκέψης.
Εάν όμως χρησιμοποιείται για να την αντικαταστήσει, το τίμημα μπορεί να γίνει ορατό πολύ αργότερα.
Γιατί η «αποδυνάμωση» δεν θα συμβεί πιθανότατα με μία μεγάλη στιγμή κατάρρευσης. Θα προκύψει, αν προκύψει, από χιλιάδες μικρές καθημερινές παραχωρήσεις της ανθρώπινης κρίσης σε μια μηχανή που μπορεί να απαντά γρήγορα, αλλά εξακολουθεί να μπορεί και να κάνει λάθος.
Και τότε το κρίσιμο πρόβλημα δεν θα είναι ότι η AI έγινε υπερβολικά έξυπνη. Θα είναι ότι οι άνθρωποι σταμάτησαν να ελέγχουν αν έχει δίκιο.
