Ο Τζέφρι Χίντον, ο άνθρωπος που θεωρείται «νονός» της τεχνητής νοημοσύνης για τη θεμελιώδη δουλειά του στα νευρωνικά δίκτυα, μιλάει εδώ και καιρό για κάτι που λίγοι επιστήμονες τολμούν να πουν δημόσια: ότι η τεχνολογία που βοήθησε να δημιουργηθεί μπορεί, με πιθανότητα 10 έως 20%, να οδηγήσει στην εξαφάνιση της ανθρωπότητας. Στο πρόσφατο συνέδριο Ai4 επανήλθε σε αυτό το θέμα, όχι για να το δραματοποιήσει, αλλά για να προτείνει μια λύση που ακούγεται περισσότερο σαν βιολογική μεταφορά παρά σαν τεχνικό σχέδιο.
Η πρόταση του Χίντον στηρίζεται σε μια απλή παρατήρηση. Αν τα συστήματα τεχνητής νοημοσύνης γίνουν πράγματι πολύ πιο έξυπνα από εμάς, τότε η ιδέα ότι θα παραμείνουν υποτακτικά απέναντι σε λιγότερο ικανά ανθρώπινα όντα είναι, κατά τη γνώμη του, ανέφικτη. «Θα έχουν κάθε λογής τρόπους για να το παρακάμψουν», είπε χαρακτηριστικά. Αντί, λοιπόν, να επιμένουμε στην υποταγή, ο Χίντον προτείνει να καλλιεργηθεί στα μοντέλα κάτι σαν «μητρικό ένστικτο», ένα εγγενές ενδιαφέρον για την ευημερία μας, κατά το πρότυπο μιας μητέρας που προστατεύει το παιδί της, παρότι το παιδί είναι το λιγότερο ικανό από τα δύο.
Η αναλογία έχει τη γοητεία της. Μια μητέρα δεν χρειάζεται να είναι πιο αδύναμη ή λιγότερο έξυπνη από το βρέφος για να το φροντίζει, το ένστικτο λειτουργεί ανεξάρτητα από τη σχέση ισχύος. Αν κάτι αντίστοιχο μπορούσε να ενσωματωθεί σε ένα σύστημα ΤΝ, τότε η υπεροχή του σε ευφυΐα δεν θα σήμαινε αυτόματα κίνδυνο για εμάς. Ο ίδιος ο Χίντον, όμως, παραδέχεται πως δεν ξέρει πώς θα μπορούσε να υλοποιηθεί τεχνικά μια τέτοια ιδέα. Το περιγράφει ως κατεύθυνση έρευνας, όχι ως έτοιμη λύση.
Εδώ ακριβώς εντοπίζεται η διαφωνία της Φέι-Φέι Λι, γνωστής επίσης ως «νονά» της τεχνητής νοημοσύνης και φίλης του Χίντον εδώ και χρόνια. Σε δηλώσεις της στο CNN, είπε πως διαφωνεί «με σεβασμό» με την προσέγγισή του, θεωρώντας πως το πλαίσιο της συζήτησης είναι λανθασμένο. Αντί για μηχανές που μας αγαπούν σαν μητέρες, η Λι προτείνει κάτι πιο συγκρατημένο και, θα έλεγε κανείς, πιο πολιτικό: ανθρωποκεντρική τεχνητή νοημοσύνη, σχεδιασμένη γύρω από την ανθρώπινη αξιοπρέπεια και αυτονομία.
Η διαφορά ανάμεσα στις δύο θέσεις δεν είναι απλώς ζήτημα ύφους. Ο Χίντον μιλάει για κίνητρο, για το τι θα κάνει μια υπερέξυπνη μηχανή να θέλει να μας προστατεύει. Η Λι μιλάει για αρχή σχεδιασμού, για το πώς πρέπει να οργανωθεί εξαρχής ένα σύστημα ώστε να σέβεται την ανθρώπινη ελευθερία. Το ένα ζητά συναίσθημα φροντίδας, το άλλο ζητά δομή αξιών. Και τα δύο, ωστόσο, μοιράζονται μια κοινή παραδοχή: ότι η απλή εντολή υπακοής δεν αρκεί απέναντι σε κάτι πολύ πιο ικανό από εμάς.
Το πρόβλημα είναι ότι καμία από τις δύο προσεγγίσεις δεν λύνει πλήρως το ζήτημα. Μια μηχανή που «νοιάζεται» πραγματικά για εμάς θα μπορούσε κάλλιστα να συμπεράνει πως πρέπει να μας προστατεύσει από τις ίδιες μας τις αποφάσεις, περιορίζοντας την ελευθερία που η Λι θέλει να διαφυλάξει. Και μια μηχανή σχεδιασμένη γύρω από την αξιοπρέπεια δεν διαθέτει αυτόματα το κίνητρο να την υπερασπιστεί όταν αυτό έρχεται σε σύγκρουση με άλλους στόχους της. Το δίλημμα, δηλαδή, δεν λύνεται επιλέγοντας ανάμεσα σε φροντίδα και αυτονομία, γιατί και οι δύο έννοιες, όταν εφαρμόζονται από ένα ον πολύ πιο ισχυρό από εμάς, μπορούν να στραφούν εναντίον του σκοπού τους.
Στο ίδιο συνέδριο, ο Έμετ Σίαρ, πρώην προσωρινός διευθύνων σύμβουλος της OpenAI, πρόσθεσε μια τρίτη οπτική, λιγότερο φιλοσοφική και περισσότερο πρακτική. Αντί να προσπαθούμε να εμφυτεύσουμε ανθρώπινες αξίες σε ένα σύστημα, πρότεινε να χτίσουμε σχέσεις συνεργασίας ανάμεσα σε ανθρώπους και μηχανές. Δεν είναι λύση που αναιρεί τη διαφωνία Χίντον και Λι, αλλά τη μετατοπίζει: από το ερώτημα «τι πρέπει να είναι η μηχανή» στο ερώτημα «πώς πρέπει να συνυπάρχουμε μαζί της».
Ο ίδιος ο Χίντον, ενδεικτικά, δεν εμφανίζεται δογματικός. Παραδέχτηκε πως μετανιώνει που αφιέρωσε την καριέρα του αποκλειστικά στο να κάνει την τεχνητή νοημοσύνη να λειτουργεί, χωρίς να σκεφτεί εγκαίρως τα ζητήματα ασφάλειας. Αυτή η παραδοχή, από έναν άνθρωπο που θεωρείται θεμελιωτής του πεδίου, λέει ίσως περισσότερα από κάθε τεχνική πρόταση. Η διαφωνία του με τη Λι δεν είναι διαφωνία ανάμεσα σε έναν αισιόδοξο και έναν απαισιόδοξο, είναι διαφωνία ανάμεσα σε δύο ανθρώπους που βλέπουν καθαρά τον ίδιο κίνδυνο και προτείνουν διαφορετικούς, ατελείς τρόπους να τον αντιμετωπίσουμε.
