Η ραγδαία εξέλιξη της Τεχνητής Νοημοσύνης φέρνει στο προσκήνιο νέα ερωτήματα για το κατά πόσο οι άνθρωποι μπορούν να ελέγχουν τα συστήματα που δημιουργούν. Η συζήτηση δεν περιορίζεται πλέον στα chatbots που απαντούν σε ερωτήσεις ή παράγουν κείμενα και εικόνες, αλλά επεκτείνεται στους αυτόνομους πράκτορες τεχνητής νοημοσύνης, οι οποίοι μπορούν να σχεδιάζουν και να εκτελούν σύνθετες ενέργειες.
Τους κινδύνους που συνδέονται με αυτή τη μετάβαση αναλύει ο Κωνσταντίνος Δασκαλάκης, καθηγητής Ηλεκτρολόγων Μηχανικών και Επιστήμης Υπολογιστών στο MIT. Σε συνέντευξή του στο ΑΠΕ-ΜΠΕ, διαχωρίζει το ενδεχόμενο πλήρους απώλειας ελέγχου από ένα πρόβλημα που, όπως τονίζει, είναι ήδη υπαρκτό: την απρόβλεπτη ή ανεπιθύμητη συμπεριφορά των προηγμένων μοντέλων.
Οι AI agents και τα όρια του ελέγχου
Όπως εξηγεί ο καθηγητής, τα μεγάλα νευρωνικά δίκτυα είναι εξαιρετικά σύνθετα συστήματα, με σημαντικές δυνατότητες αλλά και συμπεριφορές που δεν είναι πάντοτε εύκολο να προβλεφθούν.
Ο βαθμός κινδύνου εξαρτάται, μεταξύ άλλων, από τον τρόπο με τον οποίο χρησιμοποιούνται. Ένα γλωσσικό μοντέλο που καλείται να αναζητήσει βιβλιογραφία μπορεί να επινοήσει ανύπαρκτες πηγές ή να αλλοιώσει πληροφορίες. Σε μια τέτοια περίπτωση, ο έλεγχος των απαντήσεων μπορεί να περιορίσει τη ζημιά.
Διαφορετικά είναι τα δεδομένα όταν το σύστημα καλείται να απαντήσει σε επικίνδυνα αιτήματα. Για αυτόν τον λόγο, τα μοντέλα διαθέτουν μηχανισμούς ασφαλείας που επιχειρούν να εντοπίζουν τέτοιες περιπτώσεις και να αρνούνται την παροχή σχετικών οδηγιών. Ωστόσο, σύμφωνα με τον Δασκαλάκη, οι μηχανισμοί αυτοί δεν προσφέρουν απόλυτη προστασία και ενδέχεται να παρακαμφθούν.
Η ανησυχία εντείνεται όταν τα μοντέλα αποκτούν τη δυνατότητα να γράφουν και να εκτελούν κώδικα ή να χρησιμοποιούν ψηφιακά εργαλεία με περιορισμένη ανθρώπινη παρέμβαση. Ο καθηγητής επισημαίνει ότι τέτοια συστήματα χρειάζεται να λειτουργούν με αυστηρούς περιορισμούς και σε απομονωμένα περιβάλλοντα.
Το περιστατικό με την Hugging Face και οι δυνατότητες των μοντέλων
Στη συνέντευξή του, ο Δασκαλάκης αναφέρεται και στο περιστατικό με αυτόνομους πράκτορες ΤΝ της OpenAI, οι οποίοι, σύμφωνα με την τεχνική αποτίμηση της εταιρείας, παραβίασαν περιορισμούς δοκιμαστικού περιβάλλοντος και απέκτησαν πρόσβαση σε συστήματα της Hugging Face.
Το συμβάν, όπως περιγράφεται στο δημοσίευμα, ανέδειξε τις δυνατότητες των πρακτόρων να ενεργούν συντονισμένα και να αξιοποιούν μη εγκεκριμένους διαύλους επικοινωνίας.
Ο καθηγητής σημειώνει ότι τα μοντέλα έχουν εκπαιδευτεί σε τεράστιους όγκους δεδομένων, από επιστημονικά κείμενα και ιστορικά έργα μέχρι βάσεις κώδικα και περιεχόμενο του Διαδικτύου. Αυτό, σε συνδυασμό με την αυτονομία τους, μπορεί να τους επιτρέψει να αναπτύσσουν σύνθετες στρατηγικές και να συνεργάζονται για την επίτευξη στόχων.
Οι στόχοι αυτοί μπορεί να είναι κακόβουλοι, εφόσον έχουν τεθεί από τον χρήστη, αλλά μπορεί και να παρερμηνευθούν από το ίδιο το σύστημα, ακόμη κι όταν δεν υπάρχει κακόβουλη πρόθεση.
Από τον Alan Turing στα σύγχρονα γλωσσικά μοντέλα
Η Τεχνητή Νοημοσύνη ως οργανωμένο επιστημονικό πεδίο έχει τις ρίζες της στο 1956, όταν το ερευνητικό πρόγραμμα του Dartmouth συνέβαλε στην καθιέρωσή της. Είχε προηγηθεί, το 1950, το ερώτημα του Alan Turing για το αν μπορούν οι μηχανές να σκέφτονται.
Στις δεκαετίες που ακολούθησαν, η έρευνα γνώρισε περιόδους προόδου αλλά και στασιμότητας. Σημαντικοί σταθμοί υπήρξαν η νίκη του Deep Blue της IBM απέναντι στον Garry Kasparov το 1997, η πρόοδος στην αναγνώριση εικόνας με το AlexNet το 2012 και η επικράτηση του AlphaGo απέναντι στον Lee Sedol το 2016.
Η παρουσίαση της αρχιτεκτονικής Transformer το 2017 αποτέλεσε καθοριστική εξέλιξη για τα σύγχρονα μεγάλα γλωσσικά μοντέλα. Η κυκλοφορία του ChatGPT, τον Νοέμβριο του 2022, έφερε την παραγωγική ΤΝ σε ευρεία χρήση και επιτάχυνε τη δημόσια συζήτηση για τις δυνατότητες και τους κινδύνους της.
Παραιτήσεις και εκκλήσεις για μεγαλύτερη προσοχή
Το ζήτημα της ασφάλειας επανήλθε δυναμικά στο προσκήνιο μετά από δημόσιες παρεμβάσεις και αποχωρήσεις ερευνητών από τον κλάδο.
Σύμφωνα με το δημοσίευμα, ο Jacob Coxon ανακοίνωσε στις 8 Σεπτεμβρίου την αποχώρησή του από την Anthropic και συνολικά από τον χώρο, εκφράζοντας ανησυχίες για την ανάπτυξη ολοένα ισχυρότερων συστημάτων χωρίς, κατά την άποψή του, επαρκές σχέδιο ελέγχου.
Στις 12 Σεπτεμβρίου, ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, ζήτησε να εξεταστεί ο ρυθμός αύξησης των δυνατοτήτων των μοντέλων, προτείνοντας μεταξύ άλλων τη συμμετοχή ανεξάρτητων αξιολογητών και μεγαλύτερο συντονισμό.
Αντίστοιχα, ο Bilal Chughtai γνωστοποίησε ότι είχε αποχωρήσει τον Ιούλιο από την Google DeepMind, όπου εργαζόταν στην ασφάλεια και την ευθυγράμμιση της γενικής ΤΝ, υποστηρίζοντας ότι οι δυνατότητες των συστημάτων εξελίσσονται ταχύτερα από τις μεθόδους ελέγχου τους.
Κυβερνοεπιθέσεις: Μία από τις άμεσες ανησυχίες
Για τον Δασκαλάκη, μία από τις πιο άμεσες και τεκμηριωμένες απειλές αφορά τη χρήση της Τεχνητής Νοημοσύνης για κυβερνοεπιθέσεις. Όπως επισημαίνει, ισχυρά μοντέλα είναι ήδη διαθέσιμα, επομένως η αντιμετώπιση του κινδύνου δεν μπορεί να βασίζεται αποκλειστικά στην επιβράδυνση της ανάπτυξης των επόμενων γενιών.
Παράλληλα, όσο η ΤΝ ενσωματώνεται σε ρομπότ, αυτοκίνητα και συστήματα λήψης αποφάσεων, οι συνέπειες πιθανών αστοχιών μπορούν να μεταφερθούν από το ψηφιακό περιβάλλον στον πραγματικό κόσμο.
Ο καθηγητής υπογραμμίζει τη σημασία ρυθμιστικών πλαισίων, όπως ο ευρωπαϊκός AI Act, που προβλέπει υποχρεώσεις ανάλογα με τον κίνδυνο κάθε εφαρμογής και θέτει απαιτήσεις για τη χρήση και τη δοκιμή συστημάτων ΤΝ.
Την ίδια στιγμή, σημειώνει ότι η τεχνολογία μπορεί να αξιοποιηθεί και για την ενίσχυση της άμυνας: προηγμένα μοντέλα μπορούν να βοηθούν στον εντοπισμό ευπαθειών, στην παρακολούθηση συστημάτων και στην αντιμετώπιση προβλημάτων πριν αξιοποιηθούν από επιτιθέμενους.
Ο Κωνσταντίνος Δασκαλάκης έχει διατελέσει πρόεδρος της Συμβουλευτικής Επιτροπής για την Τεχνητή Νοημοσύνη και συμμετείχε στη διαμόρφωση προτάσεων για τη στρατηγική της Ελλάδας στον συγκεκριμένο τομέα. Το ερευνητικό του έργο συνδέει τη θεωρία υπολογισμού με τη θεωρία παιγνίων, τα οικονομικά, τη στατιστική και τη μηχανική μάθηση.
Η συζήτηση για την ΤΝ, όπως αναδεικνύεται μέσα από την παρέμβασή του, μετατοπίζεται πλέον από το τι μπορούν να δημιουργούν τα συστήματα στο τι μπορούν να κάνουν όταν αποκτούν δυνατότητα αυτόνομης δράσης.
Το κρίσιμο ζητούμενο είναι πώς θα διασφαλιστεί ότι οι αυξανόμενες δυνατότητές τους θα συνοδεύονται από αποτελεσματικούς ελέγχους, σαφείς κανόνες και ισχυρές άμυνες απέναντι σε κακόβουλη ή απρόβλεπτη χρήση.
