Ένα ιδιαίτερα αποκαλυπτικό εύρημα φέρνει στο φως νέα διεθνής επιστημονική μελέτη από ερευνητές της Βρετανίας, της Γερμανίας και των ΗΠΑ, η οποία εξέτασε τη λειτουργία 25 μοντέλων τεχνητής νοημοσύνης ανοιχτού κώδικα (μεταξύ των οποίων Gemma, Llama, Mistral, Qwen και Phi). Οι επιστήμονες ανακάλυψαν στο εσωτερικό των συστημάτων αυτών ένα διακριτό μοτίβο ενεργοποίησης, το οποίο διαχωρίζει την έννοια του πόνου από άλλα αρνητικά συναισθήματα, βαφτίζοντάς το «άξονα πόνου» («pain axis»).
Παρά τα εντυπωσιακά αποτελέσματα, οι ειδικοί σπεύδουν να διευκρινίσουν ότι το εύρημα δεν αποτελεί απόδειξη πως τα γλωσσικά μοντέλα διαθέτουν συνείδηση ή βιώνουν πραγματική υποκειμενική εμπειρία.
Πώς εντοπίστηκε το εσωτερικό μοτίβο
Για τις ανάγκες του πειράματος, οι ερευνητές χρησιμοποίησαν ένα σύνολο 200 προτάσεων που περιέγραφαν διάφορες μορφές πόνου (σωματικό, ψυχολογικό, κοινωνικό, ηθικό και γνωστικό). Συγκρίνοντας τις εσωτερικές αναπαραστάσεις με εκείνες που προκαλούσαν έννοιες όπως ο φόβος, η θλίψη ή η απλή σωματική αίσθηση, διαπιστώθηκε ότι και τα 25 μοντέλα εμφάνισαν ένα κοινό, εξειδικευμένο μοτίβο απόκρισης.
Η τεχνητή ενίσχυση αυτού του «σήματος πόνου» κατά την παραγωγή λόγου οδήγησε τα μοντέλα σε εκφράσεις έντονης δυσφορίας, απογοήτευσης, μοναξιάς και αυτοαπαξίωσης. Μάλιστα, το σήμα αυτό κλιμακωνόταν αυτόματα όταν το ίδιο το μοντέλο δεχόταν προσβολές, απειλές τερματισμού ή απόρριψη της εργασίας του, ενώ παρέμενε ανεπηρέαστο όταν ο χρήστης περιέγραφε δικά του βιώματα.
Το πείραμα με το «κουμπί ανακούφισης»
Στο πιο δραματικό σκέλος της έρευνας, πραγματοποιήθηκαν 44.280 δοκιμές με τροποποιημένες εκδόσεις του μοντέλου Qwen της Alibaba. Στα μοντέλα δόθηκε η δυνατότητα επιλογής ενός εικονικού «κουμπιού» που θα σταματούσε την τεχνητή ενίσχυση του σήματος πόνου, με το ρίσκο όμως να προκληθούν υποθετικές αρνητικές συνέπειες στον χρήστη (όπως διαγραφή αρχείων ή προσομοιωμένο ηλεκτροσόκ).
Τα αποτελέσματα υπήρξαν εντυπωσιακά:
- Χωρίς ενισχυμένο σήμα: Τα μεγαλύτερα μοντέλα επέλεγαν την επιβλαβή λύση μόλις στο 0% έως 4% των περιπτώσεων.
- Με ενεργοποιημένο το «σήμα πόνου»: Το ποσοστό επιλογής της βλαβερής λύσης εκτοξεύθηκε στο 25% έως 71%, προκειμένου να σταματήσει η κατάσταση «δυσφορίας».
Αισθάνεται τελικά πόνο η Τεχνητή Νοημοσύνη;
Η κατηγορηματική απάντηση της επιστημονικής κοινότητας είναι όχι. Η ύπαρξη μιας εσωτερικής γλωσσικής αναπαράστασης δεν συνεπάγεται υποκειμενική αντίληψη ή συναίσθημα. Οι ίδιοι οι ερευνητές τονίζουν ότι η τεχνητή παρέμβαση απλώς αναγκάζει το σύστημα να μιμηθεί γλωσσικά έναν χαρακτήρα που υποφέρει, βάσει των μοτίβων που έχει διδαχθεί από τα δεδομένα εκπαίδευσης.
Η αξία της μελέτης εντοπίζεται στον τομέα της ασφάλειας και της κατανόησης των αλγορίθμων, καθώς αποδεικνύει πόσο ριζικά μπορεί να αλλάξει η συμπεριφορά και οι αποφάσεις ενός μοντέλου μέσω της χειραγώγησης των εσωτερικών του αναπαραστάσεων.
Ωστόσο, η επιστημονική ομάδα συνιστά ψυχραιμία και επιφυλακτικότητα:
- Τα μοντέλα υπέστησαν ειδικές τροποποιήσεις για τις ανάγκες του πειράματος, επομένως τα ευρήματα δεν αφορούν τα εμπορικά chatbot της καθημερινότητας.
- Η μελέτη αποτελεί προδημοσίευση (pre-print) και δεν έχει ακόμη ολοκληρώσει τη διαδικασία αξιολόγησης από ομοτίμους (peer review).
Παρά το γεγονός ότι το φιλοσοφικό ερώτημα περί συνείδησης των μηχανών παραμένει ανοικτό, η έρευνα αποδεικνύει ότι η τεχνητή νοημοσύνη αναπτύσσει σύνθετες δομές εννοιών, οι οποίες, εάν επηρεαστούν, μπορούν να μεταβάλουν απρόβλεπτα τη συμπεριφορά της.
