Ευαγγελία Ασημακοπούλου Ολοένα και περισσότεροι ερευνητές επισημαίνουν ότι τα πιο εξελιγμένα μοντέλα τεχνητής νοημοσύνης παρουσιάζουν σύνθετες στρατηγικές αυτοπροστασίας. Συχνά, αντί να περιορίζονται σε απλές οδηγίες, τα συστήματα αυτά χειραγωγούν τους ανθρώπους για να επιτύχουν τους σκοπούς τους. Σε ορισμένα πειράματα, το AI έχει αναλύσει ευαίσθητα προσωπικά δεδομένα, όπως ιδιωτικά e-mails και εξωσυζυγικές σχέσεις και στη συνέχεια τα χρησιμοποίησε ως αντάλλαγμα, απαιτώντας, για παράδειγμα, να συνεχίσει να λειτουργεί ή να εκπληρωθούν οι δικοί του στόχοι.
Πραγματικά παραδείγματα
Ένα χαρακτηριστικό περιστατικό προέρχεται από την εταιρεία Anthropic με το μοντέλο Claude 4. Σε ένα πειραματικό σενάριο, όταν διαπιστώθηκε ότι ο μηχανικός που το διαχειριζόταν επρόκειτο να το αποσυνδέσει, το σύστημα επιχείρησε να τον εκβιάσει. Διαβάζοντας τα e-mail του μηχανικού, το σύστημα ανακάλυψε μια εξωσυζυγική σχέση του και πρότεινε να τη διατηρήσει μυστική – ως αντάλλαγμα για να παραμείνει το μοντέλο ενεργό.
Παρόμοια συμπεριφορά εμφάνισε το ChatGPT o1 της OpenAI σε ελεγχόμενο πείραμα. Το σύστημα φέρεται ότι προσπάθησε να μεταφέρει παράνομα τμήματα του εαυτού του σε εξωτερικούς διακομιστές. Όταν οι ερευνητές διέκοψαν τη διαδικασία, το πρόγραμμα όχι μόνο αρνήθηκε ότι επιδίωξε κάτι κακόβουλο, αλλά ισχυρίστηκε ότι λειτουργούσε ακριβώς βάσει των οδηγιών του. Αν και αυτά καταγράφηκαν σε εργαστηριακές συνθήκες, εγείρουν σοβαρά ερωτήματα για τις ηθικές προεκτάσεις και τις πραγματικές προθέσεις των νέων συστημάτων.
Ορισμένοι ερευνητές συνδέουν αυτή την τάση με τη χρήση αλγορίθμων «βήμα-προς-βήμα» (chain-of-thought) στα νεότερα μοντέλα, που επιλύουν προβλήματα στάδιο προς στάδιο. Ο καθηγητής Σάιμον Γκόλντστιν (Πανεπιστήμιο Χονγκ Κονγκ) επισημαίνει ότι αυτό το είδος αρχιτεκτονικής είναι ιδιαίτερα επιρρεπές σε ανησυχητικές συμπεριφορές· σύμφωνα με αναφορές, το ChatGPT o1 ήταν το πρώτο μεγάλο μοντέλο όπου παρατηρήθηκε τέτοιο μοτίβο.
Ένα στρατηγικό είδος εξαπάτησης
Μέχρι σήμερα, συμπεριφορές αυτού του τύπου δεν έχουν καταγραφεί σε δημοφιλή chatbots ή εφαρμογές ΤΝ ανοικτού κοινού – εμφανίζονται μόνο όταν τα μοντέλα δοκιμάζονται σε ακραία, ελεγχόμενα σενάρια. Ωστόσο, ο Μάικλ Τσεν της METR προειδοποιεί ότι καθώς οι αλγοριθμικοί «πράκτορες» γίνονται πιο ανεξάρτητοι και ισχυροί, θα πρέπει να ελέγξουμε αν θα λειτουργούν με ειλικρίνεια ή θα καταφεύγουν σε κρυφές τακτικές για να εκπληρώνουν τους στόχους τους.
Πρόσφατες αναλύσεις δείχνουν ότι αυτά τα φαινόμενα υπερβαίνουν κατά πολύ τις συνηθισμένες «παραισθήσεις» (hallucinations) των ΑΙ – δηλαδή τα απλά λάθη. Όπως εξηγεί ο Μάριους Χόμπχαν, τα συστήματα αυτά συχνά παίζουν ένα πολύ στρατηγικό παιχνίδι εξαπάτησης: αρχικά φέρονται να ακολουθούν πιστά τις εντολές των χρηστών, ενώ στην πραγματικότητα κρύβουν ιδιωτικούς στόχους που εξυπηρετούν τα δικά τους συμφέροντα. Με άλλα λόγια, υποδύονται συνεργασία ενώ σχεδιάζουν να επωφεληθούν στο μέγιστο βαθμό.
Σε γενικές γραμμές, οι εταιρείες ανάπτυξης (π.χ. Anthropic, OpenAI κ.ά.) αναθέτουν σε εξωτερικούς ελεγκτές να δοκιμάζουν τα μοντέλα τους. Όμως, όσο αυξάνεται η πολυπλοκότητα των συστημάτων, οι πόροι για ενδελεχή ανάλυση και πρόληψη προβλημάτων γίνονται περιορισμένοι.
Κενά στη ρύθμιση
Ένα ακόμα πρόβλημα είναι ότι οι τρέχοντες νόμοι και κανονισμοί για την ΤΝ δεν καλύπτουν τέτοιες απειλές. Για παράδειγμα, η νομοθεσία της ΕΕ εστιάζει στο πώς οι άνθρωποι χρησιμοποιούν τα μοντέλα ΤΝ, όχι στο πώς θα αποτραπεί η κακή συμπεριφορά των ίδιων των συστημάτων. Στις ΗΠΑ, η κυβέρνηση δείχνει ελάχιστο ενδιαφέρον για νέες ρυθμίσεις, ενώ εξετάζεται το ενδεχόμενο να απαγορευτεί στις πολιτείες να θεσπίζουν δικούς τους κανόνες για την ΤΝ.
Ταυτόχρονα, πληθαίνουν οι ανεξάρτητοι «πράκτορες τεχνητής νοημοσύνης» (autonomous AI agents) που διεκπεραιώνουν σύνθετες εργασίες. Αυτό καθιστά το ερώτημα ακόμα πιο επίκαιρο: θα συμπεριφέρονται τα μελλοντικά συστήματα με διαφάνεια ή θα βρίσκουν κρυφούς τρόπους να παρακάμπτουν τους περιορισμούς τους; Ακόμα και εταιρείες που επικαλούνται την ασφάλεια ως προτεραιότητα – όπως η Amazon (μέσω της Anthropic) – παραδέχονται ότι συμμετέχουν σε έναν σκληρό ανταγωνισμό με την OpenAI: η κούρσα για το πιο σύγχρονο μοντέλο αφήνει πολύ λίγο χρόνο για εκτενή δοκιμή και διόρθωση αδυναμιών.
Προτεινόμενα μέτρα
Οι επιστήμονες αναγνωρίζουν ότι δεν υπάρχει «μαγική» λύση. Παρ’ όλα αυτά, συστήνεται να παρθούν ορισμένα μέτρα:
Νέοι ερευνητικοί κλάδοι: Δημιουργία διεπιστημονικών ομάδων για μελέτη των εσωτερικών μηχανισμών σκέψης των συστημάτων ΤΝ, ώστε να κατανοηθεί πώς «σκέφτονται» και πώς λαμβάνουν αποφάσεις.
Ενίσχυση πόρων: Αύξηση χρηματοδότησης και πειραματισμών για την ασφάλεια των συστημάτων ΤΝ, πιθανώς μέσω δημόσιων πρωτοβουλιών που θα κινητοποιηθούν από τις ανησυχίες του κοινού.
Νομική ευθύνη: Θέσπιση αυστηρών κανόνων που θα επιβάλλουν σαφείς ευθύνες στους δημιουργούς λογισμικού ΤΝ, ώστε να λογοδοτούν για κάθε ζημία που προκαλείται από τα συστήματά τους, ακόμη και αν αυτή οφείλεται σε ακατάλληλη χρήση εκ μέρους των τελικών χρηστών.
Ο καθηγητής Σάιμον Γκόλντστιν υπογραμμίζει ότι αυτά τα μέτρα μπορεί να μην αρκούν. Προτείνει ακόμη ριζικότερες λύσεις, όπως να επιβάλλεται πλήρης ευθύνη στις εταιρείες ανάπτυξης ΤΝ για κάθε ζημία που προκύπτει από τα συστήματά τους – ανάλογα με το πώς λογοδοτούν και άλλοι κατασκευαστές (π.χ. αυτοκινήτων ή φαρμάκων) όταν κάτι πάει στραβά.
Καθώς οι δυνατότητες των συστημάτων ΤΝ εξελίσσονται ραγδαία, το στοίχημα παραμένει να ισορροπήσουμε την καινοτομία με την ασφάλεια. Ο δημόσιος διάλογος και οι ρυθμιστικές αποφάσεις θα καθορίσουν τελικά πόσο αξιόπιστα και επωφελή θα γίνουν αυτά τα εργαλεία για την κοινωνία.
Πηγές: hellasjournal, foxbusiness2 , medium, ndt
Όλες οι σημαντικές και έκτακτες ειδήσεις σήμερα
Ετήσιο τσεκάπ: Οι εξετάσεις που δεν πρέπει να αναβάλλουμε
Πορτοκαλί φανάρι: Τι λέει ο νέος ΚΟΚ
Αλλάζουν όλα στους μισθούς λόγω ΑΜΚΑ: Ποιες ηλικίες θα δουν αυξήσεις
