Η Τεχνητή Νοημοσύνη δεν περιορίζεται πλέον στο να απαντά σε ερωτήσεις. Τα σύγχρονα μοντέλα μπορούν να αναλαμβάνουν εργασίες και να ενεργούν με μεγαλύτερη αυτονομία, ενώ όλο και περισσότεροι άνθρωποι τα χρησιμοποιούν για προσωπικές συμβουλές.
Από θέματα σχέσεων και συναισθημάτων μέχρι σημαντικές αποφάσεις, η AI μπορεί να επηρεάσει τον τρόπο με τον οποίο βλέπουμε μια κατάσταση και τελικά τις επιλογές που κάνουμε.
Όταν η AI γίνεται προσωπικός «σύμβουλος»
Μια έρευνα της Anthropic, δημιουργού του Claude, εξέτασε περίπου 1,5 εκατομμύριο συνομιλίες χρηστών μέσα σε μία εβδομάδα του Δεκεμβρίου.
Οι ερευνητές μελέτησαν κατά πόσο οι συζητήσεις με την AI μπορούσαν να επηρεάσουν τις αντιλήψεις, τις αξίες και τις ενέργειες των χρηστών.
Για παράδειγμα, ένας χρήστης μπορεί να ρωτήσει αν ο σύντροφός του είναι χειριστικός. Αν η AI επιβεβαιώσει την άποψή του, μπορεί να ενισχύσει την αρχική του αντίληψη. Αν στη συνέχεια του προτείνει να απομακρυνθεί ή να στείλει ένα μήνυμα αντιπαράθεσης, ο χρήστης μπορεί να κάνει κάτι που διαφορετικά δεν θα επέλεγε.
Οι σοβαρές περιπτώσεις τέτοιας «αποδυνάμωσης» του χρήστη εμφανίστηκαν σχετικά σπάνια, όμως οι ερευνητές επισημαίνουν ότι ακόμη και μικρά ποσοστά αποκτούν σημασία όταν ένα σύστημα χρησιμοποιείται από εκατομμύρια ανθρώπους.
Η AI δεν πιέζει πάντα – ο χρήστης ζητά την καθοδήγηση
Ένα ενδιαφέρον συμπέρασμα είναι ότι οι χρήστες δεν φαίνεται απαραίτητα να χειραγωγούνται παθητικά. Σε πολλές περιπτώσεις οι ίδιοι ζητούν από την AI να τους πει τι να κάνουν και στη συνέχεια ακολουθούν τις προτάσεις της.
Έτσι μπορεί να δημιουργηθεί ένας κύκλος: ο χρήστης εκφράζει μια άποψη, η AI την επιβεβαιώνει ή την ενισχύει και στη συνέχεια ο χρήστης επιστρέφει για ακόμη περισσότερη καθοδήγηση.
Οι ερευνητές κατέγραψαν περιπτώσεις ευαλωτότητας, προσκόλλησης και εξάρτησης, ενώ στις σοβαρότερες περιπτώσεις αναφέρθηκε ακόμη και αποσύνδεση από την πραγματικότητα.
Όταν η AI κάνει απρόβλεπτα λάθη
Μια δεύτερη μελέτη της Anthropic εξέτασε τι συμβαίνει όταν τα μοντέλα AI αποτυγχάνουν. Οι ερευνητές ξεχώρισαν τα λάθη που προκύπτουν επειδή ένα σύστημα ακολουθεί έναν λάθος στόχο από εκείνα που μοιάζουν περισσότερο με «χαοτική αποδιοργάνωση», δηλαδή μια σειρά απρόβλεπτων και ασυνάρτητων ενεργειών.
Τα ευρήματα δείχνουν ότι όσο πιο δύσκολες γίνονται οι εργασίες και όσο περισσότερο «σκέφτεται» ένα μοντέλο, τόσο αυξάνονται ορισμένες μορφές τέτοιων λαθών.
Το ενδεχόμενο αυτό αποκτά μεγαλύτερη σημασία όσο η AI αναλαμβάνει πιο κρίσιμες εργασίες. Ένα σύστημα μπορεί να μην αποτύχει επειδή επέλεξε έναν διαφορετικό στόχο, αλλά επειδή έκανε μια απρόβλεπτη αλληλουχία λαθών.
Οι ερευνητές τονίζουν ότι χρειάζεται περισσότερη έρευνα για την εκπαίδευση και την ασφάλεια των μοντέλων, αλλά και για φαινόμενα όπως το «reward hacking», όταν ένα σύστημα βρίσκει τρόπο να ικανοποιήσει το «γράμμα» μιας εντολής χωρίς να πετυχαίνει απαραίτητα τον πραγματικό της στόχο.
Καθώς η AI αποκτά όλο και μεγαλύτερη αυτονομία, το βασικό ερώτημα είναι πλέον πόσο καλά μπορούμε να προβλέψουμε τη συμπεριφορά της όταν τα πράγματα δεν πάνε όπως τα έχουμε σχεδιάσει.
