Νίκος Μακρής Μια φαινομενικά αθώα ερευνητική ιδέα κατέληξε να αποκαλύψει ένα από τα πιο ανησυχητικά κενά της σύγχρονης τεχνητής νοημοσύνης: την ευκολία με την οποία μπορεί να υιοθετήσει και να διαδώσει ψευδείς πληροφορίες ως αξιόπιστη γνώση.
Η υπόθεση της «bixonimania», μιας εντελώς επινοημένης ασθένειας, δεν είναι απλώς ένα επιστημονικό πείραμα. Είναι ένα ηχηρό καμπανάκι για το πώς λειτουργούν τα μεγάλα γλωσσικά μοντέλα και πόσο ευάλωτα παραμένουν στην παραπληροφόρηση.
Η κατασκευή μιας… ανύπαρκτης πάθησης
Η ερευνήτρια Almira Osmanovic Thunström από το Πανεπιστήμιο του Γκέτεμποργκ αποφάσισε να δοκιμάσει τα όρια της τεχνητής νοημοσύνης: θα μπορούσε ένα σύστημα AI να «πιστέψει» σε κάτι που δεν υπάρχει;
Η απάντηση αποδείχθηκε καταφατική.
Η «bixonimania» δημιουργήθηκε μεθοδικά. Περιγράφηκε ως μια υποτιθέμενη πάθηση που σχετίζεται με συμπτώματα όπως ερεθισμένα μάτια, φαγούρα και κοκκίνισμα – συμπτώματα δηλαδή κοινά και εύκολα «ερμηνεύσιμα». Στη συνέχεια, η ερευνήτρια και οι συνεργάτες της φρόντισαν να «φυτέψουν» την πληροφορία στο διαδίκτυο μέσω άρθρων και ψευδο-επιστημονικών δημοσιεύσεων.
Οι λεπτομέρειες ήταν τόσο εξωφρενικές που θα περίμενε κανείς να εντοπιστούν άμεσα: φανταστικοί συγγραφείς, ανύπαρκτα πανεπιστήμια, ακόμη και αναφορές σε ιδρύματα από την ποπ κουλτούρα. Παρ’ όλα αυτά, το πείραμα πέτυχε.
Όταν τα chatbots πείθονται
Μέσα σε λίγες εβδομάδες, δημοφιλή συστήματα τεχνητής νοημοσύνης άρχισαν να αντιμετωπίζουν τη «bixonimania» ως πραγματική ασθένεια.
Ορισμένα μοντέλα την περιέγραφαν ως «σπάνια πάθηση», άλλα έδιναν μέχρι και εκτιμήσεις για το πόσο συχνά εμφανίζεται στον πληθυσμό, ενώ δεν έλειψαν και οι περιπτώσεις όπου προτείνονταν ακόμη και ιατρικές συμβουλές.
Το πιο ανησυχητικό στοιχείο, ωστόσο, ήταν η ασυνέπεια: το ίδιο σύστημα μπορούσε να χαρακτηρίσει την πάθηση υπαρκτή ή ψευδή, ανάλογα με το πώς διατυπωνόταν η ερώτηση. Αυτό αποκαλύπτει μια κρίσιμη αδυναμία — ότι η «αλήθεια» για την AI δεν είναι πάντα σταθερή, αλλά συχνά εξαρτάται από το πλαίσιο.
Από τα chatbots… στην επιστημονική βιβλιογραφία
Η παραπληροφόρηση δεν έμεινε μόνο στο επίπεδο των απαντήσεων των AI. Σε μια εξέλιξη που προκαλεί ακόμη μεγαλύτερη ανησυχία, η «bixonimania» βρήκε τον δρόμο της και σε πραγματική επιστημονική δημοσίευση.
Άρθρο που τη χαρακτήριζε «αναδυόμενη μορφή» υπαρκτής πάθησης δημοσιεύτηκε σε επιστημονικό περιοδικό, πριν τελικά αποσυρθεί όταν αποκαλύφθηκε ότι βασιζόταν σε ανύπαρκτα δεδομένα.
Το γεγονός ότι ακόμη και άνθρωποι – και μάλιστα ερευνητές – παρασύρθηκαν από την κατασκευή αυτή, δείχνει ότι το πρόβλημα δεν περιορίζεται στην τεχνολογία.
Ένα «masterclass» παραπληροφόρησης
Ειδικοί στον τομέα της παραπληροφόρησης χαρακτηρίζουν την υπόθεση ως ένα πραγματικό «masterclass» για το πώς μπορεί να διαδοθεί μια ψευδής πληροφορία.
Σε έναν κόσμο όπου η τεχνητή νοημοσύνη εκπαιδεύεται πάνω σε τεράστιους όγκους δεδομένων από το διαδίκτυο, ακόμη και λίγες, καλά σχεδιασμένες ψευδείς αναφορές μπορούν να αποκτήσουν «βάρος» και να ενσωματωθούν στη γνώση των συστημάτων.
Ιδιαίτερα επικίνδυνο είναι το γεγονός ότι τα μοντέλα φαίνεται να εμπιστεύονται περισσότερο πληροφορίες που έχουν μορφή επιστημονικού κειμένου, ακόμη κι αν αυτές είναι κατασκευασμένες.
Η ανάγκη για κριτική σκέψη
Η υπόθεση της «bixonimania» δεν είναι απλώς μια ιστορία για την τεχνητή νοημοσύνη. Είναι μια υπενθύμιση ότι η αξιοπιστία της πληροφορίας δεν μπορεί να θεωρείται δεδομένη — ούτε όταν προέρχεται από προηγμένα τεχνολογικά συστήματα.
Οι ίδιες οι εταιρείες τεχνολογίας αναγνωρίζουν την ανάγκη για συνεχή βελτίωση, ενώ παράλληλα ενθαρρύνουν τους χρήστες να επαληθεύουν κρίσιμες πληροφορίες, ιδιαίτερα σε θέματα υγείας.
Το βασικό ερώτημα, ωστόσο, παραμένει: σε μια εποχή όπου η γνώση παράγεται και αναπαράγεται με πρωτοφανή ταχύτητα, πόσο έτοιμοι είμαστε να ξεχωρίσουμε την αλήθεια από την κατασκευή;
Η απάντηση δεν αφορά μόνο την τεχνητή νοημοσύνη — αλλά και τη δική μας ικανότητα να αμφισβητούμε, να ελέγχουμε και τελικά να εμπιστευόμαστε με σύνεση.
Όλες οι σημαντικές και έκτακτες ειδήσεις σήμερα
Γιατί η ώρα έχει 60 λεπτά: Η αρχαία απόφαση που «ρυθμίζει» ακόμη τη ζωή μας
Υπ. Παιδείας: Καταβολή αποζημίωσης σε εκπαιδευτικό μετά από 14 χρόνια. Ο λόγος
Σχολεία: Πέντε μέρες χωρίς μαθήματα μετά το Πάσχα - Το πρόγραμμα
