Σε μια αποκαλυπτική έκθεση απειλών προχώρησε η εταιρεία τεχνητής νοημοσύνης Anthropic, φέρνοντας στο φως απόπειρες κακόβουλης αξιοποίησης των μοντέλων της σειράς Claude. Σύμφωνα με τα ευρήματα, τα οποία επικαλούνται διεθνή μέσα ενημέρωσης, εντοπίστηκαν και διακόπηκαν ενέργειες που αφορούσαν την ανάπτυξη στρατιωτικών εξοπλισμών, λογισμικού για πυραύλους, καθώς και επικίνδυνες βιολογικές έρευνες σε διάφορες περιοχές του πλανήτη.
Το ΑΙ σε ρόλο μηχανικού πυραύλων
Ιδιαίτερη ανησυχία προκαλεί η περίπτωση ομάδας στη βόρεια Υεμένη -περιοχή που ελέγχεται από την οργάνωση των Χούθι- η οποία χρησιμοποίησε το Claude ως ψηφιακό συνεργάτη μηχανικής για την ανάπτυξη τριών εξοπλιστικών προγραμμάτων: ενός βαλλιστικού πυραύλου, ενός πυραύλου με παραλλαγές και μιας κατευθυνόμενης ρουκέτας.
Οι χρήστες αξιοποίησαν το σύστημα τεχνητής νοημοσύνης για τη συγγραφή λογισμικού καθοδήγησης, πλοήγησης και ελέγχου, την ενσωμάτωση λογισμικού ανοικτού κώδικα σε υπολογιστές πτήσης, καθώς και την παραγωγή firmware και τη διενέργεια προσομοιώσεων. Μάλιστα, μετά από μια αποτυχημένη δοκιμαστική εκτόξευση ρουκέτας, η ομάδα κατέφυγε εκ νέου στο μοντέλο προκειμένου να αναλύσει τα αίτια της αποτυχίας και να προχωρήσει σε διορθώσεις. Παρά τη διακοπή της πρόσβασης, η Anthropic επεσήμανε ότι οι χρήστες είχαν ήδη αναπτύξει εργαλεία προσομοίωσης που λειτουργούν εκτός σύνδεσης (offline).
Βιολογικές έρευνες «διπλής χρήσης» και στρατιωτικά ιδρύματα
Παράλληλα, η εταιρεία εντόπισε περιπτώσεις όπου επιστήμονες επιχείρησαν να χρησιμοποιήσουν το Claude σε έρευνες υψηλού κινδύνου. Χαρακτηριστικό παράδειγμα αποτελεί αίτημα για τη συνδρομή του μοντέλου σε έρευνα σχετικά με τον ιό chikungunya.
Η εν λόγω μελέτη αποσκοπούσε στη δημιουργία μεταλλάξεων που θα καθιστούσαν τον ιό πιο επιβλαβή μέσω διαδοχικών μεταδόσεων σε ζώα. Αν και τέτοιες έρευνες μπορούν θεωρητικά να συμβάλουν στην ανάπτυξη εμβολίων, το γεγονός ότι ο σχεδιασμός προοριζόταν για στρατιωτικό ερευνητικό ινστιτούτο οδήγησε την εταιρεία στη διακοπή της πρόσβασης, λόγω των δυνητικά καταστροφικών συνεπειών.
Παρακάμπτωντας τις δικλίδων ασφαλείας
Για να παρακάμψουν τα ενσωματωμένα φίλτρα ασφαλείας του συστήματος, οι κακόβουλοι χρήστες εφάρμοσαν εξειδικευμένες τακτικές απόκρυψης:
- Κατάτμηση εργασιών: Διάσπαση των αιτημάτων σε πολλαπλές ξεχωριστές συνομιλίες, ώστε καμία συνεδρία να μην αποκαλύπτει τον συνολικό τελικό σκοπό.
- Απόκρυψη πρόθεσης: Διατύπωση ερωτημάτων με τρόπο που προσομοίαζε με αθώα ή γενική επιστημονική αναζήτηση.
Εκτός από την Υεμένη, η έκθεση καταγράφει περιστατικά σε άλλες χώρες:
- Κίνα και Ρωσία: Απόπειρες αξιοποίησης του μοντέλου για την ανάπτυξη συμβατικών όπλων (drones, πυροβόλα, βόμβες).
- Κίνα και Ιράν: Χρήση του συστήματος για την παρακολούθηση πολιτικών αντιφρονούντων.
- Ρωσικά κρατικά μέσα: Παραγωγή ψηφιακής προπαγάνδας και παραπληροφόρησης με κάλυψη ανεξάρτητης δημοσιογραφίας.
Η Anthropic προχώρησε στο κλείσιμο των εμπλεκόμενων λογαριασμών και ενημέρωσε τις αρμόδιες αρχές, υπογραμμίζοντας ωστόσο την πρόκληση που αντιμετωπίζει η βιομηχανία ΑΙ, καθώς τα μοντέλα αποκτούν όλο και πιο προηγμένες τεχνικές δυνατότητες.
