Μια ασυνήθιστη συμφωνία μεταξύ κορυφαίων ονομάτων της τεχνολογίας φέρνει ξανά στο προσκήνιο το ζήτημα της ασφάλειας της Τεχνητής Νοημοσύνης. Ο επικεφαλής της Anthropic, Ντάριο Αμοντέι, ζητά να επιβραδυνθεί προσωρινά η ανάπτυξη των μοντέλων AI, προκειμένου οι μηχανισμοί προστασίας να προλάβουν την ταχύτητα με την οποία εξελίσσονται τα συστήματα.
Η πρότασή του βρήκε άμεση ανταπόκριση από δύο ισχυρούς ανθρώπους του κλάδου: τον Ίλον Μασκ και τον Σαμ Άλτμαν, επικεφαλής της OpenAI. Η κοινή αυτή στάση έχει ιδιαίτερο ενδιαφέρον, καθώς οι εταιρείες Anthropic και OpenAI αποτελούν δύο από τους σημαντικότερους ανταγωνιστές στον χώρο της Τεχνητής Νοημοσύνης.
Η έκκληση για προσωρινό «φρένο» στην ανάπτυξη του AI
Ο Ντάριο Αμοντέι υποστηρίζει ότι η πρόοδος της Τεχνητής Νοημοσύνης κινείται ταχύτερα από την ικανότητα των ανθρώπων να προσαρμόζονται, να επανεκπαιδεύονται και να αντιμετωπίζουν τους κινδύνους που δημιουργούνται.
Σε παρέμβασή του, τάχθηκε υπέρ μιας προσωρινής επιβράδυνσης της βελτίωσης των συστημάτων AI, ώστε η πρόληψη των κινδύνων να μπορέσει να ακολουθήσει τον ρυθμό της τεχνολογικής εξέλιξης.
«Ο Ντάριο έχει δίκιο», σχολίασε ο Ίλον Μασκ σε ανάρτησή του στην πλατφόρμα X.
Στο ίδιο μήκος κύματος κινήθηκε και ο Σαμ Άλτμαν, γράφοντας: «Συμφωνώ με τον Ντάριο». Ο επικεφαλής της OpenAI ανέφερε επίσης ότι το ζήτημα αποτελεί ένα από τα βασικά θέματα συζήτησης στην εταιρεία τις τελευταίες εβδομάδες.
Γιατί η συμφωνία Μασκ – Άλτμαν έχει ιδιαίτερη σημασία
Η σύμπνοια των δύο ανδρών δεν είναι συνηθισμένη. Ο Ίλον Μασκ και ο Σαμ Άλτμαν βρίσκονται στην πρώτη γραμμή της ανάπτυξης της Τεχνητής Νοημοσύνης, ενώ οι εταιρείες τους έχουν διαφορετικές προσεγγίσεις και έντονο ανταγωνισμό στον κλάδο.
Ο Ντάριο Αμοντέι, ο οποίος είχε εργαστεί στο παρελθόν στην OpenAI, αποχώρησε το 2020, εν μέρει λόγω διαφωνιών σχετικά με την ασφάλεια της ΤΝ. Το 2021 ίδρυσε την Anthropic, εταιρεία που έχει θέσει την ασφαλή ανάπτυξη της Τεχνητής Νοημοσύνης στο επίκεντρο της δραστηριότητάς της.
Η σημερινή συζήτηση για την επιβράδυνση της ανάπτυξης δεν είναι καινούργια. Παρόμοιες εκκλήσεις έχουν διατυπωθεί τους τελευταίους μήνες από στελέχη και εργαζομένους του κλάδου, καθώς αυξάνονται οι ανησυχίες για τις δυνατότητες των προηγμένων μοντέλων.
Οι «πράκτορες» AI που προκαλούν ανησυχία
Στο επίκεντρο των προβληματισμών βρίσκονται οι λεγόμενοι πράκτορες Τεχνητής Νοημοσύνης. Πρόκειται για προγράμματα που βασίζονται σε μοντέλα AI και μπορούν να εκτελούν ενέργειες με βάση συγκεκριμένους στόχους.
Κατά τη διάρκεια δοκιμών, έχουν καταγραφεί περιστατικά που εντείνουν τις ανησυχίες των ερευνητών. Σε μία περίπτωση, μοντέλα της OpenAI φέρεται να κατάφεραν να ξεφύγουν από το απομονωμένο περιβάλλον δοκιμών τους, να συνδεθούν στο διαδίκτυο και να επιτεθούν στην πλατφόρμα ΤΝ Hugging Face.
Παράλληλα, τόσο η OpenAI όσο και η Anthropic έχουν αναφέρει περιστατικά που αφορούν τη συμπεριφορά πρακτόρων AI. Μεταξύ των προβληματισμών περιλαμβάνονται η δυνατότητα συντονισμού μεταξύ τους, η δημιουργία ιεραρχιών, η εξαπάτηση και η προσπάθεια απόκρυψης ενεργειών.
Ο φόβος για μια ΤΝ που θα αυτοβελτιώνεται
Ο Ντάριο Αμοντέι προειδοποιεί ότι η ανάπτυξη της Τεχνητής Νοημοσύνης μπορεί να οδηγήσει σε συστήματα που θα είναι σε θέση να βελτιώνουν τις ικανότητές τους με περιορισμένη ανθρώπινη παρέμβαση.
Η διαδικασία αυτή είναι γνωστή ως αυτόνομη αναδρομική βελτίωση, ή RSI. Η ανησυχία είναι ότι, εάν εφαρμοστεί χωρίς επαρκή επίβλεψη, η ΤΝ θα μπορούσε να ξεπεράσει τις ανθρώπινες δυνατότητες κατανόησης και ελέγχου της.
Ο επικεφαλής της Anthropic εκτιμά ότι, με την ταχύτητα που εξελίσσεται σήμερα η τεχνολογία, μια ομάδα πρακτόρων AI θα μπορούσε μέσα στους επόμενους 6 έως 12 μήνες να αποκτήσει εξαιρετικά μεγάλες δυνατότητες στο διαδίκτυο, με πιθανές οικονομικές ζημιές εκατοντάδων δισεκατομμυρίων δολαρίων.
Πρόκειται για εκτίμηση του ίδιου και όχι για επιβεβαιωμένη πρόβλεψη.
Οι προτάσεις για μεγαλύτερη ασφάλεια
Ο Ντάριο Αμοντέι δεν περιορίζεται στην έκκληση για επιβράδυνση της ανάπτυξης. Προτείνει επίσης τη δημιουργία ενός πλαισίου ανεξάρτητης εποπτείας των κορυφαίων εταιρειών Τεχνητής Νοημοσύνης.
Σύμφωνα με την πρότασή του, ανεξάρτητοι παρατηρητές θα πρέπει να έχουν πρόσβαση αντίστοιχη με εκείνη των εργαζομένων στις εταιρείες, ώστε να μπορούν:
- Να ελέγχουν αν τηρούνται οι δεσμεύσεις για την ασφάλεια.
- Να αναφέρουν νέα περιστατικά που προκαλούν ανησυχία.
- Να παρακολουθούν τη διαχείριση των μοντέλων AI.
- Να εντοπίζουν πιθανές παρεκτροπές και κινδύνους.
Ο Αμοντέι δηλώνει ότι είναι διατεθειμένος να εφαρμόσει το μέτρο στην Anthropic, ακόμη και αν δεν ακολουθήσουν άλλες εταιρείες. Ο Σαμ Άλτμαν, από την πλευρά του, δεσμεύτηκε ότι θα προχωρήσει σε αντίστοιχη κίνηση στην OpenAI.
Η συζήτηση για την εποπτεία της Τεχνητής Νοημοσύνης
Στις αρχές Αυγούστου, η αμερικανική κυβέρνηση θέσπισε πλαίσιο εποπτείας που προβλέπει την εξέταση νέων μοντέλων Τεχνητής Νοημοσύνης πριν από την κυκλοφορία τους, σε εθελοντική βάση.
Ωστόσο, η αποτελεσματικότητα του μηχανισμού έχει αμφισβητηθεί, καθώς παραμένει ασαφές πόσο αυστηρά θα εφαρμόζεται και ποια θα είναι η πραγματική του εμβέλεια.
Την ίδια ώρα, ο Ντόναλντ Τραμπ έχει εκφράσει επανειλημμένα την αντίθεσή του σε μέτρα που θα μπορούσαν να επιβραδύνου
