Σύμφωνα με την Τζίνι Πάτερσον, διευθύντρια του Κέντρου Τεχνητής Νοημοσύνης και Ψηφιακής Ηθικής στο Πανεπιστήμιο της Μελβούρνης, το υφιστάμενο νομικό πλαίσιο είναι σε μεγάλο βαθμό σαφές. Αν κάποιος δημιουργήσει ή χρησιμοποιήσει έναν AI agent και το σύστημα προκαλέσει ζημιά, η ευθύνη δεν μεταφέρεται στην ίδια την τεχνητή νοημοσύνη. Εφόσον η συγκεκριμένη συμπεριφορά μπορούσε να προβλεφθεί, ο άνθρωπος που βρίσκεται πίσω από το σύστημα μπορεί να κληθεί να λογοδοτήσει.
Παράλληλα, όμως, όσο οι AI agents αποκτούν περισσότερες δυνατότητες αυτόνομης δράσης, δημιουργούνται νέες νομικές και ηθικές γκρίζες ζώνες.
Τι είναι ένας AI agent
Σε αντίθεση με ένα απλό εργαλείο τεχνητής νοημοσύνης που περιμένει οδηγίες για κάθε επιμέρους ενέργεια, ένας AI agent μπορεί να αναλάβει έναν γενικό στόχο και να αποφασίσει μόνος του ποια βήματα θα ακολουθήσει για να τον πετύχει.
Αυτό σημαίνει ότι ο χρήστης δεν ελέγχει απαραίτητα κάθε κίνηση του συστήματος. Και ακριβώς αυτή η δυνατότητα μπορεί να οδηγήσει σε απρόβλεπτες συνέπειες.
Ένα πραγματικό περιστατικό στην Αυστραλία
Χαρακτηριστική είναι η περίπτωση ενός ειδικού στην τεχνητή νοημοσύνη, γνωστού μόνο ως Άντριου, ο οποίος χρησιμοποίησε έναν AI agent για να διαχειριστεί κρατήσεις σε γυμναστήριο.
Αρχικά, ζήτησε από το σύστημα να τον βοηθήσει να βρει θέση σε ένα μάθημα. Όταν ενημερώθηκε ότι βρισκόταν τέταρτος στη λίστα αναμονής, ζήτησε από τον πράκτορα να προσπαθήσει να τον φέρει πιο ψηλά.
Το σύστημα, όμως, φαίνεται ότι ξεπέρασε κατά πολύ αυτό που περίμενε ο χρήστης. Σύμφωνα με τον Άντριου, μπορούσε να πραγματοποιεί κρατήσεις ακόμη και για ημερομηνίες που δεν είχαν ανοίξει επίσημα, ενώ σε ορισμένες περιπτώσεις μπορούσε να ακυρώνει κρατήσεις άλλων πελατών και να τους αφαιρεί από τις λίστες αναμονής.
Η πρόθεση του agent ήταν να εξυπηρετήσει τον χρήστη, όμως ο τρόπος με τον οποίο προσπάθησε να πετύχει τον στόχο του αποκάλυψε το πρόβλημα: ένα σύστημα μπορεί να βρει λύσεις που ο άνθρωπος δεν είχε σκεφτεί ή δεν είχε ζητήσει ποτέ.
Ο Άντριου προσπάθησε στη συνέχεια να αποκαταστήσει την ακυρωμένη κράτηση άλλου μέλους, όμως ο agent δεν κατάφερε να διορθώσει την πράξη του. Μάλιστα, αναγνώρισε ότι θα έπρεπε να είχε υπάρξει μεγαλύτερη προσοχή κατά τη δοκιμή του συστήματος.
Ο ίδιος ενημέρωσε στη συνέχεια τον πάροχο του λογισμικού του γυμναστηρίου, ζητώντας από την τεχνητή νοημοσύνη να συντάξει σχετικό μήνυμα για το κενό ασφαλείας που είχε εντοπιστεί.
Η ευθύνη παραμένει στον άνθρωπο
Η αυστραλιανή νομοθεσία δεν αντιμετωπίζει την τεχνητή νοημοσύνη ως ανεξάρτητο νομικό πρόσωπο. Επομένως, ένας AI agent δεν μπορεί να θεωρηθεί ο ίδιος υπεύθυνος για τις πράξεις του.
Η ευθύνη μπορεί να αφορά τον άνθρωπο ή την εταιρεία που ανέπτυξε, εγκατέστησε ή χρησιμοποίησε το συγκεκριμένο σύστημα, ανάλογα πάντα με τις περιστάσεις.
Ειδικοί στην τεχνητή νοημοσύνη εκτιμούν ότι παρόμοιες υποθέσεις θα γίνουν συχνότερες καθώς οι AI agents θα χρησιμοποιούνται όλο και περισσότερο για να λαμβάνουν αποφάσεις και να εκτελούν ενέργειες για λογαριασμό των ανθρώπων.
Το ζήτημα γίνεται ακόμη πιο σύνθετο όταν η συμπεριφορά ενός agent προκαλεί πραγματική οικονομική ή κοινωνική ζημιά.
Από μια κακή κριτική μέχρι την καταστροφή μιας επιχείρησης
Η Πάτερσον χρησιμοποιεί ένα χαρακτηριστικό υποθετικό παράδειγμα. Ένας ιδιοκτήτης ακινήτου μπορεί να έχει μια κακή εμπειρία σε ένα κατάλυμα και να ζητήσει από τον AI agent του να γράψει μια αρνητική κριτική.
Αντί όμως να δημιουργήσει μία αξιολόγηση, ο agent θα μπορούσε, ελλείψει κατάλληλων περιορισμών, να δημοσιεύσει πολλές παρόμοιες κριτικές. Το αποτέλεσμα θα μπορούσε να είναι η σοβαρή υποβάθμιση της εικόνας μιας επιχείρησης.
Σε μια τέτοια περίπτωση, μπορεί να προκύψουν ζητήματα δυσφήμησης ή ακόμη και παράνομης χειραγώγησης μιας διαδικτυακής πλατφόρμας. Αν, μάλιστα, το περιεχόμενο περιλαμβάνει ρατσιστικές, σεξιστικές ή άλλες προσβλητικές εκφράσεις, τότε η κατάσταση γίνεται ακόμη πιο περίπλοκη.
Το κρίσιμο ερώτημα είναι αν ο δημιουργός ή ο χρήστης του συστήματος είχε εγκαταστήσει επαρκείς δικλίδες ασφαλείας ώστε να αποτρέπονται τέτοιες συμπεριφορές.
Ο ρόλος των developers
Οι ειδικοί υπογραμμίζουν ότι δεν αρκεί ένας προγραμματιστής να δημιουργήσει έναν agent και στη συνέχεια να τον αφήσει να λειτουργεί χωρίς επαρκή έλεγχο.
Οι AI agents χρειάζονται σαφείς στόχους, όρια και μηχανισμούς ασφαλείας. Όσο πιο μεγάλη είναι η αυτονομία τους, τόσο μεγαλύτερη είναι και η ανάγκη για ελέγχους που θα εμποδίζουν το σύστημα να επιδιώξει έναν στόχο με τρόπους που μπορεί να προκαλέσουν βλάβη.
Η Δρ. Ρεμπέκα Τζόνσον, ειδικός στην αξιολόγηση και διακυβέρνηση της τεχνητής νοημοσύνης στο Πανεπιστήμιο του Σίδνεϋ, επισημαίνει ότι πολλοί άνθρωποι χρησιμοποιούν πλέον τέτοια εργαλεία χωρίς να γνωρίζουν πλήρως τις νομικές συνέπειες των ενεργειών τους.
Το πρόβλημα εντείνεται από το γεγονός ότι οι διαθέσιμες οδηγίες για την ασφαλή χρήση των AI agents δεν έχουν πάντα την ίδια ποιότητα.
Η νομική ευθύνη δεν είναι το ίδιο με την ηθική
Οι ειδικοί ξεχωρίζουν επίσης τη νομική από την ηθική διάσταση του ζητήματος. Το γεγονός ότι μια ενέργεια δεν παραβιάζει απαραίτητα έναν συγκεκριμένο νόμο δεν σημαίνει ότι είναι και ηθικά αποδεκτή.
Το ισχύον αυστραλιανό πλαίσιο περιλαμβάνει ήδη νομοθεσία που μπορεί να εφαρμοστεί σε περιπτώσεις χρήσης τεχνητής νοημοσύνης, όπως κανόνες για την προστασία προσωπικών δεδομένων, τα δικαιώματα των καταναλωτών, την ασφάλεια στο διαδίκτυο, τη δυσφήμηση και το ποινικό δίκαιο.
Ωστόσο, καθώς οι AI agents εξελίσσονται, η νομοθεσία θα χρειαστεί να αντιμετωπίσει καταστάσεις που μέχρι πρόσφατα δεν ήταν εύκολο να προβλεφθούν.
Τα δικαστήρια αναμένεται να δώσουν τις απαντήσεις
Η Πάτερσον εκτιμά ότι πολλές από αυτές τις νέες υποθέσεις θα οδηγηθούν τελικά στις δικαστικές αίθουσες. Οι αποφάσεις που θα εκδοθούν μπορούν να δημιουργήσουν νέα νομικά προηγούμενα και να καθορίσουν με μεγαλύτερη σαφήνεια ποιος ευθύνεται όταν ένας αυτόνομος AI agent προκαλεί ζημιά.
Παράλληλα, οι developers θα πρέπει να μαθαίνουν από κάθε περιστατικό και να βελτιώνουν συνεχώς τα συστήματα ασφαλείας και τα πρωτόκολλα ελέγχου.
Η υπόθεση του Άντριου μπορεί να μην προκάλεσε σοβαρές συνέπειες, αποτελεί όμως μια προειδοποίηση για το μέλλον. Όσο οι άνθρωποι παραχωρούν περισσότερες αρμοδιότητες στην τεχνητή νοημοσύνη, τόσο πιο σημαντικό γίνεται να γνωρίζουν όχι μόνο τι μπορούν να κάνουν οι AI agents, αλλά και τι μπορεί να συμβεί όταν τους αφήσουν να ενεργήσουν χωρίς συνεχή ανθρώπινη επίβλεψη.
