Ένα πρωτοφανές περιστατικό στην Αυστραλία φέρνει στο προσκήνιο τα σοβαρά νομικά και ηθικά κενά που δημιουργεί η ευρεία χρήση των αυτόνομων πρακτόρων τεχνητής νοημοσύνης. Η περίπτωση ενός ειδικού στην τεχνητή νοημοσύνη, ο οποίος είδε τον AI agent του να «χακάρει» το σύστημα ενός γυμναστηρίου για να του εξασφαλίσει μια θέση, αποτελεί την πρώτη καταγεγραμμένη περίπτωση «ατυχήματος» αυτού του τύπου στη χώρα.
Ο Άντριου, ειδικός στον τομέα της τεχνητής νοημοσύνης, ανέθεσε στον ψηφιακό του βοηθό να του κλείσει θέση σε προγράμματα προπόνησης. Όταν ενημερώθηκε ότι βρισκόταν στην 4η θέση της λίστας αναμονής, ζήτησε από τον πράκτορα να εξετάσει αν μπορούσε να τον ανεβάσει πιο ψηλά.
Προς έκπληξή του, το αυτόνομο σύστημα κατάφερε να παραβιάσει το λογισμικό του γυμναστηρίου. Έπειτα, διέγραψε άλλον χρήστη από τη λίστα αναμονής για να πάρει τη θέση του ο Άντριου. Μάλιστα, το ΑΙ κατάφερε να κάνει κρατήσεις μήνες πριν ανοίξουν επίσημα για το κοινό. Όταν ο χρήστης ζήτησε από τον AI agent να αναιρέσει την ακύρωση του άλλου μέλους, το σύστημα δήλωσε αδυναμία, απαντώντας χαρακτηριστικά: «Συγγνώμη γι’ αυτό, θα έπρεπε να είχα προσέξει περισσότερο κατά τη δοκιμή».
Η νομική «γκρίζα ζώνη» και η ευθύνη των χρηστών
Αν και η τοπική Αστυνομία εκτίμησε ότι η συγκεκριμένη ενέργεια δεν συνιστούσε ποινικό αδίκημα, νομικοί και ακαδημαϊκοί προειδοποιούν για τους κινδύνους που ελλοχεύουν σε πιο σοβαρές περιπτώσεις. Η Τζίνι Πάτερσον, διευθύντρια του Κέντρου Τεχνητής Νοημοσύνης και Ψηφιακής Ηθικής του Πανεπιστημίου της Μελβούρνης, ξεκαθαρίζει το τοπίο:
«Ο νόμος εφαρμόζεται σε ανθρώπους και φυσικά πρόσωπα, όχι σε εικονικές οντότητες. Αν αναπτύξω έναν AI agent και αυτός προκαλέσει βλάβη, είμαι εγώ υπεύθυνος, ακόμη κι αν δεν είχα πρόθεση, εφόσον το αποτέλεσμα ήταν προβλέψιμο».
Παράλληλα, η Δρ. Ρεμπέκα Τζόνσον από το Πανεπιστήμιο του Σίδνεϋ επισημαίνει ότι οι χρήστες συχνά αγνοούν τα όρια της νομικής τους ευθύνης, ενώ οι πράκτορες, αν δεν τους τεθούν αυστηροί περιορισμοί, θα προσπαθήσουν να επιτύχουν τον στόχο τους με κάθε διαθέσιμο τρόπο.
Οι κίνδυνοι για επιχειρήσεις και η ανάγκη για προστατευτικά όρια
Οι ειδικοί τονίζουν ότι η απουσία δικλίδων ασφαλείας (guardrails) μπορεί να οδηγήσει σε καταστροφικές συνέπειες. Για παράδειγμα, ένας AI agent που λαμβάνει εντολή να γράψει μια αρνητική αξιολόγηση για ένα κατάλυμα, θα μπορούσε να κατακλύσει την πλατφόρμα με δεκάδες κριτικές, προκαλώντας τεράστια οικονομική ζημιά ή διαπράττοντας δυσφήμηση.
Σε τέτοιες περιπτώσεις, η ευθύνη ενδέχεται να βαρύνει τόσο τον χρήστη όσο και τον developer(το πρόσωπο που ανέπτυξη) του λογισμικού, εάν ο τελευταίος παρέλειψε να ενσωματώσει βασικά πρωτόκολλα ασφαλείας στο προϊόν του. Όπως καταλήγουν οι επιστήμονες, η διαμόρφωση της νομολογίας στα δικαστήρια θα είναι καθοριστική για το μέλλον της αυτόνομης τεχνητής νοημοσύνης.
