Μια υπόθεση που προκαλεί έντονο προβληματισμό για τη χρήση της Τεχνητής Νοημοσύνης στη Δικαιοσύνη έφτασε ενώπιον του Ανώτατου Δικαστηρίου του Νέου Μεξικού. Δικηγόρος υπεράσπισης χρησιμοποίησε το ChatGPT για να προετοιμάσει έφεση σε υπόθεση φόνου, όμως το κείμενο που κατέθεσε περιείχε ανύπαρκτους μάρτυρες και κατασκευασμένες καταθέσεις.
Ο δικηγόρος Στίβεν Άαρονς παραδέχθηκε ότι συνέταξε το έγγραφο με τη βοήθεια Τεχνητής Νοημοσύνης. Το δικαστήριο, ωστόσο, τον επέκρινε επειδή δεν μπήκε στη διαδικασία να ελέγξει αν όσα περιλαμβάνονταν στην έφεση ήταν πραγματικά.
Το αποτέλεσμα ήταν να του επιβληθεί πρόστιμο 5.000 δολαρίων, ενώ η υπόθεση θα διαβιβαστεί και στο πειθαρχικό συμβούλιο του δικηγορικού συλλόγου.
Οι «μάρτυρες» που δεν υπήρχαν ποτέ
Το Ανώτατο Δικαστήριο έκανε λόγο για «ψευδείς μαρτυρίες από εξ ολοκλήρου επινοημένους μάρτυρες», στηλιτεύοντας την πρακτική του δικηγόρου και την έλλειψη ελέγχου του υλικού που χρησιμοποίησε.
Μεταξύ των στοιχείων που εμφανίστηκαν στην έφεση ήταν ακόμη και η υποτιθέμενη περιγραφή του δράστη ότι «φορούσε σκούρο παντελόνι και λευκό μπλουζάκι».
Τον περασμένο μήνα, οι δικαστές ζήτησαν από τον Άαρονς να εξηγήσει πώς βρέθηκαν στην έφεση αυτές οι δηλώσεις και οι ανύπαρκτοι μάρτυρες.
Ο ίδιος υποστήριξε ότι είχε δώσει στο ChatGPT απομαγνητοφωνημένες καταθέσεις και άλλο υλικό από τη δίκη, θεωρώντας ότι το εργαλείο θα μπορούσε να δημιουργήσει μια «ακριβή σύνοψη» της υπόθεσης.
«Δεν κατάλαβα τις παραισθήσεις της ΤΝ»
Μιλώντας στο Reuters, ο Άαρονς δήλωσε ότι χρησιμοποίησε το ChatGPT όταν ανέλαβε την υπόθεση, προκειμένου να συνοψίσει τη δίκη. Όπως είπε, δεν είχε αντιληφθεί το πρόβλημα των λεγόμενων «παραισθήσεων» της Τεχνητής Νοημοσύνης, δηλαδή της δημιουργίας πληροφοριών που δεν ανταποκρίνονται στην πραγματικότητα.
Ο δικηγόρος δήλωσε ότι έχει μετανιώσει για το περιστατικό και εξέφρασε την ελπίδα ότι το πειθαρχικό συμβούλιο θα αναγνωρίσει πως επρόκειτο για ειλικρινές λάθος.
«Είναι ένα μάθημα που έγινε πάθημα για όλους τους επαγγελματίες που βασίζονται σε αυτή την ισχυρή αλλά μερικές φορές ασταθή τεχνολογία», ανέφερε χαρακτηριστικά.
Η OpenAI δεν απάντησε σε αίτημα του Reuters για σχολιασμό.
Οι δικαστές προειδοποιούν για τη χρήση της ΤΝ
Το περιστατικό δεν είναι μεμονωμένο. Το τελευταίο διάστημα, πολιτειακοί και ομοσπονδιακοί δικαστές στις ΗΠΑ έχουν επιβάλει κυρώσεις σε δικηγόρους που κατέθεσαν έγγραφα τα οποία είχαν δημιουργηθεί με τη βοήθεια ΤΝ, χωρίς προηγουμένως να ελέγξουν την ακρίβειά τους.
Σε αρκετές περιπτώσεις, η Τεχνητή Νοημοσύνη έχει οδηγήσει ακόμη και σε λανθασμένες αναφορές στη νομοθεσία και τη νομολογία, με αποτέλεσμα δικηγόροι να βρίσκονται αντιμέτωποι με πειθαρχικά μέτρα.
Η υπόθεση που έφερε το ChatGPT στο εδώλιο
Ο Άαρονς, ο οποίος διατηρεί ιδιωτικό γραφείο στη Σάντα Φε, είχε αναλάβει την έφεση του Όσκαρ Ρενέ Σαντοβάλ. Ο Σαντοβάλ δηλώνει αθώος για τη δολοφονία της μητέρας των παιδιών του.
Πέρυσι κρίθηκε ένοχος και καταδικάστηκε σε ισόβια κάθειρξη, ενώ η έφεσή του βρίσκεται ακόμη σε εκκρεμότητα. Στις αρχές Σεπτεμβρίου διορίστηκε νέα δικηγόρος για την υπόθεση, η δημόσια συνήγορος Κιμ Τσάβες Κουκ.
Η αποστομωτική ερώτηση της δικαστού
Οι δικαστές δεν έκρυψαν την έκπληξή τους για το γεγονός ότι ο Άαρονς δεν είχε ελέγξει τις πληροφορίες που παρήγαγε το ChatGPT.
Η δικαστής Σ. Σάνον Μπέικον ήταν ιδιαίτερα αιχμηρή, υπενθυμίζοντας ότι οι κίνδυνοι από τις «παραισθήσεις» της ΤΝ έχουν γίνει πλέον ευρέως γνωστοί:
«Βλέπετε ειδήσεις; Ακούτε ραδιόφωνο; Διαβάζετε οτιδήποτε για όσα συμβαίνουν στον κόσμο;», τον ρώτησε, πριν επισημάνει ότι το πρόβλημα με τους δικηγόρους που βασίζονται στις ανακριβείς απαντήσεις της ΤΝ βρίσκεται «στα πρωτοσέλιδα σε καθημερινή βάση».
