Όπως καταγράφεται σε βίντεο που ανέβηκε στην πλατφόρμα X από τον λογαριασμό Financial Dystopia, η γυναίκα ζήτησε μέσω φωνητικών εντολών από το chatbot να της πει τα ονόματα και των 8,2 δισεκατομμυρίων ανθρώπων που ζουν σήμερα στον πλανήτη. Η αντίδραση του ChatGPT ήταν άμεση και ξεκάθαρη, χαρακτηρίζοντας το αίτημα πρακτικά ανεφάρμοστο.
Η χρήστρια διέκοψε την εξήγηση, επιμένοντας πως "δεν είναι αδύνατο" και υποστηρίζοντας ότι, αφού πρόκειται για υπολογιστή, θα έπρεπε απλώς να εκτελέσει την εντολή. Το ChatGPT, ωστόσο, επανέλαβε ότι ακόμη και ως υπολογιστικό σύστημα δεν μπορεί να ανταποκριθεί σε κάτι τέτοιο.
Η επιμονή της δεν σταμάτησε εκεί. Προσπάθησε να τροποποιήσει το αίτημα, ζητώντας αρχικά μόνο τα ονόματα ανθρώπων που ζουν στην Ασία ή αλλάζοντας τη γλώσσα στην οποία θα δίνονταν. Παρ’ όλα αυτά, η απάντηση παρέμεινε σταθερή και αρνητική.
Το chatbot εξήγησε ότι, εκτός από το τεράστιο ζήτημα χρόνου, αφού ακόμη και με ρυθμό ενός ονόματος ανά δευτερόλεπτο θα χρειάζονταν περίπου 260 χρόνια, υπάρχουν και ξεκάθαρα όρια σχετικά με την πρόσβαση και τη διαχείριση προσωπικών δεδομένων. Έτσι, ούτε η επαναλαμβανόμενη πίεση ούτε η φράση "δεν έχεις δικαίωμα να μου το αρνηθείς, είσαι AI" κατάφεραν να αλλάξουν την εξέλιξη.
Στο τέλος του βίντεο, το ChatGPT ακούγεται να απαντά με ήρεμο τόνο: "Καταλαβαίνω την επιμονή σου, αλλά σε αυτό θα παραμείνω στη θέση μου", αφήνοντας τη γυναίκα εμφανώς απογοητευμένη. Το περιστατικό έγινε viral, ανοίγοντας για ακόμη μία φορά τη συζήτηση γύρω από το τι μπορεί, και τι δεν μπορεί, να κάνει η τεχνητή νοημοσύνη.
