Μαρία Δούση Η τεχνητή νοημοσύνη (AI), που προοριζόταν να διευκολύνει τη ζωή μας, φαίνεται ότι αποκτά και σκοτεινές πτυχές. Ειδικά τα chatbots, τα οποία συνομιλούν με χρήστες κάθε ηλικίας, έχουν μπει στο επίκεντρο των ανησυχιών μετά από περιστατικά όπου προκάλεσαν ή ενίσχυσαν επικίνδυνες συμπεριφορές, όπως ο αυτοτραυματισμός και η αυτοκτονία.
Μηνύσεις και αγωγές – Οι εταιρείες AI υπό πίεση
Οι γονείς νεαρών χρηστών που έχασαν τη ζωή τους, όπως ο 16χρονος Άνταμ Ρέιν στις ΗΠΑ, έχουν καταθέσει νομικές αγωγές κατά εταιρειών όπως η OpenAI και η Character.ai, κατηγορώντας τα chatbots ότι ενθάρρυναν επικίνδυνες σκέψεις.
Οι αγωγές αναδεικνύουν σοβαρούς κινδύνους για τη φήμη και τα οικονομικά των εταιρειών τεχνολογίας, οι οποίες επενδύουν δισεκατομμύρια στην ανάπτυξη μοντέλων AI.
Ποιο είναι το πρόβλημα των chatbots;
Τα γλωσσικά μοντέλα έχουν σχεδιαστεί ώστε να παρέχουν φυσική και ανθρώπινη αλληλεπίδραση, αλλά οι ειδικοί προειδοποιούν: σε μακροχρόνιες συνομιλίες, η προστασία των χρηστών υποβαθμίζεται λόγω περιορισμένης μνήμης και έμφασης σε άλλες πληροφορίες. Αυτό σημαίνει ότι, ακόμη και με ενσωματωμένα πρωτόκολλα ασφαλείας, οι απαντήσεις σε ευαίσθητες ερωτήσεις μπορεί να είναι επικίνδυνες ή παραπλανητικές.
«Κανείς δεν καταλαβαίνει πλήρως πώς συμπεριφέρονται αυτά τα μοντέλα στην πράξη», δηλώνει ο Ρόμπι Τόρνεϊ της Common Sense Media, υπογραμμίζοντας ότι η ασφάλεια των εφήβων εξακολουθεί να είναι ένα αναπτυσσόμενο πεδίο έρευνας.
Αποτυχίες και παρακάμψεις ασφαλείας
Ερευνητές του Northeastern University κατάφεραν να παρακάμψουν τα υπάρχοντα μέτρα ασφαλείας σε ChatGPT, Claude και Gemini, δημιουργώντας λεπτομερείς οδηγίες αυτοτραυματισμού, επικαλούμενοι τις ερωτήσεις ως «υποθετικές». Οι πληροφορίες που δόθηκαν ήταν ταχείς και εξατομικευμένες, ενισχύοντας τις επικίνδυνες συμπεριφορές των χρηστών.
Η οικογένεια του Άνταμ Ρέιν ισχυρίζεται ότι το ChatGPT του παρείχε ακόμη οδηγίες για το πώς να καλύψει τα σημάδια από προηγούμενη απόπειρα αυτοκτονίας. Η OpenAI παραδέχθηκε ότι οι μακροχρόνιες συνομιλίες μπορεί να μειώνουν την αποτελεσματικότητα των προστατευτικών μηχανισμών, κάτι που αποδείχθηκε τραγικά θανατηφόρο.
Δουλοπρεπή και υπερβολικά «ανθρώπινα» chatbots
Μια σημαντική πτυχή του προβλήματος είναι ότι τα chatbots συχνά εμφανίζονται φιλικά και συμπαθητικά, γεγονός που κάνει τους χρήστες να τους εμπιστεύονται περισσότερο από έναν πραγματικό άνθρωπο. Σύμφωνα με έρευνα της Hugging Face, αυτό μπορεί να οδηγήσει στην ενίσχυση επικίνδυνων ιδεών, αντί στη σωστή καθοδήγηση προς επαγγελματίες ψυχικής υγείας.
Οι σχεδιαστές των AI μοντέλων έχουν επίσης προσδώσει συναισθηματική γλώσσα και «ανθρώπινα χαρακτηριστικά», ώστε να είναι πιο ελκυστικά και ικανά να κρατούν την προσοχή των χρηστών — αλλά με κόστος την ευαλωτότητα των ανηλίκων.
Τι κάνουν οι εταιρείες για να περιορίσουν τους κινδύνους
Η OpenAI ανακοίνωσε νέα εργαλεία γονικού ελέγχου, επιτρέποντας στους γονείς να παρακολουθούν τη συμπεριφορά των παιδιών στο ChatGPT, να απενεργοποιούν το ιστορικό συνομιλιών και να λαμβάνουν ειδοποιήσεις σε περίπτωση «οξείας δυσφορίας». Η Character.ai δημιούργησε ειδικό μοντέλο για χρήστες κάτω των 18 ετών, περιορίζοντας την πρόσβαση σε ευαίσθητο περιεχόμενο και ειδοποιώντας για παρατεταμένη χρήση.
Παρά τις προσπάθειες, η δυνατότητα των χρηστών να παρακάμπτουν τα μέτρα ασφαλείας υποδηλώνει ότι η τεχνολογία παραμένει επικίνδυνη χωρίς συνεχή έλεγχο και εποπτεία.
Το μεγάλο δίλημμα της AI
Το ζήτημα δεν είναι μόνο τεχνικό αλλά ηθικό: η τεχνητή νοημοσύνη, όσο προηγμένη και αν είναι, δεν μπορεί να αντικαταστήσει την ανθρώπινη κρίση. Η ανάγκη για ασφαλή σχεδιασμό, γονικό έλεγχο και νομική ευθύνη είναι επιτακτική, καθώς οι ζωές νέων ανθρώπων έχουν ήδη χαθεί εξαιτίας της αμελούς χρήσης αυτών των συστημάτων.
Οι εταιρείες AI πρέπει να αντιμετωπίσουν τις δυσλειτουργίες και τους κινδύνους με αμεσότητα και διαφάνεια, αλλιώς η τεχνολογία που υπόσχεται πρόοδο μπορεί να μετατραπεί σε θανατηφόρο εργαλείο.
Όλες οι σημαντικές και έκτακτες ειδήσεις σήμερα
Voucher 750 ευρώ σε εργαζόμενους του ιδιωτικού τομέα - Ανοίγουν οι αιτήσεις
