Alfavita Newsroom Το ζήτημα της αξιοπιστίας
Για να θεωρηθεί αξιόπιστη η τεχνητή νοημοσύνη στην ιατρική, πρέπει να αποδεικνύει τρία βασικά στοιχεία:
Ανθεκτικότητα στην αβεβαιότητα,
Συλλογιστική βασισμένη σε αποδείξεις,
Ευθυγράμμιση με τις ανάγκες της κλινικής πράξης.
Ωστόσο, τα τελευταία δεδομένα δείχνουν πως πολλά κορυφαία μοντέλα αποτυγχάνουν να ανταποκριθούν σε αυτές τις απαιτήσεις. Παράγουν απαντήσεις που φαίνονται λογικές, αλλά δεν βασίζονται σε πραγματική ιατρική κατανόηση. Με απλά λόγια, η ΤΝ μπορεί να αναγνωρίσει πρότυπα ή να συνδέσει συμπτώματα με διαγνώσεις, χωρίς όμως να κατανοεί το γιατί, μια επικίνδυνη ψευδαίσθηση αξιοπιστίας.
Όταν οι δοκιμές δείχνουν την αλήθεια
Οι ερευνητές έθεσαν τα συστήματα σε σειρά δοκιμών αντοχής, προκειμένου να μελετήσουν τη συμπεριφορά τους υπό πίεση. Τροποποίησαν δεδομένα, αφαίρεσαν εικόνες και εισήγαγαν παραπλανητικές πληροφορίες για να διαπιστώσουν πόσο "ξυπνα" ήταν στην πράξη.
Τα αποτελέσματα ήταν αποκαλυπτικά:
Η αφαίρεση ιατρικών εικόνων μείωσε δραματικά την ακρίβεια των διαγνώσεων.
Ακόμη και όταν τα δεδομένα είχαν επιμεληθεί από γιατρούς, η απόδοση των μοντέλων παρέμεινε χαμηλή.
Η παραποίηση στοιχείων ή η ανακολουθία μεταξύ εικόνων και πληροφοριών οδήγησε σε κατάρρευση της ακρίβειας.
Επιπλέον, η γραμμική λογική της ΤΝ συχνά παρήγαγε σωστά αποτελέσματα με λανθασμένο σκεπτικό, δηλαδή, απαντήσεις που φαίνονταν σωστές αλλά στηρίζονταν σε λάθος συλλογισμό.
Υψηλές βαθμολογίες, χαμηλή ετοιμότητα
Η μελέτη καταλήγει ότι οι υψηλές επιδόσεις των εργαλείων ΤΝ σε εργαστηριακά τεστ δεν σημαίνουν απαραίτητα ότι είναι έτοιμα για κλινική χρήση. Για να επιτευχθεί πραγματική ασφάλεια και αξιοπιστία, απαιτούνται συστηματικές και αυστηρές δοκιμές αντοχής, οι οποίες θα αξιολογούν πώς λειτουργούν τα συστήματα σε ποικίλες, ρεαλιστικές συνθήκες.
Χωρίς τέτοιο έλεγχο, η τεχνητή νοημοσύνη ενδέχεται να οδηγήσει σε λανθασμένες διαγνώσεις, θέτοντας σε κίνδυνο την υγεία των ασθενών. Όπως τονίζουν οι ερευνητές, η πρόοδος της ΤΝ στην ιατρική πρέπει να συμβαδίζει με την υπευθυνότητα και την κλινική ακρίβεια, γιατί όταν πρόκειται για ανθρώπινες ζωές, η "έξυπνη" τεχνολογία δεν αρκεί να φαίνεται ικανή, πρέπει να είναι πραγματικά αξιόπιστη.
Όλες οι σημαντικές και έκτακτες ειδήσεις σήμερα
Νέο Προσκλητήριο Προσλήψεων Εκπαιδευτών Ενηλίκων: Αφορά όλα τα πτυχία ΑΕΙ-ΤΕΙ - Πιστοποιηθείτε άμεσα
Παν.Πατρών: Tο 1ο στην Ελλάδα Πανεπιστημιακό Πιστοποιητικό ΤΕΧΝΗΤΗΣ ΝΟΗΜΟΣΥΝΗΣ για εκπαιδευτικούς
Πανεπιστήμιο Αιγαίου: Το κορυφαίο πρόγραμμα ειδικής αγωγής στην Ελλάδα - Αιτήσεις έως 13/10
Μοριοδοτούμενο σεμινάριο Ειδικής Αγωγής Πανεπιστημίου Πατρών με μόνο 60 ευρώ
