Η τεχνητή νοημοσύνη στο χειρουργείο: Αναφορές για αποτυχημένες επεμβάσεις και λάθη αλγόριθμων

Η τεχνητή νοημοσύνη (AI) έκανε θεαματική είσοδο στον τομέα της υγείας υποσχέθηκε μια νέα εποχή ακρίβειας και ασφάλειας. Ωστόσο, καθώς οι κατασκευαστές ιατρικών συσκευών σπεύδουν να ενσωματώσουν αλγορίθμους στα προϊόντα τους, αποκαλύπτονται λειτουργικά σφάλματα που έχουν επιπτώσεις στην υγεία των ασθενών.

Από το 2021, ο αριθμός των εγκεκριμένων από τον Οργανισμό Τροφίμων και Φαρμάκων των ΗΠΑ – FDA ιατρικών συσκευών, που χρησιμοποιούν την τεχνολογία AI έχει διπλασιαστεί, φτάνοντας τις 1.357.

Μαζί με την εξάπλωση αυτή, όμως, ήρθαν και οι καταγγελίες για σοβαρές επιπλοκές: από εγκεφαλικά επεισόδια κατά τη διάρκεια επεμβάσεων στα ιγμόρεια, μέχρι καρδιογραφήματα που «αγνοούν» αρρυθμίες και υπερήχους που αναγνωρίζουν λάθος μέλη του εμβρύου.

• Διαβάστε επίσης: Τεχνητή νοημοσύνη εντοπίζει εκτεταμένη παραποίηση δεδομένων σε μελέτες για τον καρκίνο

Τεχνητή νοημοσύνη και επιπλοκές σε επεμβάσεις στα ιγμόρεια

Η περίπτωση τσυσκευής AI μεγάλης εταιρείας στις ΗΠΑ είναι χαρακτηριστική. Το 2021, η εταιρεία πρόσθεσε τεχνητή νοημοσύνη στο σύστημα πλοήγησης χειρουργικής συσκευής, το οποίο βοηθά τους χειρουργούς ωτορινολαρυγγολόγους να καθοδηγούν τα εργαλεία τους μέσα στον εγκέφαλο του ασθενούς.

Πριν από την προσθήκη της AI, ο FDA είχε λάβει μόλις επτά αναφορές δυσλειτουργίας σε τρία χρόνια. Μετά την ενσωμάτωση του αλγορίθμου μηχανικής μάθησης, οι αναφορές εκτοξεύθηκαν σε τουλάχιστον 100. Μεταξύ 2021 και 2025, τουλάχιστον 10 άνθρωποι τραυματίστηκαν, με το σύστημα φαινομενικά να δίνει λανθασμένες πληροφορίες για τη θέση των εργαλείων.

Σε μια αγωγή που κατατέθηκε στο Τέξας, η Erin Ralph, μητέρα τεσσάρων παιδιών, περιγράφει πώς μια επέμβαση ρουτίνας κατέληξε σε εγκεφαλικό επεισόδιο.

«Βρίσκονται ακόμα σε θεραπεία. Είναι δύσκολο να περπατήσω χωρίς νάρθηκα και να κάνω το αριστερό μου χέρι να λειτουργήσει ξανά», δήλωσε η Ralph σε συνέντευξή της, έναν χρόνο μετά το περιστατικό όπου ο χειρουργός φέρεται να τραυμάτισε την καρωτίδα της, καθοδηγούμενος λανθασμένα από το σύστημα.

Η παρασκευάστρια εταιρεία, από την πλευρά της, αρνείται κάθε ευθύνη, δηλώνοντας στο Reuters:

«Δεν υπάρχουν αξιόπιστα στοιχεία που να αποδεικνύουν οποιαδήποτε αιτιώδη συνάφεια μεταξύ του συστήματος πλοήγησης TruDi, της τεχνολογίας AI και οποιωνδήποτε φερόμενων τραυματισμών».

Οι αριθμοί που προκαλούν ανησυχία

Η ταχύτητα με την οποία η AI εισέρχεται στην αγορά φαίνεται να ξεπερνά τους μηχανισμούς ελέγχου. Σύμφωνα με πρόσφατη μελέτη ερευνητών από τα πανεπιστήμια Johns Hopkins, Georgetown και Yale:

• 60 ιατρικές συσκευές AI που είχαν εγκριθεί από τον FDA συνδέθηκαν με 182 ανακλήσεις προϊόντων.
• Το 43% των ανακλήσεων συνέβη λιγότερο από έναν χρόνο μετά την έγκρισή τους.
• Το ποσοστό ανάκλησης των συσκευών AI είναι περίπου διπλάσιο από εκείνο των συμβατικών συσκευών που εγκρίνονται με παρόμοιους κανόνες.

Παράλληλα, οι αναφορές στον FDA δεν περιορίζονται μόνο σε χειρουργικά εργαλεία. Τον Ιούνιο του 2025, μια αναφορά για  λογισμικό άλλης μεγάλης εταιρείας τεχνολογίας ανέφερε ότι ο αλγόριθμος AI «είναι ελαττωματικός και επισημαίνει λανθασμένα μέλη του εμβρύου σε ενδομήτριες εξετάσεις».

Αντίστοιχα, τουλάχιστον 16 αναφορές αφορούσαν καρδιογράφους, οι οποίοι φέρεται να απέτυχαν να αναγνωρίσουν μη φυσιολογικούς ρυθμούς της καρδιάς, αν και η εταιρεία υποστηρίζει ότι δεν υπήρξε βλάβη σε ασθενή.

Τεχνητή νοημοσύνη: Η αποδυνάμωση του FDA

Η έκρηξη της AI συμπίπτει με μια περίοδο κρίσης για τον FDA. Σύμφωνα με πέντε νυν και πρώην επιστήμονες της υπηρεσίας, η υπηρεσία δυσκολεύεται να παρακολουθήσει τον καταιγισμό νέων αιτήσεων αφού έχασε βασικό προσωπικό.

Στις αρχές του 2025, η κυβέρνηση Τραμπ άρχισε να αποδομεί την ομάδα AI του FDA στο πλαίσιο της εκστρατείας περικοπών του Elon Musk (DOGE). Περίπου 15 από τους 40 επιστήμονες AI της μονάδας DIDSR απολύθηκαν ή αποχώρησαν, ενώ το Κέντρο Αριστείας Ψηφιακής Υγείας έχασε το ένα τρίτο του προσωπικού του.

«Ορισμένοι ανώτεροι ρυθμιστές δεν έχουν ιδέα πώς λειτουργούν αυτές οι τεχνολογίες. Καθόμασταν δίπλα τους και τους εξηγούσαμε γιατί πιστεύουμε ότι αυτή η τεχνολογία είναι ασφαλής ή μη ασφαλής για χρήση στην αγορά», δήλωσε πρώην υπάλληλος του FDA.

Η μείωση του προσωπικού σημαίνει ότι ο φόρτος εργασίας διπλασιάστηκε για όσους απέμειναν. Όπως προειδοποιεί ο Δρ. Alexander Everhart από το Πανεπιστήμιο της Ουάσινγκτον:

«Νομίζω ότι η παραδοσιακή προσέγγιση του FDA για τη ρύθμιση των ιατρικών συσκευών δεν είναι επαρκής για να διασφαλίσει ότι οι τεχνολογίες που βασίζονται στην AI είναι ασφαλείς και αποτελεσματικές. Βασιζόμαστε στους κατασκευαστές για να κάνουν καλή δουλειά… Δεν ξέρω αν αυτά που υπάρχουν στον FDA αποτελούν ουσιαστικά προστατευτικά κιγκλιδώματα».

Έτσι, ενώ η τεχνητή νομοσύνη υπόσχεται να σώσει ζωές μέσω της έγκαιρης διάγνωσης καρκίνου ή της απλούστευσης πολύπλοκων επεμβάσεων, η τρέχουσα «κούρσα εξοπλισμών» μεταξύ των εταιρειών τεχνολογίας φαίνεται να παρακάμπτει την ασφάλεια.

Η έλλειψη κλινικών δοκιμών για τις περισσότερες συσκευές AI —καθώς ο FDA επιτρέπει την κυκλοφορία τους ως «ενημερώσεις» παλαιότερων συσκευών— δημιουργεί ένα κενό ασφαλείας που, σε κάποιες περιπτώσεις, αποβαίνει μοιραίο.

Πηγή: Reuters