Τα chatbots τεχνητής νοημοσύνης (AI chatbots) αλλάζουν ριζικά τον τρόπο με τον οποίο σκεφτόμαστε, μαθαίνουμε και αντιλαμβανόμαστε τον κόσμο γύρω μας. Ωστόσο, ένας από τους πιο ευαίσθητους και συχνά προβληματικούς τομείς της καθημερινότητάς μας, είναι η αυξανόμενη χρήση εργαλείων γενετικής τεχνητής νοημοσύνης (GenAI) για θέματα υγείας, όπως προειδοποιεί η παγκόσμια εταιρεία κυβερνοασφάλειας ESET.
H «παγίδα» της αυτοδιάγνωσης
Τα AI chatbots μπορούν σίγουρα να αποτελέσουν χρήσιμα εργαλεία για την προετοιμασία μιας ιατρικής επίσκεψης, την κατανόηση ενός δύσκολου ιατρικού όρου ή τη διαμόρφωση των κατάλληλων ερωτήσεων προς τον γιατρό σας.
Ωστόσο, υπάρχουν σημαντικοί κίνδυνοι όταν ένα εργαλείο τεχνητής νοημοσύνης καλείται να αναλάβει τον ρόλο του γιατρού. Το πρόβλημα δεν περιορίζεται μόνο στην πιθανότητα λανθασμένων συμβουλών. Οι χρήστες ενδέχεται να μοιραστούν εξαιρετικά ευαίσθητες προσωπικές πληροφορίες με συστήματα των οποίων οι διαδικασίες προστασίας της ιδιωτικότητας, οι πρακτικές διαχείρισης δεδομένων και οι νομικές υποχρεώσεις διαφέρουν πλήρως από εκείνες ενός γιατρού ή ενός νοσοκομείου. Ως αποτέλεσμα, τα δεδομένα τους μπορεί να καταλήξουν σε άγνωστους φορείς ή να εκτεθούν σε τρίτους.
Τι αποκαλύπτει η μελέτη της Οξφόρδης
Μελέτη του Πανεπιστημίου της Οξφόρδης, που δημοσιεύθηκε στο περιοδικό Nature Medicine, διαπίστωσε τρία βασικά προβλήματα στη χρήση των Μεγάλων Γλωσσικών Μοντέλων (LLMs) από τους ασθενείς:
- Άγνοια κινδύνου: Οι χρήστες συχνά δεν γνώριζαν ποιες πληροφορίες έπρεπε ή δεν έπρεπε να μοιραστούν με τα μοντέλα.
- Ασυνέπεια απαντήσεων: Τα LLMs έδιναν πολύ διαφορετικές απαντήσεις ακόμη και όταν οι ερωτήσεις διέφεραν ελάχιστα.
- Μίξη αλήθειας και λάθους: Παρείχαν συχνά έναν συνδυασμό σωστών και λανθασμένων συμβουλών, με αποτέλεσμα οι χρήστες να δυσκολεύονται να διακρίνουν τη διαφορά.
Το «χρυσάφι» των χάκερς: Γιατί στοχοποιούνται τα ιατρικά δεδομένα
Υπάρχουν όμως και κίνδυνοι που δεν σχετίζονται άμεσα με την υγεία, αλλά με την ασφάλεια. Ο πιο προφανής είναι ότι η κοινοποίηση ευαίσθητων ιατρικών πληροφοριών σε ένα chatbot, μπορεί να οδηγήσει στη χρήση αυτών των δεδομένων για την εκπαίδευση μελλοντικών μοντέλων ή ακόμη και στη διαρροή τους. Έχουν ήδη καταγραφεί περιπτώσεις κατά τις οποίες AI μοντέλα αποκάλυψαν δημόσια δεδομένα που είχαν δώσει προηγούμενοι χρήστες τους.
Παράλληλα, η ESET προειδοποιεί πως όταν ευαίσθητα δεδομένα διακινούνται μεταξύ πολλών οργανισμών, αυξάνεται κατακόρυφα η πιθανότητα να πέσουν θύματα κυβερνοεπιθέσεων. Τα δεδομένα υγείας είναι ιδιαίτερα πολύτιμα για τους απατεώνες του σκοτεινού διαδικτύου (dark web) επειδή:
- Έχουν μόνιμη αξία: Δεν μπορούν να αντικατασταθούν ή να επανεκδοθούν (όπως μια πιστωτική κάρτα).
- Επιτρέπουν την απάτη: Περιλαμβάνουν ασφαλιστικές πληροφορίες που επιτρέπουν την υποβολή ψευδών αιτήσεων αποζημίωσης ή τη λήψη ιατρικών υπηρεσιών στο όνομα του θύματος.
- Αποτελούν μέσο εκβιασμού: Μπορούν να χρησιμοποιηθούν για ψηφιακό εκβιασμό (blackmail) ή άλλες μορφές απάτης.
Σαν να μην έφτανε αυτό, πολλά εργαλεία τεχνητής νοημοσύνης στον χώρο της Υγείας δεν υπάγονται στους αυστηρούς κανονισμούς προστασίας προσωπικών δεδομένων (όπως το HIPAA στις ΗΠΑ). Αυτό σημαίνει ότι οι πάροχοί τους δεν δεσμεύονται από τις νομικές απαιτήσεις προστασίας που θα είχε ένας επίσημος οργανισμός υγείας.
Οδηγός επιβίωσης για ασθενείς: Πώς να προστατευτείτε
Η ESET συμβουλεύει τους ασθενείς να αποφεύγουν τα chatbots γενικής χρήσης και να προτιμούν εργαλεία που έχουν σχεδιαστεί αποκλειστικά για ιατρικές ερωτήσεις.
Πριν χρησιμοποιήσετε οποιαδήποτε υπηρεσία, ελέγξτε αν εξηγεί ξεκάθαρα:
- Πώς διαχειρίζεται τα δεδομένα του χρήστη.
- Αν χρησιμοποιεί τις ερωτήσεις σας για την εκπαίδευση των μοντέλων της.
- Αν κοινοποιεί πληροφορίες σε τρίτους.
Βασικοί κανόνες ψηφιακής προστασίας
- Όχι σε ευαίσθητα αρχεία: Μην ανεβάζετε ποτέ ιατρικά έγγραφα, αποτελέσματα εξετάσεων ή διαγνώσεις.
- Κρατήστε την ανωνυμία σας: Αποφύγετε να δίνετε ονόματα, διευθύνσεις, στοιχεία ασφάλισης ή αριθμούς μητρώου ασθενών.
- Κλείστε το ιστορικό: Βεβαιωθείτε ότι οι λειτουργίες εκπαίδευσης και αποθήκευσης ιστορικού συνομιλιών είναι απενεργοποιημένες στις ρυθμίσεις της εφαρμογής.
- Μην εμπιστεύεστε τυφλά τη μηχανή: Μην αντιμετωπίζετε την απάντηση ενός chatbot ως επίσημη διάγνωση και μην αγνοείτε πραγματικά συμπτώματα επειδή μια οθόνη σάς έδωσε μια καθησυχαστική απάντηση.
«Η τεχνητή νοημοσύνη μπορεί να συμπληρώσει την ανθρώπινη ιατρική κρίση, αλλά δεν μπορεί σε καμία περίπτωση να την αντικαταστήσει», καταλήγει η ESET.
ΠΗΓΗ: ΑΠΕ – ΜΠΕ
Φωτογραφία:istock