Η ραγδαία εξάπλωση της τεχνητής νοημοσύνης (AI) στην ιατρική υπόσχεται σημαντικές προόδους στην πρόβλεψη ασθενειών, τη διάγνωση και τη θεραπεία. Ωστόσο, νέα έρευνα από το Τεχνικό Πανεπιστήμιο του Μονάχου (TUM), το Imperial College London και το Ινστιτούτο Hasso Plattner αναδεικνύει ένα κρίσιμο αλλά συχνά υποτιμημένο ζήτημα: την ευπάθεια των ιατρικών μοντέλων AI στην παραβίαση της ιδιωτικότητας των ασθενών.
Η μελέτη, που δημοσιεύθηκε στο επιστημονικό περιοδικό Nature, δείχνει ότι ευαίσθητα δεδομένα υγείας που χρησιμοποιούνται για την εκπαίδευση μοντέλων τεχνητής νοημοσύνης μπορούν, υπό συγκεκριμένες συνθήκες, να ανακτηθούν από τα ίδια τα μοντέλα πολύ πιο εύκολα από ό,τι θεωρούνταν μέχρι σήμερα.
Τι είναι οι επιθέσεις «συμπερασμού μέλους»
Κεντρικός άξονας της έρευνας είναι οι λεγόμενες επιθέσεις συμπερασμού μέλους (Membership Inference Attacks – MIAs). Πρόκειται για μεθόδους που επιτρέπουν σε έναν επιτιθέμενο να διαπιστώσει αν τα δεδομένα ενός συγκεκριμένου ατόμου χρησιμοποιήθηκαν για την εκπαίδευση ενός μοντέλου AI.
Μέχρι πρόσφατα, τα ιατρικά μοντέλα θεωρούνταν σχετικά ασφαλή απέναντι σε τέτοιου είδους επιθέσεις. Η νέα μελέτη όμως καταρρίπτει αυτή την υπόθεση, δείχνοντας ότι οι προηγούμενες αξιολογήσεις κινδύνου υποεκτιμούσαν σημαντικά την πραγματική απειλή.
Όπως εξηγεί ο ερευνητής Moritz Knolle, οι προηγούμενες μετρήσεις εστίαζαν στον μέσο όρο του κινδύνου σε ολόκληρα σύνολα δεδομένων. Ωστόσο, η νέα προσέγγιση εξετάζει τον κίνδυνο σε επίπεδο μεμονωμένου ασθενούς, αποκαλύπτοντας ότι ορισμένα άτομα μπορούν να εντοπιστούν με σχεδόν απόλυτη ακρίβεια.
Πώς μπορεί να συμβεί μια παραβίαση
Οι ερευνητές δοκίμασαν τις επιθέσεις σε επτά διαφορετικά ιατρικά σύνολα δεδομένων, που περιλάμβαναν απεικονιστικές εξετάσεις, ηλεκτροκαρδιογραφήματα και ηλεκτρονικούς ιατρικούς φακέλους.
Για να είναι επιτυχής μια επίθεση MIAs, απαιτούνται τρεις βασικές προϋποθέσεις:
- Πρόσβαση στο εκπαιδευμένο μοντέλο AI, για παράδειγμα μέσω ενός νοσοκομειακού δικτύου ή υπηρεσίας cloud.
- Πρόσβαση σε δεδομένα-στόχο για τα οποία θέλει να εξακριβωθεί αν χρησιμοποιήθηκαν στην εκπαίδευση.
- Δευτερεύουσα υποδομή AI που επιτρέπει τη σύγκριση και ανάλυση παρόμοιων μοντέλων.
Με αυτά τα εργαλεία, ένας επιτιθέμενος θα μπορούσε να εξάγει συμπεράσματα ακόμη και από φαινομενικά «αθώα» δεδομένα, όπως μια απλή εξέταση αίματος, αποκαλύπτοντας έμμεσα ιατρικές πληροφορίες υψηλής ευαισθησίας.
Οι πραγματικές συνέπειες για τους ασθενείς
Οι πιθανές επιπτώσεις δεν είναι θεωρητικές. Οι ερευνητές περιγράφουν σενάρια όπου η αποκάλυψη της συμμετοχής ενός ατόμου σε ιατρικό dataset θα μπορούσε να επηρεάσει την ιδιωτική του ζωή και την οικονομική του κατάσταση.
Για παράδειγμα, ένας επιζών καρκίνου που έχει δώσει δεδομένα για έρευνα θα μπορούσε να αντιμετωπίσει προβλήματα σε μελλοντική αίτηση ασφάλισης, αν ένας τρίτος συνδυάσει πληροφορίες και εξαγάγει συμπεράσματα για το ιατρικό του ιστορικό.
Ακόμη πιο ανησυχητικό είναι το γεγονός ότι οι επιθέσεις φαίνεται να είναι πιο επιτυχημένες σε άτομα που ανήκουν σε υποεκπροσωπούμενες ομάδες στα δεδομένα εκπαίδευσης, ενισχύοντας τον κίνδυνο διακρίσεων μέσω της τεχνητής νοημοσύνης.
Γιατί τα μεγαλύτερα μοντέλα είναι πιο ευάλωτα
Αν και θα περίμενε κανείς ότι τα πιο ισχυρά και σύνθετα μοντέλα AI είναι και πιο ασφαλή, η μελέτη δείχνει το αντίθετο: όσο μεγαλύτερο και πιο πολύπλοκο είναι ένα μοντέλο, τόσο αυξάνεται η πιθανότητα επιτυχίας των επιθέσεων ιδιωτικότητας.
Αυτό δημιουργεί ένα σημαντικό δίλημμα για την ιατρική τεχνητή νοημοσύνη, καθώς η τάση της τεχνολογίας είναι προς ολοένα και μεγαλύτερα μοντέλα για καλύτερη ακρίβεια και απόδοση.
Προτεινόμενες λύσεις και αντίμετρα
Οι ερευνητές δεν περιορίζονται στην καταγραφή του προβλήματος αλλά προτείνουν συγκεκριμένες λύσεις. Ένα από τα βασικά εργαλεία είναι η λεγόμενη διαφορική ιδιωτικότητα, μια τεχνική που προσθέτει ελεγχόμενο «θόρυβο» στα δεδομένα εκπαίδευσης, δυσκολεύοντας την αναγνώριση μεμονωμένων ασθενών χωρίς να επηρεάζεται η συνολική απόδοση του μοντέλου.
Επιπλέον, τονίζεται η ανάγκη για αυστηρότερο έλεγχο πρόσβασης στα εκπαιδευμένα μοντέλα και για αξιολόγηση κινδύνου σε επίπεδο μεμονωμένου ασθενούς πριν από την ευρεία χρήση τέτοιων συστημάτων στην κλινική πράξη.
Ένα νέο πεδίο ευθύνης στην ιατρική AI
Η μελέτη αναδεικνύει ότι η πρόοδος στην ιατρική τεχνητή νοημοσύνη πρέπει να συνοδεύεται από αντίστοιχη πρόοδο στην ασφάλεια και την προστασία δεδομένων. Η ιδέα ότι τα ιατρικά δεδομένα «ανωνυμοποιούνται πλήρως» όταν χρησιμοποιούνται για εκπαίδευση μοντέλων φαίνεται πλέον ανεπαρκής.
Καθώς η AI ενσωματώνεται όλο και περισσότερο στα συστήματα υγείας, η προστασία της ιδιωτικότητας δεν αποτελεί πλέον δευτερεύον τεχνικό ζήτημα, αλλά θεμελιώδη προϋπόθεση εμπιστοσύνης μεταξύ ασθενών, γιατρών και τεχνολογίας.
Η πρόκληση για το μέλλον είναι σαφής: η ιατρική τεχνητή νοημοσύνη πρέπει να γίνει όχι μόνο πιο έξυπνη, αλλά και ουσιαστικά πιο ασφαλής για τους ανθρώπους που βασίζονται σε αυτήν.
