Search Icon
ΑΝΑΖΗΤΗΣΗ
Τεχνολογία

AI: Τα μοντέλα που αναλύουν ιατρικές εικόνες είναι προκατειλημμένα;

AI: Τα μοντέλα που αναλύουν ιατρικές εικόνες είναι προκατειλημμένα;

AI: Τα μοντέλα τεχνητής νοημοσύνης μπορούν να κάνουν ακριβείς προβλέψεις σχετικά με τη φυλή ενός ασθενούς από τις ακτινογραφίες θώρακα - κάτι που δεν μπορούν να κάνουν οι πιο εξειδικευμένοι ακτινολόγοι.

Τα μοντέλα τεχνητής νοημοσύνης συχνά παίζουν ρόλο στις ιατρικές διαγνώσεις, ειδικά όταν πρόκειται για την ανάλυση εικόνων όπως οι ακτίνες Χ. Ωστόσο, μελέτες έχουν δείξει ότι αυτά τα μοντέλα δεν έχουν πάντα καλή απόδοση σε όλες τις δημογραφικές ομάδες, συνήθως χειρότερα στις γυναίκες και στους έγχρωμους. Αυτά τα μοντέλα έχει επίσης αποδειχθεί ότι αναπτύσσουν μερικές εκπληκτικές ικανότητες. Το 2022, ερευνητές του MIT ανέφεραν ότι τα μοντέλα τεχνητής νοημοσύνης μπορούν να κάνουν ακριβείς προβλέψεις σχετικά με τη φυλή ενός ασθενούς από τις ακτινογραφίες θώρακα – κάτι που δεν μπορούν να κάνουν οι πιο εξειδικευμένοι ακτινολόγοι.

Αυτή η ερευνητική ομάδα ανακάλυψε τώρα ότι τα μοντέλα που είναι πιο ακριβή στο να κάνουν δημογραφικές προβλέψεις εμφανίζουν επίσης τα μεγαλύτερα «κενά δικαιοσύνης»—δηλαδή, αποκλίσεις στην ικανότητά τους να διαγιγνώσκουν με ακρίβεια εικόνες ανθρώπων διαφορετικής φυλής ή φύλου. Τα ευρήματα υποδηλώνουν ότι αυτά τα μοντέλα μπορεί να χρησιμοποιούν «δημογραφικές συντομεύσεις» όταν κάνουν τις διαγνωστικές τους αξιολογήσεις, οι οποίες οδηγούν σε εσφαλμένα αποτελέσματα για τις γυναίκες, τους μαύρους και άλλες ομάδες, λένε οι ερευνητές.

“Είναι αποδεδειγμένο ότι τα μοντέλα μηχανικής μάθησης υψηλής χωρητικότητας είναι καλοί προγνωστικοί παράγοντες των ανθρώπινων δημογραφικών στοιχείων, όπως η αυτοαναφερόμενη φυλή ή φύλο ή ηλικία. Αυτό το έγγραφο επιδεικνύει εκ νέου αυτήν την ικανότητα και στη συνέχεια συνδέει αυτή την ικανότητα με την έλλειψη απόδοσης σε διάφορα ομάδες, κάτι που δεν έχει γίνει ποτέ», λέει η Marzyeh Ghassemi, αναπληρώτρια καθηγήτρια Ηλεκτρολόγων Μηχανικών και Επιστήμης Υπολογιστών στο MIT, μέλος του Ινστιτούτου Ιατρικής Μηχανικής και Επιστήμης του MIT, και ο ανώτερος συγγραφέας της μελέτης.

Οι ερευνητές ανακάλυψαν επίσης ότι θα μπορούσαν να εκπαιδεύσουν εκ νέου τα μοντέλα με τρόπο που βελτιώνει τη δικαιοσύνη τους. Ωστόσο, η προσέγγισή τους για την «αποκατάληψη» λειτούργησε καλύτερα όταν τα μοντέλα δοκιμάστηκαν στους ίδιους τύπους ασθενών στους οποίους εκπαιδεύτηκαν, όπως ασθενείς από το ίδιο νοσοκομείο. Όταν αυτά τα μοντέλα εφαρμόστηκαν σε ασθενείς από διαφορετικά νοσοκομεία, τα κενά δικαιοσύνης επανεμφανίστηκαν.

“Πιστεύω ότι οι κύριες λύσεις είναι, πρώτον, ότι θα πρέπει να αξιολογήσετε διεξοδικά τυχόν εξωτερικά μοντέλα με τα δικά σας δεδομένα, επειδή οποιαδήποτε δίκαιη εγγύηση που παρέχουν οι προγραμματιστές μοντέλων στα δεδομένα εκπαίδευσής τους ενδέχεται να μην μεταφερθούν στον πληθυσμό σας. Δεύτερον, όποτε υπάρχουν επαρκή δεδομένα, θα πρέπει να εκπαιδεύστε μοντέλα με τα δικά σας δεδομένα», λέει ο Haoran Zhang, μεταπτυχιακός φοιτητής του MIT και ένας από τους κύριους συγγραφείς της νέας εργασίας.

Ο μεταπτυχιακός φοιτητής του MIT Yuzhe Yang είναι επίσης ο κύριος συγγραφέας της εργασίας, η οποία θα εμφανιστεί στο Nature Medicine. Η Judy Gichoya, αναπληρώτρια καθηγήτρια ακτινολογίας και επιστημών απεικόνισης στην Ιατρική Σχολή του Πανεπιστημίου Emory, και η Dina Katabi, η Thuan and Nicole Pham Καθηγήτρια Ηλεκτρολόγων Μηχανικών και Επιστήμης Υπολογιστών στο MIT, είναι επίσης συγγραφείς της εργασίας.

Αφαίρεση μεροληψίας

Από τον Μάιο του 2024, η FDA ενέκρινε 882 ιατρικές συσκευές με δυνατότητα AI, με 671 από αυτές να έχουν σχεδιαστεί για χρήση στην ακτινολογία. Από το 2022, όταν η Ghassemi και οι συνεργάτες της έδειξαν ότι αυτά τα διαγνωστικά μοντέλα μπορούν να προβλέψουν με ακρίβεια τη φυλή, αυτοί και άλλοι ερευνητές έχουν δείξει ότι τέτοια μοντέλα είναι επίσης πολύ καλά στην πρόβλεψη του φύλου και της ηλικίας, παρόλο που τα μοντέλα δεν είναι εκπαιδευμένα σε αυτές τις εργασίες.

“Πολλά δημοφιλή μοντέλα μηχανικής μάθησης έχουν υπεράνθρωπη δημογραφική ικανότητα πρόβλεψης – οι ακτινολόγοι δεν μπορούν να ανιχνεύσουν τη φυλή που αναφέρουν οι ίδιοι από μια ακτινογραφία θώρακος”, λέει ο Ghassemi. «Αυτά είναι μοντέλα που είναι καλά στην πρόβλεψη ασθενειών, αλλά κατά τη διάρκεια της εκπαίδευσης μαθαίνουν να προβλέπουν άλλα πράγματα που μπορεί να μην είναι επιθυμητά».

Σε αυτή τη μελέτη, οι ερευνητές ξεκίνησαν να διερευνήσουν γιατί αυτά τα μοντέλα δεν λειτουργούν το ίδιο καλά για ορισμένες ομάδες. Συγκεκριμένα, ήθελαν να δουν εάν τα μοντέλα χρησιμοποιούσαν δημογραφικές συντομεύσεις για να κάνουν προβλέψεις που τελικά ήταν λιγότερο ακριβείς για ορισμένες ομάδες. Αυτές οι συντομεύσεις μπορούν να προκύψουν σε μοντέλα τεχνητής νοημοσύνης όταν χρησιμοποιούν δημογραφικά χαρακτηριστικά για να καθορίσουν εάν υπάρχει μια ιατρική πάθηση, αντί να βασίζονται σε άλλα χαρακτηριστικά των εικόνων.

Χρησιμοποιώντας δημόσια διαθέσιμα σύνολα δεδομένων ακτίνων Χ θώρακος από το Beth Israel Deaconess Medical Center στη Βοστώνη, οι ερευνητές εκπαίδευσαν μοντέλα για να προβλέψουν εάν οι ασθενείς είχαν μία από τις τρεις διαφορετικές ιατρικές καταστάσεις: συσσώρευση υγρού στους πνεύμονες, κατάρρευση πνεύμονα ή διεύρυνση της καρδιάς. Στη συνέχεια, δοκίμασαν τα μοντέλα σε ακτίνες Χ που συγκρατήθηκαν από τα δεδομένα εκπαίδευσης.

Συνολικά, τα μοντέλα είχαν καλή απόδοση, αλλά τα περισσότερα από αυτά εμφάνιζαν «κενά δικαιοσύνης»—δηλαδή, αποκλίσεις μεταξύ των ποσοστών ακρίβειας για άνδρες και γυναίκες και για λευκούς και μαύρους ασθενείς. Τα μοντέλα ήταν επίσης σε θέση να προβλέψουν το φύλο, τη φυλή και την ηλικία των ατόμων με ακτίνες Χ. Επιπλέον, υπήρχε σημαντική συσχέτιση μεταξύ της ακρίβειας κάθε μοντέλου στη δημιουργία δημογραφικών προβλέψεων και του μεγέθους του χάσματος δικαιοσύνης.

 

Διαβάστε όλες τις τελευταίες Ειδήσεις για την υγεία από την Ελλάδα και τον Κόσμο
Ακολουθήστε το healthweb.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις
Ακολουθήστε το healthweb.gr στο κανάλι μας στο YouTube

Διαβάστε Eπίσης:

Ο μετασχηματιστικός ρόλος των ρομπότ στην ιατρική

AI όραση: Υπερ-ανθρώπινο μάτι σχεδιάζει την πολύχρωμη καλωδίωση του εγκεφάλου

Με την ΑΙ οι γιατροί μπορεί σύντομα να είναι σε θέση να ανιχνεύσουν καρκίνο σε ασθενείς

Χατζηχριστοδούλου στο healthweb: Αναβαθμίζονται οι υπηρεσίες του ΕΟΔΥ με πρόγραμμα από το RRF 4ων εκατομμυρίων ευρώ

svg%3E svg%3E
svg%3E
svg%3E
Περισσότερα

Φορετές συσκευές: Η νέα επανάσταση στη φροντίδα κρίσιμων καταστάσεων

Φορετές συσκευές: Οι φορετές συσκευές αλλάζουν την εικόνα της φροντίδας κρίσιμων καταστάσεων, προσφέροντας καινοτόμες λύσεις για την παρακολούθηση και διαχείριση ασθενών.

AI στην Υγεία: Πώς χρησιμοποιείται και μελλοντικές προοπτικές

AI στην Υγεία: Είναι σημαντικό να θυμόμαστε ότι η ιδέα ενός συνειδητού και συνειδητοποιημένου AI ικανού να προσφέρει υγειονομική περίθαλψη από μόνο του εξακολουθεί να είναι επιστημονική φαντασία.

Τεχνητή νοημοσύνη: Πώς επαναστατεί στη διάγνωση και θεραπεία οφθαλμικών παθήσεων

Τεχνητή νοημοσύνη: Οι πρόοδοι στην τεχνητή νοημοσύνη αλλάζουν πολλές περιοχές, και μία από τις πιο υποσχόμενες εφαρμογές της είναι η βελτίωση της φροντίδας της όρασης.

Φωτισμένοι νευρώνες: Οδηγώντας την έρευνα στη νευρολογία με τη βιοφωταυγή οπτογενετική

Φωτισμένοι νευρώνες: Οι τελευταίες εξελίξεις στη νευροεπιστήμη ανοίγουν νέους δρόμους για την κατανόηση και την αντιμετώπιση εγκεφαλικών διαταραχών, με μία από τις πιο καινοτόμες μεθόδους να είναι η βιοφωταυγή οπτογενετική.

Ο Καναδάς και η Αυστραλία περιορίζουν την αγορά βλαστοκυττάρων

Γενετική: Παρακολουθώντας την ηλεκτρονική αγορά για μια περίοδο πέντε ετών, οι ερευνητές διαπίστωσαν ότι το 60% των επιχειρήσεων στον Καναδά και την Αυστραλία σταμάτησαν τη διαφήμιση απευθείας στον καταναλωτή.

Close Icon