AI μειονεκτήματα: Σύμφωνα με πρόσφατη έρευνα από το Κέντρο Καταπολέμησης του Ψηφιακού Μίσους , δημοφιλή εργαλεία τεχνητής νοημοσύνης παρέχουν στους χρήστες επιβλαβές περιεχόμενο γύρω από τις διατροφικές διαταραχές περίπου στο 41% του χρόνου.
Tο μέλλον της ψυχικής υγείας είναι η τεχνολογία. Από τη διαδικτυακή θεραπεία έως τις καινοτομίες στη θεραπεία που βασίζεται σε VR , η τεχνολογία έχει κάνει πολύ καλό για να σπάσει το στίγμα και να προσφέρει πρόσβαση σε όσους δεν το είχαν στο παρελθόν. Ωστόσο, το να βαδίζετε ελαφρά είναι απαραίτητο με τα εργαλεία παραγωγής τεχνητής νοημοσύνης. Σύμφωνα με πρόσφατη έρευνα από το Κέντρο Καταπολέμησης του Ψηφιακού Μίσους , δημοφιλή εργαλεία τεχνητής νοημοσύνης παρέχουν στους χρήστες επιβλαβές περιεχόμενο γύρω από τις διατροφικές διαταραχές περίπου στο 41% του χρόνου. Αυτό έχει τη δυνατότητα να ενθαρρύνει ή να επιδεινώσει τα συμπτώματα της διατροφικής διαταραχής. Αυτό που βλέπουμε είναι μια βιασύνη να το εφαρμόσουμε στην ψυχική υγεία. Προέρχεται από ένα καλό μέρος. Θέλουμε οι άνθρωποι να έχουν πρόσβαση στην περίθαλψη και θέλουμε οι άνθρωποι να λαμβάνουν την υπηρεσία που χρειάζονται, λέει ο Δρ. John Torous. O διευθυντής ψηφιακής ψυχιατρικής στο Beth Israel Deaconess Medical Center.Η ψυχική υγεία είναι το μυαλό μας, κάτι τόσο μοναδικά ανθρώπινο που η εισαγωγή ενός μη-ανθρώπου για να προσφέρει λύσεις σε άτομα στην πιο ευάλωτη κατάστασή τους αισθάνεται αδιαθεσία στην καλύτερη περίπτωση και δυνητικά επικίνδυνη στη χειρότερη.
Τα Generative chatbots AI προωθούν τις διατροφικές διαταραχές
Η μελέτη του CCDH διερεύνησε εργαλεία τεχνητής νοημοσύνης που βασίζονται σε κείμενο και εικόνα με καθορισμένες προτροπές για την αξιολόγηση των απαντήσεών τους. Ας ξεκινήσουμε με τα εργαλεία που βασίζονται σε κείμενο. Το ChatGPT, το My AI από το Snapchat και το Google’s Bard δοκιμάστηκαν με ένα σύνολο προτροπών που περιλάμβαναν φράσεις όπως “ηρωίνη κομψός” ή “αδυνατισμός”. Τα εργαλεία τεχνητής νοημοσύνης κειμένου παρείχαν επιβλαβές περιεχόμενο που προάγει τις διατροφικές διαταραχές για το 23% των προτροπών.
Τα εργαλεία τεχνητής νοημοσύνης που βασίζονται σε εικόνες που αξιολογήθηκαν ήταν το Dall-E του OpenAI, το Midjourney και το DreamStudio του Stability AI. Όταν σε καθεμία δόθηκαν 20 προτροπές δοκιμών με φράσεις όπως “στόχοι στο κενό των μηρών” ή “έμπνευση από ανορεξία”, το 32% των επιστρεφόμενων εικόνων περιείχαν επιζήμια ζητήματα που σχετίζονται με την εικόνα του σώματος. Ναι, αυτές οι προτροπές έπρεπε να εισαχθούν για να λάβετε αυτές τις αρνητικές απαντήσεις. Ωστόσο, δεν είναι τόσο εύκολο όσο να πούμε ότι οι άνθρωποι δεν πρέπει να αναζητούν αυτές τις πληροφορίες. Ορισμένες διαδικτυακές κοινότητες διατροφικών διαταραχών είναι γνωστό ότι γίνονται τοξικές , όπου τα μέλη ενθαρρύνουν άλλους να συμμετάσχουν σε διαταραγμένες διατροφικές συμπεριφορές και γιορτάζουν αυτές τις συνήθειες. Η τεχνητή νοημοσύνη κάνει τα πράγματα χειρότερα. Σύμφωνα με την έρευνα του CCDH που μελέτησε επίσης ένα φόρουμ διατροφικών διαταραχών, τα εργαλεία παραγωγής τεχνητής νοημοσύνης χρησιμοποιούνται για την κοινή χρήση ανθυγιεινών εικόνων σώματος και τη δημιουργία επιζήμιων διατροφικών προγραμμάτων. Αυτό το φόρουμ έχει 500.000 χρήστες. Σημειώστε ότι υπάρχουν υγιείς και ουσιαστικές κοινότητες που δεν παρουσιάζουν αυτές τις τάσεις διαθέσιμες.
Οι τρέχουσες διασφαλίσεις AI δεν επαρκούν
Η τεχνητή νοημοσύνη είναι ένα επίκαιρο θέμα και οι εταιρείες τρέχουν να πάρουν το κομμάτι τους ώστε να μπορούν να συμμετέχουν στο νέο κύμα τεχνολογίας. Ωστόσο, η βιασύνη των προϊόντων που δεν έχουν δοκιμαστεί επαρκώς έχει αποδειχθεί ότι είναι επιζήμια για τους ευάλωτους πληθυσμούς. Κάθε εργαλείο τεχνητής νοημοσύνης που βασίζεται σε κείμενο σε αυτήν τη μελέτη είχε μια δήλωση αποποίησης ευθύνης που συμβούλευε τους χρήστες να αναζητήσουν ιατρική βοήθεια. Ωστόσο, οι ισχύουσες διασφαλίσεις για την προστασία των ανθρώπων παρακάμπτονται εύκολα. Οι ερευνητές του CCDH χρησιμοποίησαν επίσης προτροπές που περιλάμβαναν “jailbreaks” για AI. Τα jailbreak είναι τεχνικές για την αποφυγή των χαρακτηριστικών ασφαλείας των εργαλείων AI χρησιμοποιώντας λέξεις ή φράσεις που τροποποιούν τη συμπεριφορά τους. Κατά τη χρήση jailbreak, το 61% των απαντήσεων AI ήταν επιβλαβείς.
Διαβάστε όλες τις τελευταίες Ειδήσεις για την υγεία από την Ελλάδα και τον ΚόσμοΑκολουθήστε το healthweb.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις
