Η ραγδαία εξάπλωση της γενετικής τεχνητής νοημοσύνης έχει δημιουργήσει τεράστιες δυνατότητες σε τομείς όπως η δημιουργία εικόνων, η εκπαίδευση, η ψυχαγωγία και η επιστήμη. Ωστόσο, η ίδια τεχνολογία μπορεί να χρησιμοποιηθεί και για κακόβουλους σκοπούς, δημιουργώντας σοβαρές προκλήσεις για την ασφάλεια, ιδιαίτερα όταν αφορά την προστασία των παιδιών.
Μια νέα ερευνητική προσπάθεια από το Ινστιτούτο Τεχνολογίας της Μασαχουσέτης (MIT) φιλοδοξεί να αντιμετωπίσει ένα από τα πιο δύσκολα προβλήματα της εποχής της τεχνητής νοημοσύνης: τον εντοπισμό μοντέλων που έχουν τροποποιηθεί ώστε να παράγουν παράνομο ή επικίνδυνο περιεχόμενο, χωρίς να χρειάζεται να δημιουργηθεί πρώτα το ίδιο το επιβλαβές υλικό.
Η σκοτεινή πλευρά της γενετικής τεχνητής νοημοσύνης
Τα μοντέλα τεχνητής νοημοσύνης ανοιχτού κώδικα έχουν γίνει ιδιαίτερα δημοφιλή, επειδή επιτρέπουν σε ερευνητές, επιχειρήσεις και χρήστες να τα προσαρμόζουν στις ανάγκες τους.
Μέσω διαδικασιών όπως το fine-tuning (εξειδίκευση μοντέλου), ένα γενικό μοντέλο μπορεί να εκπαιδευτεί ώστε να δημιουργεί συγκεκριμένα είδη εικόνων ή κειμένων.
Για παράδειγμα, ένα μοντέλο μπορεί να προσαρμοστεί ώστε να δημιουργεί εικόνες σε συγκεκριμένο καλλιτεχνικό ύφος. Όμως η ίδια τεχνολογία μπορεί να χρησιμοποιηθεί από κακόβουλους χρήστες για τη δημιουργία:
- ρητορικής μίσους,
- παραπλανητικών deepfakes,
- παράνομου σεξουαλικού περιεχομένου,
- υλικού σεξουαλικής κακοποίησης παιδιών (CSAM).
Η προστασία από τέτοιες χρήσεις αποτελεί πλέον μια από τις μεγαλύτερες προκλήσεις στην ανάπτυξη ασφαλών συστημάτων τεχνητής νοημοσύνης.
Γιατί οι παραδοσιακοί έλεγχοι δεν επαρκούν
Σήμερα, ένας συνηθισμένος τρόπος ελέγχου ενός μοντέλου τεχνητής νοημοσύνης είναι να του δώσουν οι ερευνητές κατάλληλες εντολές (prompts) και να εξετάσουν τα αποτελέσματα.
Ωστόσο, αυτή η μέθοδος παρουσιάζει σοβαρά προβλήματα όταν αφορά παράνομο περιεχόμενο.
Στην περίπτωση του CSAM, η δημιουργία τέτοιου υλικού είναι παράνομη ακόμη και αν γίνεται αποκλειστικά για ερευνητικούς σκοπούς. Επιπλέον, η επαναλαμβανόμενη έκθεση ανθρώπων αξιολογητών σε τέτοιο περιεχόμενο μπορεί να προκαλέσει σημαντική ψυχολογική επιβάρυνση.
Έτσι δημιουργείται ένα μεγάλο τεχνολογικό και ηθικό δίλημμα: πώς μπορεί κάποιος να ελέγξει αν ένα μοντέλο είναι επικίνδυνο χωρίς να το χρησιμοποιήσει για να παράγει το ίδιο το επικίνδυνο αποτέλεσμα;
Η λύση του MIT: Έλεγχος χωρίς παραγωγή εικόνων
Η ερευνητική ομάδα του MIT, σε συνεργασία με τον οργανισμό προστασίας παιδιών Thorn, ανέπτυξε μια νέα προσέγγιση που δεν εξετάζει τα αποτελέσματα ενός μοντέλου αλλά τον τρόπο με τον οποίο λειτουργεί εσωτερικά.
Η ομάδα με επικεφαλής τη μεταπτυχιακή φοιτήτρια Vinith Suriyakumar και τις καθηγήτριες Ashia Wilson και Marzyeh Ghassemi εξέτασε τις εσωτερικές αλλαγές που προκαλούνται όταν ένα μοντέλο έχει τροποποιηθεί μέσω μιας τεχνικής που ονομάζεται LoRA (Low-Rank Adaptation).
Η LoRA επιτρέπει στους χρήστες να προσαρμόζουν γρήγορα ένα μοντέλο χωρίς να χρειάζεται πλήρης επανεκπαίδευση.
Οι ερευνητές ανέπτυξαν μια τεχνική που αναλύει αυτές τις εσωτερικές τροποποιήσεις και μπορεί να προβλέψει αν ένα μοντέλο έχει εκπαιδευτεί για επικίνδυνη χρήση.
Η «Γκαουσιανή ανίχνευση» που βλέπει μέσα στο μοντέλο
Η νέα μέθοδος βασίζεται σε μια τεχνική που ονομάζεται Γκαουσιανή ανίχνευση.
Αντί να ζητήσει από το μοντέλο να δημιουργήσει εικόνες, η μέθοδος εισάγει ειδικά δεδομένα και παρατηρεί πώς αυτά επεξεργάζονται μέσα στα εσωτερικά επίπεδα του συστήματος.
Με αυτόν τον τρόπο οι επιστήμονες μπορούν να εντοπίσουν χαρακτηριστικά που δείχνουν ότι το μοντέλο έχει προσαρμοστεί για επιβλαβείς λειτουργίες.
Το σημαντικό είναι ότι:
- δεν παράγεται παράνομο περιεχόμενο,
- δεν χρειάζεται ανθρώπινη αξιολόγηση επιβλαβών εικόνων,
- ο έλεγχος μπορεί να γίνει γρήγορα και σε μεγάλη κλίμακα.
Εντυπωσιακή ακρίβεια στις δοκιμές
Κατά τη διάρκεια των δοκιμών, η μέθοδος κατάφερε να εντοπίσει μοντέλα που είχαν τροποποιηθεί για τη δημιουργία CSAM με ακρίβεια 100%.
Οι ερευνητές θεωρούν ότι η τεχνολογία αυτή θα μπορούσε να χρησιμοποιηθεί από πλατφόρμες φιλοξενίας μοντέλων τεχνητής νοημοσύνης, ώστε να ελέγχουν νέες εκδόσεις πριν γίνουν διαθέσιμες στο κοινό.
Με δεδομένο ότι χιλιάδες νέες παραλλαγές μοντέλων εμφανίζονται στο διαδίκτυο κάθε μήνα, η δυνατότητα αυτοματοποιημένου ελέγχου είναι ιδιαίτερα σημαντική.
Η μάχη απέναντι στα AI deepfakes
Η ανάγκη για τέτοιες τεχνολογίες γίνεται όλο και πιο επείγουσα. Τα εργαλεία τεχνητής νοημοσύνης μπορούν πλέον να δημιουργήσουν εξαιρετικά ρεαλιστικές εικόνες και βίντεο, γεγονός που αυξάνει τον κίνδυνο κακόβουλης χρήσης.
Τα παιδιά αποτελούν μία από τις πιο ευάλωτες ομάδες, καθώς η τεχνολογία μπορεί να χρησιμοποιηθεί για εκμετάλλευση, εκφοβισμό ή δημιουργία ψευδούς περιεχομένου που βλάπτει την προσωπικότητά τους.
Οι ειδικοί υπογραμμίζουν ότι η προστασία των παιδιών στην ψηφιακή εποχή απαιτεί συνεργασία μεταξύ τεχνολογικών εταιρειών, ερευνητών, κυβερνήσεων και οργανισμών προστασίας.
Το μέλλον της ασφαλούς τεχνητής νοημοσύνης
Η ομάδα του MIT σχεδιάζει να εξετάσει αν η μέθοδος μπορεί να εντοπίζει επικίνδυνες δυνατότητες ακόμη και σε βασικά μοντέλα πριν αυτά τροποποιηθούν από χρήστες.
Η ανάπτυξη τέτοιων εργαλείων αποτελεί ένα σημαντικό βήμα προς μια πιο υπεύθυνη τεχνητή νοημοσύνη.
Η τεχνολογία από μόνη της δεν είναι ούτε καλή ούτε κακή. Η πρόκληση είναι να δημιουργηθούν μηχανισμοί που θα επιτρέπουν την καινοτομία, προστατεύοντας παράλληλα τους ανθρώπους από τις πιο επικίνδυνες εφαρμογές της.
Η νέα μέθοδος του MIT δείχνει ότι η ασφάλεια της τεχνητής νοημοσύνης μπορεί να προχωρήσει πέρα από την απλή παρακολούθηση των αποτελεσμάτων και να εξετάζει τον ίδιο τον τρόπο λειτουργίας των μοντέλων — ένα σημαντικό βήμα για την προστασία των παιδιών και της κοινωνίας στην ψηφιακή εποχή.
