Πέρυσι, ψεύτικες γυμνές φωτογραφίες ξεσήκωσαν σάλο σε ένα λύκειο του Νιου Τζέρσεϊ. Εξι μήνες μετά, τέτοιες φωτογραφίες – φτιαγμένες με εφαρμογές τεχνητής νοημοσύνης που συνδυάζουν πρόσωπα μαθητριών με γυμνά σώματα – κάνουν θραύση σε όλα τα σχολεία.
Στους ανθρώπους που απεικονίζονται σε αυτές τις εικόνες, συχνά νεαρές γυναίκες, οι φωτογραφίες προκαλούν αισθήματα ντροπής, φόβου και απώλειας ελέγχου. Τις περισσότερες φορές οι γονείς τους δεν έχουν ιδέα. Μαθήτριες λυκείου στο Γουέστφιλντ του Νιου Τζέρσεϊ, όπου οι φωτογραφίες κυκλοφόρησαν μέσω ομαδικών συνομιλιών, λένε πως η εμπειρία τις έκανε να νιώσουν ταπεινωμένες.
«Ακόμα και αν αποδειχθεί ότι η εικόνα είναι ψεύτικη, το άτομο δέχεται και πάλι εκφοβισμό και κοροϊδία», Ανέφερε ένας μαθητής από το Ελντοράντο του Ιλινόις
Επίσης, τα πρόσωπα που εικονίζονται στις φτιαγμένες με AI φωτογραφίες υφίστανται επικρίσεις και εκφοβισμό, σύμφωνα με συνεντεύξεις και έρευνες που διενήργησε η Human Factor, μια εταιρεία στρατηγικής επίλυσης συγκρούσεων, τα ιδρυτικά στελέχη της οποίας πέρασαν χρόνο με μαθητές.
Επηρεάζονται
«Τις αντιμετώπισαν σαν να ήταν πρόστυχες, παρότι είπαν ότι οι φωτογραφίες δεν είναι αληθινές» είπε ένας έφηβος από το Λας Βέγκας, που πήρε μέρος στο ερευνητικό πρότζεκτ. «Ο,τι και να γίνει, πάντα θα υπάρχουν κάποιοι που δεν θα τις πιστεύουν».
Τον Φεβρουάριο οι ερευνητές πέρασαν δύο ημέρες στο Γουέστφιλντ, ένα εύπορο προάστιο, παίρνοντας συνεντεύξεις από μαθητές, γονείς και άλλα μέλη της κοινότητας. Η εταιρεία στη συνέχεια, τον Μάρτιο και τον Απρίλιο, ερεύνησε δείγμα περισσότερων από 1.000 μαθητών, εκπαιδευτικών και γονέων σε όλη τη χώρα και κατέληξε σε κάποιες κατευθυντήριες γραμμές για γονείς και εκπαιδευτικούς (περισσότερα για αυτό στη συνέχεια).
Οταν οι μαθητές ερωτήθηκαν ποιος θα επηρεαζόταν περισσότερο από αυτές τις γυμνές φωτογραφίες, το πρόσωπο που τις δημιούργησε ή το θύμα που εικονίζεται σε αυτές, το 73% απάντησε «το θύμα».
«Ακόμα και αν αποδειχθεί ότι η εικόνα είναι ψεύτικη, το άτομο δέχεται και πάλι εκφοβισμό και κοροϊδία» ανέφερε ένας μαθητής από το Ελντοράντο του Ιλινόις.
«Η ηθική τους αμφισβητείται» σχολίασε ένας μαθητής στο Σιλ της Αλαμπάμα.
«Οι άνθρωποι τις βλέπουν διαφορετικά» είπε ένας άλλος μαθητής από το Λέβιταουν της Νέας Υόρκης.
Μέχρι πρόσφατα, λίγοι μαθητές γνώριζαν ότι φωτογραφίες τους στα social media μπορούν να μετατραπούν σε γυμνές από άλλα παιδιά που χρησιμοποιούν τεχνητή νοημοσύνη. Δεκάδες εργαλεία «αλλαγής προσώπου» και «αφαίρεσης ρούχων» είναι τώρα διαθέσιμα online με μικρό ή καθόλου αντίτιμο. Η κατάσταση επιτείνει το στρες στους εφήβους.
Αφήνουν αποτύπωμα
Συνήθως είναι πιο εύκολο να θυμάται κανείς μια εικόνα από ό,τι λέξεις που ειπώθηκαν ή γράφτηκαν εξαιτίας του λεγόμενου «φαινομένου ανωτερότητας της εικόνας». Οπως ανακάλυψαν οι ερευνητές, ακόμη και όταν οι φωτογραφίες σβηστούν ή εξαφανιστούν από τις εφαρμογές μηνυμάτων, το πιθανότερο είναι ότι οι μαθητές δεν θα τις ξεχάσουν. Και οι εικόνες αυτές είναι τόσο ρεαλιστικές ώστε είναι σχεδόν αδύνατον να καταλάβει κανείς ποιες είναι ψεύτικες.
Τα δύο τρίτα των μαθητών που συμμετείχαν στην έρευνα της Human Factor είπαν ότι το πιθανότερο θα ήταν να υποθέσουν ότι μια φωτογραφία είναι αληθινή αν φαίνεται αληθινή, ειδικά στις περιπτώσεις που πιστεύουν ότι το θύμα είναι ο τύπος του ανθρώπου που θα έκανε share μια γυμνή του φωτογραφία. Μόνο το ένα τρίτο των συμμετεχόντων είπαν ότι θα ρωτούσαν το εικονιζόμενο πρόσωπο αν η φωτογραφία είναι αληθινή.
Οι ερευνητές διαπίστωσαν επίσης ότι, πρακτικά, οι μόνοι που μπορούν να αναφέρουν τέτοια περιστατικά στις αρχές είναι οι συμμαθητές των θυμάτων, καθώς οι φωτογραφίες είτε διαμοιράζονται σε ιδιωτικά group chats είτε σε πλατφόρμες από τις οποίες τα μηνύματα εξαφανίζονται μετά από λίγο, όπως είναι το Snapchat.
Οι γονείς βλέπουν τις φωτογραφίες αυτές σπάνια ή και ποτέ, εκτός και αν παρακολουθούν πολύ στενά τις συνομιλίες των παιδιών τους.
Από τη στιγμή που δεν υπάρχει εποπτεία από κάποιον ενήλικο, οι ψεύτικες φωτογραφίες μπορούν να εξαπλωθούν γρήγορα χωρίς ιδιαίτερη δυσκολία. Οι μαθητές του δείγματος είπαν ότι δεν θα ανέφεραν αυτές τις φωτογραφίες στη διεύθυνση του σχολείου, αν τις έβλεπαν σε μια ομαδική συνομιλία, από φόβο μην μπλέξουν. Είπαν επίσης ότι θα έρχονταν σε αντιπαράθεση με το άτομο που είχε κατασκευάσει τις φωτογραφίες μόνο αν το ήξεραν καλά.
Μετά την υπόθεση στο λύκειο του Γουέστφιλντ στο Νιου Τζέρσεϊ τον Νοέμβριο, παρόμοια περιστατικά καταγράφηκαν σε σχολεία όλης της χώρας. Πέντε μαθητές σε γυμνάσιο του Μπέβερλι Χιλς, στην Καλιφόρνια, κατηγορήθηκαν ότι κατασκεύασαν γυμνές φωτογραφίες συμμαθητριών τους με τη βοήθεια της τεχνητής νοημοσύνης και αποβλήθηκαν, όπως και ένας ακόμη μαθητής σε λύκειο της Πολιτείας της Ουάσιγκτον. Δύο έφηβοι σε ένα γυμνάσιο του Μαϊάμι συνελήφθησαν και τους απαγγέλθηκαν κακουργηματικές κατηγορίες για κατασκευή και διακίνηση πλαστών γυμνών φωτογραφιών. Αναφορές για διακίνηση τέτοιων εικόνων έχουν διερευνηθεί σε πολλά ακόμη σχολεία.
Τον Μάρτιο το FBI εξέδωσε δημόσια προειδοποίηση, στην οποία ανέφερε ότι είναι παράνομο για οποιονδήποτε – ακόμη και για εφήβους – να χρησιμοποιούν τεχνητή νοημοσύνη για τη δημιουργία υλικού σεξουαλικής κακοποίησης παιδιών. Και αυτό μπορεί να είναι μόνο η αρχή. Περίπου το 60% των μαθητών που μετείχαν στην έρευνα είπαν ότι πιστεύουν πως οι συμμαθητές τους θα χρησιμοποιούσαν τεχνητή νοημοσύνη για να δημιουργήσουν ψεύτικες φωτογραφίες.
Η Καθλίν Μποντ, εταίρος της Human Factor, μεγάλωσε στο Γουέστφιλντ και αποφοίτησε από το λύκειο το 2014. Η ίδια και η ιδρύτρια της εταιρείας, Ρέιτσελ Μουρ Μπεστ, ήθελαν να καταλάβουν πώς αντιδρούν οι μαθητές σε τέτοια περιστατικά, τι θα τους έκανε να αναφέρουν την ύπαρξη τέτοιων φωτογραφιών και τι θα μπορούσαν να κάνουν οι γονείς και οι εκπαιδευτικοί για να αποτρέψουν την επανάληψη τέτοιων περιστατικών σε άλλα σχολεία. Κάλυψαν οι ίδιες τα έξοδα της έρευνας και σχεδιάζουν να γνωστοποιήσουν τα ευρήματά της με σχολικές περιφέρειες, με ενώσεις εκπαιδευτικών, με την εθνική Ενωση Γονέων και Διδασκόντων (Parent-Teacher Association – PTA) και με ομάδες νέων.
Τι μπορεί να γίνει
Οι ερευνητές προτρέπουν τους γονείς να μιλήσουν στα παιδιά τους για τη σωστή χρήση των εργαλείων τεχνητής νοημοσύνης για την παραγωγή εικόνων, δίνοντάς τους συγκεκριμένες οδηγίες για τη συζήτηση. Ως προς τα σχολεία, συνιστούν τα ακόλουθα:
Να επικαιροποιήσουν τους μαθητικούς κώδικες δεοντολογίας για να εντάξουν σε αυτούς την περίπτωση των ψεύτικων γυμνών φωτογραφιών, αναφέροντας αναλυτικά τις συνέπειες που θα έχουν όσοι κατασκευάζουν και διακινούν πλαστές γυμνές φωτογραφίες.
Να ενθαρρύνουν και να διευκολύνουν τους μαθητές να αναφέρουν τέτοια περιστατικά όταν υποπέσουν στην αντίληψή τους.
Να οργανώσουν βιωματικές ασκήσεις με τους μαθητές, με την τεχνική του παιχνιδιού ρόλων, ώστε να ερευνηθούν υποθετικά σενάρια. Οι ερευνητές σχεδίασαν συγκεκριμένες 45λεπτες ασκήσεις για τα σχολεία.
Να οργανώσουν ένα πρόγραμμα στο οποίο οι μαθητές πειραματίζονται με εφαρμογές τεχνητής νοημοσύνης για τη δημιουργία εικόνων, ώστε να ευαισθητοποιηθούν σχετικά με την κατάλληλη και την ακατάλληλη χρήση της δημιουργικής τεχνητής νοημοσύνης.
