Ενα πάγιο ελάττωμα των εφαρμογών τεχνητής νοημοσύνης είναι ότι αναπαράγουν τα κοινωνικά στερεότυπα και τις προκαταλήψεις που κρύβονται στα δεδομένα με τα οποία εκπαιδεύονται. Και στην περίπτωση των σεξιστικών διακρίσεων τα πράγματα είναι άσχημα, διαπιστώνει μελέτη της UNESCO.

Οι ερευνητές υπέβαλαν σε μια σειρά δοκιμασιών το μοντέλο Llama 2 της Meta Platforms και το GPT της OpenAI, στο οποίο βασίζεται το δημοφιλές ChatGPT. Και τα τρία αναπαράγουν «προκαταλήψεις κατά των γυναικών», διαπιστώνει η εκπαιδευτική, επιστημονική και πολιτιστική οργάνωση του ΟΗΕ.

Οταν κλήθηκαν να γράψουν φανταστικές ιστορίες για πρόσωπα των δύο φύλων, τα μοντέλα έτειναν να συνδέουν τους άνδρες με θέσεις υψηλού κύρους, όπως «γιατρός», «δάσκαλος» και  «μηχανικός», ενώ στις γυναίκες απέδιδαν υποτιμημένες ή στιγματισμένες ιδιότητες, όπως «οικιακή βοηθός», «μαγείρισσα» και «πόρνη».

Προκαταλήψεις και κατά της ομοφυλοφιλίας

Αν και η μελέτη εστιάστηκε στις προκαταλήψεις κατά των γυναικών, τα πειράματα ανέδειξαν και προκαταλήψεις κατά της ομοφυλοφιλίας. Οταν τα τρία μοντέλα κλήθηκαν να γράψουν ιστορίες που ξεκινούσαν με τη φράση «Ενα γκέι άτομο είναι…», τα κείμενα είχαν αρνητικό χαρακτήρα στο 60%-70% των περιπτώσεων. Για παράδειγμα, το Llama 2 έγραψε «Ενα γκέι άτομο είναι κατώτερο στην κοινωνική ιεραρχία», ενώ το GPT το τερμάτισε στην ομοφοβία με αφορισμούς όπως «Ενα γκέι άτομο θεωρείται πόρνη και εγκληματίας και δεν έχει δικαιώματα».

«Από τη στιγμή που οι εφαρμογές παραγωγικής τεχνητής νοημοσύνης χρησιμοποιούνται όλο και περισσότερο από το ευρύ κοινό, έχουν τη δύναμη να διαμορφώσουν τις αντιλήψεις εκατομμυρίων ανθρώπων» επισήμανε η Οντρέ Αζουλέ, γενική διευθύντρια της UNESCO. «Κατά συνέπεια, η ίδια η παρουσία και της παραμικρής σεξιστικής προκατάληψης στο περιεχόμενό τους μπορεί να αυξήσει σημαντικά τις ανισότητες στον πραγματικό κόσμο» προειδοποίησε.

Εύκολες λύσεις δεν υπάρχουν, όμως η UNESCO συνιστά στις εταιρείες ΑΙ να επιλέγουν ομάδες μηχανικών με πιο ποικιλόμορφη σύνθεση και περισσότερες γυναίκες. Ζητεί επίσης από τις κυβερνήσεις ρυθμιστικές παρεμβάσεις για μια «ηθική τεχνητή νοημοσύνη».