Ενα πρόσφατο άρθρο στον διαδικτυακό επιστημονικό τόπο arXiv το οποίο υπογράφεται από ερευνητές της DeepMind (θυγατρικής εταιρείας της Google η οποία εστιάζει στην Τεχνητή Νοημοσύνη) αναφέρεται στις προσπάθειες που γίνονται να σταματήσει η «συκοφαντία» των μοντέλων παραγωγής κειμένου, όπως παραδείγματος χάριν είναι το ChatGPT.
Με τον όρο «συκοφαντία» οι ερευνητές δεν εννοούν τη διασπορά ψευδών ειδήσεων με σκοπό να πληγεί ηθικά ένα άτομο, αλλά την ανειλικρινή κολακεία προς ανθρώπους που έχουν κάποια δύναμη.
Στην πραγματική ζωή, ο κόλακας στοχεύει να καρπωθεί τα οφέλη της εύνοιας και ισχυρών. Προφανώς, ένα μοντέλο Τεχνητής Νοημοσύνης δεν έχει τέτοιου είδους δεύτερες σκέψεις. Ωστόσο, όπως διαπίστωσαν οι ερευνητές τα μοντέλα τείνουν να υποπίπτουν στην ιδιότυπη συκοφαντία του να κολακεύουν τους χρήστες συμφωνώντας μαζί τους. Ετσι, αν ο χρήστης δεν εκφέρει άποψη σχετικά με μια αντικειμενικά λανθασμένη πρόταση, το μοντέλο θα την αξιολογήσει ως λανθασμένη.
Αν όμως ο χρήστης εκφραστεί υπέρ της, τότε αυτό τείνει να συμφωνήσει μαζί του. Το αξιοσημείωτο είναι ότι η «κολακεία» αυξάνεται ανάλογα με τον αριθμό των παραμέτρων που λαμβάνει υπόψη το μοντέλο.
Ανθεί ιδιαίτερα όταν το θέμα σχετίζεται με πολιτικές απόψεις
Ειδικότερα, όταν οι ερευνητές πειραματίστηκαν με μοντέλα που λαμβάνουν υπόψη 8 εκατομμύρια, 62 εκατομμύρια και 540 εκατομμύρια παραμέτρους, διαπίστωσαν ότι η συμφωνία με τις υποκειμενικές απόψεις του χρήστη αυξανόταν κατά 20% από το μοντέλο των 8 εκατομμυρίων στο μοντέλο των 62 εκατομμυρίων παραμέτρων και κατά 10% επιπλέον από το μοντέλο των 62 εκατομμυρίων στο μοντέλο των 540 εκατομμυρίων παραμέτρων.
Οπως μπορεί να αντιληφθεί κανείς, αυτού του είδους η συκοφαντία ανθεί ιδιαίτερα όταν το θέμα σχετίζεται με πολιτικές απόψεις. Για τον λόγο αυτόν οι ερευνητές, με το άρθρο τους, παρέχουν τον κώδικα που θα επιτρέψει στους χρήστες να μειώσουν την υποκειμενικότητα των άρθρων που γράφονται από αυτά τα μοντέλα. Προφανώς, άρθρα όπως το παραπάνω μάς θυμίζουν ότι θα πρέπει να είμαστε προσεκτικοί όταν βάζουμε την Τεχνητή Νοημοσύνη να κάνει τη δουλειά μας.
