Σε όλους έχει συμβεί: να θέλεις να κάνεις συνδιαλλαγή με μια επιχείρηση και να πέφτεις πάνω σε ένα αυτοματοποιημένο βοηθό. Αυτή τη στιγμή, δεν υπάρχει πιο ασφαλής τρόπος για να χάσεις τουλάχιστον 10 λεπτά από το χρόνο σου. «Οι εφαρμογές αυτές βελτιώνονται συνεχώς», παρατηρεί η Δρ. Λίλιαν Μπαλατσού, γνωσιακή νευροεπιστήμονας και ειδική στην Τεχνητή Νοημοσύνη, υπενθυμίζοντας πόσο πολύ έχουν αλλάξει μέσα σε λίγα μόλις χρόνια.
Φυσικά, η Τεχνητή Νοημοσύνη είναι πολλά περισσότερα από αυτό και η σημερινή Παγκόσμια Ημέρα Δημιουργικότητας και Καινοτομίας αποτελεί μια ιδανική αφορμή για να το ξαναθυμηθούμε. Από τη χρήση του ChatGTP και τα μεγάλα γλωσσικά μοντέλα μέχρι την τεχνολογία deep fake, η ταχύτατη εξέλιξη των μοντέλων Τεχνητής Νοημοσύνης εγείρει μία σειρά ερωτημάτων τα οποία θα κληθούμε να απαντήσουμε στο προσεχές μέλλον. Για την Δρα. Λίλιαν Μπαλατσού, το A.I. Act που ψηφίστηκε πρόσφατα από το Ευρωπαϊκό Κοινοβούλιο, δεν είναι παρά μόνο η αρχή. Όπως επισημαίνει, ωστόσο, πώς όλες αυτές οι συζητήσεις σε επίπεδο φορέων και θεσμών ακολουθούν τις εξελίξεις, ενώ πολλά από τα ζητήματα δεν είναι καινούργια αλλά «παραμένουν ανοιχτά από την εποχή του web 1.0».
Το πιο κρίσιμο ζήτημα για την ίδια είναι να προχωρήσουμε άμεσα σε μια γενεαλογία της Τεχνητής Νοημοσύνης προκειμένου να οι κοινωνικές ανάγκες να βρεθούν στο επίκεντρο της τεχνολογικής ανάπτυξης. Μία από αυτές είναι και η άμβλυνση του έμφυλου χάσματος, ειδικά στο χώρο του STEM, ζήτημα με το οποίο έχει ασχοληθεί η Λίλιαν μέσα από τη δημιουργία της πλατφόρμας Greek Girls Code, αλλά και της συμμετοχής σε πλήθος δράσεων σχετικών με τη θέση των γυναικών στον κλάδο της Τεχνολογίας.
Φωτό: Μενέλαος Μυρίλλας
Οι κοινωνίες απολαμβάνουν στο βαθμό που θα έπρεπε τις τεχνολογικές καινοτομίες;
Είναι μια αφαίρεση να μιλήσουμε έτσι γενικά για τις κοινωνίες, δεν είναι όλες ίδιες, δεν διαθέτουν όλες το ίδιο βαθμό εξοικείωσης ούτε την αγοραστική δύναμη για να αποκτήσουν νέες τεχνολογίες. Παρόλα αυτά, δεν δέχομαι σε μια εποχή τέτοιας τεχνολογικής εξέλιξης να υπάρχουν τόσα περιστατικά βίας, τόσες λανθασμένες δομές, τόσα δυστυχήματα που θα μπορούσαν να είχαν αποφευχθεί, τόση ανασφάλεια ανάμεσα στους πολίτες σε σχέση με τη ζωή τους. Αυτή τη στιγμή, προτεραιότητα στην ανάπτυξη της Τεχνητής Νοημοσύνης δεν είναι η κοινωνία. Θα πρέπει να γίνει. Είναι σημαντικό να περάσουμε στο σχηματισμό κοινωνικοτεχνοκρατικών φορέων και δομών, εντός των οποίων η τεχνολογία θα εξυπηρετεί τις κοινωνικές ανάγκες.
Θα κινδυνεύσουν θέσεις εργασίας με την ανάπτυξη Τεχνητής Νοημοσύνης;
Είναι επίφοβη μια τέτοια πρόβλεψη και προσωπικά δεν είμαι σε θέση να την κάνω, διότι δεν έχω δεδομένα στη διάθεσή μου ούτε τα έχω μελετήσει συστηματικά. Αυτό που έχει επιβεβαιωθεί ωστόσο είναι ότι πολλές διεργασίες ρουτίνας θα αντικατασταθούν από αυτοματισμούς. Αυτό δεδομένα θα επηρεάσει θα επηρεάσει κάποια επαγγέλματα, όπως άλλωστε συμβαίνει σε κάθε περίοδο τεχνολογικών εξελίξεων. Το πιο σημαντικό όμως θεωρώ ότι είναι το κομμάτι της εφαρμογής πολιτικών που θα προστατεύουν τους εργαζόμενους. Για παράδειγμα, δεν θα πρέπει να έχει την εξουσία ένας εργοδότης να αποφασίζει ότι θα αντικαταστήσει 15 εργαζόμενους του με ένα πρόγραμμα αυτοματισμού. Εξίσου σημαντική είναι η και άμβλυνση του έμφυλου χάσματος. Ο αριθμός γυναικών που εργάζονται σε επαγγέλματα μεγάλου αυτοματισμού, επομένως εν δυνάμει είναι πιο ευάλωτες και εκείνες που σε μεγαλύτερο βαθμό θα υποστούν τις συνέπειες από τέτοιες αντικαταστάσεις.
«Χρειάζεται να δομήσουμε γενεαλογικά την Τεχνητή Νοημοσύνη που επιθυμούμε να έχουμε, δηλαδή όχι μόνο να ορίσουμε τι είναι κακό ή λάθος, αλλά και τι είναι ωφέλιμο».
Ποια είναι τα πιο άμεσα ζητήματα που θα πρέπει να δούμε;
Πρώτον, η τεχνολογία δεν έχει γνώση της άγνοιάς της και αυτό σημαίνει ότι μπορεί να αναπαράγει ψευδείς πληροφορίες, οι οποίες μπορεί να αφομοιωθούν και να χρησιμοποιηθούν από κάποιο άνθρωπο. Δεύτερον, και στενά συνδεδεμένο με το προηγούμενο, η αναπαραγωγή προκαταλήψεων σχετικών με το φύλο, τη φυλή, τη θρησκεία την πολιτική τοποθέτηση κτλ. Το τρίτο ζήτημα είναι αβεβαιότητα που υπάρχει από την τεχνολογία για την ίδια την τεχνολογία. Χρειάζεται να δομήσουμε γενεαλογικά την Τεχνητή Νοημοσύνη που επιθυμούμε να έχουμε, δηλαδή όχι μόνο να ορίσουμε τι είναι κακό ή λάθος, αλλά και τι είναι ωφέλιμο.
Θα πρέπει τα εργαλεία αυτά να είναι ανοιχτά και προσβάσιμα σε όλους;
Τα θέματα αυτά συζητιούνται και ήδη έχουμε στην Ε.Ε. το A.I. Act, με το οποίο ποινικοποιείται η χρήση αθέμιτων τεχνολογιών από μεγάλες εταιρείες. Παρόλα αυτά, βρισκόμαστε ακόμα στην αρχή και είναι ανάγκη κάθε ρυθμιστική πρωτοβουλία να λαμβάνει υπ’ όψιν τα χαρακτηριστικά κάθε αγοράς μα και κάθε χώρας. Δεν είναι τυχαίο ότι πολλά από τα ερωτήματα που καλούμαστε να απαντήσουμε σήμερα, μένουν ανοιχτά από την εποχή του web 1.0.
Φωτό: Μενέλαος Μυρίλλας
Όσο βέβαια τα συζητάμε όλα τα παραπάνω, κάποιο κορίτσι, για παράδειγμα, θα κακοποιείται επειδή ένα deepfake πορνό βίντεο της ανέβηκε στο διαδίκτυο. Φαίνεται ότι ακόμα είμαστε κάποια βήματα πίσω από αυτό που συμβαίνει στην πραγματικότητα. Είναι έτσι;
Προς το παρόν, ναι. Η συζήτηση αυτή ακολουθεί τις εξελίξεις. Αντιμετωπίζει και δεν προλαμβάνει. Χρειάζεται να δομήσουμε άλλες βάσεις για να αποτρέψουμε την κακόβουλη και παράνομη χρήση της τεχνητής νοημοσύνης. Επίσης, θα πρέπει να βρεθεί και μια λεπτή ισορροπία ανάμεσα στον αναγκαίο εκδημοκρατισμό της τεχνολογίας, αλλά και στον έλεγχο της διαθεσιμότητάς της. Δεν γίνεται να έχουν όλοι πρόσβαση, όπως δεν έχουν όλοι πρόσβαση στην οπλοκατοχή.
Είσαι η κατάλληλη να μας εξηγήσεις γιατί ακόμα μια μηχανή μιλάει με τρόπο που προκαλεί αμηχανία;
Τα μεγάλα γλωσσικά μοντέλα είναι σίγουρα καταλύτες για την εξέλιξη της τεχνητής νοημοσύνης. Βασίζονται σε έναν πολύ μεγάλο όγκο δεδομένων, όλη τη διαθέσιμη γλωσσική παραγωγή στο διαδίκτυο, και στηρίζονται στη στατιστική πρόβλεψη της παρουσίας μίας λέξης δίπλα σε μια άλλη. Στη συνέχεια ακολουθεί κάποιου είδους βελτιστοποίηση ανάλογα με το περιεχόμενου που ζητείται να παραγάγουν ή ανάλογα με τη γλώσσα. Έχουν μεγάλη ακρίβεια, ωστόσο υπάρχουν τεράστια περιθώρια βελτίωσης ώστε να μειώνεται η αίσθηση ότι μιλάει μια μηχανή. Ακόμα δεν έχουν συμβολικές αναπαραστάσεις ή πολλές φορές δεν μπορούν να ενσωματώσουν τα ιδιαίτερα χαρακτηριστικά που έχει η εκάστοτε επικοινωνιακή περίσταση, δηλαδή όχι μόνο τι λέγεται αλλά και πώς λέγεται κάτι. Υπάρχει όμως και ένα άλλος λόγος: τα δεδομένα στα οποία στηρίζονται αναπαράγουν προκαταλήψεις, τις οποίες με τη σειρά τους αναπαράγουν τα μεγάλα γλωσσικά μοντέλα.
Φωτό: Μενέλαος Μυρίλλας
Γιατί ακόμα δυσφορούμε όταν έχουμε να κάνουμε μια συνδιαλλαγή με ένα chatbot;
Η αλήθεια είναι ότι πολλοί χρήστες έχουν βρει τα παραθυράκια ώστε να αποφεύγουν την επικοινωνία με αυτοματοποιημένους βοηθούς. Τους κατανοώ. Παλιότερα η τεχνολογία αυτή ήταν αρκετά περιορισμένη. Μιλάω για τις εποχές του «πατήστε 1, πατήστε 2…». Δεν υπήρχαν καν τα chatbots. Έπειτα υιοθετήθηκαν πιο ανοιχτά μοντέλα, ωστόσο υπήρχαν ζητήματα σχεδιασμού, ειδικά διαλογικού σχεδιασμού, καθώς δεν λαμβανόταν υπ’ όψιν η εμπειρία που έχει και προσδοκά να έχει ένας πελάτης. Τώρα βρισκόμαστε σε ένα μεταβατικό στάδιο, κατά το οποίο από τη μία οι εταιρείες θα επενδύουν περισσότερο στον στρατηγικό σχεδιασμό των αυτοματοποιημένων υπηρεσιών, αλλά και οι χρήστες θα εξοικειώνονται όλο και περισσότερο με αυτές.
Μιλώντας για εξοικείωση, ας πάμε στην περίπτωση του ChatGPT. Μετά την κυκλοφορία του έχει προκύψει πολύ έντονα το ζήτημα της λογοκλοπής, τόσο στον ακαδημαϊκό χώρο όσο και σε αυτό των τεχνών…
Αυτό λύνεται εύκολα και ήδη υπάρχουν προγράμματα που εντοπίζουν τη λογοκλοπή. Αυτό όμως που συμβαίνει είναι ότι, πράγματι, εισερχόμαστε σε μια εποχή όπου τα όρια ανάμεσα σε κάτι που είναι αυθεντικό και πρωτότυπο και κάτι που δεν είναι γίνονται όλο και πιο ρευστά, είτε αυτό αφορά την ακαδημαϊκή έρευνα είτε την τέχνη.
Παράλληλα με αυτά, ασχολείσαι μέσα από δράσεις και με την καταπολέμηση του έμφυλου χάσματος στο χώρο της τεχνολογίας. Μίλησε μας για αυτές.
Είναι έτσι δομημένο αυτή τη στιγμή το πλαίσιο στο χώρο της τεχνολογίας, ώστε είναι πάρα πολύ πιθανό μια γυναίκα που εργάζεται σε αυτό τον κλάδο να φτάσει να αναρωτηθεί: «Μα πώς βρέθηκα εδώ;». Συνέβη σε εμένα, που οι προπτυχιακές μου σπουδές ήταν στις ανθρωπιστικές επιστήμες, σε ένα τελείως άλλο χώρο, αλλά έχει συμβεί και σε πολλές άλλες γυναίκες οι οποίες από νωρίς είχαν επιλέξει το χώρο του STEM (Science, Technology, Engineering, Mathematics) τόσο για τις σπουδές όσο και για την επαγγελματική του σταδιοδρομία. Στη διάρκεια της πανδημίας αποφάσισα να δημιουργήσω μια πλατφόρμα του greekgirlscode, με στόχο την διάδοση και την προώθηση του προγραμματισμού ως εργαλείου για την δημιουργία υβριδικών καριερών, αλλά και ως δεξιότητας για τις γυναίκες που θέλουν να ασχοληθούν στο STEM. Με το Greek Girls Code έχουμε κάνει δράσεις, έχουμε δημιουργήσει υλικό, έχουμε διοργανώσει workshop, έχουμε φέρει σε επαφή τα μέλη μας με επιτυχημένες γυναίκες στον κλάδο του STEM.
Φωτό: Μενέλαος Μυρίλλας
Το αισιόδοξο είναι πώς πράγματι παρατηρείται μια αλλαγή. Και οι γυναίκες τολμούν να εισέλθουν σε χώρους «ανδροκρατούμενους», αλλά και οι εταιρείες αντιλαμβάνονται την ανάγκη για μεγαλύτερη εκπροσώπηση των γυναικών. Αυτό το χάσμα, σύμφωνα με έρευνες, μειώνει την αποδοτικότητα των επιχειρήσεων. Φυσικά, δεν αρκούν μόνο τα ποσοτικά χαρακτηριστικά -αυτά αργά ή γρήγορα θα ανέβουν. Πρέπει να ανέβουν και τα ποιοτικά χαρακτηριστικά. Να νιώσουν δηλαδή οι γυναίκες ότι η φωνή του ακούγεται, ότι έχουν ευκαιρία να αναλάβουν θέσεις ευθύνης και ηγεσίας και να νιώθουν χαρούμενες που ανήκουν σε αυτό τον κλάδο ή σε μια εταιρεία.
Ποια είναι τα πιο συνηθισμένα προβλήματα που σου αναφέρουν οι νέες γυναίκες που θέλουν να ασχοληθούν με το STEM ή κάνουν τα πρώτα του επαγγελματικά βήματα στον κλάδο;
Η ανασφάλεια για τις ικανότητες του, ο φόβος για να αλλάξουν καριέρα ή κλάδο και να φύγουν από το comfort zone τους, η απογοήτευση ότι δεν ανελίσσονται στην ιεραρχία. Προσωπικά, προσπαθώ να τις παροτρύνω να ασχοληθούν με το STEM και κυρίως να χαρτογραφήσουμε από κοινού τη θέση τους μέσα στην αγορά.
*Ευχαριστούμε το BIOS exploring urban culture (Πειραιώς 84) για τη φιλοξενία.
