Μόλις την περασμένη Δευτέρα ο Σαμ Άλτμαν, Διευθύνων Σύμβουλος της OpenAI, έγραψε στο Twitter/X μία μόλις λέξη, προκειμένου να γνωστοποιήσει την κυκλοφορία του ChatGPT-4o, ενός προϊόντος που δίνε τη δυνατότητα στη δημοφιλή εφαρμογή να μιλά με ανθρώπινη γυναικεία φωνή. Η λέξη αυτή ήταν το HER, μια αναφορά στην ομώνυμη δημοφιλή ταινία του Σπάικ Τζόουνζ, στην οποία ο Χοάκιν Φοίνιξ ερωτεύεται έναν AI προσωπικό βοηθό που έχει τη φωνή της Σκάρλετ Γιόχανσον.
Λίγες μέρες νωρίτερα σε ένα «τετραγωνάκι» του google meets, ο Μιχάλης Μπλέτσας ήταν κατηγορηματικός: Δεν πρόκειται να είναι τα ρομπότ εκείνα που θα διατηρήσουν την ανάμνηση των ανθρώπων. Ο επί δύο και πλέον δεκαετίες διευθυντής Πληροφορικής του ΜΙΤ Media Lab έχει άλλες ανησυχίες, περισσότερο άμεσες: την ανεξέλεγκτη γιγάντωση των εταιριών τεχνολογίας και το μη επαρκές πλαίσιο ρύθμισης που αφορά τα δεδομένα που οι εταιρείες αυτές συλλέγουν.
Ο διακεκριμένος ερευνητής και εδώ και λίγες εβδομάδες νέος επικεφαλής της Εθνικής Αρχής Κυβερνοσφάλειας μιλά στο ΒΗΜΑ για όσα θα κληθούν οι κυβερνήσεις και οι κοινωνίες να αντιμετωπίσουν κατά τα επόμενα χρόνια από την ανάπτυξη της τεχνητής νοημοσύνης.
Ποια θα είναι τα επείγοντα ζητήματα σχετικά με την Τεχνητή Νοημοσύνη που θα κληθούμε να αντιμετωπίσουμε τα επόμενα χρόνια;
Το πρώτο είναι η γιγάντωση των μεγάλων παρόχων και το γεγονός ότι οι υποδομές που χρειάζονται για την ανάπτυξη των μεγάλων γλωσσικών μοντέλων είναι όλο και λιγότερο προσιτές και προσβάσιμες στην ευρύτερη κοινότητα. Το δεύτερο είναι το γεγονός ότι παραβλέπουμε χρήσεις της ΤΝ που έχουν δημιουργήσει ήδη προβλήματα στις κοινωνίες και τις δημοκρατίες μας. Και το τρίτο είναι το ζήτημα της παραβίασης των πνευματικών δικαιωμάτων.
Η χρήση, για παράδειγμα, των deepfakes μπορεί να προκαλέσει τέτοιους κινδύνους;
Δεν ανησυχώ υπερβολικά για τα deepfakes, τα οποία είναι σχετικά πρόσφατο φαινόμενο. Η ΤΝ άλλωστε δίνει τη δυνατότητα στο χρήστη να δημιουργήσει όχι μόνο παραπλανητικό ή ψευδές μα και χρήσιμο περιεχόμενο. Η κυρίαρχη χρήση της Τεχνητής Νοημοσύνης αυτή τη στιγμή εντοπίζεται στις μηχανές προτίμησης στα μέσα κοινωνικής δικτύωσης, οι οποίες προτείνουν πολύ στοχευμένα περιεχόμενο προς εμάς, δηλαδή τους χρήστες, ώστε να μεγιστοποιήσουν το χρόνο ενασχόλησης μας με την οθόνη και έτσι να μεταδώσουν τα μηνύματα (διαφημιστικά και άλλα) που οι ιδιοκτήτες τους επιθυμούν σε κοινό που θα είναι το πιο δεκτικό για να το καταναλώσει. Αυτός ο μηχανισμός είναι που κάνει τα deepfakes επικίνδυνα. Κι όλο αυτό γίνεται χωρίς κανέναν δημόσιο έλεγχο. Θεωρώ λοιπόν ότι οι συγκεκριμένες εφαρμογές της Τεχνητής Νοημοσύνης είναι εκείνες που έχουν κάνει τεράστια ζημιά στη Δημοκρατία ήδη από το 2016. Ακόμα και το Brexit ήταν αποτέλεσμα τέτοιων καμπανιών παραπληροφόρησης.
Αυτό που περιγράφετε αντανακλά και μια νέα φάση του καπιταλισμού, στην οποία τον πρώτο λόγο τον έχουν οι εταιρίες τεχνολογίες και οι υπηρεσίες που προσφέρουν;
Μου αρέσει να αναφέρω τον όρο της Σοσάνα Ζούμποφ «καπιταλισμός της επιτήρησης» (surveillance capitalism), ο οποίος περιγράφει με μεγάλη ακρίβεια τα όσα ζούμε. Οι εταιρείες αυτές, λοιπόν, έχουν υψηλότατη κερδοφορία, πληρώνουν χαμηλούς φόρους, έχουν πολύ πλούσιους εργαζόμενους, άφθονους πόρους για λόμπινγκ και διαθέτουν πληροφορίες για τη μισή υφήλιο. Είναι πολύτιμα αυτά τα δεδομένα για κάθε κυβέρνηση. Παράλληλα, έχει κυριαρχήσει πλήρως το αφήγημα ότι η εταιρείες αυτές καινοτομούν επομένως θα πρέπει να μην τις περιορίζουμε. Μην έχετε αμφιβολία, το αμερικανικό κράτος ξέρει πολύ καλά τι κάνει και ασκεί έλεγχο στα πεδία που το αφορούν άμεσα. Αυτό όμως που δεν μπορούσε να προβλέψει είναι ότι μέσα από αυτές τις πλατφόρμες θα δεχόταν πλήγματα η ίδια η Δημοκρατία.
Δημήτρης Καπάνταης / SOOC
Προπαγάνδα ωστόσο υπήρχε πάντοτε. Τώρα τι έχει αλλάξει;
Πλέον χρειάζεται πολύ λιγότερη προσπάθεια και κόστος για να στήσεις μια καμπάνια παραπληροφόρησης. Σήμερα οποιοσδήποτε μπορεί να πει οτιδήποτε και να το απευθύνει στο πιο κατάλληλο κοινό για να το δεχτεί.
Και την ίδια στιγμή τα παραδοσιακά ΜΜΕ έχουν απωλέσει την αξιοπιστία τους και δεν μπορούν να λειτουργήσουν ως αντίβαρα…
Οι δημοσιογράφοι έχουν φτάσει στο σημείο να ανταγωνίζονται σε ταχύτητα τους ανθρώπους που ποστάρουν στα κοινωνικά δίκτυα. Αυτό είναι τελείως λάθος. Ωστόσο, η ρίζα του προβλήματος, ειδικά στην Ελλάδα αλλά όχι αποκλειστικά, είναι το επιχειρηματικό μοντέλο των ΜΜΕ. Πολύ λίγα μέσα είναι βιώσιμα. Θα πρέπει λοιπόν να δούμε πολύ σοβαρά το θέμα του λεγόμενου «δωρεάν» όσον αφορά τη διάθεση του ειδησεογραφικού περιεχομένου, καθώς και το ζήτημα της φορολόγησης των πλατφορμών.
Η ΕΕ είναι θωρακισμένη ώστε στην τρέχουσα προεκλογική περίοδο των Ευρωεκλογών να μην γίνουμε μάρτυρες εκστρατειών παραπληροφόρησης μέσα από τα κοινωνικά δίκτυα;
Υποψιασμένη και θορυβημένη σίγουρα, θωρακισμένη σε καμία περίπτωση.
«Το τέλειο είναι ο εχθρός του καλού και ποτέ δεν το πετυχαίνουμε με την πρώτη. Ο Ντα Βίντσι για να φτάσει στη Μόνα Λίζα χρειάστηκε να ζωγραφίσει πολύ».
Είναι εφικτό να υπάρξει μια κεντρική παρέμβαση στον τρόπο λειτουργίας των πλατφορμών και των εταιρειών που τις αναπτύσσουν;
Θεωρητικά είναι εφικτό και η λύση είναι να σταματήσουν αυτές οι πλατφόρμες, τα κοινωνικά δίκτυα, να προσφέρουν τις υπηρεσίες τους δωρεάν, έτσι ώστε πελάτης τους να γίνει ο χρήστης και όχι ο διαφημιζόμενος. Στην πράξη όμως αυτό δεν διορθώνεται εύκολα διότι οι εταιρείες αυτές είναι πολύ μεγάλες και οικονομικά ισχυρές. Έχουν γίνει κάποια βήματα, ωστόσο. Στην ΕΕ υπάρχουν οι οδηγίες για τις ψηφιακές αγορές και τις ψηφιακές υπηρεσίες με τις οποίες οι πλατφόρμες είναι υπόλογες για το περιεχόμενου που διακινούν. Ξέρετε, στην αρχή του διαδικτύου οι πλατφόρμες δεν είχαν ευθύνη για το περιεχόμενο που φιλοξενούσαν. Αυτό τότε ήταν σωστό. Σήμερα το γνωρίζουμε ότι δεν είναι.
Πάντως οι κρατικές παρεμβάσεις ακολουθούν ασθμαίνοντας τις τεχνολογικές εξελίξεις…
Θα πρέπει να αλλάξουν οι κύκλοι της ρύθμισης. Να γίνουν πολύ πιο γρήγοροι να ακολουθήσουν εκείνους των εταιρειών τεχνολογίας. Από το να αφήσουμε τις κοινωνίες στα πρόθυρα της διάλυσης, ας πειραματιστούμε.
Τι σημαίνει αυτό;
Η ανάγκη για την προστασία των προσωπικών δεδομένων δημιουργήθηκε από τα παρατράγουδα της περασμένης δεκαετίας και από την παντελή έλλειψη πλαισίου. Το περιβάλλον επομένως είναι ακόμα καινούργιο. Είμαστε σε μια περίοδο κατά την οποία όλα αυτά τα ζητήματα θα πρέπει να εξετάζονται ξανά και ξανά με βάση τις εξελίξεις και τις ανάγκες τις κοινωνίας, οι αποφάσεις να συμπληρώνονται ή και να αναθεωρούνται. Δεν γίνεται να αναζητούμε από την αρχή το τέλειο. Διότι έτσι υπάρχει ο κίνδυνος να μείνουμε στάσιμοι. Ξέρετε, το τέλειο είναι ο εχθρός του καλού και ποτέ δεν το πετυχαίνουμε με την πρώτη. Ο Ντα Βίντσι για να φτάσει στη Μόνα Λίζα χρειάστηκε να ζωγραφίσει πολύ.
Αυτό βέβαια ξεφεύγει από το θέμα της διαχείρισης των δεδομένων και αντανακλά μια ολόκληρη κοσμοθεωρία…
Η κοινωνία μας έχει εμμονή με την επιτυχία και στιγματίζει την αποτυχία παρά το γεγονός ότι διδασκόμαστε περισσότερα από τις ήττες μας.
«Η ιδιωτικότητα είναι μια πολυτέλεια που δεν την έχουμε εκτιμήσει όσο θα έπρεπε».
Τα προσωπικά δεδομένα είναι ό ,τι πιο πολύτιμο έχουμε αυτή τη στιγμή;
Τα δεδομένα έχουν αξία, αλλά θα πρέπει να μπορείς να τα εκμεταλλευτείς. Αυτό σημαίνει ότι είναι διαφορετική η αξία που δίνει στα δεδομένα του ένας μέσος χρήστης και εντελώς διαφορετική εκείνη που δίνει στα ίδια δεδομένα η Meta. Έχουμε μάθει να τα δίνουμε δωρεάν ή πολύ φθηνά ή τα δίνουμε χωρίς να καταλαβαίνουμε ότι το κάνουμε. Το πρώτο βήμα έγινε με το GDPR ώστε τουλάχιστον να αντιλαμβανόμαστε ότι κάποιος συλλέγει τα δεδομένα μας. Παράλληλα συμβαίνει και το εξής: άλλοτε ανησυχούμε πολύ με τη χρήση των δεδομένων μας και άλλοτε αδιαφορούμε πλήρως. Είναι επομένως δύσκολο να καταλάβουμε πότε πρέπει να αντιδράσουμε και πότε όχι. Το τρίτο και πιο σημαντικό είναι να θεσπιστούν κανόνες ώστε να είμαστε βέβαιοι ότι οι εταιρείες που συλλέγουν προσωπικά δεδομένα συλλέγουν όσα πραγματικά τους χρειάζονται και τίποτα περισσότερο.
Ας μείνουμε στο τρίτο. Ζούμε σε μια εποχή που η προσωποποίηση των υπηρεσιών αποτελεί το μεγάλο ζητούμενο για τις εταιρείες τεχνολογίας…
Φυσικά! Όσο περισσότερο σε γνωρίζει κάποιος τόσο καλύτερη θα είναι και η υπηρεσία που θα σου προσφέρει. Ωστόσο, χρειάζεται έλεγχος. Το πιο επικίνδυνο δεν είναι η συλλογή των δεδομένων, αλλά η μεταφορά τους από ένα συλλογέα σε έναν άλλο. Η Meta δεν περιορίζεται μόνο στη συλλογή των δεδομένων, αλλά αγοράζει από τρίτα μέρη. Στις ΗΠΑ οι data brokers είναι ένας εξαιρετικά δημοφιλής κλάδος.
Θα ήταν ένα ευτυχές σενάριο να κλείσει μια μέρα ο Ζούκερμπεργκ τη Meta και να αποσυρθεί στο Πάλο Άλτο;
Ναι, θα ήταν. Για το Facebook ειδικά θα ήταν μια πολύ ευτυχής συγκυρία, διότι δεν προσφέρει κάτι άλλο παρά υπηρεσίες για διαφημιζόμενους. Για την Google δεν μπορώ να το πω τόσο εύκολα, διότι η μηχανή αναζήτησής της είναι ένα εξαιρετικά χρήσιμο εργαλείο που χρησιμοποιούμε καθημερινά.
Στην περίοδο της πανδημίας πιστεύετε ότι εκχωρήσαμε πολύ εύκολα προσωπικά δεδομένα στο όνομα μιας κατάστασης «έκτακτης ανάγκης»;
Πιστεύω ότι καλώς εκχωρήσαμε προσωπικά δεδομένα στην διάρκεια της πανδημίας. Ωστόσο, δεν είμαι καθόλου βέβαιος ότι είναι ασφαλείς και κατάλληλες οι πλατφόρμες στις οποία τα δεδομένα αυτά έχουν αποθηκευτεί.
Και εδώ υπεισέρχεται ο ρόλος της κυβερνοασφάλειας;
Ναι, αλλά είναι χρήσιμο να συνειδητοποιήσουμε ότι η κυβερνοασφάλεια έρχεται να λειτουργήσει συμπληρωματικά, καθώς το έργο της είναι να διασφαλίζει ότι δεν θα υπάρχουν διαρροές σε όλο το δίκτυο. Ζητήματα όπως τι συνιστά προσωπικό δεδομένο, πώς αποθηκεύεται, ποιος έχει πρόσβαση σε αυτά, πού τα στέλνει κτλ. είναι θέματα που αφορούν άλλες αρχές και κυρίως τη νομοθεσία.
Εσείς γιατί δεχθήκατε τη θέση του επικεφαλής στην Εθνική Αρχή Κυβερνοσαφάλειας;
Η πρόταση μού έγινε από τον υπουργό ψηφιακής διακυβέρνησης και αποδέχθηκα γιατί αποτελεί μια πολύ ενδιαφέρουσα πρόκληση για μένα και μια ευκαιρία να βοηθήσω την χώρα μου. Τώρα που χτίζονται συνέχεια νέες ψηφιακές υπηρεσίες είναι σημαντικό να ενσωματώσουμε σε αυτές καλές πρακτικές κυβερνοασφάλειας από την αρχή και όχι εκ των υστέρων, οπότε και δυνητικά η Αρχή μπορεί να έχει πολύ μεγάλη θετική συνεισφορά.
Κατά τη διάρκεια της Beyond 2024 στη Θεσσαλονίκη μιλήσατε για τις προκλήσεις της θέσης και σταθήκατε, μεταξύ άλλων, στην έλλειψη προσωπικού. Ανησυχείτε ότι θα θέλετε να λειτουργήσει σωστά η Αρχή, αλλά δεν θα μπορεί;
Φυσικά! Με την νέα οδηγία της Ευρωπαϊκής Ένωσης (NIS2), οι αρμοδιότητες της αρχής διογκώνονται οπότε και η εύρεση προσωπικού με τις κατάλληλες δεξιότητες γίνεται ασφυκτικά επιτακτική. Η δυσκολία αυτή είναι παγκόσμιο φαινόμενο, αλλά οι χαμηλές αποδοχές του δημοσίου τομέα στην Ελλάδα την μεγεθύνουν δυσανάλογα.
Το δικαίωμα στην ιδιωτικότητα μετατρέπεται σταδιακά σε πολυτέλεια;
Οπωσδήποτε! Είναι μάλιστα μια πολυτέλεια που δεν την έχουμε εκτιμήσει όσο θα έπρεπε. Όλο και περισσότερο, μεγάλη μερίδα του πληθυσμού θυσιάζει την ιδιωτικότητά της χάριν ευκολίας. Την ίδια στιγμή, οι πιο προνομιούχοι του πλανήτη έχουν πάντα τη δυνατότητα να πληρώνουν άτομα ή υπηρεσίες που θα τους διασφαλίζουν αυτό το δικαίωμα.
«Αυτό που παρατηρείται είναι μια διάβρωση θεσμών, η οποία έρχεται ως αποτέλεσμα των ανισοτήτων. Αν δεν παρέμβουμε, η τεχνολογία θα οξύνει αυτές τις ανισότητες».
Τηρουμένων των αναλογιών, ο ανταγωνισμός στο πεδίο της Τεχνητής Νοημοσύνης έχει ομοιότητες με τον ανταγωνισμό του διαστήματος κατά τη δεκαετία του ’60;
Υπάρχει μια αντιστοιχία στο επίπεδο της διμερούς σύγκρουσης. Τότε ήταν οι ΗΠΑ με τη Σοβιετική Ένωση. Τώρα είναι οι ΗΠΑ με την Κίνα. Η διαφορά όμως είναι κρίσιμη: τότε ο στόχος ήταν κοινός και σχετικά απλός. Αυτή τη στιγμή, οι δύο χώρες δεν έχουν κοινούς στόχους στο πεδίο της Τεχνητής Νοημοσύνης.
Οι κοινωνίες απολαμβάνουν ισότιμα τα κεκτημένα που έχει προσφέρει η τεχνολογική πρόοδος μέσα από την ανάπτυξη και τη γιγάντωση των ιδιωτικών εταιρειών τενχολογίας;
Έχουμε χάσει την ισορροπία στη Δύση ανάμεσα στην ανταμοιβή της εργασίας και την ανταμοιβή του κεφαλαίου. Επιπλέον, και παρά την τεχνολογική πρόοδο, η παραγωγικότητα στον 20ο αιώνα και στον 21ο δεν έχει αυξηθεί πάρα πολύ. Τα τελευταία χρόνια έχουμε εναποθέσει τις ελπίδες μας στην Τεχνητή Νοημοσύνη για την αύξηση της παραγωγικότητας, το οποίο κατά τη γνώμη μου είναι λάθος.
Γιατί είναι λάθος;
Διότι όπως κάθε περίπλοκο εργαλείο χρειάζεται επιδέξια χέρια και ακόμα περισσότερο επιδέξια μυαλά -και αυτά δεν είναι πολλά. Αυτή τη στιγμή, η τεχνητή νοημοσύνη βοηθά εκείνους που ήδη γνωρίζουν να δουλεύουν παραγωγικά. Επιπλέον, οι αγορές είναι μυωπικές και δεν βλέπουν πέρα από τη μύτη τους, ειδικά όσο μειώνονται οι κύκλοι κερδοφορίας. Σε όλες τις βιομηχανικές επαναστάσεις, ήταν οι κοινωνίες που ξεσηκώθηκαν και απαίτησαν να ωφεληθούν από την τεχνολογική πρόοδο. Και ίσως αυτό συμβεί και τώρα. Μπορεί να ζούμε σε εποχή με καταιγιστικές εξελίξεις, αυτό όμως δεν σημαίνει ότι οι βασικές αρχές της κοινωνιολογίας και της ιστορίας δεν έχουν ισχύ.
Δημήτρης Καπάνταης / SOOC
Πιστεύετε δηλαδή ότι είμαστε στα πρόθυρα μιας κοινωνικής έκρηξης;
Θα το πω διαφορετικά. Αυτό που παρατηρείται είναι μια διάβρωση θεσμών, η οποία έρχεται ως αποτέλεσμα των ανισοτήτων. Αν δεν παρέμβουμε, η τεχνολογία θα οξύνει αυτές τις ανισότητες. Ωστόσο, η επίλυση των ανισοτήτων είναι θέμα πολιτικό πρωτίστως. Η τεχνολογία είναι μια παράμετρος στη συζήτηση. Η Δύση παρουσιάζει μια αδυναμία να δημιουργήσει τις συνθήκες εκείνες που θα προστατεύουν τους πολλούς, με αποτέλεσμα να επανεμφανίζονται φαινόμενα που είχαμε ξεχάσει, όπως η ακραία φτώχια.
Έχετε εργαστεί 3 δεκαετίες στο Media Lab. Περνάτε ένα μεγάλο μέρος της καθημερινότητάς σας μαζί με συναδέλφους με τους οποίους οραματίζεστε τον κόσμο 30 και 40 χρόνια από σήμερα και όταν κλείνατε την πόρτα επιστρέφατε σε ένα κόσμο σύγχρονο μεν, αλλά πολύ πίσω σε σχέση με το δικό σας όραμα. Πώς επιτυγχάνατε αυτή την ισορροπία;
Δεν έχασα ποτέ την επαφή με την πραγματικότητα -και ειδικά την ελληνική. Το μεγαλύτερο κομμάτι της έρευνας μου ήταν τέτοιο που μου έδινε τη δυνατότητα να (τηλε)βρίσκομαι στην Ελλάδα και να παρακολουθώ τις εξελίξεις. Επίσης, ως μηχανικός πάντα θες να λύνεις τα προβλήματα του σήμερα άρα χρειάζεται να είσαι γειωμένος.
Θα είναι τα ρομπότ τα μόνα που θα διατηρήσουν την ανάμνηση ότι κι εμείς βαδίσαμε, ζήσαμε και δημιουργήσαμε πάνω σε αυτό τον πλανήτη;
Όχι, αυτή την ανάμνηση θα τη φυλάξει ο διάδοχος του homo sapiens. Η μετάβαση αυτή θα γίνει σταδιακά, θα μεταλαμπαδεύσουμε τις αξίες μας και θα μας κοιτά όπως κοιτάμε εμείς σήμερα τους Νεάντερταλ. Θα γνωρίζει ότι ήμασταν αρκετά όμοιοι με αυτόν και θα αναζητεί τους λόγους για τους οποίους εξαφανιστήκαμε. Ας ελπίσουμε ότι δεν θα γνωρίσει αυτό που εμείς σήμερα παραβλέπουμε: ότι δηλαδή θα είναι ένα μεγάλο λάθος να εξαφανιστούμε λόγω των πολεμικών συγκρούσεων και των επιπτώσεων που θα έχουν.
