Μια θερμοπυρηνική βόμβα ενός μεγατόνου εκρήγνυται πάνω από το Σύνταγμα. Σε μία ακτίνα ενάμιση χιλιομέτρου τα πάντα ισοπεδώνονται αστραπιαία. Η ολοκληρωτική καταστροφή εκτείνεται μέχρι τους Αμπελόκηπους, το Μοναστηράκι, τον λόφο του Στρέφη και το Α΄ Νεκροταφείο. Περίπου 1 εκατομμύριο άνθρωποι έχουν σκοτωθεί ακαριαία. Τα πρώτα ερείπια στέκονται στο ύψος της Κυψέλης. Οι περισσότερες κατοικίες μέχρι το Μαρούσι έχουν καταρρεύσει.
Σε μία έκταση 50.000 στρεμμάτων περίπου δεν έχει απομείνει τίποτε ζωντανό, οι πυρκαγιές μαίνονται ανεξέλεγκτα και τα πυρακτωμένα χαλάσματα έχουν συσσωρευτεί σε ύψος δεκάδων μέτρων. Ακάλυπτα άτομα μέχρι το Μαρούσι έχουν υποστεί εγκαύματα δευτέρου βαθμού. Σχεδόν όλοι οι επιζώντες, σε ακόμη μεγαλύτερη έκταση, έχουν υποστεί εγκαύματα ή τραύματα και έχουν εκτεθεί στη ραδιενέργεια. Στα προάστια κάθε λεπτό χιλιάδες άνθρωποι εξακολουθούν να πεθαίνουν. Η Αθήνα βρίσκεται χωρίς νοσοκομεία, χωρίς φως, χωρίς τηλεπικοινωνίες, χωρίς ύδρευση —μία πόλη θανάσιμα λαβωμένη.
Ένα υποθετικό σενάριο απόλυτης φρίκης. Αδιανόητο, σχεδόν απίθανο να συμβεί. Το ότι το συζητάμε, όμως, οφείλεται στο γεγονός ότι οι πυρηνικές υπερδυνάμεις ούτε αφοπλίστηκαν έγκαιρα, ούτε έλαβαν ποτέ σοβαρά μέτρα για να αποτρέψουν την δυνητική εξάλειψη του ανθρώπινου είδους. Τηρουμένων των αναλογιών, κάτι παρόμοιο μπορεί να συμβεί και με την Τεχνητή Νοημοσύνη (ΤΝ).
Υπάρχουν ομοιότητες, αλλά και διαφορές Ο πυρηνικός πόλεμος είναι ένα κατακλυσμιαίο γεγονός, ενώ η ΤΝ ένα διαρκές φαινόμενο που μπορεί να υποσκάψει τα θεμέλια της κοινωνίας, της οικονομίας, του πολιτισμού και εντέλει να απειλήσει την ίδια μας την ύπαρξη. Να βρεθούμε δηλαδή σε μία κατάσταση που θα είναι πλέον πολύ αργά για να αντιδράσουμε αποτελεσματικά.
Σε μία πρόσφατη έρευνα, όταν επιστήμονες που ασχολούνται με την ΤΝ ρωτήθηκαν για τους κινδύνους που εγκυμονεί, οι μισοί θεώρησαν ότι με πιθανότητα 10%, η ΤΝ μπορεί να εξαφανίσει το ανθρώπινο είδος από προσώπου Γης. Παρά τα μεθοδολογικά προβλήματα της έρευνας, το γεγονός ότι αυτή η άποψη εκφράστηκε από τόσους πολλούς είναι άκρως ανησυχητικό. Και είναι ένα ισχυρό σημάδι ότι η ΤΝ πρέπει να ρυθμιστεί: Άμεσα, αποτελεσματικά και πριν εκραγεί στα χέρια μας, ή στα χέρια των παιδιών μας.
Οι Άμεσοι και υπαρκτοί κίνδυνοι της Τεχνητής Νοημοσύνης
Ο ακραίος κίνδυνος για την εξάλειψη του είδους μας, φυσικά, δεν είναι ούτε πολύ πιθανός ούτε άμεσος. Υπάρχει , ωστόσο, πληθώρα άλλων πολύ σοβαρών κινδύνων που απειλούν να διαρρήξουν τον κοινωνικό ιστό και να προκαλέσουν ένα ισχυρό πολιτικό και οικονομικό τσουνάμι το οποίο μπορεί να σαρώσει τα πάντα στο διάβα του. Η μελέτη περιπτώσεων για ορισμένους κύριους κινδύνους είναι χρήσιμη, υπαγορεύοντας και την μορφή της αντίστοιχής ρύθμισης.
Ασφάλεια και προστασία
Το 2016, ένα αυτόνομα κινούμενο όχημα που χρησιμοποιούσε η Uber παρέσυρε και σκότωσε μία πεζή γυναίκα στην Αριζόνα. Το ατύχημα ταρακούνησε την κοινή γνώμη: τα συστήματα ΤΝ (ουδείς αλάνθαστος, ούτε οι μηχανές φυσικά) κάνουν λάθη, και μάλιστα θανάσιμα. Κυριολεκτικά.
Δυο χρόνια αργότερα, το Rekognition, ένα σύστημα ΤΝ για αναγνώριση προσώπων, το οποίο έχει αναπτυχθεί από την Amazon, αναγνώρισε λανθασμένα 28 μέλη του Κογκρέσου ως εγκληματίες, παρά το γεγονός ότι είχαν λευκό ποινικό μητρώο. Το σφάλμα αυτό επέτεινε τις ανησυχίες σχετικά με το ενδεχόμενο τα συστήματα ΤΝ να είναι επιρρεπή σε φυλετικές και άλλες διακρίσεις, χωρίς οι δημιουργοί τους να κατανοούν το μέγεθός τους.
Τα συστήματα ΤΝ γίνονται ολοένα και πιο περίπλοκα και ενσωματώνονται σε πολλές πτυχές της ζωής μας. Ο δυνητικός τους αντίκτυπος στην κοινωνία μεγεθύνεται —και συνακόλουθα η πιθανότητα κινδύνων για την ασφάλεια και την προστασία των ανθρώπων. Οι αλγόριθμοι ΤΝ μπορούν είτε να παρερμηνεύσουν ή να επεξεργαστούν λανθασμένα τις πληροφορίες, οδηγώντας σε συνέπειες, τις οποίες ουδείς επιθυμούσε ή είχε προβλέψει, είτε να χρησιμοποιηθούν για απειλές στον κυβερνοχώρο και για την ανάπτυξη αυτόνομων όπλων. Η ρύθμιση είναι απαραίτητη, διασφαλίζοντας -σε κάποιον βαθμό- ότι τα συστήματα ΤΝ κατασκευάζονται με ισχυρά πρότυπα ασφαλείας και υποβάλλονται σε αυστηρές δοκιμές ώστε να ελαχιστοποιείται η πιθανότητα πρόκλησης βλάβης.
Προκατάληψη και μεροληψία
Το 2016 πάλι, η οργάνωση ερευνητικής δημοσιογραφίας ProPublica διαπίστωσε ότι η αστυνομία της Φλόριντα χρησιμοποιούσε ένα σύστημα ΤΝ για να προβλέπει την πιθανότητα υποτροπής των εγκληματιών, το οποίο ήταν προκατειλημμένο έναντι των μαύρων και των ατόμων καταγωγής από τη Λατινική Αμερική. Το σύστημα προέβλεπε -με διπλάσια πιθανότητα σε σχέση με τις άλλες φυλετικές ομάδες- ότι οι μαύροι και οι λατινοαμερικανοί παραβάτες θα διέπρατταν εγκλήματα στο μέλλον, ακόμη και αν δεν είχαν προηγούμενο ποινικό ιστορικό.
Το 2017, ερευνητές του Πανεπιστημίου της Ουάσινγκτον διαπίστωσαν ότι ένα σύστημα ΤΝ που χρησιμοποιείται από το Google Photos για την ταξινόμηση εικόνων είχε περισσότερες πιθανότητες να ταξινομήσει λανθασμένα και μεροληπτικά τις εικόνες νεαρών μαύρων ατόμων από ό,τι τις εικόνες λευκών ατόμων. Αυτή η μεροληψία θα μπορούσε να οδηγήσει αργότερα σε βλαπτικές διακρίσεις σε τομείς όπως η πρόσληψή τους, ένα δάνειο που ζητούσαν από την τράπεζα, η αγορά ή η μίσθωση κατοικίας.
Πριν από 4 χρόνια, μια μαύρη ερευνήτρια στη Βοστόνη με έκπληξη διαπίστωσε ότι ένα σύστημα ΤΝ δεν αναγνώριζε το πρόσωπό της —μέχρι που φόρεσε μια λευκή μάσκα. Προφανώς τα δεδομένα που είχαν εκπαιδεύσει το σύστημα του είχαν δημιουργήσει μία ιδιότυπη Άρια προκατάληψη.
Τα συστήματα ΤΝ πρόσφατα έχουν βελτιωθεί εντυπωσιακά και δεν κάνουν πια τέτοια χονδροειδή λάθη. Ωστόσο, εκπαιδεύονται ρουφώντας πολύ μεγάλα σύνολα δεδομένων, και αν αυτά περιέχουν προκαταλήψεις, τα μοντέλα ΤΝ θα τις ενσωματώσουν, εισάγοντας αθέατες αλλά δυνητικά βλαπτικές διακρίσεις. Ένας ρυθμιστικός κανονισμός μπορεί (με αρκετή αποτελεσματικότητα, αν είναι ευέλικτος) να προωθήσει την αμεροληψία στην ανάπτυξη της ΤΝ, θεσπίζοντας αρχές για τον μετριασμό της προκατάληψης, και απαιτώντας διαφάνεια στη συλλογή δεδομένων και στη λήψη αποφάσεων από αλγορίθμους.
Λογοδοσία και αστική ευθύνη
o υπερυπολογιστής Watson, ο οποίος αναπτύχθηκε από την ΙBM, έχει στο ενεργητικό του πολλά επιτεύγματα: Νίκησε τους πιο επιτυχημένους παίκτες στο παιχνίδι γνώσεων Jeopadry!, ειδικεύτηκε στις ιατρικές διαγνώσεις στην ογκολογία και την ακτινολογία, δίνοντας γνώμες και συμβουλές στους θεράποντες γιατρούς -με εντυπωσιακά αποτελέσματα-, και για ένα φεγγάρι εργάστηκε ακόμη και ως σεφ, φτιάχνοντας πρωτότυπες συνταγές. Ωστόσο, εσωτερικά έγγραφα της ΙBM ανέφεραν ότι ο Watson παρείχε ενίοτε «επισφαλείς και εσφαλμένες συμβουλές για τη θεραπεία ασθενών με καρκίνο». Κανείς ασθενής δεν υπέστη ζημία, τα περιστατικά, εντούτοις, δημιούργησαν ανησυχίες σχετικά με την έλλειψη σαφών κατευθυντήριων γραμμών για τη λογοδοσία στα συστήματα ΤΝ.
Χαρακτηριστικό, συναφώς, είναι και το περιστατικό που αναφέρθηκε παραπάνω σχετικά με το αυτόνομα κινούμενο όχημα, το οποίο είχε αναπτύξει η εταιρεία Waymo και χρησιμοποιούσε η Uber. Μήτε η Waymo μήτε η Uber θεωρήθηκαν ως υπεύθυνες για το ατύχημα, καθώς η νομοθεσία δεν ήταν σαφής σχετικά με το ποιος υπέχει την ευθύνη για τις ενέργειες των συστημάτων AI.
Όταν τα συστήματα ΤΝ προκαλούν βλάβη σε ανθρώπους ή ζημία σε αντικείμενα , είναι συνήθως δύσκολο να προσδιοριστεί ποιος ευθύνεται. Η πολυπλοκότητα των συστημάτων ΤΝ και η εμπλοκή πολλών μερών, όπως σχεδιαστές, προγραμματιστές, υπεύθυνοι ανάπτυξης και ποιοτικού ελέγχου, αλλά και πάροχοι δεδομένων, μπορεί να περιπλέξει την απόδοση της ευθύνης. Η ρύθμιση εδώ είναι αναγκαία, προκειμένου να καθορίσει σαφείς κατευθυντήριες γραμμές, αφενός αποδίδοντας (και επιμερίζοντας) την ευθύνη για τη ζημία που προκαλούν τα συστήματα ΤΝ και αφετέρου παρέχοντας αποτελεσματικού μηχανισμούς επανόρθωσης.
Διαφάνεια και δυνατότητα επεξήγησης (explainability)
Ήδη από το 2015, ερευνητές στο ΜΙΤ, στο Χάρβαρντ και το Κέιμπριτζ είχαν δημοσιεύσει εργασίες για το πώς τα συστήματα ΤΝ μπορούσαν να χρησιμοποιηθούν για τη δημιουργία ηχητικών «ντοκουμέντων» και deepfake βίντεο που δεν ξεχώριζαν από τα πραγματικά. Άνθρωποι φαίνονταν και ακούγονταν να λένε πράγματα που δεν είπαν ποτέ με πειστικές εκφράσεις και απαράλλαχτη χροιά φωνής, όπως έχει συμβεί με τον πρώην πρόεδρο των ΗΠΑ Μπάρακ Ομπάμα. Μερικές φορές ακόμη και τα πρόσωπα δεν είναι υπαρκτά, αλλά είχαν κατασκευαστεί από την ΤΝ. Εύλογα λοιπόν προκαλούνται ανησυχίες σχετικά με τη δυνατότητα χρήσης της ΤΝ για τη χειραγώγηση της κοινής γνώμης, τη διάβρωση της εμπιστοσύνης ως προς τα πραγματικά γεγονότα και την εγκαθίδρυση μίας γενικευμένης δυσπιστίας που μόνον ζημία μπορεί να προκαλέσει.
Επιπλέον, τα συστήματα ΤΝ, όντας πολύπλοκα και εν πολλοίς αδιαφανή (ένα «μαύρο κουτί» που κανείς δεν μπορεί να δει τι συμβαίνει στο εσωτερικό του), δυσχεραίνουν σε μεγάλο βαθμό τη δυνατότητά μας να κατανοήσουμε τον τρόπο βάσει του οποίου λαμβάνουν τις αποφάσεις τους. Αυτή η έλλειψη διαφάνειας δυσχεραίνει τη λογοδοσία και τις προσπάθειες εντοπισμού και αντιμετώπισης πιθανών προκαταλήψεων ή σφαλμάτων.
Μία κανονιστική νομοθεσία οφείλει να ενθαρρύνει τη διαφάνεια, επιβάλλοντας σε όλους εκείνους που αναπτύσσουν συστήματα ΤΝ να ενσωματώνουν από την αρχή (εξ ορισμού όπως λέγεται) μηχανισμούς τεκμηρίωσης και δυνατότητας επεξήγησης, επιτρέποντας την καλύτερη κατανόηση του τρόπου λειτουργίας των συστημάτων ΤΝ και τον εντοπισμό και επίλυση πιθανών προβλημάτων.
Και πολλά ακόμη…
Οι περιπτώσεις με πιθανό αντίκτυπο της ΤΝ στη ζωή των ανθρώπων δεν περιορίζονται στα ανωτέρω παραδείγματα, αλλά καθημερινά αυξάνονται. Ο κατάλογος είναι μακρύς: ο εκτοπισμός θέσεων εργασίας και τα οργανωτικά, οικονομικά και κοινωνικά μέτρα που πρέπει να ληφθούν· ο υγιής ανταγωνισμός που απαιτεί θαρραλέες ρυθμίσεις προκειμένου να αποτραπούν τα μονοπώλια και οι αθέμιτες επιχειρηματικές πρακτικές στον κλάδο της ΤΝ, αλλά και η συγκέντρωση ισχύος στα χέρια λίγων κυρίαρχων παικτών· η δυνατότητα της ΤΝ να ξεπεράσει τον ανθρώπινο έλεγχο και την αυτονομία, οδηγώντας στη δυνατότητα των συστημάτων ΤΝ να λαμβάνουν αποφάσεις ή να αναλαμβάνουν δράσεις επιβλαβείς για τον άνθρωπο ή αντίθετες με τις ανθρώπινες αξίες.
Η ρύθμιση μπορεί να διασφαλίσει ότι τα συστήματα ΤΝ παραμένουν διαρκώς υπό ανθρώπινο έλεγχο, απαιτώντας διασφαλίσεις για την αποφυγή δυσμενών συνεπειών και ενσωματώνοντας μηχανισμούς ανθρώπινης εποπτείας.
Στη βάση αυτής της πυραμίδας -που τα περικλείει όλα- βρίσκεται η θέσπιση κανόνων και ρυθμίσεων για την ανάπτυξη ηθικής Τεχνητής Νοημοσύνης. Η ηθική ΤΝ θα προάγει τη δημόσια εμπιστοσύνη στις τεχνολογίες ΤΝ. Όταν οι χρήστες και το ευρύ κοινό γνωρίζουν ότι υπάρχουν κατευθυντήριες γραμμές και διασφαλίσεις, είναι πολύ πιθανότερο να αποδεχθούν και να υιοθετήσουν τις καινοτομίες της ΤΝ. Η ηθική ΤΝ είναι κρίσιμη, προκειμένου οι άνθρωποι να δημιουργήσουν ηλεκτρονικούς απογόνους που είναι υπεύθυνοι και χρήσιμοι ως μέλη της κοινωνίας και όχι εγκληματίες, παρασιτικά στοιχεία, αυταρχικοί δυνάστες, προπαγανδιστές και άλλα τέρατα με υπερφυσική δύναμη και επιρροή.
***
Το ζήτημα του αν εντέλει ρυθμίζεται αποτελεσματικά η ΤΝ είναι ανοιχτό. Αυτό όμως για κανένα λόγο δεν πρέπει να οδηγεί σε παραίτηση ή αδιαφορία. Η Ευρώπη πρωτοπορεί στη ρύθμιση των αναδυόμενων τεχνολογιών, και αυτό το απέδειξε για μία ακόμη φορά με την Πράξη για την Τεχνητή Νοημοσύνη, στο κείμενο της οποίας συμφώνησαν η Κομισιόν και το Ευρωπαϊκό Κοινοβούλιο στις 8 Δεκεμβρίου· και με τη συμπληρωματική Πράξη για τα Δεδομένα, η οποία συμφωνήθηκε αντιστοίχως μερικούς μήνες νωρίτερα.
Η Πράξη για τη Τεχνητή Νοημοσύνη αποτελεί την πρώτη προσπάθεια θέσπισης μιας οριζόντιας ρύθμισης και επικεντρώνεται στα συστήματα ΤΝ και τους συναφείς κινδύνους. Πρόκειται για ένα ολοκληρωμένο ρυθμιστικό πλαίσιο, το οποίο αποσκοπεί στην προώθηση της ανάπτυξης και της διάδοσης αξιόπιστης Τεχνητής Νοημοσύνης, διασφαλίζοντας ότι τα συστήματα που την εμπεριέχουν σχεδιάζονται, αναπτύσσονται και χρησιμοποιούνται κατά τρόπο που δίνει προτεραιότητα στην ανθρώπινη ασφάλεια, τα θεμελιώδη δικαιώματα και την κοινωνική ευημερία.
Για το σκοπό αυτό καθιερώνει μια προσέγγιση με βάση τον κίνδυνο, κατηγοριοποιώντας τα συστήματα ΤΝ ανάλογα με τη βλάβη που δύνανται να προκαλέσουν, και θεσπίζει δέσμη μέτρων για τον μετριασμό των κινδύνων κάθε κατηγορίας.
Η κεφαλαιώδης σημασία αυτής της πρωτοβουλίας σε έναν κόσμο που αρχίζει να κυβερνάται από αλγορίθμους και δεδομένα είναι πλέον πασιφανής.
(Για περισσότερα σχετικά με την Πράξη για την ΤΝ μπορείτε να ανατρέξετε εδώ και εδώ)
