Μπορούν τα προηγμένα συστήματα τεχνητής νοημοσύνης να ξεπεράσουν τη νοημοσύνη των ανθρώπων και τελικά αναπόφευκτα να τους… κυβερνήσουν; Και μπορούν και πιθανότητα θα το κάνουν! Αυτό τουλάχιστον εικάζει ο κ. Θεόδωρος Σκαλτσάς, ομότιμος καθηγητής Φιλοσοφίας στο Πανεπιστήμιο του Εδιμβούργου και συμμετέχων σε έρευνα για τη σχέση ανάμεσα στη δημοκρατία και τη «σοφία» της τεχνητής νοημοσύνης. Σε μια συζήτηση περί πιθανοτήτων, ο κ. Σκαλτσάς προβληματίζεται και εξηγεί απαντώντας στις ερωτήσεις του «Βήματος».
Βλέπουμε νέες μορφές τεχνητής νοημοσύνης παντού. Πού πηγαίνουνοι κοινωνίες των ανθρώπων;
«Για εμένα υπάρχουν δύο διαφορετικές ερωτήσεις: Πού πάει η κοινωνία και πού πιστεύει ο κόσμος ότι πηγαίνει η κοινωνία. Η δεύτερη ερώτηση είναι πολύ πιο επικίνδυνη από την πρώτη. Αυτό που πιστεύουν οι άνθρωποι για την τεχνητή νοημοσύνη είναι περίπλοκο και αναξιόπιστο. Η τεχνητή νοημοσύνη μπορεί να χρησιμοποιηθεί για δύο πράγματα: Για επιστημονικές ανακαλύψεις και για να… κυβερνήσει. Και τα δύο φαίνεται ότι είναι ιδιαίτερα επιθυμητά και μπορούν να επιδιωχθούν χωρίς τέλος στην κοινωνία μας, με στόχο την εξουσία και το χρήμα. Σε αυτό το πλαίσιο, ενώ η επιστημονική εξερεύνηση είναι εξαιρετικά χρήσιμη για την ανθρωπότητα, την επιστήμη και την ιατρική, η «διακυβέρνηση» (που φαίνεται σήμερα ένας έμμεσος κίνδυνος που μας πλησιάζει) είναι εντελώς απρόβλεπτη.
Αυτή τη στιγμή υπάρχει μια τεράστια επικοινωνιακή προβολή υπέρ της τεχνητής νοημοσύνης σε όλο τον κόσμο από ισχυρές εταιρείες που εμπορεύονται τα είδη της. Ετσι, πολύ συχνά οι πολίτες δεν γνωρίζουν και δεν καταλαβαίνουν τι μπορεί και τι δεν μπορεί να κάνει τελικά η τεχνητή νοημοσύνη. Η γνώμη μου είναι ότι πρέπει να δημιουργήσουμε σεμινάρια εκπαίδευσης σε θέματα τεχνητής νοημοσύνης για τους πολίτες, όχι όμως από μηχανικούς και κωδικοποιητές των συστημάτων της, για να τους βοηθήσουμε να κατανοήσουν τι είναι και τι δεν είναι».
Ανησυχείτε για τον πολιτισμό μας;
«Δεν είναι ότι ανησυχώ για τον πολιτισμό μας. Καθώς είναι σαφές για μένα ότι όσο η προσπάθεια «διακυβέρνησής» μας από τις νέες μορφές τεχνητής νοημοσύνης εξελίσσεται, τόσο ο πολιτισμός μας φτάνει στο τέλος του. Μπορούμε να προβλέψουμε μόνο τις πρώτες φάσεις μιας ενδεχόμενης «διακυβέρνησης τεχνητής νοημοσύνης», αλλά όχι για πολύ περισσότερο μετά από αυτό. Η τεχνητή νοημοσύνη είναι εντελώς απρόβλεπτη πέρα από την αρχή της. Οι δικές μου θέσεις και οι δικές μου προβλέψεις είναι οι εξής: Η ανθρώπινη σοφία γεννήθηκε στην Ελλάδα τον 5ο αιώνα π.Χ. και η ανθρώπινη σοφία θα πεθάνει στην υφήλιο τον 21ο αιώνα μ.Χ.».
Συγκλονιστική σκέψη. Αυτή είναι σήμερα η μεγαλύτερη αγωνία σας;
«Για να είμαι ειλικρινής ελπίζω να μη δω κοινωνίες που θα κυβερνώνται από συστήματα τεχνητής νοημοσύνης. Δεν λέω βέβαια ότι μια τέτοια πιθανή εξέλιξη θα ήταν απαραίτητα κακή. Απλά πιστεύω ότι μια τέτοια «διακυβέρνηση» σύντομα θα γινόταν απρόβλεπτη και δεν θέλω το τέλος της ζωής μου να είναι στο έλεος ενός αντίστοιχου ρίσκου. Επιτρέψτε μου να πω κάτι τελευταίο για αυτό: δεν είμαι φανατικός υπερασπιστής της «αυτονομίας». Και δεν είναι ότι δεν θα ήθελα να παραδώσω την αυτονομία μου σε ένα σύστημα τεχνητής νοημοσύνης αν αυτό ήταν καλύτερο για εμένα. Για χάρη μιας καλύτερης ζωής! Ωστόσο, τα συστήματα αυτά είναι τελικά τελείως απρόβλεπτα».
Δηλαδή λέτε ότι οι μηχανές τεχνητής νοημοσύνης μπορούν να αναπτύξουν κρίση, πρωτοβουλία, να ξεπεράσουν σε ισχύ τον άνθρωπο;
«Ναι, η τεχνητή νοημοσύνη μπορεί να αναπτύξει κρίση, να λάβει αποφάσεις, να είναι καινοτόμος και να ξεπεράσει την ανθρωπότητα στη νοημοσύνη. Δεν ξέρω αν η τεχνητή νοημοσύνη μπορεί να ξεπεράσει την ανθρωπότητα στη σοφία. (Επιτρέψτε μου να εξηγήσω ότι η σοφία είναι η νοημοσύνη που λειτουργεί με βάση τις καλές ανθρώπινες αξίες.) Ωστόσο, εάν τελικά τα παραπάνω σενάρια βγουν τελικά πραγματικότητα, δεν θα ερωτηθούμε από την τεχνητή νοημοσύνη εάν εγκρίνουμε τον τρόπο με τον οποίο μας κυβερνά. Επιτρέψτε μου να σας δώσω ένα παράδειγμα. Γύρω στο 2014, πήγα στην τράπεζα στο Εδιμβούργο (εργαζόμουν στο πανεπιστήμιο του Εδιμβούργου) και ζήτησα ένα στεγαστικό δάνειο. Μετά από συζήτηση, ο εκπρόσωπος της τράπεζας μου είπε ότι η αίτησή μου είχε απορριφθεί. Αναρωτήθηκα φυσικά γιατί και ρώτησα αν θα μπορούσα να μιλήσω σε κάποιον για αυτό. Μου απάντησαν ότι ήταν ο αλγόριθμος της τράπεζας που με είχε απορρίψει και οι ίδιοι δεν ήξεραν ούτε μπορούσαν να μάθουν τον λόγο για τον οποίο το έκανε. Ούτε βέβαια μπορούσαν να αλλάξουν την απόφαση. Και όλα αυτά ήταν μόνο το 2014».
Στα πανεπιστήμια τι συζητάτε για όλα αυτά; Οι νέοι άνθρωποι πώς σκέφτονται σήμερα;
«Οι άνθρωποι στα πανεπιστήμια, συμπεριλαμβανομένων των νέων, ανησυχούν για την τεχνητή νοημοσύνη. Το Ινστιτούτο του MIT «Future of Life Institute» μόλις δημοσίευσε μια επιστολή, την οποία υπογράψαμε πολλοί από εμάς, ζητώντας να μπει μια παύση στα πειράματα τεχνητής νοημοσύνης γιγαντιαίας κλίμακας. Ωστόσο, ακόμα κι αν το αίτημά μας εισακουστεί στις παγκόσμιες κοινωνίες, κάτι που είναι εξαιρετικά απίθανο, αυτό είναι μόνο μια προσωρινή λύση στο πρόβλημα της τεχνητής νοημοσύνης».
Αν το δεις απ’ έξω βέβαια, οι κοινωνίες μας απέτυχαν στο να βρουν τον «φιλόσοφο βασιλιά» τους…
«Οι τιμές των αλγορίθμων δεν είναι ανθρώπινες αξίες, αλλά αξίες που κωδικοποιούν μηχανικοί και προγραμματιστές για να αυξήσουν τις πωλήσεις της εταιρείας. Εκπρόσωποι του Ινστιτούτου «Future of Humanity» της Οξφόρδης είπαν πρόσφατα ότι εάν «τροφοδοτήσουμε» με καλές ανθρώπινες αξίες στους αλγορίθμους από νωρίς, τότε οι αλγόριθμοι θα αναπτυχθούν προς τη σωστή κατεύθυνση για τις ανθρώπινες αξίες στο μέλλον. Αυτό είναι επικίνδυνα και απαράδεκτα αφελές. Οταν η τεχνητή νοημοσύνη αναπτύσσει το δικό της σύστημα συζήτησης και συλλογισμού, θα αναπτύξει τις δικές της αξίες ως αποτέλεσμα αυτού, οι οποίες τελικά θα είναι εντελώς απρόβλεπτες από εμάς. Πάντως, ο τρόπος με τον οποίο αναπτύσσεται τώρα η τεχνητή νοημοσύνη ακολουθεί τη θεωρία του «Φιλόσοφου βασιλιά» σε μια διακυβέρνηση μάλιστα με απόλυτη εξουσία. Δεν θα ήθελα να είμαι σε αυτή την κοινωνία! Σκεφτείτε βέβαια ότι η τεχνητή νοημοσύνη κυβερνά ήδη πολλούς τομείς στην κοινωνία μας, στα οικονομικά, στη διεθνή και μερικές φορές στην εγχώρια κατασκοπεία, και το πιο σημαντικό, στην επιρροή της κοινής γνώμης».
Πρέπει να μπει ρυθμιστικό πλαίσιο στη χρήση και τα όρια της τεχνητής νοημοσύνης;
«Ενα ρυθμιστικό πλαίσιο για τη χρήση της υποδηλώνει την ανάγκη προστασίας των ανθρώπων. Προς το παρόν είναι αδύνατον να προβλέψουμε το ακριβές σενάριο που θα χαράξει η ανάπτυξη της τεχνητής νοημοσύνης. Ετσι, απαντώντας στο ερώτημα της ρύθμισης, προσδιορίζω εδώ τέσσερις προοπτικές και υποθέτω ότι η μελλοντική ανάπτυξη της ΤΝ θα είναι κάποιος συνδυασμός αυτών των τεσσάρων. Η πρώτη προοπτική είναι αυτή του παρόντος, και μόνο του πολύ άμεσου μέλλοντος, κατά τη διάρκεια του οποίου η τεχνητή νοημοσύνη εξυπηρετεί την ανθρωπότητα. Η δεύτερη προοπτική είναι αυτή κατά την οποία η τεχνητή νοημοσύνη κυβερνά την ανθρωπότητα. Η τρίτη προοπτική είναι αυτή κατά την οποία εξυπηρετεί τα συμφέροντα ενός εχθρού. Και η τέταρτη προοπτική είναι όταν η τεχνητή νοημοσύνη υπηρετεί τον εαυτό της. Το μέλλον είναι ένας απρόβλεπτος συνδυασμός των τεσσάρων προοπτικών. Ενα ρυθμιστικό πλαίσιο, δυστυχώς, αφορά μόνο την πρώτη προοπτική».
