Υψηλές τάσεις

Θα δεχόσαστε ο στρατός να χρησιμοποιεί πλήρως αυτόνομες μηχανές οι οποίες θα μπορούν να σκοτώνουν ανθρώπους κατά το δοκούν; Τέτοιου είδους «ρομπότ-δολοφόνοι» έχουν κάνει την εμφάνισή τους σε εργαστήρια αλλά δεν έχουν βγει ακόμη στα πεδία της μάχης. Ενας πόλεμος ωστόσο μαίνεται γύρω τους εδώ και λίγο καιρό. Αιτία μια καμπάνια που ξεκίνησε ζητώντας την απαγόρευσή τους ταυτόχρονα με την πρώτη «επίσημη» σχετική συζήτηση από ειδική επιτροπή του Οργανισμού Ηνωμένων Εθνών τον προηγούμενο μήνα στη Γενεύη.

Ακριβώς πριν από την έναρξη των συνομιλιών ο Στιούαρτ Ράσελ, καθηγητής στο Πανεπιστήμιο της Καλιφόρνιας στο Μπέρκλεϊ και εκ των πρωτοπόρων στην τεχνητή νοημοσύνη, παρουσίασε ένα φιλμάκι στο οποίο εξηγούσε ότι τα «μποτ σφαγείς» («Slaughterbots») μπορούν ανά πάσα στιγμή να αποτελέσουν πραγματική και πολύ σοβαρή απειλή αφού οι τεχνολογίες για την κατασκευή τους είναι ήδη εδώ. Το βίντεο, παραγωγής του Ινστιτούτου για το Μέλλον της Ζωής (Future of Life Institute –FLI), στο οποίο μεταξύ άλλων είναι σύμβουλοι ο αστροφυσικός Στίβεν Χόκινγκ και ο πολυεκατομμυριούχος επιχειρηματίας Ελον Μασκ, έγινε αμέσως viral. Παρά την επιτυχία του, και τις παράλληλες εκστρατείες που διοργανώθηκαν από άλλες οργανώσεις, τα μέλη της επιτροπής του ΟΗΕ απέφυγαν να καταλήξουν σε κάποια απόφαση, ανανεώνοντας το ραντεβού τους για του χρόνου.

Στη δημόσια συζήτηση πάντως επιστήμονες από όλον τον κόσμο δεν δίστασαν να τοποθετηθούν –οι περισσότεροι κατά των αυτόνομων οπλικών συστημάτων με δυνατότητα να σκοτώνουν. Τα επιχειρήματα εναντίον των «ρομπότ 007» είναι προφανή. Το ότι οι μηχανές, όσο έξυπνες και αν είναι, δεν διαθέτουν (τουλάχιστον ακόμη) κρίση όπως οι άνθρωποι είναι το κυριότερο από αυτά, όπως επίσης το ότι δεν είναι σε θέση να αξιολογήσουν σωστά δύσκολες καταστάσεις (π.χ. σε πολύπλοκες εμπόλεμες ζώνες όπως το Ιράκ) ή να κατανοήσουν τις αποχρώσεις των ανθρώπινων συμπεριφορών. «Η δυνατότητα της τεχνητής νοημοσύνης να βοηθήσει την ανθρωπότητα είναι τεράστια, ακόμη και στην Αμυνα, όμως το να επιτρέψουμε σε μηχανές να επιλέγουν να σκοτώνουν ανθρώπους θα είναι καταστρεπτικό για την ασφάλεια και την ελευθερία μας» προειδοποίησε ο Στιούαρτ Ράσελ. «Χιλιάδες συνάδελφοί μου ερευνητές συμφωνούν σε αυτό».

Κάποιοι ωστόσο διαφωνούν. Ως ισχυρότερο επιχείρημα προτάσσουν το ότι η χρήση ρομπότ στον πόλεμο θα σώσει πολλές ανθρώπινες ζωές (τα θύματά τους μένουν μάλλον έξω από τον λογαριασμό) ενώ παράλληλα επισημαίνουν ότι οι μηχανές δεν επηρεάζονται από ψυχολογικές πιέσεις ή ψευδαισθήσεις που συχνά οδηγούν τους ανθρώπους σε τραγικά λάθη. Ορισμένες πιο μετριοπαθείς φωνές, όπως ο ειδικός στη ρομποτική Ρόναλντ Αρκιν από το Ινστιτούτο Τεχνολογίας της Τζόρτζια στις ΗΠΑ, ζητούν αυστηρή νομοθετική ρύθμιση και την ανάπτυξη ειδικών προγραμμάτων «ηθικής διακυβέρνησης» που θα επιβάλλουν στα ρομπότ να λαμβάνουν υπόψη το διεθνές δίκαιο. Αλλοι, πιο «σκληροπυρηνικοί», θεωρούν ότι οι φόβοι που εκφράζονται εκτός από υπερβολικοί είναι επίσης καθαρά «ψυχολογικοί». Εφόσον είμαστε έτοιμοι να δεχθούμε ότι τα αυτόνομα αυτοκίνητα μπορούν να παίρνουν αποφάσεις ζωής και θανάτου, τότε θα πρέπει να δεχθούμε και τα ρομπότ που σκοτώνουν, υποστηρίζουν.

Το ότι είμαστε έτοιμοι να δεχθούμε αυτοκίνητα με τέτοια δικαιοδοσία δεν είναι ωστόσο καθόλου βέβαιο. Η συζήτηση γύρω από το περίφημο «ηθικό δίλημμα» του οδηγού σε καταστάσεις όπου π.χ. οι επιλογές είναι να χτυπήσει ένα παιδί ή να πέσει στον γκρεμό και το πώς αυτό θα πρέπει να αντιμετωπίζεται από τα αυτόνομα οχήματα είναι ακόμη ανοιχτή και… μαίνεται. Πρόσφατα ιταλοί ερευνητές παρουσίασαν ένα «κουμπί ηθικής» με το οποίο ο ιδιοκτήτης θα μπορεί να ρυθμίζει αν το αυτόνομο αυτοκίνητό του θα είναι «εγωιστικό», επιλέγοντας να προστατεύει τον ίδιο και να τραυματίσει ή να σκοτώσει τους άλλους, «αλτρουιστικό», προκρίνοντας την ασφάλεια των άλλων, ή «ουδέτερο», αλλά η ιδέα δεν έχει βρει ακόμη ένθερμους υποστηρικτές. Ενας σοβαρός φόβος είναι ότι, με μια τέτοια επιλογή στα χέρια τους, οι περισσότεροι θα προτιμήσουν την εγωιστική λύση ώστε να σώζονται οι ίδιοι αδιαφορώντας για τους γύρω τους. Η τάση αυτή άλλωστε έχει αποτυπωθεί ξεκάθαρα σε σχετική έρευνα που έγινε στις Ηνωμένες Πολιτείες και ορισμένοι επιστήμονες θεωρούν ότι μια ανάλογη λογική τού «ο θάνατός σου η ζωή μου» θα επικρατήσει και στην περίπτωση των ρομπότ-δολοφόνων.