Προσωπικά δεδομένα, εφαρμογές της τεχνητής νοημοσύνης, κίνδυνοι, μύθοι; Τι θα προβλέπει τελικά η σχετική ευρωπαϊκή νομοθεσία και ποια είναι η θέση της Ελλάδας στον τομέα αυτόν σε σχέση με τον ευρωπαϊκό μέσο όρο; Η επίκουρη καθηγήτρια του Παντείου Πανεπιστημίου και μέλος της Συμβουλευτικής Επιτροπής Υψηλού Επιπέδου για την Τεχνητή Νοημοσύνη της χώρας μας Φερενίκη Παναγοπούλου μάς μίλησε για αυτά τα επίκαιρα θέματα που δεν θα μπορούσαν να αφήσουν αδιάφορη την ΕΕ.
Η Φερενίκη Παναγοπούλου συζητεί με τα παιδιά του 2ου Γενικού Λυκείου Αθηνών
Μπορείτε να μας πείτε λίγα λόγια για τις σπουδές σας;
«Σπούδασα Νομική στο Πανεπιστήμιο Αθηνών και Δημόσια Υγεία και Δίκαιο στο Χάρβαρντ. Εκπόνησα την πρώτη μου διδακτορική διατριβή στο Χούμπολντ του Βερολίνου στον τομέα του Συνταγματικού Δικαίου και της Βιοηθικής και τη δεύτερη διδακτορική διατριβή στη Φιλοσοφική του Πανεπιστημίου Αθηνών στον τομέα της Τεχνητής Νοημοσύνης (ΤΝ). Ανέκαθεν με ενδιέφερε η σχέση δικαίου και ηθικής με την τεχνολογία και αβίαστα η έρευνά μου επικεντρώθηκε στην ΤΝ».
Σε ποιους τομείς εστιάζει σήμερα η Ευρωπαϊκή Ενωση αναφορικά με την τεχνητή νοημοσύνη; Εντοπίζονται διαφορές με άλλες χώρες, εκτός Ευρωπαϊκής Ενωσης;
«Η Ευρωπαϊκή Ενωση εστιάζει σε τομείς της απονομής δικαιοσύνης, της υγείας, της βελτίωσης της διοικητικής αποτελεσματικότητας υπό όρους προστασίας των δικαιωμάτων των πολιτών. Η ανωτέρω προβληματική εντείνεται και από την αγωνία ότι η Ευρωπαϊκή Ενωση επείγεται να αντιταχθεί αλλά και να ανταγωνισθεί εξωευρωπαϊκά προϊόντα ΤΝ κυρίως από τις ΗΠΑ και την Κίνα που θα διασπάσουν την ενότητα της φιλοσοφίας και της τεχνολογίας της ΤΝ και δεν εστιάζουν στην ανθρωποκεντρική ρύθμιση».
Ποια είναι τα βασικά σημεία του AI act, που συζητείται αυτό το διάστημα στην Ευρωπαϊκή Ενωση; Είναι εύκολο για τις χώρες της ΕΕ να καταλήξουν σε ένα κοινό θεσμικό πλαίσιο αναφορικά με την τεχνητή νοημοσύνη;
«Πρώτον, βασικός πυλώνας του Κανονισμού είναι η απαίτηση για διαφάνεια στα συστήματα ΤΝ. Αυτό συνεπάγεται ότι οι προγραμματιστές και οι χειριστές ΤΝ οφείλουν να παρέχουν σαφείς πληροφορίες για τον τρόπο λειτουργίας των συστημάτων ΤΝ, τη λογική πίσω από τις αποφάσεις τους και τις πιθανές επιπτώσεις που μπορεί να έχουν αυτά τα συστήματα.
Δεύτερον, λαμβάνει χώρα διαβάθμιση των κινδύνων που αναφύονται από την ΤΝ. Για τα συστήματα υψηλού κινδύνου απαιτείται αυστηρή ρυθμιστική εποπτεία και αξιολόγηση των κινδύνων. Απαγορεύονται ορισμένες εφαρμογές τεχνητής νοημοσύνης που θεωρούνται επιβλαβείς, όπως συστήματα κοινωνικής βαθμολόγησης και χειραγώγησης της ανθρώπινης συμπεριφοράς.
Τρίτον, τίθενται όρια στη βιομετρική επιτήρηση. Τα συστήματα αναγνώρισης προσώπου από τις αρχές επιβολής του νόμου και άλλες δημόσιες αρχές επιτρέπονται μόνο για λόγους εθνικής ασφάλειας.
Τέταρτον, στα γενικά συστήματα ΤΝ παρέχεται ένα σύνολο κατευθυντήριων γραμμών που επιχειρούν να προωθήσουν την καινοτομία διασφαλίζοντας παράλληλα την ηθική ανάπτυξη. Ο νόμος υιοθετεί μια ισορροπημένη προσέγγιση που ενθαρρύνει την τεχνολογική πρόοδο και υποστηρίζει τις μικρές και μεσαίες επιχειρήσεις στον τομέα της ΤΝ. Προβλέπονται ρυθμιστικά sandboxes, τα οποία παρέχουν ένα ελεγχόμενο περιβάλλον για τη δοκιμή συστημάτων ΤΝ χωρίς να υποπίπτουν σε έντονους ρυθμιστικούς περιορισμούς.
Πέμπτον, προβλέπεται μια κλιμακωτή δομή κυρώσεων, με πρόστιμα που ποικίλλουν ανάλογα με τη σοβαρότητα και τη φύση της παράβασης. Η χρήση απαγορευμένων εφαρμογών μπορεί να οδηγήσει σε πρόστιμα εκατομμυρίων ευρώ ή σε σημαντικό ποσοστό του παγκόσμιου ετήσιου κύκλου εργασιών της παραβατικής οντότητας.
Ο Κανονισμός έχει άμεση εφαρμογή στα κράτη-μέλη της ΕΕ. Ωστόσο, σε ορισμένα διαφιλονικούμενα σημεία τα κράτη-μέλη συμφωνούν ότι διαφωνούν και για αυτό τους καταλείπεται η διακριτική ευχέρεια να προβούν στις δικές τους επιλογές».
Εχετε πει στο παρελθόν ότι το μηχάνημα πρέπει να υποβοηθεί, όχι όμως να υποκαθιστά τον δημόσιο υπάλληλο, τον δικαστή, τον γιατρό. Πώς θα εξασφαλιστεί η μη αντικατάσταση των ανθρώπων από τη μηχανή;
«Η τελική απόφαση πρέπει να λαμβάνεται υποχρεωτικά από έναν άνθρωπο, ο οποίος θα αιτιολογεί γιατί ακολούθησε ή δεν ακολούθησε την πρόταση του αλγορίθμου».
Σε ποιον βαθμό η χρήση της τεχνητής νοημοσύνης μειώνει τις διακρίσεις και δεν οδηγεί στη λήψη μεροληπτικών αποφάσεων;
«Η ΤΝ δεν οδηγεί σε διακρίσεις υπό τον όρο ότι ο αλγόριθμος έχει δημιουργηθεί με τρόπο που αποκλείει τις διακρίσεις. Ο αλγόριθμος πρέπει να στηρίζεται σε αντικειμενικά και αληθή δεδομένα, χωρίς να ενσωματώνει τις διακρίσεις του κατασκευαστή του αλγορίθμου».
Πώς θα γίνει η οριοθέτηση της AI σωστά, έτσι ώστε να λειτουργεί στο πλαίσιο της τεχνοηθικής;
«Θα πρέπει η ΤΝ να σέβεται τις αρχές του σεβασμού της ανθρώπινης αυτονομίας, της μη βλάβης και της δικαιοσύνης. Οφείλουμε να επιμείνουμε στην ανθρωποκεντρική χρήση της τεχνολογίας».
Πόσο έχουν υλοποιηθεί εφαρμογές τεχνητής νοημοσύνης στην Ελλάδα και σε ποιους τομείς; Πού βρίσκεται στον τομέα αυτόν η Ελλάδα σε σχέση με τον ευρωπαϊκό μέσο όρο;
«Εχουν υλοποιηθεί εφαρμογές στον τομέα της δικαιοσύνης, της δημόσιας διοίκησης, της υγείας, της πολιτικής προστασίας, της διαχείρισης δημοσίων εσόδων, της διαχείρισης της ανθρωπίνου δυναμικού και των υποδομών. Σύμφωνα με τις διαθέσιμες στατιστικές, η Ελλάδα βρίσκεται σε πολύ καλή θέση αναφορικά με τους ερευνητές της που δυστυχώς είναι εκτός Ελλάδος. Το 11% των ερευνητών ΤΝ στην Ευρώπη είναι απόφοιτοι ελληνικών πανεπιστημίων. Ενθαρρυντικό είναι το γεγονός ότι 19% των ελληνικών startups ασχολούνται με την παραγωγική ΤΝ».
«Να απαλλαχθούμε από τη δικτατορία του μέσου όρου»
Με αφορμή το ChatGPT, πώς πιστεύετε ότι θα επηρεάσει η χρήση της AI την εκπαίδευση;
«Πιστεύω ότι η εκπαίδευση πρέπει να κινηθεί στους εξής άξονες: Πρώτον, καλλιέργεια της συμβατικής γραφής από τις χαμηλές τάξεις προκειμένου οι μαθητές να μην αποκοπούν από αυτή την πολύ χρήσιμη δεξιότητα. Δεύτερον, η επίδοση των εκπαιδευομένων μπορεί να (συν)αξιολογείται μέσα από συμβατικές εξετάσεις χωρίς τη χρήση κινητού τηλεφώνου. Τρίτον, οι εκπαιδευόμενοι συνιστάται να εξετάζονται προφορικά σε κριτικά ζητήματα επί των εργασιών τους. Τέταρτον, οι ερωτήσεις των θεμάτων συνιστάται να είναι πιο κριτικές, προκειμένου να μην είναι εύκολο να τις συνθέσει το μηχάνημα. Οφείλουμε να μορφώσουμε τον κόσμο, ώστε να έχουμε πολίτες και επιστήμονες με κριτική σκέψη και να απαλλαχθούμε από τη δικτατορία του μέσου όρου».
