Τεχνητή νοημοσύνη στη δημόσια διοίκηση

Πρόσφατες μελέτες του Ευρωπαϊκού Παρατηρητηρίου Τεχνητής Νοημοσύνης και του Κοινού Κέντρου Ερευνών της Ευρωπαϊκής Επιτροπής ανέδειξαν όχι μόνο τις ευκαιρίες και τις προκλήσεις που συνοδεύουν την εφαρμογή τέτοιων συστημάτων στη δημόσια διοίκηση αλλά και τη μεγάλη απόσταση που πρέπει να διανύσει η χώρα μας για να καταστεί «ορατή» και «μετρήσιμη» σε αυτόν τον κρίσιμο τομέα. Οι μελέτες αυτές βασίστηκαν στην ανάλυση της εφαρμογής όλων των εθνικών στρατηγικών για την τεχνητή νοημοσύνη (εκτός της χώρας μας που δεν έχει ακόμα προβεί στην εκπόνησή της) αλλά και στην επεξεργασία των αποτελεσμάτων πάνω από 700 πιλοτικών εφαρμογών αυτής της τεχνολογίας στον δημόσιο τομέα σε ολόκληρη την Ευρώπη.

Πρώτ’ απ’ όλα, σύμφωνα με τα σχετικά ευρήματα, τα συστήματα τεχνητής νοημοσύνης μπορούν να οδηγήσουν στη λήψη μεροληπτικών αποφάσεων. Αυτό αποτελεί μια ιδιαίτερα κρίσιμη παράμετρο καθώς εάν η ελληνική διοίκηση προχωρήσει στην ενσωμάτωση τέτοιων συστημάτων, θα πρέπει να λάβει υπόψη ότι ελλοχεύει ο κίνδυνος οι ίδιοι οι πολίτες να παγιδευτούν στα περίφημα «γραφειοκρατικά ψηφιακά κλουβιά», όπου όχι η φωνή τους αλλά τα δεδομένα τους και μόνο – ακόμα και όταν είναι ατελή – θα καθορίζουν το τι είδους δημόσιες υπηρεσίες θα απολαμβάνουν.

Επομένως είναι απαραίτητο να υπάρχει στενή εποπτεία της λειτουργίας των συστημάτων αυτών από ένα ανεξάρτητο και ρυθμιστικά ισχυρό κέντρο αλγοριθμικής διαφάνειας που θα πρέπει να ιδρυθεί άμεσα σε εθνικό επίπεδο, αλλά και οργανωμένη εμπλοκή της ίδιας της κοινωνίας των πολιτών στον σχεδιασμό των προϋποθέσεων υπό τις οποίες τα συστήματα τεχνητής νοημοσύνης θα πρέπει να χρησιμοποιούνται από το κράτος.

Η παράμετρος στην οποία πρέπει να δοθεί ιδιαίτερο βάρος είναι η διαφάνεια στη χρήση και η κατανόηση του τρόπου λειτουργίας των συστημάτων αυτών. Τα υπάρχοντα προγράμματα ψηφιακής εκπαίδευσης των δημοσίων υπαλλήλων δεν ανταποκρίνονται πλέον στην ανάγκη κατανόησης της λογικής των συστημάτων αυτών. Οπως αποδείχθηκε στην πράξη σε αρκετές χώρες, παρά τη διαβεβαίωση ότι οι δημόσιοι υπάλληλοι θα συνεργάζονταν «με» την τεχνητή νοημοσύνη, η αδυναμία κατανόησης του τρόπου λειτουργίας των αυτοματοποιημένων αυτών συστημάτων καθώς και η αδυναμία αμφισβήτησης των σχετικών αποτελεσμάτων σε συνδυασμό με την ισχυρή διοικητική πίεση να ακολουθηθούν οι συστάσεις της «μηχανής», οδήγησαν άκριτα στη μετατροπή των «αποτελεσμάτων» των σχετικών αυτοματοποιημένων διαδικασιών στον πλέον καθοριστικό παράγοντα λήψης μιας διοικητικής απόφασης.

Επομένως, ο πειρασμός να περάσουμε στην εποχή της «έξυπνης» διακυβέρνησης μέσω της τεχνητής νοημοσύνης μπορεί εύκολα να μετατραπεί σε ένα νέο μοντέλο διακυβέρνησης «από την ίδια την τεχνητή νοημοσύνη», όπου οι αλγόριθμοι θα καθορίζουν το πλαίσιο και το περιεχόμενο των εφαρμοστικών κανόνων. Μάλιστα, η ύπαρξη δαπανηρών και αδιαφανών αλγοριθμικών συστημάτων, των οποίων η απόδοση είναι ασταθής, μπορεί τελικά να μειώσει, αντί να βελτιώσει, την αποτελεσματικότητα και τη νομιμότητα των σχετικών διοικητικών αποφάσεων. Επομένως η προσεκτική επιλογή τους μέσα από ένα διαφανές σύστημα δημόσιων προμηθειών είναι καθοριστική και όχι μόνο για τεχνικούς λόγους, δηλαδή όχι μόνο για λόγους που άπτονται του «μαύρου κουτιού» των αλγορίθμων τεχνητής νοημοσύνης.

Σε ορισμένες περιπτώσεις, η εισαγωγή και η θέση σε εφαρμογή συστημάτων τεχνητής νοημοσύνης σε αρκετές υπό ανάπτυξη χώρες εργαλειοποιήθηκαν πολιτικά ως δείκτης καινοτομίας, χωρίς να υπάρχει καμία προεργασία ή πρότερη εκτίμηση των σχετικών αλγοριθμικών επιπτώσεων, γεγονός που οδήγησε σε σοβαρές παραβιάσεις ανθρωπίνων δικαιωμάτων. Για όλους αυτούς τους λόγους, όσο ελκυστική και να είναι η ενσωμάτωση μιας τόσο επιδραστικής τεχνολογίας και όσο και να πασχίζουμε να αποκολλήσουμε την ταμπέλα του πανευρωπαϊκού ουραγού στα θέματα αυτά, θα πρέπει να φροντίσουμε να μην καταστήσουμε την ένταξη συστημάτων τεχνητής νοημοσύνης μοναδικό (τεχνολογικό) αυτοσκοπό για την ελληνική διοίκηση.

O δρ Μιχάλης Kρητικός είναι ερευνητής στο Ελληνικό Ιδρυμα Ευρωπαϊκής και Εξωτερικής Πολιτικής (ΕΛΙΑΜΕΠ) και επίκουρος καθηγητής σε θέματα Τεχνητής Νοημοσύνης και Ψηφιακής Μετάβασης στη Σχολή Διακυβέρνησης του Vrije Universiteit Brussel