Τα άλματα της τεχνολογίας και οι κοινωνικές και ηθικές προεκτάσεις

Μέσα στην αξέχαστη χρονιά που πέρασε, οι καρποί της πληροφορικής μπήκαν ακόμα πιο βαθιά στη ζωή μας: τηλεκπαίδευση, τηλεργασία και ηλεκτρονική διακυβέρνηση. Εφαρμογές για τις οποίες η τεχνολογία ήταν διαθέσιμη εδώ και χρόνια, αλλά που υλοποιήθηκαν και λειτούργησαν αστραπιαία, περισώζοντας ό,τι ήταν δυνατό μέσα σε συνθήκες lockdown. Δεν έλειψαν βέβαια και οι αδύναμοι κρίκοι: H επιτήρηση των εξετάσεων στην τηλεκπαίδευση. Οι ανισότητες στην πρόσβαση. Η δυσκαμψία των ηλεκτρονικών υπηρεσιών σε θέματα όπου μια σύντομη συνομιλία θα έδινε μια γρήγορη λύση.

Η τεχνολογία καθεαυτή της πληροφορικής συνέχισε να προχωράει με τους γνωστούς γρήγορους ρυθμούς. Χωρίς να δούμε κάποιο πρωτόγνωρο άλμα, είχαμε και φέτος αξιοσημείωτη πρόοδο σε διάφορους τομείς. Νέα συστήματα όπου ο υπολογιστής απαντάει σε ερωτήσεις, συντάσσει εκθέσεις ιδεών ή ακόμα και ποιήματα, αντλώντας πληροφορίες από το Διαδίκτυο. Είμαστε πλέον στο σημείο όπου είναι δύσκολο να ξεχωρίσουμε κατά πόσον το κείμενο προέρχεται από υπολογιστή ή από (μέτριο, όχι ιδιαίτερα δημιουργικό) μαθητή λυκείου (https://www.technologyreview.com/2020/07/20/1005454/openai-machine-learning-language-generator-gpt-3-nlp/).

Είδαμε επίσης τους υπολογιστές, χρησιμοποιώντας τεχνολογίες μηχανικής μάθησης και νευρωνικών δικτύων, να προσφέρουν αξιόπιστες λύσεις σε ένα θεμελιώδες πρόβλημα της βιολογίας, με σημαντικές προεκτάσεις στη φαρμακολογία και την ιατρική. Πρόκειται για το περίφημο πρόβλημα αναδίπλωσης πρωτεϊνών (protein folding) όπου ο υπολογιστής ξεκινά με τον χημικό τύπο μιας πρωτεΐνης και προβλέπει τη διάταξη της πρωτεΐνης στον τρισδιάστατο χώρο, παρακάμπτοντας τον χρονοβόρο και δαπανηρό εργαστηριακό πειραματισμό (https://www.nature.com/articles/d41586-020-03348-4).

Είδαμε επίσης ένα αυτοματοποιημένο σύστημα το οποίο τροφοδοτείται με πειραματικά δεδομένα και «ανακαλύπτει» όλους τους νόμους της φυσικής που εμφανίζονται σε ένα προπτυχιακό σύγγραμμα (https://advances.sciencemag.org/content/6/16/eaay2631).

Σε όλα τα παραπάνω παραδείγματα δεν πρόκειται για κάτι το συνταρακτικά καινούργιο, αλλά για μια φυσική εξέλιξη, βασισμένη σε ισχυρότερους υπολογιστές και τελειοποίηση («ραφινάρισμα») υπολογιστικών μεθόδων με μακρά ιστορία. Για κάτι πιο εξωτικό και κοιτώντας στο μέλλον, αναμένουμε πρόοδο στους κβαντικούς υπολογιστές που βασίζονται σε περίεργες μικροσκοπικές ιδιότητες της ύλης και που, σε βάθος δεκαετίας, υπόσχονται πολλά, κάποια θετικά (ταχύτερες προσομοιώσεις φυσικοχημικών φαινομένων) και κάποια αρνητικά (π.χ. τη δυνατότητα να σπάσουν κρυπτογραφικούς κώδικες στους οποίους βασίζεται η ασφάλεια των ηλεκτρονικών συναλλαγών).

Η επιστήμη λοιπόν προχωράει. Εκεί που τα πράγματα δυσκολεύουν είναι οι κοινωνικές και ηθικές προεκτάσεις. Οταν ένα σύστημα τεχνητής νοημοσύνης χρησιμοποιεί μηχανική μάθηση και εκπαιδεύεται με τυχαίο υλικό από το Διαδίκτυο, εύκολα καταλήγει να αναπαράγει σεξιστικές και ρατσιστικές προκαταλήψεις. Και αν οι εφαρμογές αφορούν οικονομικά, εργασιακά ή νομικά θέματα, οι αρνητικές επιπτώσεις της ανεξέλεγκτης χρήσης των αποκαλούμενων «όπλων μαθηματικής καταστροφής» είναι σημαντικές (https://weaponsofmathdestructionbook.com).

Μια συναφής ανησυχία αφορά την παραπληροφόρηση. Δυστυχώς η τεχνολογία που κατασκευάζει τεχνητά αλλά αληθοφανή βίντεο είναι πια μαζί μας και τα κοινωνικά δίκτυα διευκολύνουν την ανεξέλεγκτη διάδοση. Οι πρόσφατες εκλογές στις ΗΠΑ ανέδειξαν τη μεγάλη σημασία αυτού του φαινομένου αλλά και τη δυσκολία αντιμετώπισής του, ιδίως επειδή η γραμμή ανάμεσα στην επιθυμητή επαγρύπνηση και την ανεπιθύμητη λογοκρισία είναι λεπτή. Η επιστημονική κοινότητα ασχολείται ενεργά με την «επιδημιολογία της παραπληροφόρησης», κατασκευάζοντας μαθηματικά μοντέλα της διαδικασίας με την οποία μεταδίδεται και αναπτύσσοντας μεθόδους για αυτοματοποιημένη ανίχνευση. Σε αντίθεση όμως με τις βιολογικές επιδημίες δεν θα υπάρξει ποτέ αποτελεσματικό εμβόλιο.

Ενα άλλο και ιδιαίτερα επίκαιρο θέμα είναι η ασφάλεια των συστημάτων που υποστηρίζουν τις τηλεδιασκέψεις. Δεν ανησυχώ ιδιαίτερα ότι οι μυστικές υπηρεσίες κάποιας τρίτης χώρας θα παρακολουθήσουν τη διαδικτυακή πρωτοχρονιάτικη οικογενειακή συνάθροιση. Θα ανησυχούσα όμως αν το λογισμικό που υποστηρίζει κυβερνητικές τηλεδιασκέψεις έχει υλοποιηθεί από ξένες εταιρείες που έχουν στενές σχέσεις με κρατικές υπηρεσίες.

Τέλος, η τεχνολογία συνεχίζει να ανοίγει την οικονομική ψαλίδα. Πολλές από τις νέες τεχνολογίες ευνοούν τον συγκεντρωτισμό: ένα κοινωνικό δίκτυο χιλίων ατόμων είναι από τη φύση του πιο πλούσιο από δέκα κοινωνικά δίκτυα των εκατό ατόμων. Κάτι αντίστοιχο συμβαίνει και στο ηλεκτρονικό εμπόριο όπου η φυσική τάση είναι για υπερσυγκέντρωση και μονοπώλια. Δυστυχώς (αλλά αναπόφευκτα) η πανδημία έχει ευνοήσει περισσότερο αυτές τις τάσεις και τα μεγαθήρια του τύπου Amazon, Google και Facebook.

Καταλήγοντας, η επιστήμη και η τεχνολογία συνεχίζουν και θα συνεχίσουν να προοδεύουν. Οι μεγάλες προκλήσεις εμφανίζονται αλλού, στη σχέση ανάμεσα στην τεχνολογία και την κοινωνία.

Ο Γιάννης Ν. Τσιτσίκλης είναι καθηγητής στο Τμήμα Ηλεκτρολόγων Μηχανικών και Επιστήμης Υπολογιστών του ΜΙΤ των ΗΠΑ