Τεχνητή ανοησία

Δεν υπάρχει τίποτα το καινούργιο στην ικανότητα των chatbots να κάνουν μία συζήτηση σε φυσική γλώσσα, να καταλάβουν τη βασική πρόθεση του χρήστη και να προτείνουν απαντήσεις με βάση προκαθορισμένους κανόνες και δεδομένα. Η ικανότητα αυτή όμως έχει αυξηθεί θεαματικά τους τελευταίους μήνες, εμπνέοντας ανησυχία και πανικό σε πολλούς κύκλους.

Το πρόβλημα με τα νέα chatbots δεν είναι απλώς ότι είναι συχνά ανόητα και αφελή· είναι ότι δεν είναι αρκετά «ανόητα» ή «αφελή» ώστε να αντιλαμβάνονται τις μικροδιαφορές, την ειρωνεία και τις αποκαλυπτικές αντιφάσεις που συγκροτούν την ανθρώπινη κουλτούρα και την επικοινωνία. Ακόμα χειρότερα, στηριζόμενοι σε αυτά, κινδυνεύουμε να υποκύψουμε στην ίδια ανοησία.

Πολλά έχουν ειπωθεί περί αρχής του τέλους των παραδοσιακών μαθητικών εργασιών, λόγω των chatbots. Ενα ζήτημα όμως που επιβάλλει μεγαλύτερη προσοχή είναι το πώς θα έπρεπε να απαντούν τα chatbots όταν οι ανθρώπινοι συνομιλητές τους χρησιμοποιούν επιθετική, σεξιστική ή ρατσιστική γλώσσα προκειμένου να κάνουν το bot να παρουσιάσει ως ανταπόδοση τις δικές του βρωμόστομες φαντασιώσεις. Πρέπει να προγραμματιστεί η τεχνητή νοημοσύνη να απαντά στο ίδιο επίπεδο με τις ερωτήσεις που της τίθενται;

Αν αποφασίσουμε ότι απαιτείται κάποιου είδους ρύθμιση, τότε πρέπει να καθορίσουμε το πόσο μακριά πρέπει να φτάσει η λογοκρισία. Θα απαγορευτούν πολιτικές θέσεις που κάποιοι κύκλοι θεωρούν «προσβλητικές»; Τι πρέπει, για παράδειγμα, να ισχύσει για τις εκφράσεις αλληλεγγύης προς τους Παλαιστινίους της Δυτικής Οχθης, ή τον ισχυρισμό ότι το Ισραήλ είναι ένας κράτος απαρτχάιντ (που ο πρώην πρόεδρος των ΗΠΑ, Τζίμι Κάρτερ, έβαλε κάποτε στον τίτλο ενός βιβλίου); Θα απαγορευτούν ως «αντισημιτικές»;

Το πρόβλημα δεν τελειώνει εδώ. Οπως προειδοποιεί ο καλλιτέχνης και συγγραφέας Τζέιμς Μπριντλ, η νέα τεχνητή νοημοσύνη «βασίζεται στην ευρεία ιδιοποίηση της υπάρχουσας κουλτούρας» και η πεποίθηση ότι «έχει πραγματικά πολλές γνώσεις, ή κατέχει πολλά νοήματα είναι δραστικά επικίνδυνη». Ως εκ τούτου, πρέπει επίσης να είμαστε πολύ επιφυλακτικοί με τα προγράμματα τεχνητής νοημοσύνης για τη δημιουργία εικόνων. «Στην προσπάθειά τους να κατανοήσουν και να αναπαράγουν το σύνολο της ανθρώπινης οπτικής κουλτούρας», παρατηρεί ο Μπριντλ, «μοιάζει να έχουν αναπαράγει και τους βαθύτερους φόβους μας. Ισως αυτό να είναι απλώς ένα σημάδι πως τα συστήματα αυτά είναι πράγματι πολύ καλά στο να πιθηκίζουν την ανθρώπινη συνείδηση, μέχρι και τη φρίκη που παραμονεύει στα βάθη της ύπαρξης: τους φόβους μας για τη βρωμιά, τον θάνατο και τη διαφθορά».

Ομως πόσο καλά είναι τα νέα chatbots στο να προσεγγίζουν την ανθρώπινη συνείδηση; Σκεφτείτε το μπαρ που διαφήμισε πρόσφατα μία ειδική προσφορά με τον ακόλουθο τρόπο: «Αγοράστε μία μπίρα στην τιμή των δύο και πάρτε μια δεύτερη μπίρα εντελώς δωρεάν!». Για τον οποιονδήποτε άνθρωπο, αυτό είναι προφανώς ένα αστείο. Η κλασική προσφορά «δύο στην τιμή του ενός» αναδιατυπώνεται ώστε να αυτοακυρώνεται. Μία έκφραση κυνισμού που θα εκτιμηθεί ως κωμική τιμιότητα, με σκοπό να αυξηθούν οι πωλήσεις. Θα καταλάβαινε ένα chatbot κάτι από αυτά;

Στο δοκίμιό του «Περί της βαθμιαίας εξέλιξης της σκέψης μέσω της ομιλίας» (1805), ο γερμανός ποιητής Χάινριχ φον Κλάιστ αντιστρέφει την παραδοσιακή άποψη ότι κάποιος δεν πρέπει να ανοίγει το στόμα του αν δεν έχει ξεκάθαρη ιδέα για το τι θέλει να πει: «Αν κατά συνέπεια μία σκέψη εκφραστεί με μπερδεμένο τρόπο, αυτό επ’ ουδενί δεν συνεπάγεται ότι η σκέψη αυτή συνελήφθη με συγκεχυμένο τρόπο. Αντιθέτως, είναι πολύ πιθανό οι ιδέες που εκφράζονται με τον πλέον δυσνόητο τρόπο να είναι εκείνες που σχεδιάστηκαν με τη μεγαλύτερη σαφήνεια». Η σχέση ανάμεσα στη γλώσσα και τη σκέψη είναι εξαιρετικά περίπλοκη.

Το πρόβλημα δεν είναι ότι τα chatbots είναι ανόητα· είναι ότι δεν είναι αρκετά «ανόητα». Δεν είναι ότι είναι αφελή (αφού χάνουν την ειρωνεία και την αναστοχαστικότητα)· είναι ότι δεν είναι αρκετά αφελή (αφού δεν καταλαβαίνουν πότε η αφέλεια κρύβει διορατικότητα). Ο πραγματικός κίνδυνος, λοιπόν, δεν είναι να μπερδέψουν οι άνθρωποι ένα chatbot για πραγματικό άνθρωπο· είναι να κάνει η επικοινωνία με chatbots τους πραγματικούς ανθρώπους να μιλάνε σαν chatbots -χάνοντας όλες τις μικρές διαφορές και την ειρωνεία, λέγοντας εμμονικά μόνο ακριβώς ό,τι κάποιος νομίζει ότι θέλει να πει.

Για αυτόν τον λόγο, τα νέα chatbots θα τα πάνε πολύ καλά με τους ιδεολόγους όλων των χρωμάτων, από το σημερινό «woke» πλήθος μέχρι τους εθνικιστές του MAGA που προτιμούν να παραμείνουν κοιμισμένοι.

Ο Σλάβοϊ Ζίζεκ είναι καθηγητής Φιλοσοφίας στη European Graduate School και διευθυντής του Birkbeck Institute for the Humanities του Πανεπιστημίου του Λονδίνου. Πολλά βιβλία του κυκλοφορούν στα ελληνικά, με πιο πρόσφατο το «Απαντήσεις δίχως ερωτήματα» (εκδ. Πλέθρον, 2018)