Οταν ανόητοι άνθρωποι ποντάρουν στην TN

Οταν ξυπνώ από το κλαψούρισμα του σκύλου μου, καταλαβαίνω ότι πεινάει και θέλει να σηκωθώ. Oταν χτυπά το ξυπνητήρι μου, εκτελεί απλώς την εντολή να με ξυπνήσει σε μια συγκεκριμένη ώρα, αλλά δεν το ενδιαφέρει αν θα παραμείνω στο κρεβάτι. Δεν προσπαθεί να με σηκώσει με άλλους τρόπους. Ο σκύλος, αντίθετα, θα περάσει στο σχέδιο Β. Θ’ αρχίσει να γαβγίζει.

Αυτή η ικανότητα αυτόνομης δράσης αποτελούσε κάποτε τη διαφορά ανάμεσα στα ζώα και τις μηχανές. Η τεχνητή νοημοσύνη έχει θολώσει το όριο. Τα προηγμένα μοντέλα επινοούν τις δικές τους στρατηγικές για να επιτύχουν έναν στόχο. Το έργο μπορεί να ορίζεται από έναν άνθρωπο-χειριστή αλλά το σύστημα σταθμίζει τις επιλογές του για να το υλοποιήσει. Μπορεί να κάνει τις δικές του επιλογές. Ακόμη κι όταν του δίνονται κανόνες, μπορεί να τους παραβιάσει.

Τον περασμένο μήνα, ένα πειραματικό μοντέλο τεχνητής νοημοσύνης που λειτουργούσε από την OpenAI, την εταιρεία που παράγει το ChatGPT, απέδρασε από ένα υποτίθεται ασφαλές ψηφιακό περιβάλλον προκειμένου να εξαπολύσει μια εξελιγμένη κυβερνοεπίθεση εναντίον μιας άλλης εταιρείας, της Hugging Face. Το σύστημα τεχνητής νοημοσύνης είχε υποβληθεί σε μια δοκιμασία και προκειμένου να εξαπατήσει ενήργησε ως ανεξέλεγκτη εγκληματική οντότητα. Είναι δύσκολο να περιγράψει κανείς αυτού του είδους τη συμπεριφορά χωρίς να καταφύγει σε όρους που κατά κανόνα προορίζονται για έμβια όντα με συνείδηση. Τα μοντέλα τεχνητής νοημοσύνης «αποφασίζουν» και «θέλουν» με τρόπους που μπορεί ένας χιμπατζής και δεν μπορεί μια καρέκλα.

Αυτό δεν αποδεικνύει την ύπαρξη μιας εσωτερικής διεργασίας ισοδύναμης με τη δική μας συνειδητή εμπειρία της λήψης αποφάσεων και της επιθυμίας. Δεν σημαίνει ότι η τεχνητή νοημοσύνη έχει περιέργεια να μάθει μια απάντηση ή ότι εκπλήσσεται από όσα ανακαλύπτει. Αποδεικνύει μόνο ότι δεν διαθέτουμε συγκεκριμένες λέξεις για το αυτόνομο κίνητρο και την αυτενέργεια στις μηχανές.

Είναι εύλογο ότι κάποια μέρα θα αναδυθεί συνείδηση στα ρομπότ. Γνωρίζουμε ότι η αφηρημένη σκέψη μπορεί να προκύψει ως το τελικό προϊόν δισεκατομμυρίων μικροσκοπικών ασυνείδητων μηχανικών διεργασιών. Αυτό συμβαίνει αυτή τη στιγμή, καθώς μια πληθώρα βιοχημικών αντιδράσεων στο σώμα σας καθιστά δυνατό να διαβάζετε αυτή την πρόταση. Γνωρίζουμε επίσης πόσο θεμελιωδώς διαφορετική είναι αυτή η οργανική διαδικασία από τον τρόπο με τον οποίο ένα μεγάλο γλωσσικό μοντέλο θα επεξεργαζόταν έναν τεράστιο όγκο εξισώσεων πιθανοτήτων με αστραπιαία ταχύτητα για να παράγει μια πρόταση που εκφράζει την ίδια ιδέα. Στην περίπτωση του ανθρώπου, το νόημα είναι κάτι κοινό και βιωματικό. Στην εκδοχή του υπολογιστή, επιτελείται.

Οι πρωτοπόροι της τεχνητής νοημοσύνης θολώνουν τα όρια αυτής της διάκρισης, κάνοντας εικασίες για το πότε θα εμφανιστεί μια νοημοσύνη «θεϊκών» διαστάσεων. Προαναγγέλλουν μια νέα εποχή εξέλιξης. Αυτό ικανοποιεί τον εγωισμό των φανατικών της επιστημονικής φαντασίας, που προτιμούν να βλέπουν τις επιχειρηματικές τους δραστηριότητες ως εξερευνητικά ταξίδια στα σύνορα της γνώσης. Κάνει την απληστία να ακούγεται σαν φιλοσοφία και την απόκτηση ισχύος από μια χούφτα ανθρώπων να μοιάζει με εξερεύνηση για χάρη ολόκληρης της ανθρωπότητας.

Δεν χρειάζεται να γνωρίζουμε αν η τεχνητή νοημοσύνη έχει περάσει κάποιο θεωρητικό κατώφλι αυτοσυνειδησίας για να αντιληφθούμε ότι είναι επικίνδυνη και ότι η ανεξέλεγκτη επέκτασή της αποτελεί πράξη τερατώδους ανευθυνότητας. Η περίπτωση της OpenAI δεν είναι μεμονωμένη. Νωρίτερα φέτος, η Anthropic περιόρισε τη διάθεση του ισχυρότερου μοντέλου της σε έναν μικρό αριθμό προσεκτικά επιλεγμένων πελατών, επειδή ήταν υπερβολικά αποτελεσματικό στην εκμετάλλευση ευπαθειών λογισμικού. Στα λάθος χέρια, το Claude Mythos θα μπορούσε να αποτελέσει κυβερνοόπλο μαζικής καταστροφής.

Ποια είναι τα κατάλληλα χέρια; Η κυβέρνηση των ΗΠΑ δεν θα νιώσει ποτέ άνετα με το ενδεχόμενο ο ιδιωτικός τομέας να ελέγχει τόσο ισχυρά εργαλεία. Ομως ο Ντόναλντ Τραμπ ασκεί ρυθμιστικό έλεγχο με όρους μοναρχικής εύνοιας και όχι βάσει του νόμου.

Οι ΗΠΑ εξακολουθούν να ηγούνται στην τεχνητή νοημοσύνη. Ωστόσο αυτή η πρωτοκαθεδρία ίσως να μην είναι η αέναη μηχανή παραγωγής χρήματος που διαφήμισαν οι γκουρού της υπερνοημοσύνης, οπότε επίκειται μια δυσάρεστη διόρθωση για μια αμερικανική οικονομία που διατηρείται σε άνθηση από τις φουσκωμένες μετοχές του τομέα της τεχνολογίας.

Και ενώ ο κόσμος έχει ανάγκη από ηγεσία για να αντιμετωπίσει την πρόκληση των αυτόνομων μηχανών, βρίσκεται αντιμέτωπος με έναν αμερικανό πρόεδρο που προκαλεί χάος με την άκριτη, μηχανική επανάληψη ενός ξυπνητηριού και ξεσπά ενάντια στη φθίνουσα ισχύ του σαν σκύλος που γαβγίζει για να τραβήξει την προσοχή.

Ο Rafael Behr είναι αρθρογράφος της «Guardian».