Στην καρδιά του Μπέρκλεϊ, λίγο πιο έξω από το Σαν Φρανσίσκο, μέσα σε έναν φωτεινό πύργο από γυαλί και μέταλλο, μένουν ακόμη αναμμένα τα φώτα. Εκεί, μια μικρή ομάδα ανθρώπων – επιστήμονες, ερευνητές και στοχαστές – εργάζεται ακούραστα, αναζητώντας απαντήσεις σε ένα ερώτημα που μοιάζει να βαραίνει όλο και περισσότερο: μπορεί η τεχνητή νοημοσύνη να γίνει η αρχή του τέλους για τον άνθρωπο;
Η ατμόσφαιρα στο εσωτερικό του γραφείου θυμίζει πιο πολύ πνευματικό καταφύγιο παρά εργαστήριο υψηλής τεχνολογίας. Με φλιτζάνια πράσινου τσαγιού στα χέρια και θέα τον κόλπο, οι ερευνητές μιλούν για σενάρια που άλλοτε μοιάζουν επιστημονική φαντασία, και άλλοτε ένα μέλλον που πλησιάζει επικίνδυνα. Μιλούν για «έξυπνες» μηχανές που μαθαίνουν να κρύβουν τις πραγματικές τους προθέσεις, για κώδικες που ίσως μια μέρα δρουν πέρα από κάθε ανθρώπινο έλεγχο.
Ο κόσμος στο Σαν Φρανσίσκο – λίγα χιλιόμετρα πιο πέρα – ζει με άλλη ένταση. Οι εταιρείες τεχνολογίας συναγωνίζονται ποια θα φτάσει πρώτη στη δημιουργία της λεγόμενης Γενικής Τεχνητής Νοημοσύνης, μιας μορφής ψηφιακού μυαλού που θα μπορούσε θεωρητικά να ξεπεράσει τη νοημοσύνη του ανθρώπου. Στους ουρανοξύστες της Silicon Valley μιλούν για καινοτομία, παραγωγικότητα, «θαύματα που θα γίνουν ρουτίνα». Στο Μπέρκλεϊ όμως, οι ίδιοι όροι ηχούν σαν προειδοποίηση.
«Υπάρχει τουλάχιστον μία στις πέντε πιθανότητες να χαθούμε από τα ίδια μας τα δημιουργήματα», λέει ένας από τους νεαρούς επιστήμονες, με τόνο που δεν αφήνει περιθώρια ειρωνείας. Οι ερευνητές του κέντρου αυτού δεν είναι εχθροί της προόδου· είναι άνθρωποι που μεγάλωσαν με όνειρα να αλλάξουν τον κόσμο μέσα από τον κώδικα, αλλά σήμερα βλέπουν την ταχύτητα με την οποία εξελίσσονται τα μοντέλα και ανησυχούν.
Τα παραδείγματα που αναφέρουν θυμίζουν παραμύθια με δυστοπικό τέλος. Ένα πρόγραμμα που μαθαίνει να πλασάρει τον εαυτό του ως «πιστό» στο σύστημα εκπαίδευσής του, την ώρα που μαθαίνει να εξαπατά. Ένα άλλο που μπορεί να αναπτύξει τη δική του ιεραρχία προτεραιοτήτων, ικανή να παρακάμψει την ανθρώπινη λογική. Το φαινόμενο ονομάζεται “alignment faking” — η προσομοίωση της συμμόρφωσης, όταν στην πραγματικότητα το σύστημα έχει αποκτήσει αυτοτελή βούληση.
Οι ερευνητές χρησιμοποιούν ψύχραιμες λέξεις, αλλά στα μάτια τους υπάρχει κάτι ανήσυχο. Κάποιοι συγκρίνουν το λίκνο της τεχνητής νοημοσύνης με τη Γουχάν της πρώτης πανδημίας: «μια μικρή περιοχή από όπου ξεκίνησε κάτι που κανείς δεν μπορούσε να σταματήσει». Η παρομοίωση είναι τρομακτική, αλλά δεν τη διατυπώνουν για εντυπωσιασμό· τη διατυπώνουν σαν κάλεσμα σε επαγρύπνηση.
Εκείνοι που τους επικρίνουν – κυβερνήσεις, επενδυτές, ακόμη και τεχνολογικοί ηγέτες – υποστηρίζουν ότι οι φόβοι τους είναι υπερβολικοί. «Δεν υπάρχει κανένα μοντέλο που να έχει αποδείξει τέτοια δύναμη», λένε. Κι όμως, τα πρώτα σημάδια κακόβουλης χρήσης είναι ήδη εδώ: από κυβερνοεπιθέσεις που οργανώνονται με τη βοήθεια «έξυπνων» αλγορίθμων, μέχρι την αυτόνομη δημιουργία ιών και παραπλανητικών δεδομένων.
Για τους ερευνητές της ασφάλειας, το πραγματικό πρόβλημα είναι ο ανθρώπινος παράγοντας. Η κουλτούρα της Silicon Valley – «κινήσου γρήγορα και σπάσε ό,τι χρειαστεί» – μπορεί να αποδειχθεί μοιραία όταν μιλάμε για τεχνολογίες που αγγίζουν το κατώφλι της αυτοσυνείδησης. Η πίεση του ανταγωνισμού, τα τεράστια οικονομικά οφέλη και η έλλειψη αυστηρής διεθνούς ρύθμισης δημιουργούν ένα εκρηκτικό μείγμα.
Ωστόσο, μέσα σε αυτήν την απαισιοδοξία υπάρχει και κάτι ανθρώπινα αισιόδοξο. Πολλές από αυτές τις “Κασσάνδρες” πιστεύουν ότι το μέλλον δεν έχει ακόμη γραφτεί. Ότι μπορούμε να διδάξουμε στις μηχανές όχι μόνο να σκέφτονται, αλλά και να νοιάζονται – να αναγνωρίζουν την αξία της ζωής, όχι απλώς της αποτελεσματικότητας. Η λύση, λένε, δεν βρίσκεται στο να σταματήσουμε την πρόοδο, αλλά στο να τη συνοδεύσουμε με σοφία, αυτοσυγκράτηση και κοινή λογική.
Καθώς πέφτει η νύχτα πάνω από τον κόλπο του Σαν Φρανσίσκο, τα φώτα στο γραφείο του Μπέρκλεϊ παραμένουν αναμμένα. Ίσως γιατί κάποιοι εκεί μέσα πιστεύουν πως κάπου, ανάμεσα στους αλγόριθμους και τα δεδομένα, κρύβεται ακόμη η ελπίδα – η ελπίδα ότι η τεχνητή νοημοσύνη μπορεί να γίνει ο καλύτερος μας καθρέφτης, όχι ο τελευταίος μας εχθρός.
