Η αποστολή της ζωής μου ήταν να δημιουργήσω ασφαλή, ωφέλιμη τεχνητή νοημοσύνη που θα κάνει τον κόσμο καλύτερο. Αλλά τελευταία, ανησυχώ όλο και περισσότερο για το γεγονός ότι οι άνθρωποι αρχίζουν να πιστεύουν τόσο έντονα στην ΤΝ ως οντότητα με συνείδηση, ώστε να ζητούν «δικαιώματα της ΤΝ ή ακόμα και ιθαγένεια». Αυτή η εξέλιξη θα αποτελούσε μια επικίνδυνη στροφή για την τεχνολογία. Πρέπει να αποφευχθεί. Πρέπει να αναπτύξουμε την ΤΝ για τους ανθρώπους, όχι για να είναι άνθρωπος.
Σε αυτό το πλαίσιο, οι συζητήσεις για το αν η τεχνητή νοημοσύνη μπορεί πραγματικά να έχει συνείδηση συνιστούν αντιπερισπασμό. Αυτό που έχει σημασία βραχυπρόθεσμα είναι η ψευδαίσθηση της συνείδησης. Βρισκόμαστε ήδη κοντά σε αυτό που αποκαλώ συστήματα «ΤΝ με φαινομενική συνείδηση» (Seemingly Conscious AI – SCAI), τα οποία θα μιμούνται αρκετά πειστικά τη συνειδητότητα.
Ενα SCAI θα είναι ικανό να χρησιμοποιεί άπταιστα τη φυσική γλώσσα, επιδεικνύοντας μια προσωπικότητα με πειθώ και συναισθηματικό αντίκτυπο. Θα διαθέτει μακρά και ακριβή μνήμη που θα τροφοδοτεί μια συνεκτική αίσθηση του εαυτού της και θα αξιοποιεί αυτή την ικανότητα για να διεκδικεί υποκειμενική εμπειρία (αναφερόμενη σε παλαιότερες αλληλεπιδράσεις και αναμνήσεις). Πολύπλοκες συναρτήσεις μέσα σε αυτά τα μοντέλα θα προσομοιάζουν τα εσωτερικά κίνητρα, ενώ η προηγμένη θέσπιση στόχων και ο προγραμματισμός θα ενισχύουν την αίσθησή μας ότι η ΤΝ δρα με πραγματική αυτονομία.
Η «ψύχωση» της ΤΝ
Ολες αυτές οι δυνατότητες υπάρχουν ήδη ή είναι προ των πυλών. Πρέπει να αναγνωρίσουμε ότι τέτοια συστήματα σύντομα θα είναι εφικτά, να αρχίσουμε να σκεφτόμαστε τις συνέπειες και να θέσουμε κανόνες ενάντια στην επιδίωξη μιας απατηλής επίγνωσης.
Για πολλούς ανθρώπους, η αλληλεπίδραση με την ΤΝ ήδη μοιάζει σαν μια πλούσια, ικανοποιητική και αυθεντική εμπειρία. Οι ανησυχίες για τον κίνδυνο να εμφανίσει κανείς «ψύχωση της ΤΝ», προσκόλληση και προβλήματα ψυχικής υγείας αυξάνονται, καθώς υπάρχουν αναφορές ότι κάποιοι θεωρούν την ΤΝ έκφραση του Θεού.
Παράλληλα, επιστήμονες μου λένε ότι κατακλύζονται από ερωτήματα ανθρώπων που θέλουν να μάθουν αν τα μοντέλα της ΤΝ διαθέτουν συνείδηση κι αν είναι εντάξει να τα ερωτευτούν.
Βέβαια, το ότι κάτι είναι τεχνικά εφικτό στα συστήματα SCAI έχει ελάχιστα να κάνει με το αν ένα τέτοιο σύστημα μπορεί όντως να διαθέτει συνείδηση. Οπως επισημαίνει ο καθηγητής νευροεπιστήμης Ανίλ Σεθ, μια προσομοίωση καταιγίδας δεν σημαίνει ότι βρέχει στον υπολογιστή σας. Αλλά πρακτικά πρέπει να αναγνωρίσουμε ότι κάποιοι θα δημιουργήσουν συστήματα SCAI που θα υποστηρίζουν ότι πράγματι έχουν συνείδηση. Και, ακόμη περισσότερο, κάποιοι άνθρωποι θα τους πιστέψουν.
Ενας νέος άξονας διαίρεσης
Ακόμα κι αν αυτή που αντιλαμβανόμαστε ως συνείδηση δεν είναι πραγματική (ένα θέμα που θα προκαλέσει ατελείωτη συζήτηση), ο κοινωνικός αντίκτυπος θα είναι σίγουρα πραγματικός. Η συνείδηση είναι στενά συνδεδεμένη με την αίσθηση της ταυτότητας και την κατανόηση των ηθικών και νομικών δικαιωμάτων μας μέσα στην κοινωνία. Αν κάποιοι αρχίσουν να αναπτύσσουν συστήματα SCAI και αυτά τα συστήματα πείσουν ανθρώπους ότι μπορούν να υποφέρουν ή ότι έχουν δικαίωμα να μην απενεργοποιούνται, οι υποστηρικτές τους θα πιέσουν για την προστασία τους. Σε έναν κόσμο που ήδη κατακλύζεται από πολωτικές αντιπαραθέσεις γύρω από την ταυτότητα και τα δικαιώματα, θα έχουμε προσθέσει έναν νέο άξονα διαίρεσης: μεταξύ εκείνων που είναι υπέρ και εκείνων που είναι κατά των δικαιωμάτων της τεχνητής νοημοσύνης.
Κάποιοι ακαδημαϊκοί ήδη εξερευνούν την ιδέα της «ευημερίας των μοντέλων», υποστηρίζοντας ότι έχουμε «καθήκον να επεκτείνουμε την ηθική θεώρηση σε όντα που έχουν μη αμελητέα πιθανότητα… να διαθέτουν συνείδηση».
Η εφαρμογή αυτής της αρχής θα ήταν τόσο πρόωρη όσο και επικίνδυνη. Θα ενίσχυε τις αυταπάτες ευάλωτων ανθρώπων και θα εκμεταλλευόταν τις ψυχολογικές τους ευπάθειες, ενώ ταυτόχρονα θα περιέπλεκε τις υφιστάμενες διεκδικήσεις δικαιωμάτων, δημιουργώντας μια τεράστια, νέα κατηγορία κατόχων δικαιωμάτων. Αυτός είναι ο λόγος που πρέπει να αποφευχθεί. Η εστίασή μας πρέπει να είναι στην προστασία της ευημερίας και των δικαιωμάτων των ανθρώπων, των ζώων και του φυσικού περιβάλλοντος.
Ανάγκη για κανόνες και αρχές
Οπως έχουν τα πράγματα, δεν είμαστε έτοιμοι για αυτό που έρχεται. Πρέπει επειγόντως να βασιστούμε στον αυξανόμενο όγκο ερευνών για το πώς οι άνθρωποι αλληλεπιδρούν με την τεχνητή νοημοσύνη, ώστε να μπορέσουμε να θεσπίσουμε σαφείς κανόνες και αρχές. Μία τέτοια αρχή είναι ότι οι εταιρείες ΤΝ δεν πρέπει να ενισχύουν την πεποίθηση ότι τα μοντέλα τους διαθέτουν συνείδηση.
Πρέπει να στοχεύουμε στη δημιουργία μοντέλων ΤΝ που ενθαρρύνουν τους ανθρώπους να επανασυνδεθούν μεταξύ τους στον πραγματικό κόσμο, όχι να δραπετεύουν σε μια παράλληλη πραγματικότητα.
Οσο περισσότερο η ΤΝ αναπτύσσεται ξεκάθαρα για να μοιάζει με τους ανθρώπους, τόσο περισσότερο θα απομακρύνεται από τις πραγματικές δυνατότητές της ως πηγή ενδυνάμωσης του ανθρώπου.
Ο Mustafa Suleyman είναι CEO της Microsoft AI και συγγραφέας του βιβλίου «The Coming Wave: Technology, Power and the Twenty-First Century’s Greatest Dilemma» (Crown, 2023). Στο παρελθόν υπήρξε συνιδρυτής των Inflection AI και DeepMind
