To είχε ανακοινώσει. Πλέον, η Meta δηλώνει ότι βλέπει «πρώτες ενδείξεις» αυτοβελτίωσης στα συστήματα τεχνητής νοημοσύνης της — ένα βήμα που ο Μαρκ Ζάκερμπεργκ συνδέει με τη μελλοντική πορεία προς την υπερευφυΐα (ASI) και που, ταυτόχρονα, τον ωθεί να είναι πολύ πιο φειδωλός στη δημόσια διάθεση των ισχυρότερων μοντέλων. Σε κείμενο πολιτικής που δημοσιεύθηκε στις 30 Ιουλίου, ο διευθύνων σύμβουλος της Meta έγραψε ότι «τους τελευταίους μήνες αρχίσαμε να βλέπουμε ψήγματα των συστημάτων μας να βελτιώνονται μόνα τους», χαρακτηρίζοντας την πρόοδο «αργή αλλά αδιαμφισβήτητη». Η εταιρεία μιλά για τομές που υπερβαίνουν την «στενή» ΤΝ, ανοίγοντας τη συζήτηση για γενική νοημοσύνη (AGI) και, τελικά, για υπερευφυΐα ικανή για συνεχόμενη αυτο-ενίσχυση.
Ο Ζάκερμπεργκ τονίζει ότι η αυτοβελτίωση αποτελεί «το πρώτο σκαλοπάτι» για μια τεχνολογία μετασχηματιστική για την ανθρωπότητα, αλλά συνοδεύεται από σαφώς πιο σφιχτό πλαίσιο διάθεσης: τα ισχυρότερα συστήματα δεν θα ανοικτο-κωδικοποιούνται πλέον αυτόματα. Το σκεπτικό είναι ότι οι κίνδυνοι κλιμακώνονται όσο οι δυνατότητες γενικεύονται και αυτονομούνται, γι’ αυτό και η Meta θα επιλέγει πιο προσεκτικά τι δημοσιοποιεί. Παράλληλα, η εταιρεία προβάλλει το όραμα της «προσωπικής υπερευφυΐας» — ισχυρών βοηθών που θα ενσωματώνονται στην καθημερινότητα, από γυαλιά έως κινητές συσκευές, δίνοντας μεγαλύτερη «αυτενέργεια» στους χρήστες.
Η συζήτηση δεν εκτυλίσσεται σε κενό. Τον Οκτώβριο 2024, ομάδα του Πανεπιστημίου της Καλιφόρνια στη Σάντα Μπάρμπαρα δημοσίευσε στο arXiv το «Gödel Agent», ένα πλαίσιο εμπνευσμένο από τη «Μηχανή του Γκέντελ» που επιτρέπει σε έναν πράκτορα να τροποποιεί τον δικό του κώδικα και τις οδηγίες του, εφαρμόζοντας αλλαγές μόνο όταν αποδεικνύεται τυπικά ότι είναι ωφέλιμες. Στα πειράματα, ο πράκτορας βελτίωσε επιδόσεις σε κώδικα, επιστήμη, μαθηματικά και συλλογισμό, υπερτερώντας ανθρώπινα σχεδιασμένων πρακτόρων — μια ένδειξη ότι οι «βρόχοι αυτο-βελτίωσης» έχουν πρακτικό αντίκρισμα.
Σε οργανωτικό επίπεδο, η Meta έχει συστήσει τη Meta Superintelligence Labs και την επίλεκτη ομάδα «TBD Lab», ενισχύοντάς την με μεταγραφές από ανταγωνιστές και σημαίνοντα στελέχη της αγοράς, με στόχο ισχυρότερες εκδόσεις του Llama. Η επιθετική αυτή στρατηγική κεφαλαίου και ταλέντου υπογραμμίζει την πρόθεση να «τρέξει» πρώιμα πειράματα που θα μπορούσαν να οδηγήσουν σε πιο γενικεύσιμες ικανότητες — αν και ο δημόσιος έλεγχος για την κατεύθυνση και τον σκοπό αυτής της ισχύος παραμένει έντονος.
Παρά τον αισιόδοξο τόνο, οι προειδοποιήσεις για ασφάλεια, ευθυγράμμιση και παραπλάνηση των συστημάτων έχουν γίνει η νέα «κόκκινη γραμμή» της κοινότητας. Το ερώτημα είναι αν οι «αχνές ενδείξεις» αυτοβελτίωσης μπορούν να αποδειχθούν σταθερές, επαναλήψιμες και ελέγξιμες χωρίς να ανοίγουν την πόρτα σε απρόβλεπτα ρίσκα. Για την ώρα, η Meta υπόσχεται προσεκτικότερη διάθεση μοντέλων και εστιάζει στη χρηστικότητα της «προσωπικής υπερευφυΐας». Το αν αυτό θα εξελιχθεί σε τεχνολογική μοναδικότητα ή θα παραμείνει μια σταδιακή αναβάθμιση των σημερινών βοηθών, θα κριθεί τόσο στα εργαστήρια όσο και στη δημόσια πολιτική γύρω από τη διακυβέρνηση της ΤΝ.
