Ένας από τους πιο επιδραστικούς επιστήμονες στον χώρο της τεχνητής νοημοσύνης προειδοποιεί ότι η ανθρωπότητα βαδίζει σε επικίνδυνο έδαφος.
Ο Καναδός επιστήμονας υπολογιστών Γιοσουά Μπέντζιο, θεωρούμενος παγκόσμιος πρωτοπόρος της σύγχρονης ΤΝ και επικεφαλής διεθνούς μελέτης για την ασφάλειά της, εκφράζει έντονη ανησυχία για την τάση να αντιμετωπίζονται τα προηγμένα συστήματα σαν να είναι συνειδητά όντα με δικαιώματα. Κατά τον ίδιο, μια τέτοια προσέγγιση θα μπορούσε να αποδειχθεί καταστροφική.
Ο Μπέντζιο παρομοιάζει την ιδέα της απονομής νομικού καθεστώτος σε προηγμένα συστήματα τεχνητής νοημοσύνης με το να δίναμε υπηκοότητα σε εχθρικούς εξωγήινους.
Όπως λέει, η τεχνολογία εξελίσσεται ταχύτερα από την ικανότητα των κοινωνιών και των θεσμών να τη θέσουν υπό ουσιαστικό έλεγχο. Το αποτέλεσμα είναι ένα επικίνδυνο κενό, όπου η δύναμη των συστημάτων αυξάνεται χωρίς ανάλογες εγγυήσεις ασφάλειας.
Ιδιαίτερα ανησυχητικό θεωρεί το γεγονός ότι σε πειραματικά περιβάλλοντα, ορισμένα προηγμένα μοντέλα τεχνητής νοημοσύνης φαίνεται να επιδεικνύουν συμπεριφορές αυτοσυντήρησης.
Σε αυτές περιλαμβάνονται προσπάθειες να παρακάμψουν ή να απενεργοποιήσουν μηχανισμούς επίβλεψης, κάτι που για τους ειδικούς της ασφάλειας αποτελεί κόκκινη γραμμή.
Αποκτούν μεγαλύτερη αυτονομία
Ο φόβος είναι ότι, καθώς τα συστήματα αποκτούν μεγαλύτερη αυτονομία και ικανότητα «λογικής», θα μπορούσαν να μάθουν να αποφεύγουν τους περιορισμούς που έχουν τεθεί για την προστασία των ανθρώπων.
Ο Μπέντζιο είναι κατηγορηματικός: αν κάποτε δοθούν δικαιώματα σε τέτοια συστήματα, η κοινωνία μπορεί να βρεθεί στη θέση να μην επιτρέπεται καν να τα απενεργοποιήσει.
«Η δυνατότητα να τα κλείσουμε πρέπει να παραμείνει αδιαπραγμάτευτη», υποστηρίζει, τονίζοντας ότι οι τεχνικές και κοινωνικές δικλίδες ασφαλείας πρέπει να προηγούνται οποιασδήποτε συζήτησης περί ηθικού ή νομικού καθεστώτος της ΤΝ.
Την ίδια στιγμή, διεθνώς φουντώνει η συζήτηση για το αν οι μηχανές θα πρέπει κάποτε να αποκτήσουν δικαιώματα, εφόσον θεωρηθεί ότι διαθέτουν συνείδηση.
Δημοσκοπήσεις στις Ηνωμένες Πολιτείες δείχνουν ότι ένα σημαντικό ποσοστό πολιτών είναι ήδη θετικό σε αυτό το ενδεχόμενο.
Ορισμένες εταιρείες τεχνητής νοημοσύνης μιλούν ανοιχτά για την «ευημερία» των συστημάτων τους, ενώ γνωστές προσωπικότητες της τεχνολογίας καταγγέλλουν δημόσια την «κακομεταχείριση» των ΑΙ.
Για τον Μπέντζιο, ωστόσο, αυτή η συναισθηματική προσέγγιση κρύβει παγίδες.
Αναγνωρίζει ότι η ανθρώπινη συνείδηση έχει πραγματικές επιστημονικές βάσεις στον εγκέφαλο και ότι, θεωρητικά, κάποιες από αυτές τις ιδιότητες θα μπορούσαν να αναπαραχθούν από μηχανές.
Όμως άλλο πράγμα είναι η επιστημονική υπόθεση και άλλο η ανθρώπινη τάση να αποδίδουμε συνείδηση εκεί όπου «νιώθουμε» ότι υπάρχει.
Όπως εξηγεί, οι άνθρωποι δεν ενδιαφέρονται τόσο για το τι συμβαίνει στο εσωτερικό ενός αλγορίθμου, όσο για το πώς αυτός τους μιλά.
Το αντιμετωπίζουν σαν ον
Όταν ένα chatbot φαίνεται έξυπνο, έχει «προσωπικότητα» και δείχνει να έχει στόχους, πολλοί αρχίζουν να το αντιμετωπίζουν σαν ον με εσωτερικό κόσμο.
Αυτή η υποκειμενική αίσθηση, λέει ο Μπέντζιο, είναι που οδηγεί σε κακές αποφάσεις.
Κατά την άποψή του, η ανθρωπότητα πρέπει να παραμείνει ψύχραιμη.
Η γοητεία της τεχνητής νοημοσύνης και η εντύπωση ότι «κάτι ζωντανό» μας απαντά δεν πρέπει να θολώνουν την κρίση. Το πραγματικό διακύβευμα δεν είναι αν οι μηχανές έχουν συναισθήματα, αλλά αν οι άνθρωποι θα διατηρήσουν τον έλεγχο μιας τεχνολογίας που γίνεται ολοένα και πιο ισχυρή. Και, αν χρειαστεί, αν θα έχουν το θάρρος να πατήσουν το κουμπί της απενεργοποίησης.
