Η τρέχουσα πολεμική σύρραξη στο Ιράν και την ευρύτερη περιοχή της Μέσης Ανατολής έχει προκαλέσει έναν ισχυρό κλυδωνισμό στις παγκόσμιες αγορές, θυμίζοντας παλαιότερες ενεργειακές κρίσεις.
Η τιμή του πετρελαίου ακολουθεί μια σταθερά ανοδική τροχιά, ενώ ο αποκλεισμός του μεγαλύτερου εξαγωγέα φυσικού αερίου δημιουργεί ένα κενό στην εφοδιαστική αλυσίδα που μοιάζει αδύνατο να καλυφθεί άμεσα.
Ωστόσο, πίσω από το παραπέτασμα των οικονομικών δεικτών και των εχθροπραξιών στο έδαφος εξελίσσεται μια άλλη, ίσως κρισιμότερη για το μέλλον της ανθρωπότητας, διαμάχη στο εσωτερικό των ΗΠΑ.
Στο επίκεντρο αυτής της διαμάχης βρίσκεται η εταιρεία Anthropic και η αντιπαράθεσή της με το αμερικανικό υπουργείο Αμυνας. Η αφορμή δόθηκε όταν το Πεντάγωνο απαίτησε από τους κορυφαίους παρόχους μοντέλων Τεχνητής Νοημοσύνης (ΤΝ) να άρουν τους περιορισμούς ασφαλείας και τις ηθικές δικλίδες που εμπόδιζαν τη χρήση των εργαλείων τους για στρατιωτικούς σκοπούς.
Η Anthropic επέλεξε μια στάση αρχών, αρνούμενη να επιτρέψει τη χρήση του μοντέλου της Claude σε δύο κρίσιμους τομείς: στη μαζική παρακολούθηση πολιτών και στην ανάπτυξη αυτόνομων οπλικών συστημάτων.
Η αντίδραση της αμερικανικής κυβέρνησης ήταν άμεση και σκληρή, χαρακτηρίζοντας την εταιρεία ως «εφοδιαστικό κίνδυνο» και διακόπτοντας κάθε συμβόλαιο μαζί της. Παράλληλα, ενώ οι ανταγωνιστές της Anthropic εξέφρασαν δημόσια τη στήριξή τους προς την εταιρεία, παρασκηνιακά έσπευσαν να υπογράψουν τις νέες συμβάσεις, αποδεχόμενοι τους όρους του υπουργείου.
Αν και οι αυτοματισμοί στα όπλα δεν είναι κάτι νέο, η ενσωμάτωση της ΤΝ αλλάζει ριζικά τη φύση του πολέμου. Το κύριο πρόβλημα εντοπίζεται στη συρρίκνωση του χρόνου απόκρισης.
Στη θεωρία, η ΤΝ βοηθά στην ανάλυση τεράστιου όγκου δεδομένων για τον εντοπισμό στόχων. Στην πράξη, όμως, αυτό δημιουργεί έναν καταιγισμό πληροφοριών που ο ανθρώπινος εγκέφαλος αδυνατεί να διαχειριστεί.
Από το μέτωπο του Ιράν καταφθάνουν ανησυχητικές πληροφορίες: οι άνθρωποι-χειριστές, λόγω του τεράστιου όγκου πιθανών στόχων που υποδεικνύει ο αλγόριθμος, καλούνται να πάρουν αποφάσεις ζωής και θανάτου μέσα σε δευτερόλεπτα αντί για λεπτά.
Αυτή η πίεση εκμηδενίζει τη δυνατότητα κριτικής αξιολόγησης, αυξάνοντας δραματικά την πιθανότητα σφάλματος. Οταν, μάλιστα, τα δεδομένα εισόδου είναι παρωχημένα, οι συνέπειες είναι τραγικές, όπως συνέβη με τον βομβαρδισμό σχολείου στην πόλη Μινάμπ.
Το παράδοξο της ταχύτητας: όσο ταχύτερη γίνεται η στόχευση από την ΤΝ τόσο λιγότερο «ανθρώπινη» γίνεται η απόφαση, μετατρέποντας τον πόλεμο σε μια αυτοματοποιημένη διαδικασία εξόντωσης.
Το σενάριο των ταινιών «Terminator», όπου η ΤΝ (Skynet) αποκτά συνείδηση και εξολοθρεύει την ανθρωπότητα, παραμένει επιστημονική φαντασία, καθώς η σημερινή ΤΝ στερείται αυτενέργειας.
Ο πραγματικός κίνδυνος είναι διαφορετικός: η ΤΝ, λειτουργώντας βάσει στατιστικών μοντέλων και πολεμικών προσομοιώσεων, τείνει να προτείνει τη χρήση πυρηνικών όπλων ακολουθώντας το δόγμα του «πρώτου χτυπήματος» (First Strike Doctrine).
Χωρίς να μπορεί να αντιληφθεί τις συνολικές γεωπολιτικές ή περιβαλλοντικές συνέπειες, όταν χρησιμοποιείται σε πολεμικά σενάρια, το μοντέλο ΤΝ βλέπει την πυρηνική κλιμάκωση ως την «αποδοτικότερη» λύση για την εξουδετέρωση μιας απειλής.
Καθώς η εμπιστοσύνη μας στις δυνατότητες της ΤΝ αυξάνεται, το ρίσκο να της παραδώσουμε τα κλειδιά κρίσιμων διαδικασιών γίνεται υπαρξιακό.
Στην παρούσα σύρραξη στο Ιράν διεξάγεται ένα επικίνδυνο πείραμα σε πραγματικό χρόνο. Αν τα συμπεράσματα αυτού του πειράματος ερμηνευτούν ως «επιτυχία» λόγω της ταχύτητας των επιχειρήσεων, η ανθρωπότητα μπορεί να οδηγηθεί σε ένα λάθος από το οποίο δεν θα υπάρχει επιστροφή.
