Βίντεο τεχνητής νοημοσύνης που απεικονίζουν Ουκρανούς στρατιώτες να κλαίνε και να παραδίδονται άρχισαν να κυκλοφορούν στα μέσα κοινωνικής δικτύωσης στις αρχές Νοεμβρίου, προκαλώντας ανησυχία για την εξάπλωση της παραπληροφόρησης σχετικά με τον πόλεμο στην Ουκρανία.

Τα βίντεο μοιάζουν αληθοφανή και δύσκολα εντοπίζονται σημάδια αλλοίωσης. Ωστόσο, ο Ρώσος livestreamer Αλεξέι Γκουμπάνοφ, που ζει πλέον στη Νέα Υόρκη, αναγνώρισε αμέσως κάτι ύποπτο: το δικό του πρόσωπο.

«Στην αρχή δεν το πήρα στα σοβαρά, αλλά μετά είδα πόσο γρήγορα αυξάνονταν οι προβολές και, το χειρότερο, πόσοι πίστευαν ότι τα βίντεο ήταν αληθινά», δήλωσε ο Γκουμπάνοφ. Όπως εξήγησε, δεκάδες χιλιάδες χρήστες άφηναν σχόλια εκφράζοντας λύπη για τους “Ουκρανούς στρατιώτες” και οργή προς την ουκρανική ηγεσία.

Ο Γκουμπάνοφ, γνωστός για τα streams του στο Twitch και επικριτής του προέδρου Βλαντίμιρ Πούτιν, δεν έχει υπηρετήσει ποτέ στον στρατό. Το βίντεο που τον εμφάνιζε ήταν προϊόν τεχνητής νοημοσύνης, σχεδιασμένο να διασπείρει ψευδές αφήγημα για το ηθικό των ουκρανικών δυνάμεων.

Στα ρωσικά, ο “ψηφιακός” Γκουμπάνοφ φέρεται να λέει: «Μας πήγαν στην επιτροπή επιστράτευσης και τώρα μας στέλνουν στο Ποκρόβσκ. Δεν θέλουμε. Μαμά, δεν θέλω!»

Η τεχνητή νοημοσύνη στη μάχη της προπαγάνδας

Το συγκεκριμένο βίντεο είναι ένα από τα 21 που εξέτασε το NBC News και φαίνεται να έχουν δημιουργηθεί με προηγμένα προγράμματα τεχνητής νοημοσύνης, όπως το Sora 2 της OpenAI. Σε αρκετά από αυτά διακρίνεται το λογότυπο του Sora, ένδειξη της προέλευσής τους.

Κάποια από τα βίντεο χρησιμοποιούν τα πρόσωπα γνωστών Ρώσων livestreamers, ενώ άλλα δείχνουν Ουκρανούς στρατιώτες να παραδίδονται μαζικά. Παράλληλα, τα περισσότερα παρουσιάζουν τους στρατιώτες να μιλούν ρωσικά, στοιχείο που προδίδει την τεχνητή τους φύση.

Τα βίντεο διαδόθηκαν σε YouTube, TikTok, Facebook και X, επιχειρώντας να παρουσιάσουν τους Ουκρανούς στρατιώτες ως απρόθυμους να πολεμήσουν. Ειδικοί εκτιμούν ότι πρόκειται για μια νέα φάση παραπληροφόρησης γύρω από τον πόλεμο, με εργαλεία τεχνητής νοημοσύνης που καθιστούν δύσκολη τη διάκριση του ψεύτικου από το αληθινό.

Ανησυχία για τη διάδοση ψευδών ειδήσεων

Η αναλύτρια ρωσικής επιρροής Άλις Λι από το NewsGuard δήλωσε ότι «οι ψευδείς ισχυρισμοί που δημιουργούνται μέσω του Sora είναι πολύ πιο δύσκολο να εντοπιστούν και να αποκαλυφθούν». Όπως εξήγησε, ακόμη και οι πιο εξελιγμένοι ανιχνευτές AI δυσκολεύονται να τα εντοπίσουν, καθώς τα περισσότερα δεν παρουσιάζουν οπτικές ασυνέπειες.

Η OpenAI, απαντώντας σε ερώτηση του NBC News, ανέφερε ότι «η δυνατότητα του Sora 2 να παράγει υπερρεαλιστικά βίντεο και ήχο εγείρει σημαντικά ζητήματα σχετικά με την ομοιότητα, την κατάχρηση και την εξαπάτηση». Η εταιρεία υποστηρίζει ότι διαθέτει μηχανισμούς για τον εντοπισμό και αποκλεισμό παραβιάσεων, αν και παραδέχεται πως ορισμένες περιπτώσεις μπορεί να ξεφεύγουν.

Η Ουκρανία στο στόχαστρο ψηφιακών επιχειρήσεων

Η συνεχιζόμενη ρωσική εισβολή έχει συνοδευτεί από εκστρατείες παραπληροφόρησης, από ψεύτικα livestreams έως βίντεο που χρησιμοποιούν γραφικά από video games. Σύμφωνα με μελέτη του Ινστιτούτου Κοινωνιολογίας του Κιέβου, το 75% των Ουκρανών απορρίπτει κατηγορηματικά τις ρωσικές προτάσεις ειρήνης, ενώ το 62% δηλώνει πρόθυμο να αντέξει τον πόλεμο όσο χρειαστεί.

Το Κέντρο Αντιμετώπισης Παραπληροφόρησης της Ουκρανίας επιβεβαίωσε ότι έχει καταγραφεί «σημαντική αύξηση περιεχομένου που δημιουργείται ή αλλοιώνεται με τεχνητή νοημοσύνη» με σκοπό να υπονομεύσει την εμπιστοσύνη προς την κυβέρνηση και τη διεθνή υποστήριξη της χώρας.

Περιορισμοί και παραθυράκια

Μελέτη του NewsGuard έδειξε ότι το Sora 2 παρήγαγε ρεαλιστικά βίντεο με ψευδείς ισχυρισμούς στο 80% των περιπτώσεων, ακόμη και όταν αρχικά απέρριπτε τα αιτήματα ως παραβίαση πολιτικής. Επιπλέον, πολλοί χρήστες καταφέρνουν να αφαιρέσουν ή να καλύψουν τα υδατογραφήματα που προσθέτει η OpenAI στα βίντεο.

Παρά την απαγόρευση βίαιου ή παραπλανητικού περιεχομένου, το NBC News εντόπισε βίντεο με το λογότυπο του Sora που απεικονίζει Ουκρανό στρατιώτη να πυροβολείται στο κεφάλι. Τα περισσότερα από αυτά δημοσιεύθηκαν σε TikTok και YouTube Shorts, πλατφόρμες που απαγορεύονται στη Ρωσία αλλά παραμένουν προσβάσιμες στην Ευρώπη και τις ΗΠΑ.

Αντίδραση των πλατφορμών

Το YouTube αφαίρεσε ορισμένα από τα κανάλια που ανάρτησαν τα βίντεο, ενώ το TikTok ανακοίνωσε ότι το 99% του παραβατικού περιεχομένου αφαιρείται πριν καν αναφερθεί από χρήστες. Παρόλα αυτά, τα ίδια βίντεο συνεχίζουν να κυκλοφορούν σε X και Facebook, όπου οι εταιρείες δεν απάντησαν σε αιτήματα σχολιασμού.

Η νέα εποχή της ψηφιακής παραπληροφόρησης

Η συνιδρύτρια του American Sunlight Project, Νίνα Τζάνκοβιτς, προειδοποίησε ότι «όποιος καταναλώνει περιεχόμενο στο διαδίκτυο πρέπει να συνειδητοποιήσει πως μεγάλο μέρος όσων βλέπουμε σήμερα — σε βίντεο, φωτογραφίες ή κείμενα — δημιουργείται από τεχνητή νοημοσύνη». Όπως πρόσθεσε, ακόμη κι αν το Sora εφαρμόσει αυστηρούς περιορισμούς, «θα υπάρξουν πάντα άλλες εταιρείες και τεχνολογίες που θα προσπαθήσουν να μολύνουν τον χώρο της πληροφόρησης».

Πηγή: NBC NWES