Πώς λειτουργούν τα deepfakes και ποια είναι τα στάδια της δημιουργίας τους

Η παραγωγή των deepfakes δεν είναι μια διαδικασία καινούργια. «H τεχνολογία υπάρχει εδώ και μια πενταετία, μπορεί και παραπάνω», σημειώνει στα «ΝΕΑ» ο Φώτης Τσινόπουλος, προγραμματιστής, εξηγώντας τα στάδια της δημιουργίας τους: «Το πρώτο είναι η συλλογή και τροφοδότηση του μοντέλου με έναν μεγάλο όγκο δεδομένων από εικόνες και βίντεο του θύματος, δηλαδή του προσώπου που θα χρησιμοποιηθεί στη δημιουργία ενός deepfake. Ακολουθεί το στάδιο της εκπαίδευσης, κατά το οποίο το μοντέλο “μαθαίνει” μέσω νευρωνικών δικτύων autoencoders που κάνουν μια δειγματοληψία των κύριων χαρακτηριστικών από τη φωτογραφία ή το βίντεο. Ουσιαστικά, τα νευρωνικά δίκτυα αντιγράφουν εκφράσεις, κινήσεις και ομιλία, ώστε να μπορούν να τα αναπαράγουν, να αντικαταστήσουν εκείνα μιας άλλης φωτογραφίας και να τα ευθυγραμμίσουν αποτελεσματικά για το πιο ρεαλιστικό αποτέλεσμα, βάζοντας το πρόσωπο ενός ατόμου στο σώμα ενός άλλου (ή και αντίστροφα)».

Εναλλακτικό μέσο παραγωγής deepfakes είναι τα Generative Adversarial Networks (GAN) που αποτελούνται από ένα δίκτυο παραγωγής και ένα δίκτυο διαχωρισμού, που ονομάζονται generator και discriminator αντίστοιχα. Το πρώτο δίκτυο δημιουργεί το ψεύτικο περιεχόμενο, ενώ το δεύτερο «αξιολογεί» το δημιουργημένο περιεχόμενο σε σύγκριση με το πραγματικό. «Εχεις τον generator που το παράγει και έχεις τον discriminator που καταλαβαίνει αν αυτό που έχει παραχθεί είναι σωστό ή ψεύτικο. Οταν o discriminator πιάνει το λάθος, αυτός που πρέπει να αλλάξει είναι ο generator, ώστε να δημιουργήσει κάτι πιο ακριβές. Οταν πάρει το “πράσινο φως” από τον discriminator, ο τελευταίος πρέπει να αλλάξει και να γίνει πιο έξυπνος για να βρίσκει το ψεύτικο. Ετσι το δίκτυο γίνεται πιο ακριβές και εξελίσσεται», εξηγεί ο Φώτης Τσινόπουλος.

Παράλληλα, ο ειδικός επισημαίνει ότι πλέον ο κώδικας είναι έτσι γραμμένος ώστε να είναι πολύ εύκολο για τον καθένα να φτιάξει ένα deepfake, «ακόμα και εάν δεν έχει ιδιαίτερες προγραμματιστικές γνώσεις». Μια απλή αναζήτηση στο Διαδίκτυο οδηγεί σε προγράμματα δημιουργίας τέτοιου περιεχομένου, όπως το DeepFaceLab, με το μόνο «χρονοβόρο» κομμάτι της όλης διαδικασίας να είναι η εκπαίδευση του προαναφερθέντος μοντέλου, το οποίο πρέπει να «διαβάσει» τις χιλιάδες διαθέσιμες φωτογραφίες.

Συκοφαντική δυσφήμηση

Ωστόσο, κατά τον Βασίλη Παπακώστα, διευθυντή της Διεύθυνσης Δίωξης Ηλεκτρονικού Εγκλήματος, ο αριθμός των καταγγελιών για κακόβουλη χρήση deepfakes δεν είναι μεγάλος: «Δεν υπάρχουν πολλές καταγγελίες, αλλά είναι κάτι που συμβαίνει. Είναι κάτι που μας απασχολεί ως έγκλημα». Ο ίδιος επισημαίνει ότι οι καταγγελίες δεν αφορούν μόνο περιστατικά με βίντεο εκδικητικής πορνογραφίας, αλλά και περιπτώσεις συκοφαντικής δυσφήμησης, όπως αυτή που πρωταγωνίστησε στα ειδησεογραφικά μέσα και είχε θύμα τον διευθυντή ΜΕΘ του Νοσοκομείου Παπανικολάου της Θεσσαλονίκης Νίκο Καπραβέλο, που βρέθηκε εν αγνοία του να «διαφημίζει» φάρμακο για τα αγγεία: «Τα περιστατικά συκοφαντικής δυσφήμησης, εκτός από το υποτιθέμενο πορνογραφικό υλικό, περιλαμβάνουν, μεταξύ άλλων, γιατρούς που εμφανίζονται να προβάλλουν ένα συγκεκριμένο φαρμακευτικό σκεύασμα, δημοσιογράφους που προμοτάρουν ηλεκτρονικά καζίνο κ.ο.κ. Παρ’ όλα αυτά, δεν είναι ένα φαινόμενο που έχει μεγάλη έξαρση και καταγραφή, τουλάχιστον προσώρας. Οταν λαμβάνουμε κάποια καταγγελία, σχηματίζεται δικογραφία για να μάθουμε ποιος είναι ο δράστης, όπως συμβαίνει με κάθε έγκλημα».