Εντείνονται οι φόβοι πως τέτοιου είδους βίντεο θα μπορούσαν να χρησιμοποιηθούν για την προώθηση θεωριών συνωμοσίας και προπαγάνδας.

Η Google παρουσίασε μια βάση δεδομένων με 3.000 deepfakes- βίντεο τα οποία χρησιμοποιούν τεχνητή νοημοσύνη για να αλλάζουν πρόσωπα ή για να παρουσιάζουν ανθρώπους να λένε πράγματα που ποτέ δεν είπαν στην πραγματικότητα.

Όπως αναφέρει δημοσίευμα του naftemporiki.gr, στα βίντεο αυτά εμφανίζονται ηθοποιοί και χρησιμοποιείται ένα μεγάλο εύρος εργαλείων τα οποία είναι διαθέσιμα στο ευρύ κοινό για την πρόκληση αλλαγών στα πρόσωπα. Ο κολοσσός του χώρου της αναζήτησης ελπίζει πως η βάση αυτή θα βοηθήσει ερευνητές να δημιουργήσουν εργαλεία που θα βοηθούν στον εντοπισμό και την απομάκρυνση «επιβλαβών» βίντεο τέτοιου τύπου.

Όπως σημειώνει το BBC, εντείνονται οι φόβοι πως τέτοιου είδους βίντεο θα μπορούσαν να χρησιμοποιηθούν για την προώθηση θεωριών συνωμοσίας και προπαγάνδας, καθώς η τεχνολογία deepfake παίρνει βίντεο και ηχητικά πραγματικών ανθρώπων, συχνά πολιτικών ή διασήμων, και χρησιμοποιεί τεχνικές τεχνητής νοημοσύνης για να τα αλλάξει- για παράδειγμα εμφανίζοντάς τους να λένε διαφορετικά πράγματα από ό,τι στην πραγματικότητα, ή βάζοντας το κεφάλι τους στο σώμα ηθοποιών σε βίντεο πορνογραφικού περιεχομένου.

Από τότε που πρωτοεμφανίστηκαν, το 2017, έχουν κυκλοφορήσει πολλές open source μέθοδοι δημιουργίας deepfake βίντεο.

Σε σχετικό blogpost όπου η Google παρουσιάζει τη δουλειά της, σημειώνεται πως «εφόσον ο κλάδος αυτός προχωρά γρήγορα, θα εμπλουτίζουμε αυτό το dataset καθώς η τεχνολογία deepfake εξελίσσεται με το πέρασμα του χρόνου και θα συνεχίσουμε να δουλεύουμε με συνεργάτες σε αυτό τον χώρο. Πιστεύουμε πολύ στην υποστήριξη προς μια ανθούσα ερευνητική κοινότητα που θα αντισταθμίζει τους πιθανούς κινδύνους από την κατάχρηση συνθετικών μέσων. Αν και πολλά προορίζονται ως χιουμοριστικά, άλλα θα μπορούσαν να είναι επιβλαβή σε άτομα και στην κοινωνία».

Η εν λόγω βάση δεδομένων θα αξιοποιηθεί για σκοπούς αντιμετώπισης των deepfakes στο TUM (Technische Universität München) και στο Università degli Studi di Napoli Federico II. Τα πανεπιστήμια αυτά έχουν δημιουργήσει μια παρόμοια βάση δεδομένων, χρησιμοποιώντας τέσσερις κοινές τεχνικές παραποίησης προσώπων σε περίπου 1.000 βίντοε του YouTube και ελπίζεται πως αυτές οι δύο βάσεις θα χρησιμοποιηθούν για την «εκπαίδευση» αυτόματων εργαλείων εντοπισμού τέτοιων βίντεο.