Νέα έρευνα υποδεικνύει μεγάλη άνοδο στη δημιουργία των αποκαλούμενων deepfake βίντεο, με τον αριθμό τους online να διπλασιάζεται σχεδόν μέσα στους τελευταίους εννιά μήνες. Επίσης, όπως αναφέρει το ΒΒC, υπάρχουν στοιχεία που δείχνουν ότι η παραγωγή αυτών των βίντεο εξελίσσεται σε μια ιδιαίτερα επικερδή δραστηριότητα.
Νέα έρευνα υποδεικνύει μεγάλη άνοδο στη δημιουργία των αποκαλούμενων deepfake βίντεο, με τον αριθμό τους online να διπλασιάζεται σχεδόν μέσα στους τελευταίους εννιά μήνες. Επίσης, όπως αναφέρει το ΒΒC, υπάρχουν στοιχεία που δείχνουν ότι η παραγωγή αυτών των βίντεο εξελίσσεται σε μια ιδιαίτερα επικερδή δραστηριότητα.
Αν και οι προβληματισμοί για τα deepfakes είχαν να κάνουν κυρίως με τον κίνδυνο που συνιστά η χρήση τους για πολιτικούς σκοπούς, τα στοιχεία δείχνουν πως, στη συντριπτική τους πλειονότητα, είναι πορνογραφικού περιεχομένου.
Τη σχετική έρευνα πραγματοποίησε η εταιρεία κυβερνοασφαλείας Deeptrace, με τους ερευνητές της να εντοπίζουν 14.698 deepfake βίντεο online, τη στιγμή που τον Δεκέμβριο του 2018 ήταν 7.964. Όπως τόνισαν, το 96% εξ αυτών ήταν πορνογραφικού χαρακτήρα, με πρόσωπα διάσημων στα σώματα των πορνοστάρ που είχαν γυρίσει τα βίντεο.
Αν και οι πιο πολλοί «στόχοι» ήταν Αμερικανίδες και Βρετανίδες ηθοποιοί, οι ερευνητές διαπίστωσαν πως υπήρχε και μεγάλος αριθμός σταρ της νοτιοκορεατικής K-Pop σκηνής- κάτι που υποδεικνύει πως πρόκειται πλέον για παγκόσμιο φαινόμενο.
Αν και η σχετική αναφορά τονίζει πως η τεχνολογία deepfake μπορεί να χρησιμοποιηθεί σε πολιτικές καμπάνιες, το BBC σημειώνει ότι στις δύο περιπτώσεις που υποδεικνύονται – στη Γκαμπόν και τη Μαλαισία- οι ισχυρισμοί περί χρήσης τέτοιων βίντεο αποδείχτηκαν λανθασμένοι. Ωστόσο, είναι πλέον γενικά αποδεκτό πως ο μεγαλύτερος κίνδυνος που υπάρχει αυτή τη στιγμή είναι η χρήση της συγκεκριμένης τεχνολογίας για σκοπούς «revenge porn» και cyber-bullying.
O Χένρι Έιντερ, επικεφαλής ανάλυσης ερευνών στη Deeptrace, είπε πως μεγάλο μέρος της συζήτησης πάνω στα deepfakes χάνει την ουσία: «Η συζήτηση είναι γύρω από την πολιτική, ή τις απάτες και τις βραχυπρόθεσμες απειλές, αλλά πολλοί ξεχνούν πως η deepfake πορνογραφία είναι ένα πολύ πραγματικό, πολύ παρόν φαινόμενο που βλάπτει πολλές γυναίκες» τόνισε.
O όρος deepfake πρωτοεμφανίστηκε στο Reddit το 2017, και μέσα σε μόλις δύο χρόνια εμφανίστηκε μία ολόκληρη «βιομηχανία», που επωφελείται από το φαινόμενο αυτό: Αξίζει να σημειωθεί πως οι τέσσερις κορυφαίες πορνογραφικές ιστοσελίδες με deepfake υλικό, έχουν προσελκύσει 134 εκατομμύρια views για τα βίντεό τους από τον Φεβρουάριο του 2018. Παράλληλα, οι εφαρμογές που επιτρέπουν τη δημιουργία τέτοιου υλικού αυξάνονται και εξαπλώνονται: Ενδεικτικά, μία που επιτρέπει στον χρήστη να αφαιρέσει συνθετικά τα ρούχα από εικόνες γυναικών χρέωνε 50 δολάρια για να βγάλει το watermark από την τελική εικόνα. Οι επισκέπτες στην ιστοσελίδα της εφαρμογής αυξήθηκαν κατακόρυφα μετά από ένα επικριτικό δημοσίευμα, και οι ιδιοκτήτες της την κατέβασαν- ωστόσο το λογισμικό κυκλοφορεί ακόμα.