H Microsoft ανέπτυξε ένα εργαλείο για τον εντοπισμό deepfakes- παραποιημένων μέσω υπολογιστή βίντεο, όπου ένα πρόσωπο αντικαθίσταται με κάποιο άλλο, ή εμφανίζεται να λέει πράγματα που δεν είπε στην πραγματικότητα.
Όπως αναφέρει το BBC, το συγκεκριμένο λογισμικό αναλύει φωτογραφίες και βίντεο για να δώσει ένα «σκορ βεβαιότητας» σχετικά με το αν το υλικό είναι αυθεντικό ή έχει παραποιηθεί/ δημιουργηθεί τεχνητά. Η εταιρεία εκφράζει την ελπίδα ότι η τεχνολογία αυτή θα βοηθήσει στην αντιμετώπιση της παραπληροφόρησης. Για να το αποφευχθεί το ενδεχόμενο η τεχνολογία αυτή να μείνει πίσω, δεδομένης της ταχύτητας με την οποία εξελίσσονται τα deepfakes, η Microsoft ανακοίνωσε επίσης ένα ξεχωριστό σύστημα που θα βοηθά τους παραγωγούς περιεχομένου να προσθέτουν κρυμμένο κώδικα στα βίντεό τους, έτσι ώστε να εντοπίζονται εύκολα πιθανές αλλαγές.
Τα deepfakes έγιναν ευρέως γνωστά στις αρχές του 2018, αφού ένας developer χρησιμοποίησε προηγμένες τεχνικές τεχνητής νοημοσύνης για να δημιουργήσει λογισμικό που άλλαζε το πρόσωπο ενός ατόμου με αυτό ενός άλλου. Η όλη διαδικασία περιελάμβανε την τροφοδοσία του υπολογιστή με πολλές στατικές εικόνες ενός ατόμου και βίντεο ενός άλλου. Το λογισμικό το χρησιμοποίησε αυτό για την παραγωγή ενός νέου βίντεο με το πρόσωπο του ενός στη θέση του προσώπου του άλλου, με αντίστοιχες εκφράσεις, κίνηση χειλιών και άλλες κινήσεις. Έκτοτε η διαδικασία έχει απλοποιηθεί και είναι διαθέσιμη σε περισσότερους χρήστες, ενώ χρειάζεται και λιγότερες φωτογραφίες. Υπάρχουν κάποιες εφαρμογές που απαιτούν μόνο μία selfie για να αντικαταστήσουν το πρόσωπο ενός ηθοποιού με αυτό του χρήστη σε αποσπάσματα από ταινίες.
Υπάρχουν πολλές ανησυχίες πως η διαδικασία αυτή μπορεί να χρειαστεί για τη δημιουργία παραπλανητικών βίντεο, όπου μια γνωστή προσωπικότητα εμφανίζεται να λέει πράγματα που δεν είπε ποτέ στην πραγματικότητα, ή να ενεργεί με τρόπο που δεν το έκανε ποτέ. Νωρίτερα μέσα στο έτος το Facebook απαγόρευσε deepfakes που θα μπορούσαν να παραπλανήσουν το κοινό ώστε να θεωρεί ότι κάποιος είπε κάτι που δεν είχε πει ποτέ. Το Twitter και το TikTok ακολούθησαν με παρόμοιους κανόνες.
Το Video Authenticator της Microsoft λειτουργεί αναζητώντας ενδείξεις πως μια εικόνα δημιουργήθηκε τεχνητά, οι οποίες μπορεί να είναι αόρατες στο ανθρώπινο μάτι. Για τη δημιουργία του η Microsoft χρησιμοποίησε τεχνικές machine learning σε ένα δημόσιο dataset περίπου 1.000 deepfaked βίντεο και μετά δοκίμασε το μοντέλο που προέκυψε σε μια ακόμα μεγαλύτερη βάση δεδομένων του Facebook.
Μία σύμβουλος τεχνολογικών θεμάτων σημείωσε πως τα deepfake βίντεο παραμένουν σχετικά σπάνια ακόμα, και ότι τα περισσότερα είναι χονδροειδή αποσπάσματα. «Η μόνη πραγματικά ευρεία χρήση που έχουμε δει ως τώρα είναι μη συναινετική πορνογραφία σε βάρος γυναικών» είπε η Νίνα Σικ, συγγραφέας του «Deep Fakes and the Infocalypse». «Αλλά τα συνθετικά media αναμένεται να καταστούν πανταχού παρόντα μέσα σε τρία με πέντε χρόνια, οπότε χρειάζεται να αναπτύξουμε τέτοια εργαλεία. Ωστόσο όσο βελτιώνονται οι δυνατότητες εντοπισμού, τόσο θα βελτιώνονται και οι δυνατότητες παραγωγής- ποτέ δεν θα ισχύσει πως η Microsoft θα μπορεί να κυκλοφορήσει ένα εργαλείο που θα μπορεί να εντοπίζει όλα τα είδη παραποίησης βίντεο».
Βραχυπρόθεσμα πάντως, η εταιρεία ανέφερε ότι ελπίζει πως το εν λόγω εργαλείο θα μπορούσε να βοηθήσει στον εντοπισμό deepfakes εν όψει των εκλογών του Νοεμβρίου στις ΗΠΑ. Ωστόσο αντί να το διαθέσει ευρέως στο κοινό, το προσφέρει μόνο μέσω ενός «τρίτου» οργανισμού, που με τη σειρά του θα το διαθέσει σε ΜΜΕ και πολιτικές καμπάνιες δωρεάν. Με αυτόν τον τρόπο επιδιώκεται να αποφευχθεί η απόκτηση του κώδικά του από κακόβουλους δρώντες, που θα μπορούσαν έτσι να μάθουν πώς να το αποφεύγουν.
