Nel bel mezzo dell'era digitale, la preoccupazione per le fake news ha occupato sempre più l'attenzione di organizzazioni pubbliche, media e personalità di ogni tipo. Non per niente, le Fake News hanno avuto un certo peso in importanti processi elettorali come le elezioni presidenziali degli Stati Uniti nel 2016, il referendum sull'uscita del Regno Unito dall'Unione Europea oi generali del Brasile che hanno regalato la vittoria a Bolsonaro.
Senza dover andare così lontano, nel nostro Paese Facebook ha recentemente dovuto chiudere tre grandi reti di estrema destra che, attraverso 30 pagine, gruppi e account duplicati, hanno accumulato più di un milione e mezzo di follower e più di 7 milioni di interazioni . Questi gruppi si dedicavano alla diffusione di bufale e false immagini.
Ma ora ci troviamo di fronte a un altro tipo di minaccia digitale che sta generando nuovi mal di testa. Stiamo parlando del cosiddetto Deepfake, termine che nasce dalla combinazione di “Deep Learning” e “Fake”. Fondamentalmente è una forma di intelligenza artificiale che consente a qualsiasi utente di modificare video falsi e audio di persone che sembrano reali. Per questo, vengono utilizzate reti generative antagonistiche (AGR) , una sorta di algoritmo in grado di creare nuovi tipi di dati da altri set già esistenti.
In definitiva, i "deepfake" sono un'altra forma di manipolazione digitale e una delle più probabili da utilizzare per il "trolling" nel migliore dei casi. Ma come rilevarli? E, soprattutto, cosa fanno le istituzioni private e le aziende per prevenirne le disastrose conseguenze? In questo speciale esamineremo gli sforzi che si stanno compiendo per fermare questo nuovo flagello digitale.
Perché i deepfake sono così pericolosi?
La tecnologia “deepfake” ci permette di sostituire facilmente il volto di una persona con quello di un'altra, come se fosse una specie di maschera o maschera digitale, per farci credere che abbia detto certe cose che non sono mai realmente avvenute . Come si può intuire, queste tecniche hanno una serie di implicazioni piuttosto significative per determinare la legittimità delle informazioni che circolano su Internet.
Sebbene siano spesso utilizzati per creare video divertenti, la verità è che i "deepfake" hanno un oscuro potenziale per distruggere l'immagine pubblica di una persona o per influenzare l'opinione pubblica attraverso l'uso della disinformazione. Purtroppo dobbiamo dirvi che questo uso improprio è più diffuso di quanto vorremmo e con enorme successo dovremmo aggiungere.
Un chiaro esempio è nell'app DeepNude, che ti ha permesso di caricare l'immagine di una persona con vestiti e crearne una nuova della stessa persona nuda . Fortunatamente, è già chiuso, ma dobbiamo sottolineare la facilità d'uso di questo tipo di strumenti per i quali non è richiesta alcuna conoscenza di editing poiché l'algoritmo stesso fa tutto il lavoro.
Nel caso di DeepNude, la piattaforma ha offerto risultati incredibilmente realistici ed era completamente accessibile tramite il suo sito Web per Windows e Linux . E come previsto, i montaggi con celebrità come Katy Perry o Gal Gadot non hanno tardato a comparire in rete, al punto che la pressione degli avvocati di queste attrici non si è fermata finché importanti siti web di contenuti per adulti non hanno rimosso i video. .
Questa è solo la punta dell'iceberg della capacità di movimentazione che possono avere questi tipi di applicazioni. Ora immagina le conseguenze di una campagna di questo tipo diretta contro una certa figura politica per manipolare un processo elettorale in un paese o in una regione. Il male non conosce limiti.
Come si combattono i deepfake?
Una delle prime aziende a parlare è stata nientemeno che Google, che ha annunciato la sua ferma volontà di combattere i deepfake e, come si dice in questi casi, il fuoco spegne il fuoco. Il gigante della tecnologia ha confermato il lancio di un intero database fino a 3.000 video manipolati con intelligenza artificiale (deepfakes) che sono stati creati appositamente per aiutare a perfezionare gli strumenti di rilevamento dei ricercatori.
Per fare ciò, Google ha assunto attori reali per registrare i loro volti e utilizzarli come punto di riferimento per determinare se un video è stato alterato artificialmente. Utilizzando metodi di generazione deepfake disponibili a tutti, migliaia di deepfake vengono creati da queste registrazioni.
I video risultanti, reali e falsi, vengono caricati sulla piattaforma di sviluppo collaborativo GitHub in modo che i ricercatori comprendano appieno ciò che il sistema sta producendo. Questo database, come si dice, è completamente accessibile, anche se prima dovranno darti il permesso .
Da parte sua, Facebook prevede anche di creare un database simile entro la fine di quest'anno. Secondo il suo amministratore delegato, Mark Zuckerberg, il problema principale è che l'industria non dispone di un sistema standardizzato per rilevarli . Questo è il motivo per cui ha collaborato con l'Association of AI, Microsoft e accademici di Cornell Tech, MIT, Oxford, UC Berkeley, University of Maryland, College Park e University of Albany-SUNY per costruire la Deepfake Detection Challenge. (DFDC per il suo acronimo in inglese).
Questo macro progetto includerà un ampio database e una classificazione dettagliata , oltre agli aiuti finanziari e alle donazioni per incoraggiare il maggior numero possibile di collaboratori. L'idea è creare una sorta di community che aiuti a rilevare ed evitare video manipolati tramite un'intelligenza artificiale.
Non c'è dubbio che la proliferazione di "deepfakes" sia diventata una questione molto seria, con gravi conseguenze che non possono essere ignorate. Sebbene le misure proposte dai principali agenti impegnati per questa causa possano sembrare a lungo termine poco pratiche, o addirittura controproducenti, possono essere l'unico modo per sradicare questo crimine. Anche se può sembrare controintuitivo, combattere i "deepfake" con più "deepfake" aiuterà gli strumenti di rilevamento ad assorbire più dati per aiutarli a individuare più facilmente questi tipi di montaggi .