Smascherare e tracciare il deepfake: un team dell'Università di Trento al servizio dell'intelligence Usa. Ecco “Unchained”, per combattere la “nuova frontiera del falso”

TRENTO. “Nella lotta al falso, dopo il fotomontaggio e le fake news, la nuova frontiera si chiama deepfake”. Manipolazione delle immagini tramite l'intelligenza artificiale, consiste nel dar vita a video che ingannano il cervello umano, trasformando in "vero" ciò che non lo è. È proprio per combattere questo tipo di falsificazioni, che l'Università di Trento ha avviato una collaborazione con l'Università di Firenze in un progetto chiamato “Unchained” ('Uncovering media manipulation chains through container and content detectable traces').

Lo scopo? Sviluppare algoritmi capaci di smascherare il trucco, mobilitando le competenze di un team composto anche, come detto, da accademici trentini. A guidare l'unità di ricerca per UniTn è infatti la professoressa del Dipartimento di Ingegneria e Scienza dell'Informazione dell'Ateneo del capoluogo Giulia Boato.

Di deepfake anche noi de ildolomiti.it ci eravamo occupati tramite un approfondimento a puntate, sviscerando la questione dall'utilizzo dei video manipolati (nel 96% dei casi il deepfake è usato per filmati pornografici), alle ricadute giudiziarie (a dimostrazione di come la legge fatichi a stare al passo degli avanzamenti tecnologici), passando per gli effetti sul cervello umano (il successo dei falsi è spesso dovuto al meccanismo cognitivo del “confirmation bias”).

Le tipologie di falsificazione, d'altronde, sono diverse, tra combinazioni e sovrapposizioni di video esistenti,  frasi messe in bocca a persone che non le hanno mai pronunciate e creazione a computer di immagini umane. Le finalità, pertanto, sono altrettante: dalla creazione di video falsi su persone molto note alle truffe, dal “revenge porn” al cyberbullismo, e così via.

Tra i casi più celebri, v'è sicuramente il video falsificato del patron di facebook Mark Zuckerberg, che nell'estate 2019 finiva per essere protagonista di un filmato spopolato sui social in cui pronuncia frasi mai dette sul controllo del mondo del futuro. Altro esempio, più leggero, è quello che ha visto protagonista la presidente della Camera dei rappresentanti degli Usa Nancy Pelosi, immortalata in video (anch'esso fake) in cui sembra prendere la voce davanti all'assemblea in presunto stato di ubriachezza.

Nei confronti di questo nuovo tipo di falsificazione, dunque, l'Università di Trento si è impegnata nel tentativo di creare uno strumento capace di debellare i falsi. “Unchained” ha infatti lo scopo di rilevare in rete dei contenuti multimediali manipolati e potenzialmente diffamatori e di tracciarli. Finanziato dalla Darpa (Defense advanced research projects agency), l'agenzia governativa del Dipartimento della Difesa degli Stati Uniti, il progetto si inserisce nel solco della ricerca sullo sviluppo di nuove tecnologie, vincitore di un bando sull'utilizzo dell'intelligenza artificiale nel contrasto ai raggiri.

“Oggi si riesce già a rilevare molte tracce quali, ad esempio, quelle lasciate dal sistema di acquisizione, la codifica e la ri-codifica del segnale, alcune tecniche comuni di elaborazione, alcuni meccanismi di condivisione su social – spiega la responsabile per UniTn Giulia Boato – molto più complesso e risolto solo in piccola parte è il problema di valutare queste cose all'interno di una catena di elaborazione, il ciclo di vita del dato multimediale, in termini di provenienze, manipolazioni e condivisione subite. È ciò su cui lavoriamo noi”.

Mentre Firenze si occuperà dell'analisi del formato, il team trentino si concentrerà invece sul contenuto, sfruttando le competenze maturate nell'analisi del viso umano e del segnale. “Il nostro lavoro consiste nello sviluppare algoritmi, basati sia su analisi statistiche sia su paradigmi di deep-learning, adatti a scandagliare e ripercorrere tutta la catena del dato multimediale – prosegue la professoressa – l'investigazione forense ha bisogno della ricostruzione complessiva. Solo così possiamo dare un supporto ai servizi di intelligence, per la polizia postale e per tutti gli attori preposti a tracciare contenuti falsi e malevoli”.