FonteUfficiale.it “ Cos’è il deepfake? „

Il deepfake è una tecnica che sfrutta l’intelligenza artificiale per sovrapporre il volto di una persona ad un’altra

Cos’è il deepfake. Il deepfake è una tecnica che sfrutta l’intelligenza artificiale per sovrapporre il volto di una persona ad un’altra, ripresa in un video.

Il termine “deepfake” è un neologismo nato dalla “crasi” (una fusione) delle parole “fake” e “deep learning” e consiste in una particolare tecnologia AI in grado di sintetizzare l’immagine umana, partendo da contenuti reali (immagini, video e audio) per modificare o ricreare le caratteristiche e i movimenti di un volto o di un corpo o imitare fedelmente una determinata voce. Il risultato sono dei falsi digitali che possono compromettere l’immagine di una persona.

Grazie al “deep learning“, i volti di 2 persone vengono sostituiti (face swapping), manipolando i video per far dire a chiunque tutto quello che si vuole, riproducendo la voce e sincronizzando il labiale.

Di solito vengono utilizzati i volti di celebrità o politici (i video vengono manipolati in modo tale che i fake sembrino reali).

I video deepfake più celebri sono quelli di Barack Obama e Mark Zuckerberg:

Secondo il report “Deepfakes and cheap fake. The manipolation of audio and video evidence” pubblicato da Britt Paris e Joan Donovan, nemmeno l’intelligenza artificiale riuscirebbe a scovare con certezza i video manipolati.

Che cosa sono i deepfake?

I deepfake sono foto, video e audio creati grazie a software di intelligenza artificiale (AI) che, partendo da contenuti reali (immagini e audio), riescono a modificare o ricreare, in modo estremamente realistico, le caratteristiche e i movimenti di un volto o di un corpo e a imitare fedelmente una determinata voce.

Le manipolazioni del volto possono essere di 4 tipi:

• Sintesi dell’intero volto: genera volti umani identici a persone reali ma del tutto creati dal computer. Si tratta di “Generative Adversarial Networks” (GAN) capaci di ricreare profili umani totalmente fake e impossibili da distinguere da normali foto di volti umani.
• Cambio d’identità: il processo in cui, in un video, si sostituisce il volto di una persona con quello di un altro. E’ praticamente impossibile capire che si tratti di un fake. Questo tipo di video nacque nel 2017 su Reddit, quando un utente pubblicò dei video pornografici aventi come protagonisti alcune celebrità.
• Manipolazione di un attributo: consente di cambiare alcuni attributi del volto umano (il colore della pelle o dei capelli, il genere, l’età, ecc.). Un esempio è l’applicazione FaceApp.
• Cambio d’espressione: ricostruzione del volto aggiungendo espressioni completamente nuove. Si potrebbero, quindi, creare da zero i movimenti labiali di un discorso e proiettarli sul volto di un’altra persona.

Come funzionano i deepfake?

Il segreto dietro ai deepfake è l’utilizzo di alcune reti neurali chiamate “Generative adversarial networks” (GAN). Questa tecnica è stata inventata nel 2014 da uno dei migliori ricercatori al mondo in campo AI, Ian Goodfellow.

L’idea si basa sul mettere in competizione 2 modelli: un classificatore e un generatore:

• Il classificatore è un algoritmo addestrato nel riconoscere quali immagini rappresentano un volto umano e quali no;
• Il generatore è un algoritmo in grado di creare immagini partendo da un dataset di volti umani su cui è stato addestrato.

Il generatore cercherà di creare immagini simili ad un volto umano e il classificatore cercherà di riconoscere che non si tratti di un’originale. Questo processo porta il generatore a creare immagini sempre più precise.

I deepfake nelle App mobile

E’ possibile utilizzare un’applicazione per modificare il proprio volto o quello degli amici.

Le app:

• Zao
• FaceApp
• AvengeThem
• Doublicat
• MachineTube
• DeepFaceLab
• Deep Art
• Face Swap Live
• Face Swap by Microsoft

Come riconoscere i deepfake

Social media, organizzazioni e centri di ricerca di tutto il mondo hanno già iniziato a sviluppare una strategia per combattere il fenomeno. E’ stata, così, sviluppata XceptionNet, una rete neurale in grado di riconoscere il 99% dei deepfake. Quell’1% dei casi rimanenti è in assoluto il più difficile da combattere nonché il più pericoloso per la sicurezza pubblica.

Suggerimenti per riconoscere un organizzazioni:

• Immagine pixellata, sgranata o sfocata;
• Sguardi e movimenti innaturali;
• Bocca deformata o troppo grande (quando il soggetto in video pronuncia delle frasi);
• Luci od ombre anormali, specialmente sul viso.

Come combattere il fenomeno dei deepfake?

Secondo un report redatto dal CSET (Center of Security of Emerging Technology) sui deepfake, le principali strategie per combattere il fenomeno sono:

• Costruire un Deepfake Zoo: creazione (e continuo aggiornamento) di uno centro di raccolta che aggrega e renda disponibili gratuitamente dataset di dati sintetici e deepfake;
• Trovare uno standard comune di ricerca e allineare gli obiettivi comuni tra i ricercatori;
• Commodify Detection: Agenzie governative e filantropiche dovrebbero distribuire sovvenzioni per incentivare la ricerca e il rilevamento dei deepfake;
• Dati “radioattivi”: contaminare i dati pubblici (come le immagini di volti o le voci) rendendoli facilmente identificabili.

Gli utilizzi illeciti dei deepfake

Deepnude

I volti o i corpi di persone ignare (anche minorenni) vengono manipolati o innestati sui corpi di altri soggetti, nudi o impegnati in pose o atti di natura esplicitamente sessuale. Possono diventare oggetto di azioni psicologicamente e socialmente dannose, come revenge porn o sexting, o addirittura di reati gravi come la pornografia illegale e la pedopornografia.

Cyberbullismo

Il deepfake può essere usato per denigrare e screditare le persone interessate, o per ricattarle. Le vittime sono spesso giovani, ai quali può essere chiesto denaro o altre forme di compenso per non diffondere o cancellare i contenuti che li ritraggono.

Fake news

I deepfake possono essere utilizzati per manipolare l’opinione pubblica (possono mostrare personaggi noti o rappresentanti politici in situazioni illecite o scomode).

Cybercrimini

Con i deepfake si possono aggirare i sistemi di sicurezza basati su dati biometrici vocali e facciali ed effettuare attività illecite, come lo spoofing (furto di informazioni sotto falsa identità), il phishing (furto di credenziali o dati sensibili tramite messaggi ingannevoli che invitano a cliccare su link falsi o aprire allegati e messaggi con malware) o l’accesso a sistemi di domotica.

Il vademecum del Garante per la protezione dei dati personali

garanteprivacy.it

Potrebbero interessarti anche questi articoli: