Deepfake porno: cos’è, quando è reato e come tutelarsi

• I deepfake porn sono immagini realizzate con intelligenza artificiale, le quali vengono impiegate per sostituire il viso del protagonista con il viso di un personaggio famoso o una persona comune.
• L’uso delle intelligenze artificiali non è al momento, regolamentato dal legislatore nazionale. L’Unione Europea ha da poco approvato un primo progetto di riforma.
• I deepfake porno possono anche essere utilizzati per delle ritorsioni: in tal caso possono integrare alcuni reati, come quello del revenge porn.

A partire dal 2017, quando hanno avuto una prima diffusione, si è iniziato a parlare dei c.d. deepfake porno. Con ciò si intende immagini e video manipolate e destinate all’uso di adulti.

Oggi sono molto diffusi e hanno perso, in parte, l’originaria funzione: non sono infatti più solo materiale pornografico, ma vengono utilizzati anche per diffondere fake news.

Di recente, per esempio, il programma televisivo Striscia la Notizia ha realizzato un video che rappresentava Matteo Renzi, ancora più noto, invece, è il video fake di Mark Zuckerberg.

Nel seguente articolo, intendiamo descrivere il fenomeno del deepfake porn, faremo anche cenno ad alcuni casi che hanno destato clamore e cercheremo anche di individuare quelle che sono le forme di tutela legale principali e i reati in astratto configurabili.

Cosa sono i deepfake porno?

Il concetto di deepfake è nato nel 2017 quando iniziarono a diffondersi le foto e i video fake nel mondo del porno. I deepfake, infatti, erano in origine relegati ai siti porno, dove si sostituivano i volti degli attori con quelli di personaggi famosi. Oggi, i deepfake hanno superato il confine del porno e molto spesso sono impiegati per divulgare notizie false, ma anche per ritorsioni ai danni di persone comuni.

I deepfake sono comunque ancora a prevalente contenuto sessuale: circa il 90% del materiale falso in circolazione assolve a questa funzione. D’altra parte, molto spesso, rappresentano comunque personaggi del mondo dell’intrattenimento. Il fenomeno, in realtù, sta assumendo dimensioni preoccupanti per molteplici ragioni.

In primo luogo, grazie all’uso dell’intelligenza artificiale, è sempre più difficile distinguere i fake dai contenuti reali. Si rischia di diffamare anche personaggi pubblici, che nulla hanno a che vedere con il mondo del porno, oltre a indurre in errore l’utente del web.

In secondo luogo, questi contenuti vengono anche utilizzati a scopo di ritorsione. Le principali vittime sono di sesso femminile, anche persone comuni – spesso ex fidanzati scontenti usano la tecnologica per contraffare video che rappresentano scene di sesso, dove, al posto della reale protagonista, è rappresentata l’ex fidanzata.

LEGGI ANCHE Legge sul femminicidio: dalla modifica al Codice Penale al Codice Rosso

Vuoi una consulenza legale sull'argomento? Chiedi Gratis ad un Avvocato

• +3000 avvocati pronti ad ascoltarti
• Consulenza Legale Online - Telefonica, in webcam, scritta o semplice preventivo gratuito
• Anonimato e Riservatezza - La tua consulenza verrà letta solo dall'avvocato che accetterà di rispondere

Richiedi una Consulenza

Gal Gadot: deepfake e attrici famose

Una delle prime vittime di deepfake è la famosa Wonder Woman, Gal Gadot, tra le prime a diventare, suo malgrado, protagonista di un deepfake di Reddit. Le attrici incappate nella medesima trappola sono state molte, tra queste Jessica Alba, Taylor Swift, Daisy Ridley, divenute inconsapevoli protagoniste di film porno.

Le Stelle dello show system sono particolarmente esposte a questo tipo di manomissione, per di più con i sistemi che utilizzano gli algoritmi di face swapping è quasi impossibile distinguere un video reale da uno fake. Molto spesso, gli attori si riconoscono per le caratteristiche fisiche non corrispondenti: talvolta infatti sono scelti corpi dalle caratteristiche estremizzate, non equivalenti a quelle possedute dall’attrice di turno.

Tali programmi sono reperibili in rete e sono molto semplici da utilizzare: questo ha contribuito ad una significativa diffusione del fenomeno. Rispetto ai primi deepfake porno, l’accuratezza delle immagini rende ancor più allarmante la diffusione incontrollata delle immagini contraffatte.

Nei prossimi mesi saranno poi messe in circolazione anche le applicazioni di Faceapp, che consentono di sostituire facilmente dallo smartphone i volti dei protagonisti di foto e video.

Approfondisci leggendo Ammonimento del questore: cos’è e qual è la sua funzione preventiva

Rose Villain e la denuncia via Instagram

Di recente, anche la cantante Rose Villain ha denunciato sul proprio profilo Instagram la circolazione di deepfake porno che la riguardano. Si legge sul profilo dell’artista:

Stanno girando foto di me nuda che ovviamente sono dei fake. Ma comunque la cosa mi mette un grande disagio e mi fa sentire violata. Ho già sporto denuncia ma vorrei ricordare che è illegale ed è punibile chi crea, chi diffonde e chi condivide materiale di questo tipo. È una violenza a tutti gli effetti e il problema è che queste cose succedono anche a persone molto fragili che magari non sanno proteggersi, tutelarsi e difendersi come invece possono e devono fare.

Il progredire dell’Intelligenza artificiale, che rende sempre più verosimili i fake, rischia di causare grandi pregiudizi, soprattutto ove siano state usate le immagini a scopo di ritorsione.

Ti potrebbe anche interessare: Ddl Roccella: cos’è e come cambia il Codice Rosso

Deepfake porno: numeri in crescita

Come dicevamo, il numero dei deepfake porno, negli ultimi anni, è considerevolmente aumentato, anche in conseguenze della possibilità di accedere a tecnologie che consentano di poter manipolare in modo semplice e agevole le immagini. Alla fine del 2017, i deepfake in circolazione erano legati al mondo del porno, mentre negli ultimi anni si è assistito ad un evoluzione del concetto, ma più del 90% sono ancora a sfondo porno.

Di questi in circolazione, almeno il 94% ha ad oggetto coloro che lavorano nell’industria cinematografica o dell’intrattenimento e il 99% degli individui interessati sono di sesso maschile.

L’organizzazione Home Security Heroes, che ha condotto il sondaggio sui deepfake porn in circolazione, ha stimato che per produrre un contenuto falso sono sufficienti 25 minuti, senza che ciò comporti delle spese significative. Ciò significa che è possibile produrre un video pornografico deepfake di circa un minuto di qualsiasi persona: per farlo è sufficiente anche una sola immagine.

Per di più questi prodotti sono particolarmente graditi al pubblico: secondo lo studio condotto da Home security Heroes più del 74% degli uomini sono propensi a far uso di questo materiale. Si può affermare che, in base a quanto risulta dallo studio coitato, i contenuti pornografici deepfake sono diventati parte integrante dell’intrattenimento per adulti.

Se vuoi approfondire consulta la pagina di Home Security Heroes.

Ti consigliamo anche di leggere: Reato di atti persecutori (612 bis c.p.): esempi, prescrizione, procedibilità

Deepfake porno: quali sono le regole?

L’ordinamento, almeno al momento, non prevede regole precise sull’uso dell’intelligenza artificiale e sulla possibilità di utilizzare le immagini altrui per produrre nuovi prodotti o contraffarne altri. Negli ultimi mesi, si è molto discusso sulla disciplina in tema di AI.

Di recente, il legislatore europeo ha autorizzato il primo atto normativo volto a regolarizzare l’uso di suddette tecnologie, per tutelare la privacy dei cittadini comunitari. L’Unione Europea è stata, in tal senso, una pioniera sulla materia, aprendo il dibattito sui limiti nell’uso di tali strumenti

Ciò, d’altra parte, significa che nell’ordinamento vi è ancora un vuoto normativo sull’uso dei deepfake, anche a scopo di ritorsione. Ciononostante, i danni che questi prodotti possono causare sono molteplici, soprattutto ove la persona offesa sia un soggetto sensibile.

Quindi, come fare? La soluzione principale, se non l’unica possibile, è quella di sussumere la condotta concreta in uno dei reati previsti dal legislatore. Ciò significa che è necessario individuare gli elementi della fattispecie tipica descritta dal codice, ma, ove manchino, si può fare ben poco. Si auspica pertanto un serio intervento del legislatore anche in materia penale.

Ti consigliamo anche di leggere: AI Act: cosa cambierà dopo l’approvazione del Parlamento europeo

Quali reati integra il deepfake porno?

Come dicevamo, il legislatore non ha ancora disciplinato una specifica fattispecie di reato nel caso di produzione, uso e divulgazione di deepfake porn. Ciò non deve spaventare, in quanto l’ordinamento consente comunque di individuare una tutela penale a fronte di questa tipologia di condotte.

L’uso di deepfake può integrare i reati di sostituzione di persona ex art. 494 c.p., oppure frode informatica ex art. 640 ter, comma 3, c.p.

Per quanto riguarda la prima delle due fattispecie, ossia la sostituzione di persona, la norma si applica a

chiunque, al fine di procurare a sé o ad altri un vantaggio o di recare ad altri un danno, induce taluno in errore, sostituendo illegittimamente la propria all’altrui persona, o attribuendo a sé o ad altri un falso nome, o un falso stato, ovvero una qualità a cui la legge attribuisce effetti giuridici.

La pena prevista è della reclusione fino a un anno. Si tratta di un reato plurioffensivo, cioè posto a tutela di più situazioni o beni giuridici. Infatti, la sostituzione di persone è finalizzata a:

• tutelare la pubblica fede;
• operare nell’interesse del soggetto vittima della sostituzione;
• qualsiasi soggetto destinatario degli effetti della condotta o condotto in errore in base alla sostituzione.

La giurisprudenza della Corte di Cassazione ha specificato che può essere integrata la fattispecie di sostituzione di persona quando, mediante le nuove tecnologie, sia stato creato un profilo sui social network, facendo uso abusivo dell’immagine di una persona inconsapevole, associata a un nickname di fantasia e a caratteristiche personali negative (Cass. pen. n. 25774/2014).

Potrebbe interessarti anche Reato di violenza privata: pena, esempio, procedibilità e prescrizione

Deepfake e frode informatica

L’art. 640 ter c.p. prevede che “alterando in qualsiasi modo il funzionamento di un sistema informatico o telematico o intervenendo senza diritto con qualsiasi modalità su dati, informazioni o programmi contenuti in un sistema informatico o telematico”. Il comma 3 sanziona poi la condotta prevista al comma 1 quando posta in essere con furto o indebito utilizzo dell’identità digitale in danno di uno o più soggetti.

La norma punisce, quindi, il c.d. furto d’identità digitale. La disposizione in questione ben si presta a sanzionare la condotta di chi utilizza immagini altrui per creare dei deepfake porn.

Potrebbe interessarti anche Molestie via social network: quando è reato

Deepfake e revenge porn

Come è stato evidenziato dalla stessa cantante, Rose Villain, l’uso di deepfake porno può arrecare non pochi pregiudizi alla psiche di giovani che sono vittime dell’autore del prodotto contraffatto.

Questi deepfake sono spesso impiegati per punire, per danneggiare l’immagine di taluno, molto spesso donne che hanno rifiutato ex partner. In questa prospettiva, l’uso di deepfake si sovrappone alla fattispecie descritta dall’art. 612 ter c.p., il c.d. revenge porn.

La norma punisce chi divulga senza consenso l’immagine di un soggetto al fine di arrecare un danno. La norma è stata introdotta per fronteggiare il preoccupante fenomeno di divulgazione di immagini a sfondo sessuale per ledere l’onore e la dignità di un’ex fidanzata, amica o partner.

Tale norma è integrata anche se si diffonde un deepfake porno con il volto della vittima? Sul punto, la giurisprudenza ha assunto varie posizioni. Come evidenziato, se l’immagine è ben fatta, laddove non sia possibile stabilire se sia o meno un fake, l’effetto prodotto dalla divulgazione è, in sostanza, il medesimo. Ne consegue che sia possibile applicare anche in questi casi la fattispecie di revenge porn.

Approfondisci l’argomento leggendo anche: Revenge porn: definizione, normativa, come difendersi

Deepfake porn – Domande frequenti

Vuoi una consulenza legale sull'argomento? Chiedi Gratis ad un Avvocato

• +3000 avvocati pronti ad ascoltarti
• Consulenza Legale Online - Telefonica, in webcam, scritta o semplice preventivo gratuito
• Anonimato e Riservatezza - La tua consulenza verrà letta solo dall'avvocato che accetterà di rispondere

Richiedi una Consulenza