Preoccupato per gli effetti prodotti dai deep fake e dalla sua diffusione tra gli utenti del social, il Garante per la protezione dei dati personali ha deciso di aprire un’istruttoria nei confronti di Telegram. Ma in cosa consiste questa particolare tecnologia e che ripercussioni potrebbe avere il suo impiego?
Il Deep Fake è l’ultima frontiera tecnologica che minaccia il web.
E’ un fenomeno allarmante, divenuto noto per la recente vicenda che ha visto coinvolta la popolare App Telegram.
Per analizzare le questioni giuridiche sottese alla vicenda occorre dapprima chiarire cos’è un deep fake e comprendere le ripercussioni che può comportare il suo impiego.
Cos’è un Deep fake?
Il Deep Fake è la tecnica per la sintesi dell’immagine umana basata sull’intelligenza artificiale.
Viene utilizzata per combinare e sovrapporre immagini e/o video di un soggetto con le immagini e/o video di un altro soggetto, tramite una tecnica di apprendimento, nota anche come rete antagonista generativa.
In altri termini, sono sistemi di algoritmi che, grazie al deep learning, apportano modifiche realistiche a immagini statiche o in movimento, in grado di sostituire il volto (face swapping), trasformare la voce sincronizzando il labiale e modificare il corpo delle persone, creando veri e propri “falsi”.
Il soggetto ritratto in una fotografia viene “spogliato” ed i suoi indumenti vengono sostituiti con l’aspetto ipotetico che quel corpo potrebbe avere se fosse nudo.
In particolare, il bot su Telegram scovato dalla società Sensity, specializzata in ricerca informatica nel campo dell’intelligenza artificiale, sfrutta la tecnologia di DeepNude, un software dal quale deriva un programma informatico disponibile sui canali social che offre la possibilità di realizzare queste contraffazioni.
Nella prassi quindi un utente scarica la foto della potenziale vittima da qualunque piattaforma social e la carica all’interno del gruppo (su Telegram) in cui il bot opera. L’immagine verrà rielaborata e consegnata al gruppo.
Realizzare un fotomontaggio è quindi molto più semplice di quanto si creda e non occorrono eccellenti competenze in ambito informatico.
Ciò che rende complessa la situazione è che le immagini fake sono molto accurate tanto da ingannare facilmente l’occhio umano, rendendo sempre più difficile distinguere la realtà dalla finzione.
Per cosa viene impiegato?
Se in passato veniva impiegato principalmente per satira, per screditare politici, per creare bufale e per attribuire una fake news ad un personaggio noto, ora i video e le foto vengono manipolati ed alterati per alimentare l’industria della pornografia (e pedopornografia) online, per pratiche di revenge porn ma anche per compiere atti di cyberbullismo o crimini informatici di varia natura.
Non solo. Il deep fake può essere anche impiegato per alterare l’informazione e inquinare il dibattito pubblico, a danno della democrazia.
Viviamo infatti in un’epoca in cui le immagini ed i contenuti video hanno un impatto fortissimo sul comportamento di cittadini e consumatori, per tale ragione se tale tecnica viene usata in campo cybercrime può rappresentare una vera e propria minaccia e rivelarsi letale nella realtà.
Le questioni giuridiche
E’ dall’uso improprio di una tecnologia che derivano delle conseguenze, non la tecnologia stessa che di per sé, si precisa, è legale.
Il confine della legalità viene ampiamente varcato quando vengono sottratte e contraffatte migliaia di foto di adolescenti (principalmente giovani donne) che spontaneamente condividono le proprie foto sui social media.
Inoltre si commette un illecito quando il fotomontaggio oltre ad essere realizzato all’insaputa del soggetto immortalato viene poi divulgato senza il suo consenso.
Tralasciando il punto di vista morale ed il danno che ne comporta, la tecnologia dei deep fake va a minare sensibilmente i diritti della personalità della vittima.
I contenuti creati possono essere diffamatori, perché rappresentano una falsa affermazione della presenza della vittima nel video; possono essere altresì oggetto di vere e proprie frodi digitali come violazioni di copyrights, violazione della privacy, cyberbullismo, etc.
In assenza di una normativa specifica che regoli la fattispecie ad hoc, le strade percorribili dalla vittima sono differenti a seconda dei diritti che ritiene essere stati violati.
In ogni caso le piattaforme social si stanno muovendo in tal senso inibendo l’impiego di questi contenuti poiché configurano una forma non consensuale di pornografia, pertanto la vittima può segnalare le violazioni al social network nel quale il contenuto è stato pubblicato e chiederne l’immediata rimozione.
Tuttavia la cancellazione del video/foto sarà limitata alla stessa piattaforma, poiché, come noto, un contenuto una volta online può finire nelle mani di chiunque e negli angoli più remoti della rete.
La decisione del Garante della protezione dei dati personali
Preoccupato per gli effetti prodotti dal software e dalla sua diffusione tra gli utenti del social, il Garante per la privacy ha deciso di aprire un’istruttoria nei confronti della nota app di messaggistica, che peraltro era già stata oggetto di un’attività di verifica da parte dell’Autorità.
La questione è certamente delicata e desta non poche preoccupazioni infatti, come precisato da Stanzione,:
Le gravi lesioni alla dignità e alla privacy a cui l’uso di un software simile espone le persone, soprattutto se minori, sono evidenti, considerati anche il rischio che tali immagini vengano usate a fini estorsivi o di revenge porn e tenuto conto dei danni irreparabili a cui potrebbe portare una incontrollata circolazione delle immagini, fino a forme di vera e propria viralizzazione. La facilità d’uso di questo programma rende, peraltro, potenzialmente vittime di deep fake chiunque abbia una foto sul web.
Il Garante in ogni caso si impegnerà su più fronti per contrastare gli usi illeciti di questo tipo di software e contenere gli effetti distorsivi del fenomeno.
Conclusione
L’azienda Sensity, nel corso delle sue ricerche sul fenomeno del deep fake, ha rilevato che ad oggi le vittime superano le centomila.
Questi numeri fanno certamente accapponare la pelle, ma ciò che fa aggravare la questione – oltre alla minore età delle vittime – é che nella maggioranza dei casi le immagini alterate non sono state utilizzate solo per scopri personali ma anche per estorcere, minacciare, umiliare o molestare le vittime.
In considerazione di tutto quanto detto, il problema esiste e chiunque può essere vittima di questa pratica. E’ infatti sufficiente possedere una presenza online.
Il fenomeno non è destinato ad arrestarsi ed il materiale sottoposto a modifiche di carattere sessuale viene sempre fornito dalla stessa vittima, seppur inconsapevole, semplicemente postandolo sul proprio profilo social.
Attese le ripercussioni che i deep fake possono avere sull’immagine, sulla reputazione e sulla vita personale di un individuo è necessario uno sforzo da parte della collettività puntando sull’informazione e sull’educazione all’uso del digitale.
VP
