I deepfake possono avere un impatto sulla tua vita

Jack si siede al suo portatile e apre il programma di imaging artificiale noto come Dall-E. Inserisce una sua foto e alcune parole a caso: fiori blu e tetto. Dall-E crea un’immagine realistica di Jack in piedi su un tetto, vestito interamente di fiori blu. È divertente. Lo fa ridere. Se vuole, la pubblica su Instagram, oppure la cancella e crea qualcos’altro.

Oltre a essere molto divertenti da usare, Dall-E e programmi simili sono utili per i grafici, i pubblicitari e persino gli artisti che lavorano con i media digitali. Ma c’è un lato negativo nell’imaging digitale. Questo lato negativo è la “pornografia deepfake”.

Uno studio pubblicato sulla rivista Cyberpsychology, Behavior, and Social Networking definisce le immagini deepfake come “materiale sintetizzato in cui il volto di una persona viene sovrapposto a un altro corpo”. L’articolo afferma inoltre: “La maggior parte dei deepfake trovati online sono pornografici e le persone che vi sono raffigurate raramente acconsentono alla loro creazione e pubblicizzazione”.

La tecnologia deepfake non è un fenomeno nuovo. Da decenni le persone tagliano e incollano la testa di una persona sul corpo di un’altra e pubblicano i risultati online. Ma fino a poco tempo fa, la tecnologia per farlo non riusciva esattamente a ingannare le persone.

I falsi erano di solito evidenti. Ora non più.

Come si legge in un articolo dell’International Journal of Evidence and Proof, “in definitiva, con il miglioramento della tecnologia, dovranno essere sviluppate e utilizzate tecnologie parallele per identificare e smascherare i video falsi”. Ciò significa che, per ora, i deepfake ben prodotti possono facilmente passare per veri.

In passato, le immagini artificiali di alto livello erano appannaggio esclusivo dei maestri degli effetti speciali di Hollywood. Ma al giorno d’oggi, grazie a tecnologie come Dall-E, Lensa e persino alle applicazioni per lo scambio di volti relativamente poco sofisticate di Google e Apple, è diventato facile e gratuito. Praticamente chiunque può produrre contenuti sessualmente espliciti senza il consenso o la conoscenza delle persone coinvolte.

Se questa cosa non vi spaventa, dovrebbe, invece, farlo!

Perché è del tutto possibile che un bel mattino, mentre vi godete il vostro caffè, apriate la vostra e-mail e troviate una vostra foto pornografica che non avete mai scattato o a cui non avete dato il vostro consenso. O forse quella foto sarà inviata alla vostra famiglia o al vostro datore di lavoro o semplicemente pubblicata sui siti porno di tutto il mondo.

La pornografia deepfake può essere un problema enorme per le vittime. Si consideri la seguente affermazione tratta da un articolo della Vanderbilt Law Review: “Non solo la pornografia deepfake manda in frantumi la privacy sessuale delle vittime, ma la sua permanenza online inibisce anche la loro capacità di [sentirsi sicuri nell’uso di] Internet e di trovare [o mantenere] un lavoro”. Kristen Zaleski, direttrice del reparto di salute mentale forense della Keck Human Rights Clinic dell’USC, ha recentemente dichiarato al Washington Post di aver lavorato con un’insegnante che ha perso il lavoro dopo che genitori e amministratori sono venuti a conoscenza della pornografia deepfake che utilizzava le sue sembianze.

Non si sa se le immagini siano state create e postate da un ex fidanzato arrabbiato, da uno studente scontento o addirittura da un perfetto sconosciuto che ha visto il volto dell’insegnante sui social media e ha voluto vederlo attaccato a un corpo nudo, e probabilmente non lo si saprà mai. Quello che sappiamo è che un’insegnante innocente è stata sessualizzata in pubblico, senza il suo consenso, con gravi conseguenze per lei e nessuna per l’autore.

E indovinate un po’ ? Lei e le altre vittime del deepfake porn hanno pochi o nessun risarcimento perché il deepfake porn non è illegale.

Sì, gli Stati Uniti hanno emanato la National Artificial Intelligence Initiative nel 2021, ma si tratta semplicemente di una strategia e non di una parte del nostro codice penale. Altri governi hanno stabilito quadri simili e l’Unione Europea sta lavorando per emanare alcune leggi sul deepfake, in particolare per vietare i programmi di imaging artificiale che presentano un “rischio inaccettabile”.

Ma cosa significa effettivamente “rischio inaccettabile”?

Per non parlare del fatto che è praticamente impossibile controllare Internet perché la tecnologia cambia continuamente. Questo vale soprattutto per la tecnologia sessualizzata, in quanto gli sviluppatori creano nuovi modi di fare sessualità su base quasi quotidiana. Gli autori di deepfake (e di tutto ciò che verrà dopo) troveranno sempre il modo di agire nell’anonimato e di aggirare le regole esistenti in un determinato momento. La legislazione e le forze dell’ordine non riescono a tenere il passo.

Si tratta di una notizia infelice per gli individui vittime di questa tecnologia, la maggior parte dei quali sono donne. Uno studio recente riporta che il 96% delle vittime di deepfake sono state oggetto di sessualizzazione e quasi tutte erano donne, sebbene anche uomini (soprattutto politici) e persino bambini siano stati abusati in questo modo. La stessa ricerca rileva che molte vittime subiscono molestie o estorsioni sulla base di queste immagini generate artificialmente.

Che ci piaccia o no, la pornografia generata artificialmente è ormai una realtà e, poiché è quasi del tutto priva di regolamentazione, chiunque può esserne vittima. Inoltre, la quantità di “deepfake porn” disponibili è aumentata in modo quasi esponenziale nell’ultimo anno o due, grazie alla recente proliferazione di strumenti di imaging di alto livello.

Il forum online Reddit, da tempo noto come rifugio per tutte le cose lecite e illecite, ha numerosi argomenti dedicati alle immagini artificiali, con creatori (e aspiranti creatori) che condividono informazioni su quali programmi funzionano meglio e su come modificarli in modo da soddisfare il proprio modello di piacere personale. Inoltre, naturalmente, ci sono innumerevoli post di deepfake da ammirare, commentare e condividere liberamente.

Peggio ancora, una volta che le immagini deepfake arrivano su Internet, rimangono quasi sempre lì. Anche se il creatore si pene e rimuove i post iniziali, altri li avranno scaricati e ripubblicati. E se queste immagini vengono in qualche modo rimosse completamente da Internet, è possibile generarne altre con la semplice pressione di un tasto.

Nel mondo di oggi, gli strumenti di imaging artificiale hanno spostato il mondo della fantasia sessuale nel mondo della realtà sessuale. Questo è un dato di fatto. La trasformazione sta giocando con le vite e le emozioni umane in modi dolorosi. La tecnologia che ci permette di fantasticare può anche essere usata per ferire: una brutta rottura può assumere una dimensione completamente nuova; un estraneo casuale può perpetrare una violazione sessuale a migliaia di chilometri di distanza. Purtroppo, chiunque e tutti sono a rischio. Anche voi.

Articolo tradotto e adattato dalla dottoressa Marzia Mazzarelli dal sito:

https://www.psychologytoday.com/us/blog/love-and-sex-in-the-digital-age/202302/can-deepfake-porn-impact-your-life

Bibliografia:

• Report “The State of Deepfakes 2019 Landscape, Threats, and Impact”
• Karasavva, V., & Noorbhai, A. (2021). The real threat of deepfake pornography: A review of Canadian policy. Cyberpsychology, Behavior, and Social Networking, 24(3), 203-209.
• Maras, M. H., & Alexandrou, A. (2019). Determining authenticity of video evidence in the age of artificial intelligence and in the wake of Deepfake videos. The International Journal of Evidence & Proof, 23(3), 255-262.