E se alla fine avesse ragione Nietzsche? Già, alla fine. Perché siamo forse alla fine della realtà, almeno di come l’abbiamo conosciuta sinora. “Non esistono fatti, ma solo interpretazioni”, lasciò detto Friederich, che sarebbe interessante ascoltare oggi sul fenomeno del cosiddetto deep fake. Un argomento che non so se taggare con #humor o #horror

Un vasto tunnel spaziale di tenebre che si mangia da solo

Leggo su Wikipedia che i primi esperimenti di deep fake risalgono al ’97, ma è solo con il video di Obama messo in giro da BuzzFeed nel 2018

che ci viene sbattuto in faccia il fatto che siamo entrati in un’era in cui i nostri nemici possono farci dire qualunque cosa e per qualsiasi scopo.

“Eh suvvia, non si può neanche più scherzare”

Nelle settimane scorse in Italia abbiamo ammirato (si fa per dire) “Striscia la Notizia” mandare in onda ‘un’ Renzi che straparla offendendo chiunque. Si noti che in entrambi i casi non c’era nessuna scritta sullo schermo a dire: “Occhio, è un fake, tanto per divertirsi”, cosa che ha aumentato in noi il senso di straniamento e di incredulità.

Incredulità una cippa. Incredulità è, da etimologia, il non prestar fede, avere difficoltà a credere, la diffidenza ad accettare qualcosa per vero in senso molto generico. Ma nel caso dei deep fake uno ci casca eccome. Anche i più attenti debunker, se privi come siamo ancora tutti di strumenti adeguati, possono arrivare a non riconoscere se ci si trovi di fronte al vero o al falso.

Per Giovanni Boccia Artieri, sociologo, saggista e professore di Scienze della Comunicazione presso l’Università degli Studi di Urbino dice che

Negli anni ’60 capitava spesso che la televisione mandasse in onda comici che, grazie al trucco e alle luci giuste, riuscivano a ingannare più di qualche telespettatore – spiega Artieri – Però qui siamo di fronte a un’altro tipo di operazione che valida e giustifica un’attività di manipolazione.

Quando la verità era sancita da l’ha detto la Tv

L’autorevolezza degli anchorman, al pari delle imitazioni di Alighiero Noschese, erano indiscutibili, così come la verità delle notizie che annunciavano. Ma con l’arrivo dell’infotainment è arrivata una forma news “più nuova, più fresca, allegra e divertente” (scusa Matteo Renzi se prendo in prestito le parole con cui hai definito la tua nuova creatura politica nel 2019).

Questo anchorman, ad esempio, non è umano. È stato presentato l’8 novembre 2018 e può parlare indifferentemente mandarino o inglese, e leggere qualsiasi notizia. I colleghi umani tremano.

Riconoscere il vero dal robot o dal prodotto dell’intelligenza artificiale non è impresa facile (qui ho trovato qualche regolina di base).
L’analisi del contesto – reminiscenze semiologiche – aiuta nell’interpretazione, ma l’allerta pronunciata pochi mesi fa dall’attrice Scarlett Johansson (dio l’abbia in gloria) su ciò che ci passa sotto gli occhi ogni giorno su Internet è di quelle che forse anche Umberto Eco avrebbe potuto dire:

Siamo in un vasto tunnel spaziale di tenebre che si sta mangiando da solo

Zao e il porno dei sogni

Per capire perché un’attrice sia così preoccupata del deep fake basta pensare a cosa distingue un attore da un politico oggi: poco. Studiano tecniche simili ed entrambi temono di veder compromessa la loro immagine da qualche video porno o compromettente.

Chiunque abbia una reputazione non dorme sonni tranquilli. Un caso per tutti: a maggio 2018, Rana Ayyub, giornalista investigativa in India, ha scritto di essere stata attaccata digitalmente sui social media dagli utenti che hanno diffuso un suo video fake pornografico con conseguente delegittimazione del suo ruolo.

Già, il porno. Forse il settore che potrebbe aprirsi a dismisura con il deep fake.
Questo a proposito è ciò che già si può fare in pochi secondi con ZAO:

Pochi giorni dopo FaceApp (che ha raccolto milioni di foto di utenti Facebook per vedersi invecchiati), Zao è online dal 30 agosto 2019 e fa sostituire i protagonisti di video famosi dagli utenti che inviano una loro foto.

Le critiche e le inquietudini arrivate su Zao sono state numerose (qui Le Monde le sintetizza bene) ma si ha la senzazione che dopo l’indignazione a caldo, la discussione sull’uso delle immagini si stia, come dire, normalizzando.

D’altronde il sogno di amoreggiare con un’attrice famosa con le prestazioni di un Rocco Siffredi attrae non poche persone, se è vero ciò che riporta lo studio di Deeptrace che stima nel 96% del totale la quantità di deepfake a sfondo porno non consensuale.

Verso una conclusione

#humor oppure #horror, sembra di trovarsi di fronte a uno di quei momenti in cui le multinazionali usano ingredienti discutibili nei loro alimenti e che, a fronte di una sollevazione dei consumatori, sono chiamate a toglierli o quantomeno a dichiarare la presenza di tali ingredienti.

Personalmente ritengo che, in mancanza di una legislazione a riguardo ma soprattutto di anticorpi di fronte a contenuti propagandistici o manipolati, non ci sia timore di essere etichettati come apocalittici se si afferma che con il deep fake sono a rischio privacy e sicurezza. Così come per l’affermare che ogni canale di comunicazione digitale su cui è costruita la nostra società, sia essa audio, video o anche di testo, è a rischio di essere sovvertito.

Nell’epoca della cosiddetta post-verità e delle politiche post-fattuali la diffusione istantanea di ‘notizie’ rende sempre più arduo distinguere il vero dal falso, la propaganda dalle notizie verificate, i dati concreti dalle voci incontrollate. I fatti rischiano di essere travolti dalle opinioni. Il fact-checking è un lusso.

Nel tunnel di tenebre che si autoalimenta, la forza e la volontà di imporre la propria versione ha la meglio sulla realtà, una realtà orwelliana subordinata alla politica e al business.

Oggi la verità si trova nella terra di nessuno fra gli schieramenti degli ultras delle opinioni. Per questo – quale che essa sia – la verità in fondo interessa poco o niente.