Il Bernoccolo #193 đ¤ Un deepfake ci seppellirĂ ?
Che brutta fine che ha fatto Tom Hanks. Una star del suo calibro ridotta a promuovere unâassicurazione dentale di dubbia legittimitĂ . Lâavete visto, no? In compenso, è edificante vedere come Matteo Salvini abbia imparato un francese impeccabile in pochissimo tempo. Avete visto anche questo, immagino.
Ecco, lo avete visto ma ovviamente non è vero. Entrambi i video sono infatti il prodotto di diversi programmi di intelligenza artificiale. Sono dei deepfake, come li avremmo definiti qualche anno fa. Ma se allâepoca la tecnica era quella di sovrapporre una faccia al corpo di qualcun altro, oggi le possibilitĂ di mistificazione si sono moltiplicate. Si possono ottenere risultati molto migliori - in alcuni casi impressionanti - con uno sforzo minimo, usando strumenti accessibili a tutti. Non solo, strumenti pensati per lâuso professionale.
Bastano pochi minuti di girato per creare un vostro avatar a cui far dire quello che volete. E bastano pochi secondi di audio per clonare la vostra voce. UnâopportunitĂ golosa su cui si stanno buttando per primi gli scammer, che oltre a Tom Hanks hanno clonato altre celebritĂ come il re degli youtuber Mr Beast e molte celebritĂ della BBC. Ma che apre scenari inquietanti anche nel campo della disinformazione, con notiziari fasulli che girano su TikTok e casi di clonazione della voce di figure pubbliche, come avvenuto - pare - in Sudan. Senza dimenticare tutte quelle professionalitĂ - come i doppiatori e gli speaker - che oggi vedono il proprio lavoro a rischio di estinzione.
Altro che âUncanny Valleyâ, insomma. Ormai lâassoluta qualitĂ dei video e audio generati dallâAI ci pone di fronte a un dilemma etico non da poco. Da un lato le tecnologie di cloning sono utili per produrre contenuti su larga scala. Dallâaltro, diventano facilmente unâarma nelle mani sbagliate. E di mani sbagliate non ne mancano.
Intanto, dalla parte dei buoni si fa largo la Content Authenticity Initiative, una community che lavora per introdurre standard per certificare lâautenticitĂ dei contenuti che vediamo. O forse dovremmo essere tutti noi a diventare un poâ piĂš scettici?
đś La musica di questa puntata è Within dei Daft Punk
Benvenuti alla puntata numero 193 de âIl Bernoccoloâ, il podcast che parla di comunicazione, tecnologia e cultura nel mondo post-digitale. Questa puntata è stata registrata il 20 Ottobre 2023.
Con Andrea Ciulu e Pasquale Borriello.
I link commentati in questa puntata
This fictitious news show is entirely produced by AI and deepfakes
In A New Era Of Deepfakes, AI Makes Real News Anchors Report Fake Stories
New York's mayor uses audio deepfakes to call residents in languages he doesn't speak