Deepfakes: Threats, Victims and the Detection Challenge

Dalle 10.00 alle 12.30, 10 dicembre 2026
Sala conferenze n. 6,
Sede Centrale delle Nazioni Unite, New York

Contesto

Con l’avvento dell’intelligenza artificiale generativa (IA), è ora possibile produrre contenuti audiovisivi sintetici altamente realistici– comunemente denominati “deepfake” – in modo rapido, a basso costo e con una portata e un livello di sofisticazione che solo pochi anni fa erano inimmaginabili. Man mano che la tecnologia alla base dei deepfake continua a progredire, distinguere tra contenuti autentici e generati artificialmente è diventata una delle principali sfide sociali dell’era digitale. È emersa un’ampia gamma di utilizzi malevoli e criminali dei deepfake, tra cui frodi, estorsioni, molestie e abusi, nonché la manipolazione o l’inganno di un pubblico più ampio. Ciò può comportare l’usurpazione dell’identità di persone, l’aggiramento dei sistemi di verifica dell’identità, la creazione di contenuti sessuali non consensuali o la produzione di propaganda e disinformazione. Tali utilizzi possono causare gravi danni personali e professionali e creare nuove vulnerabilità per le imprese, le istituzioni finanziarie e le piattaforme online. Anche la portata e la frequenza di tali utilizzi stanno diventando sempre più evidenti. Ad esempio, l’UNICEF ha rilevato che le immagini di almeno 1,2 milioni di bambini sono state manipolate per creare deepfake sessualmente espliciti nel corso di un solo anno, mentre un’analisi di settore sulle frodi d’identità ha rilevato che, in media, nel 2024 si verificava un attacco deepfake ogni cinque minuti.

L’individuazione e l’indagine sull’uso improprio dei media sintetici, come i deepfake, sono di conseguenza
diventate sempre più importanti. Man mano che tali contenuti diventano più sofisticati, sia gli individui che i sistemi automatizzati incontrano maggiori difficoltà nell’identificare le manipolazioni, mentre gli investigatori, analogamente, faticano a risalire alle loro origini, a identificare i responsabili della loro creazione e diffusione e a conservare le prove digitali. Rafforzare le capacità di individuazione e di indagine è quindi una componente fondamentale della risposta.
Allo stesso tempo, individuare e indagare sui deepfake rappresenta solo una parte della risposta. In un contesto in cui l’attenzione è fortemente concentrata sulla tecnologia e sull’individuazione, le esperienze delle persone direttamente coinvolte possono ricevere minore attenzione. Le vittime spesso continuano a subire conseguenze finanziarie, reputazionali, professionali o personali, anche molto tempo dopo che i contenuti sono stati identificati come falsi.

Le questioni relative alla protezione e al sostegno delle vittime, all’accesso a rimedi efficaci, alla rimozione dei contenuti dannosi e alla responsabilità costituiscono quindi una parte altrettanto importante della risposta.
In definitiva, queste sfide sollevano la questione più ampia di come sia possibile mantenere l’autenticità e la fiducia in un contesto in cui i contenuti sintetici e quelli autentici sono sempre più difficili da distinguere. In occasione del primo Dialogo globale delle Nazioni Unite sulla governance dell’IA, tenutosi nel luglio 2026, il Segretario Generale ha lanciato un severo monito sulle implicazioni dell’IA per la verità. Con il progredire di questa tecnologia, il rischio non è solo che materiale inventato possa essere accettato come autentico, ma che materiale autentico possa essere messo in discussione come falso. Oltre all’individuazione, alle indagini e alla protezione delle vittime, è quindi necessaria una maggiore attenzione agli approcci di autenticazione in grado di contribuire a stabilire l’ integrità dei contenuti digitali.

Obiettivo
Questo briefing di esperti offrirà l’opportunità di fare il punto sulle sfide in rapida evoluzione poste
dai deepfake, attingendo alle conoscenze specialistiche di investigatori, professionisti del diritto e del
settore privato. La discussione esaminerà il panorama delle minacce in continua evoluzione, con particolare attenzione alle sfide legate all’individuazione e all’autenticazione di contenuti multimediali sintetici sempre più sofisticati, nonché alle esperienze e alle esigenze delle vittime. Riunendo diverse parti interessate, l’incontro mirerà a promuovere il dialogo sul rafforzamento della fiducia in un ambiente informativo digitale sempre più complesso.