L’intelligenza artificiale ha imparato a fabbricare video falsi sempre più convincenti, ma adesso potrebbe diventare anche lo strumento più efficace per smascherarli. La nuova frontiera della lotta ai deepfake non consiste soltanto nello stabilire se un filmato sia autentico oppure artificiale, ma nell’individuare esattamente quali parti siano state manipolate, fino al singolo fotogramma. Un salto tecnologico che potrebbe cambiare il modo in cui giornalisti, investigatori, aziende e cittadini verificano i contenuti che circolano online.
A sviluppare uno degli strumenti più recenti è Pangram, società specializzata nella verifica dell’autenticità digitale, che ha introdotto una funzionalità capace di analizzare i video e distinguere quelli interamente generati dall’intelligenza artificiale da quelli modificati soltanto in alcune sequenze. L’azienda dichiara un’accuratezza superiore al 98%, un risultato promettente che dovrà comunque essere valutato alla luce delle condizioni dei test e delle prestazioni sui contenuti reali.
Il software che individua i fotogrammi manipolati dall’intelligenza artificiale
La novità principale del sistema Pangram riguarda la possibilità di localizzare gli interventi dell’IA all’interno di un filmato.
Finora molti strumenti di rilevamento si sono concentrati soprattutto sulla classificazione complessiva di immagini e video, cercando di stabilire se fossero autentici oppure sintetici. Il nuovo approccio permette invece di esaminare le diverse sequenze e segnalare i momenti nei quali potrebbe essere intervenuta una manipolazione.
Il programma utilizza una mappa di calore che evidenzia le porzioni del filmato considerate sospette, consentendo di distinguere una clip completamente artificiale da una registrazione autentica nella quale siano stati alterati soltanto alcuni fotogrammi.
È una differenza fondamentale, perché i deepfake più insidiosi non sono necessariamente quelli creati da zero. Un video reale può diventare uno strumento di disinformazione anche attraverso modifiche limitate, come la sostituzione di un volto o l’alterazione di una breve sequenza.
La percentuale di accuratezza superiore al 98% rappresenta, per il momento, un dato dichiarato dal produttore. Non significa che ogni video falso venga individuato con certezza né che il sistema sia immune da errori, falsi positivi o nuove tecniche di manipolazione.
Il paradosso dei deepfake: oggi anche un video autentico può sembrare falso
La diffusione dei contenuti sintetici sta producendo un effetto che va oltre la semplice circolazione di immagini manipolate: rende sempre più difficile stabilire di quali prove digitali ci si possa fidare.
«L’intelligenza artificiale rende più facile creare un contenuto falso ma, allo stesso tempo, rende plausibile il dubbio anche su un contenuto autentico», osserva Mirko Vicenzotto di Axerta, società italiana specializzata in attività forensi.
Il problema è particolarmente delicato nelle indagini giudiziarie, dove fotografie, registrazioni e filmati possono rappresentare elementi importanti per ricostruire un fatto.
La possibilità di alterare digitalmente una prova impone strumenti di verifica sempre più sofisticati. Ma esiste anche il rischio opposto: che qualcuno contesti l’autenticità di un contenuto reale sostenendo, senza dimostrarlo, che sia stato generato dall’intelligenza artificiale.
Per affrontare queste difficoltà Axerta ha inserito la rilevazione dei deepfake tra le attività necessarie a individuare manipolazioni digitali e distinguere le evidenze autentiche dai contenuti alterati.
Google, Microsoft e Adobe preparano la carta d’identità digitale di foto e video
Accanto ai sistemi che cercano di riconoscere le manipolazioni dopo la pubblicazione, l’industria tecnologica sta sviluppando un’altra strategia: certificare la provenienza dei contenuti fin dal momento della loro creazione.
Il progetto di riferimento è C2PA, sigla di Coalition for Content Provenance and Authenticity, iniziativa sostenuta da aziende e organizzazioni come Adobe, Microsoft, Google, Intel, Sony e BBC.
Al centro dello standard ci sono i Content Credentials, credenziali digitali che possono accompagnare fotografie, video e altri file, registrando informazioni sulla loro origine e sulle successive modifiche.
L’obiettivo è costruire una sorta di carta d’identità digitale del contenuto, capace di indicare, quando le informazioni sono disponibili, come è stato prodotto, quali strumenti sono intervenuti e se durante la lavorazione è stata utilizzata l’intelligenza artificiale.
Il sistema utilizza meccanismi crittografici per proteggere l’integrità delle dichiarazioni registrate, rendendo rilevabili le alterazioni non autorizzate delle informazioni certificate.
Non si tratta però di una garanzia assoluta di verità. Un contenuto può essere autentico dal punto di vista tecnico e risultare comunque ingannevole per il contesto nel quale viene presentato. Inoltre, le credenziali possono mancare o andare perse durante alcune operazioni di elaborazione e condivisione.
La loro assenza, quindi, non dimostra automaticamente che un’immagine o un video siano falsi.
In Italia il deepfake diventa un problema anche per le aziende
La risposta alla diffusione dei contenuti manipolati non arriva soltanto dalla tecnologia. Anche il legislatore italiano ha iniziato a intervenire con strumenti specifici.
La legge numero 132 del 2025 ha introdotto nel codice penale l’articolo 612-quater, che punisce, alle condizioni previste dalla norma, la diffusione illecita di contenuti generati o alterati mediante sistemi di intelligenza artificiale.
La disposizione affronta un fenomeno che può provocare conseguenze gravissime per le persone coinvolte, soprattutto quando immagini o video artificiali vengono utilizzati per danneggiarne la reputazione, costruire false situazioni compromettenti o diffondere contenuti senza consenso.
Il quadro normativo si è ulteriormente ampliato con il decreto legislativo numero 160 del 2026, entrato in vigore il 30 settembre.
Il provvedimento ha inserito il reato relativo alla diffusione illecita di deepfake tra quelli che possono determinare la responsabilità amministrativa degli enti, secondo le condizioni previste dalla disciplina applicabile.
In determinate circostanze, quindi, le conseguenze giuridiche possono riguardare non soltanto le persone fisiche coinvolte, ma anche le organizzazioni.
Il decreto interviene inoltre sulla responsabilità civile per i danni causati dai sistemi di intelligenza artificiale, rafforzando il quadro degli strumenti giuridici a disposizione di chi subisce conseguenze da un utilizzo illecito di queste tecnologie.
La nuova sfida per giornalisti, investigatori e cittadini
La diffusione dei deepfake pone problemi particolarmente seri al mondo dell’informazione, perché la manipolazione di un filmato può modificare radicalmente la percezione di un avvenimento.
Un’intervista alterata, una dichiarazione mai pronunciata o una sequenza costruita artificialmente possono raggiungere milioni di persone prima che qualcuno riesca a verificarne l’origine.
Gli strumenti di rilevamento rappresentano quindi un supporto importante, ma non possono sostituire il controllo delle fonti, l’analisi del contesto e le verifiche indipendenti.
Anche per le autorità investigative la possibilità di individuare i singoli fotogrammi modificati può offrire nuovi elementi di analisi, purché i risultati vengano interpretati con metodi adeguati e senza attribuire ai software una certezza che non possono garantire.
La prospettiva più interessante è l’integrazione tra rilevamento delle manipolazioni, certificazione dell’origine dei contenuti e responsabilità giuridiche per gli utilizzi illeciti.
La stessa tecnologia che permette di creare un falso sempre più realistico può contribuire a individuarlo. Ma la differenza tra una prova autentica e una manipolazione convincente continuerà a dipendere anche dalla qualità delle verifiche umane.
