Il Fraunhofer Institute of Optronics, System Technologies, and Image Exploitation (IOSB) è uno dei centri di ricerca applicata più noti in Germania, specializzato in sistemi di sicurezza, analisi di immagini e visione artificiale. È proprio da qui che arriva RealorRender, un nuovo strumento pensato per rilevare i deepfake e spiegare in modo trasparente perché un’immagine viene classificata come autentica o generata dall’intelligenza artificiale. Il progetto, finanziato dall’Ufficio federale tedesco per la sicurezza informatica (BSI), si propone come risposta tecnologica a un fenomeno in rapida crescita e sempre più difficile da contrastare a occhio nudo.
- RealorRender è sviluppato dal Fraunhofer IOSB con il finanziamento del BSI tedesco.
- Il sistema unisce classificazione tramite deep learning e ricostruzione delle immagini per stimare la probabilità che siano false.
- Il tasso di successo dichiarato va dall’85% al 91%.
- Lo strumento evidenzia con mappe di calore le aree sospette, spiegando le proprie conclusioni.
Un problema che l’occhio umano non riesce più a distinguere
Il cuore del problema è che le persone hanno enormi difficoltà a distinguere un’immagine autentica da un deepfake. Questo rende la diffusione di contenuti manipolati un fenomeno particolarmente insidioso, legato a casi di molestie, umiliazione, adescamento e sextortion. Secondo i dati citati, le frodi collegate a questi contenuti hanno superato 1,5 miliardi di dollari nel 2025.
Le dimensioni del fenomeno emergono anche da un’indagine del 2023 riportata da Gov.UK, che ha rilevato 276.149 deepfake sessuali su un singolo sito dedicato, il 96% dei quali raffigurava donne. Sempre nel settembre 2023, i siti di cosiddetta “nudification” hanno attirato a livello globale 24 milioni di visite in un solo mese.
“Le app di ‘nudification’ non servono per scherzi innocui”, ha dichiarato Jess Phillips, ministra britannica per la tutela e la lotta alla violenza contro donne e ragazze. “Devastano la vita dei giovani.”
Come funziona la ricostruzione che smaschera il falso
L’approccio del Fraunhofer IOSB è definito ibrido perché combina due tecniche. Come spiega Andreas Specker, ricercatore senior del gruppo dedicato ai sistemi di sicurezza e assistenza basati su video, “per prima cosa usiamo un generatore di immagini AI per ricostruire l’immagine. Poi un modello di intelligenza artificiale si occupa della classificazione ed esegue un calcolo ibrido dell’errore di ricostruzione. Otteniamo infine una stima che mostra l’accuratezza del riconoscimento in percentuale”.
Il principio di fondo è tanto semplice quanto efficace: quando il generatore riesce a clonare con successo un’immagine di partenza, quel successo stesso diventa la prova che l’immagine originale era già un deepfake. Il tasso di successo del sistema parte dall’85% e raggiunge il 91%, anche se, precisa Specker, “in casi singoli può certamente essere più alto”.
Non solo rilevare, ma spiegare il perché
L’elemento che distingue RealorRender da altri approcci è la sua capacità di rendere comprensibili le proprie decisioni. Per farlo utilizza metodi di intelligenza artificiale spiegabile (XAI). “Questo ci permette di evidenziare le aree e le strutture dell’immagine che contribuiscono alla decisione del modello”, spiega Nadia Burkart, a capo del gruppo di Applied Explainable AI del Fraunhofer IOSB. “Texture particolari o pattern di frequenza caratteristici possono suggerire l’origine sintetica di un’immagine.”
In pratica, lo strumento individua le regioni sospette attraverso mappe di calore — griglie di quadrati colorati che indicano l’intensità, come nelle mappe topografiche — e segmenti di elementi contigui dell’immagine. In questo modo un analista può capire su quali basi il sistema ha formulato il proprio giudizio, aumentando la trasparenza e la possibilità di migliorarne l’accuratezza.
Questa impostazione è significativa perché, in un contesto in cui i motori di generazione dei deepfake diventano sempre più potenti, uno strumento che non solo classifica ma motiva le proprie conclusioni offre agli sviluppatori un margine per affinarlo nel tempo. Per chi è o rischia di diventare bersaglio di deepfake personali, commerciali o politici, una rilevazione più affidabile può tradursi in una maggiore sicurezza.
Il contesto normativo che spinge la ricerca
Sul fronte politico, nel Regno Unito i ministri si sono impegnati a rendere impossibile per i minori scattare, condividere o visualizzare immagini di nudo tramite i propri telefoni. Si tratta però di misure che non affrontano direttamente la creazione dei deepfake e che, senza strumenti digitali capaci di individuarli, rischiano di restare poco efficaci. È in questo vuoto che si inseriscono innovazioni come quella del Fraunhofer.
“Ogni bambino merita di crescere al sicuro, e faremo tutto il necessario perché ciò diventi realtà”, ha aggiunto la ministra Phillips, annunciando la volontà di collaborare con le aziende tecnologiche per fermare gli abusi online e garantire che chi crea o distribuisce deepfake sessuali affronti “conseguenze reali”.
Pensi che strumenti come RealorRender basteranno a contrastare la diffusione dei deepfake, o servono anche regole più severe? Dicci la tua opinione nei commenti.
