Facebook sta lavorando a una tecnologia in grado di bloccare i deep fake sempre più complessi e difficili da distinguere da un video reale.
Di recente, la compagnia ha annunciato i risultati del suo progetto che vede la collaborazione della Michigan State University (MSU) sull’utilizzo di un nuovo metodo in grado di rivelare i deep fake e distinguerli dai video reali.
Secondo quanto riportato, la nuova tecnologia permette di riconoscere i video falsi, oltre a scoprire il sistema di realizzazione dei filmati, arricchendo la conoscenza della AI e insegnandola a riconoscere quello schema.
Il sistema cerca tracce digitali condivise dai modelli generativi. Per farlo, i tecnici hanno utilizzato 100 mila immagini false generate da 100 modelli generativi disponibili.
Il nuovo metodo potrebbe permettere di bloccare i deep fake al momento del rilascio, anche se rimane la possibilità che questi circolino sul web creando confusione tra le persone.
I deep fake più complessi permettono infatti di inscenare cose che non esistono e di far dire qualsiasi cosa vogliamo a personaggi seguiti tra i quali capi di stato e politici.
Uno strumento che potrebbe diventare un grosso problema, sia per i privati che per le aziende e un mezzo di disinformazione potente e in certi casi pericoloso.
I deep fake sono considerati una delle minacce più grandi che il web dovrà affrontare, soprattutto se affiancati a sistemi per la copia del timbro vocale e alla possibilità di interpretare completamente un’altra persona a cui sono state magari rubate le informazioni.
Staremo a vedere se le tecnologie di difesa saranno abbastanza per arginare quello che potrebbe diventare un grosso problema per il mondo digitalizzato.
I deep fake potrebbero infatti colpire sia a livello micro che macro, passando da uno strumento per fare scherzi a un pericoloso strumento di emulazione delle fattezze delle persone e della loro voce.
