Lunedì Intel ha introdotto FakeCatcher, un rilevatore di deepfake, che è un media sintetico in cui la persona che appare in una foto o in un video esistente viene sostituita con l’aspetto di un’altra persona. La società considera FakeCatcher il primo rilevatore di deepfake in tempo reale e afferma che il prodotto ha un tasso di precisione del 96%. Funziona analizzando il preciso “flusso sanguigno” dei pixel video per fornire risultati in millisecondi. Intel afferma che il suo strumento renderà il rilevamento dei deepfake ancora più veloce.
La tecnologia Deepfake è una di quelle tecnologie che, sebbene impressionante, spesso usato Male, la sua popolarità è cresciuta costantemente negli ultimi anni. I deepfake, che di solito comportano la sovrapposizione del volto e della voce di una persona su un’altra persona, hanno attirato l’attenzione per la prima volta alcuni anni fa, quando i siti Web per adulti hanno iniziato a bloccare i video in cui la tecnologia veniva utilizzata per aggiungere i volti di attrici famose con i corpi delle pornostar. Ma i deepfake sono diventati sempre più sofisticati nel corso degli anni, rendendo più difficile il rilevamento.
Ora ci sono molte app che consentono agli utenti di inserire i volti dei propri amici nei film e abbiamo visto il processo basato sull’intelligenza artificiale utilizzato per riportare in vita vecchie foto e mostrare versioni più giovani degli attori. imprese e ricercatori un lavoro Da anni si parla di modi per distinguere tra video originale e video modificato, ma la nuova soluzione di Intel sembra essere una delle più efficaci e innovative. Ilke Demir, Principal Investigator presso Intel Labs, ha progettato FakeCatcher in collaborazione con Umur Ciftci di SUNY Binghamton.
Il prodotto utilizza hardware e software Intel, viene eseguito su un server e si interfaccia tramite una piattaforma basata sul Web. organizzazioni, incl FacebookE il Dipartimento della Difesa degli Stati Uniti, Adobe e Google sono strumenti per identificare i deepfake. Questi strumenti in genere si basano sul deep learning per esaminare i dati grezzi per verificarne l’inautenticità. Ma Intel sta adottando un approccio diverso. La piattaforma Intel utilizza il deep learning per analizzare i sottili cambiamenti nel colore del viso causati dal sangue che scorre nelle vene, un processo chiamato fotoincisione o PPG.
Il metodo misura la quantità di luce assorbita o riflessa dai vasi sanguigni nel tessuto vivente. Quando il cuore pompa sangue, va nelle vene e queste cambiano colore. FakeCatcher osserva il flusso sanguigno per pixel in un’immagine, qualcosa che i deepfake non hanno ancora imparato, ed esamina i segnali da più immagini. Quindi invia le firme alla cartella di lavoro. Quest’ultimo determina se il video in questione è reale o falso. Intel afferma che questa tecnologia può determinare se un video è reale in millisecondi con un tasso di precisione del 96%.
La società aggiunge che la piattaforma utilizza processori Xeon Scalable di terza generazione con un massimo di 72 flussi di rilevamento simultanei e funziona tramite un’interfaccia web. Utilizzando FakeCatcher, i segnali PPG vengono raccolti da 32 siti sul viso e le mappe PPG vengono quindi generate dalle componenti temporali e spettrali. Una soluzione in tempo reale con un tasso di precisione così elevato può fare la differenza nella guerra online contro la disinformazione. Ma d’altra parte, questa tecnologia può anche rendere i “deepfake” più realistici, poiché i loro creatori cercano di ingannare il sistema.
Non puoi vederlo con i tuoi occhi, ma è matematicamente visibile. I segnali PPG sono noti, ma non sono mai stati applicati prima a un problema di deepfake. Prendiamo queste mappe e addestriamo una rete neurale convoluzionale sopra le mappe PPG per classificarle come false e reali. Quindi, grazie alle tecnologie Intel come il framework Deep Learning Boost per l’inferenza e Advanced Vector Extensions 512, possiamo eseguire fino a 72 flussi di rilevamento simultanei in tempo reale”, ha affermato Demir. (L’importanza del rilevamento sta crescendo di fronte alla crescente minacce.)
Secondo un recente articolo di Eric Horvitz, Chief Scientific Officer di Microsoft, il rilevamento dei deepfake è diventato sempre più importante negli ultimi anni. Questi includono deepfake interattivi, che danno l’illusione di parlare con una persona reale, e deepfake, in cui i cattivi attori creano diversi deepfake per mettere insieme una “storia sintetica”. Nel 2020, Forrester Research ha previsto che i costi associati alle truffe deepfake supereranno i 250 milioni di dollari. Di recente sono circolate notizie sulle celebrità.
D’altra parte, ci sono molti casi d’uso responsabili che consentono la tecnologia deepfake. Aziende come Hour One e Synthesia offrono deepfake alle aziende, ad esempio per la formazione dei dipendenti, l’istruzione e l’e-commerce. I deepfake possono anche essere creati da utenti come celebrità e imprenditori che desiderano sfruttare i media sintetici per “esternalizzare” a un gemello virtuale. In questi casi, speriamo che emerga un modo per garantire la completa trasparenza e provenienza dei media sintetici.
Demir ha detto che Intel sta facendo ricerche, ma è ancora agli inizi. FakeCatcher fa parte di un gruppo di ricerca più ampio di Intel, chiamato Trusted Media, che si occupa di rilevamento di contenuti manipolati, generazione responsabile e fonte multimediale. A breve termine, il rilevamento è la risposta ai deepfake e stiamo sviluppando molti rilevatori diversi basati su diversi indicatori di autenticità, come il rilevamento dello sguardo fisso. Il passo successivo sarebbe scoprire la fonte o trovare il modello GAN dietro tutti i deepfake.
E il punto d’oro di ciò che stiamo guardando, ha aggiunto Demir, è avere una raccolta di tutti questi modelli di intelligenza artificiale, in modo da poter fornire un consenso algoritmico su cosa è sbagliato e cosa è giusto. Sebbene Demir e il suo team siano entusiasti dell’argomento, è importante notare che rilevare i deepfake è difficile su più fronti. Secondo uno studio del 2021 della University of Southern California, alcuni set di dati utilizzati per addestrare i sistemi di rilevamento “deepfake” potrebbero sottorappresentare persone di un certo genere o colore della pelle.
Secondo lo studio, questo pregiudizio può essere amplificato nei rilevatori di deepfake, con alcuni rilevatori che mostrano una differenza fino al 10,7% nel tasso di errore a seconda del gruppo etnico. E nel 2020, gli scienziati di Google e dell’Università della California, Berkeley, hanno dimostrato che anche i migliori sistemi di intelligenza artificiale addestrati a distinguere tra contenuti reali e sintetici erano vulnerabili agli attacchi ostili che li hanno spinti a classificare le immagini false come reali. A questo si aggiunge il gioco del gatto e del topo in corso tra creatori e rilevatori di deepfake.
Ma Demir ha detto che per ora FakeCatcher di Intel non può essere superato. L’estrazione PPG che usiamo non è differenziabile e non puoi semplicemente collegarla alla funzione di perdita di una rete avversaria, perché non funziona e non puoi tornare indietro se non è differenziabile. Se non vuoi imparare il micro-mining PPG, ma vuoi avvicinarti ad esso, hai bisogno di enormi set di dati PPG, che attualmente non esistono. esistere [des ensembles de donnes de] Ha detto che 30-40 persone non sono generalizzabili nel loro insieme.
fonte : Intel
E tu?
Cosa ne pensi? Cosa ne pensi dello strumento di rilevamento deepfake di Intel?
Vedi oltre
“Creatore di problemi. Appassionato di social media. Appassionato di musica. Specialista di cultura pop. Creatore.”
