Intelligenza Artificiale, come difendere la tua voce dai deepfake

I recenti avanzamenti nell’ambito dell’intelligenza artificiale generativa hanno catalizzato progressi significativi nella creazione di sintetizzatori vocali. Questa tecnologia, se da un lato promette di migliorare la nostra vita attraverso assistenti vocali personalizzati e strumenti di comunicazione che ampliano l’accessibilità, dall’altro ha innescato la comparsa di deepfake. Si tratta di una vera e propria minaccia, poiché consente l’utilizzo improprio della voce con la sintesi vocale per ingannare sia esseri umani che macchine.

In risposta a questa crescente minaccia, il professor Ning Zhang, dell’Università di Washington a St. Louis, ha sviluppato AntiFake. Questo nuovo strumento rappresenta un meccanismo di difesa proattivo progettato per contrastare la sintesi vocale non autorizzata prima che possa verificarsi. Zhang l’ha presentato il 27 novembre durante la conferenza sull’informatica e la sicurezza delle comunicazioni dell’Association for Computing Machinery a Copenhagen, Danimarca.

Deepfake

A differenza dei metodi tradizionali di rilevamento dei deepfake, che intervengono dopo l’attacco per valutare e scoprire l’audio sintetico, AntiFake adotta un approccio proattivo. Utilizza tecniche contraddittorie per ostacolare la sintesi di discorsi ingannevoli, rendendo difficile alle intelligenze artificiali e agli strumenti leggere le caratteristiche essenziali nelle registrazioni vocali. 

Ning Zhang spiega che AntiFake si impegna a rendere complesso l’utilizzo di dati vocali a scopi fraudolenti. “Il nostro strumento utilizza una tecnica di intelligenza artificiale antagonista originariamente appartenente all’arsenale dei criminali informatici, ma ora la utilizziamo per difenderci da loro. Modifichiamo leggermente il segnale audio registrato, distorto o disturbato, quanto basta per suonare corretto agli ascoltatori umani, ma completamente diverso per l’intelligenza artificiale.“

Per garantire l’efficacia di AntiFake contro un panorama in costante evoluzione di possibili aggressori e modelli di sintesi non identificati, Zhang e il suo team hanno progettato lo strumento in modo che fosse generalizzabile e lo hanno testato contro cinque tecnologie all’avanguardia di sintesi vocale. AntiFake ha dimostrato un tasso di protezione superiore al 95%, persino contro sintetizzatori commerciali sconosciuti. L’usabilità è stata testata con successo su 24 partecipanti umani, confermando che lo strumento è accessibile a popolazioni diverse.

Attualmente il lavoro si concentra sulla protezione di brevi frammenti di discorso, affrontando il tipo più comune di imitazione vocale. Tuttavia, Zhang afferma che non vi è nulla che impedisca di espandere questo strumento per proteggere registrazioni più lunghe o addirittura la musica, nell’incessante lotta contro la disinformazione.

“Anche se non conosco il futuro della tecnologia vocale nell’intelligenza artificiale, dato che nuovi strumenti e funzionalità vengono sviluppati continuamente, credo che la nostra strategia di utilizzare contro gli avversari le loro stesse tecniche continuerà ad essere efficace. L’intelligenza artificiale rimane vulnerabile alle perturbazioni nemiche, e potrebbe essere necessario adeguare le specifiche tecniche per mantenere questa strategia vincente.” 

Il codice di AntiFake è reso liberamente disponibile agli utenti.