Voice cloning: cos’è la clonazione vocale e perché è diventata un rischio reale

La voce non è solo un suono prodotto dalla vibrazione delle corde vocali, ma è anche famiglia, affetti, luoghi, ricordi, emozione. È un prisma di dettagli che caratterizza noi stessi, le persone che amiamo e quelle che costellano la nostra vita, e che non può essere eguagliata. Proprio come un’impronta digitale. O almeno così pensavamo, fino all’avvento del voice cloning, la clonazione vocale che sta divenendo sempre di più un rischio concreto, per tutti noi.

Scopriamo di cosa si tratta e quali conseguenze comporta.

Vi raccomandiamo...

Deepfake: è possibile riconoscere i contenuti falsi creati dall'AI?

Il termine deepfake deriva dalla crasi delle parole inglesi "deep learning", tecnica di intelligenza artificiale che tenta di eguagliare il cervell...

Cos’è il voice cloning e come funziona la clonazione della voce

A rendere possibile la clonazione della voce è stata, negli ultimi anni, l’Intelligenza Artificiale, la quale ha compiuto ingenti progressi nella capacità di imitare il linguaggio umano. La tecnica del voice cloning, infatti, si basa su modelli in grado di riprodurre la voce di una persona in modalità estremamente realistiche.

Per farlo, usufruisce di algoritmi di machine learning e sintesi vocale, che consentono di effettuare una disamina approfondita di tutte le caratteristiche precipue di una voce: il timbro, le inflessioni, l’intonazione, le pause, il ritmo del respiro, l’accento. Il tutto mediante un campione audio anche di soli 3 secondi.

Una volta addestrato, il sistema è, poi, capace di generare frasi nuove che sembrano essere pronunciate dalla medesima persona, dando luogo, così, a video e audio falsi che, però, appaiono come repliche altamente credibili.

Ma com’è possibile? I sistemi di sintesi vocale sono nutriti e allenati da una quantità innumerevole di dati vocali, per cui, non appena ricevono un breve campione audio, sono in grado di estrarre le peculiarità uniche della voce in oggetto, applicandole a nuovi testi e generando audio sintetici praticamente indistinguibili dalla voce reale.

Deepfake vocali e truffe: perché il voice cloning attacca la nostra identità

Se da un lato questa tecnologia risulta affascinante e può aprire porte e opportunità importanti – soprattutto per quanto concerne l’ambito del doppiaggio e la conservazione di voci di attori o personaggi di spicco -, dall’altro è innegabile che ponga interrogativi circa l’eticità e il rischio correlato al suo utilizzo.

Il problema principale, infatti, risiede nel fatto che la voce sia sempre stata sinonimo di identità e autenticità. Una prova che “noi siamo noi”, e che, fino a poco prima dell’avvento dell’Intelligenza Artificiale, ha sempre costituito una garanzia di veridicità. Con l’avvento dei deepfake vocali generati dal voice cloning, tuttavia, questa certezza non ha più basi solide, e rischia gravemente di vacillare.

Sempre più diffuse sono, appunto, le cosiddette AI Voice Scams, le truffe basate su voci generate in maniera artificiale che riproducono voci reali. I criminali clonano, così, la voce di una persona di fiducia – un familiare, un dirigente o un superiore, un collega di lavoro, un amico – e la utilizzano per convincere la vittima a compiere delle azioni impellenti, nella maggior parte dei casi relative al trasferimento di denaro o alla condivisione di dati e informazioni sensibili, sulla scia di pressioni emotive e richieste urgenti.

Emblematico, in questo senso, il caso che ha scosso l’Italia a inizio 2025, quando un gruppo di truffatori ha simulato la voce del Ministro della Difesa Guido Crosetto – e di alcuni membri del suo staff – e ha chiamato diversi imprenditori noti per convincerli a versare somme di denaro ingenti su conti correnti esteri, dichiarando che sarebbero serviti per pagare il riscatto per dei giornalisti italiani rapiti in Medio Oriente.

Vi raccomandiamo...

War anxiety: come affrontare la paura della guerra e gestire l’ansia

Cos'è la War anxiety o paura della guerra, da cosa nasce davvero e come si gestisce questa forma di ansia nella propria vita quotidiana e in quel...

Come difendersi dal rischio di voice cloning

La possibilità di replicare la voce senza consenso non riguarda solo la sicurezza informatica, la diffusione di notizie false e la propaganda politica, ma apre anche scenari di abuso e attacco alla propria identità dal punto di vista della privacy e della sfera personale. Ed è proprio per questo motivo che è necessario aumentare la consapevolezza e l’informazione su queste tematiche, adottando misure concrete e quotidiane che possano aiutarci a limitare i rischi e le conseguenze negative.

Se, infatti, è possibile far dire qualsiasi cosa a un personaggio famoso o a una figura pubblica, diviene sempre più facile diffondere contenuti falsi che sembrano reali e autentici anche tra la popolazione “normale”, aumentando la probabilità di truffe, raggiri e affini.

La prima strategia da adottare consiste, dunque, nel verificare sempre l’identità di chi ci contatta al telefono, in particolar modo se la richiesta riguarda dati sensibili o soldi. Una pratica consigliata è, infatti, quella di richiamare la persona interessata tramite un numero conosciuto e già salvato in rubrica, oppure chiedere all’interlocutore dettagli, informazioni e ricordi che sono sconosciuti a estranei, e riguardano solo gli individui coinvolti nella chiamata.

Un’altra precauzione molto utile consiste, ancora, nella gestione efficace dei contenuti online. Limitare la pubblicazione di video personali e registrazioni vocali può, infatti, ridurre drasticamente la quantità di materiale che i criminali avrebbero a disposizione per eventuali truffe e, soprattutto, per addestrare i modelli di clonazione.

Diversi esperti in cybersecurity, infine, sottolineano l’importanza dei sistemi di autenticazione multifattoriale, che non si basino, cioè, solo sulla voce, ma siano capaci di combinare metodi dissimili di verifica dell’identità.