Block presenta Dessa, voce AI quasi umana che riapre il rischio truffe

🛡️ Executive Summary

• Block presenta Dessa, un modello AI che ascolta e parla contemporaneamente: è addestrato direttamente su conversazioni vocali, senza utilizzare testi o modelli preaddestrati.
• Dessa può funzionare localmente su un MacBook Pro M4 Max: Block dichiara di averlo addestrato con un sistema Nvidia GB200 NVL72, ma non ha ancora pubblicato pesi, benchmark indipendenti o una data di rilascio.
• La naturalezza delle conversazioni riapre il problema delle frodi vocali: l’impersonificazione rappresenta un rischio concreto per i sistemi AI, ma non esistono prove che Dessa sia già stato utilizzato per truffe.

Block ha presentato Dessa, un modello di intelligenza artificiale che ascolta e parla contemporaneamente, produce pause, risate e variazioni emotive e può funzionare localmente su un computer di fascia alta. La società di Jack Dorsey ha diffuso le prime dimostrazioni il 23 ottobre 2026, suscitando interesse per la naturalezza delle conversazioni e timori per il possibile impiego nelle frodi telefoniche. Dessa non è però disponibile al pubblico, non è stato dimostrato che sia già utilizzato per impersonificare persone reali e le prestazioni diffuse provengono ancora dall’azienda. La novità principale riguarda l’architettura: elaborare direttamente la voce, senza trasformarla prima in testo, cambia l’interazione uomo-macchina e apre nuove questioni di sicurezza.

Dessa ascolta mentre parla: Block elimina il passaggio obbligato dal testo

Nella presentazione originale di Dessa, Block definisce il proprio sistema speech-to-speech full-duplex: il modello riceve audio e genera una risposta vocale, continuando ad ascoltare anche mentre sta parlando. È una differenza rispetto alle architetture che separano riconoscimento vocale, elaborazione testuale e sintesi della voce, nelle quali una parte delle informazioni su esitazioni, ritmo e tono può andare persa. Block sostiene di aver addestrato Dessa da zero soltanto su conversazioni umane, senza corpus testuali né modelli preaddestrati. Le dimostrazioni mostrano interruzioni, risposte brevi di ascolto, cambiamenti nell’intonazione e risate inserite nel flusso della conversazione; sono però registrazioni selezionate dal produttore, non confronti controllati con i concorrenti. L’azienda afferma di aver utilizzato per l’addestramento un sistema Nvidia GB200 NVL72 e che l’inferenza può funzionare localmente su un MacBook Pro con M4 Max o superiore. Il risultato richiama l’evoluzione degli assistenti vocali già affrontata nell’analisi sul consenso richiesto da Anthropic per utilizzare registrazioni vocali nell’addestramento, ma non dimostra che ogni futura applicazione di Dessa conserverà tutti i dati esclusivamente sul dispositivo.

Leggi anche: OpenAI incontra Hollywood per Sora e lancia Voice Engine

Dessa non è scaricabile e la sua sicurezza non è ancora verificata

Dessa resta una preview di ricerca. Al momento della presentazione Block non ha pubblicato pesi del modello, codice, API, scheda tecnica completa, numero dei parametri, benchmark riproducibili o una data di disponibilità generale. L’accesso anticipato è destinato inizialmente a un gruppo ristretto di ricercatori specializzati in sicurezza dell’intelligenza artificiale, mentre il download pubblico e la lista d’attesa non risultano ancora operativi. Non è quindi possibile quantificare la latenza in condizioni reali, la stabilità dopo conversazioni prolungate o la robustezza davanti a richieste manipolative. Le capacità emotive rivendicate non autorizzano nemmeno a descrivere il sistema come capace di provare emozioni: riprodurre vocalmente disagio, sorpresa o empatia è differente dal comprenderli in modo affidabile. Un problema già affrontato nell’integrazione dei sistemi anti-impersonificazione in Microsoft Teams riguarda proprio la credibilità delle interazioni artificiali. Più naturale diventa una comunicazione sintetica, meno la naturalezza della voce può essere utilizzata come prova dell’identità dell’interlocutore.

Truffe telefoniche e falsi dirigenti: il rischio non nasce con Dessa

Il problema dei deepfake vocali precede l’annuncio di Block. La Federal Trade Commission statunitense ha documentato scenari nei quali criminali imitano parenti in difficoltà o dirigenti aziendali per ottenere trasferimenti di denaro e informazioni riservate. Nella ricerca istituzionale sulle contromisure al voice cloning, l’autorità osserva che identificare una voce sintetica non è sufficiente: watermark, rilevamento automatico e autenticazione dell’origine presentano limiti e devono integrarsi. Un modello capace di rispondere mentre ascolta potrebbe teoricamente rendere più credibile una telefonata fraudolenta, reagendo a obiezioni e interruzioni con tempi e intonazioni realistici. Non esistono tuttavia prove pubbliche che Dessa consenta di clonare su richiesta la voce di una specifica persona, né che Block lo abbia distribuito per chiamate automatiche. Il rischio riguarda l’evoluzione generale dei sistemi vocali, nella quale si inseriscono precedenti come le truffe AI vocali e il caso Clorox. Confondere una dimostrazione di espressività con un caso documentato di frode significherebbe attribuire alla tecnologia comportamenti non verificati.

Continua con:

World ID entra nelle banche e su Zoom: verifica biometrica contro deepfake e frodi AI

FTC offre un premio da 25.000 dollari per rilevare la clonazione vocale AI

La verifica dell’identità deve uscire dalla conversazione

La difesa efficace consiste nel separare la voce dall’autorizzazione delle operazioni. In banca e nelle imprese una richiesta di pagamento ricevuta per telefono deve essere verificata attraverso un canale già registrato, con conferme indipendenti e limiti alle disposizioni sensibili; per i privati, una presunta emergenza familiare richiede di richiamare un numero conosciuto, senza fidarsi della sola voce. Gli strumenti di rilevamento possono aiutare, ma non sostituiscono procedure e controlli. Per i produttori di modelli conversazionali diventano centrali la valutazione preventiva degli abusi, l’identificabilità dell’audio artificiale, le restrizioni contro le impersonificazioni e le verifiche dei ricercatori indipendenti. Sono problemi ai quali risponde anche la ricerca Samsung sulle tecnologie di riconoscimento dei deepfake negli smartphone. Il lavoro avviato da Block potrebbe favorire interfacce più accessibili e servizi locali meno dipendenti dal cloud, ma finché mancano test pubblici non è possibile misurare il bilancio fra utilità e rischio. Per gli utenti italiani Dessa non rappresenta oggi un’applicazione acquistabile: rappresenta un segnale di quanto rapidamente i sistemi vocali artificiali si stiano avvicinando alla naturalezza di una conversazione umana.