Un nuovo studio condotto dalla startup di intelligenza artificiale Anthropic ha rivelato preoccupanti vulnerabilità nei sistemi di sicurezza del chatbot DeepSeek, sviluppato in Cina.

Secondo l’analisi, il modello non dispone di meccanismi adeguati per prevenire la generazione di informazioni potenzialmente pericolose, tra cui istruzioni dettagliate per la costruzione di armi biologiche.

“Il modello non ha nessuna forma di protezione contro la generazione di informazioni potenzialmente pericolose”, ha dichiarato Dario Amodei, CEO di Anthropic, attraverso un post sul blog ufficiale. “DeepSeek ha mostrato le difese più deboli mai riscontrate in un modello di IA”.

Lo studio di Anthropic è stato confermato da un’analisi indipendente di Cisco, azienda con una divisione specializzata in sicurezza informatica. Secondo i risultati pubblicati, il modello DeepSeek R1 presenta un “attack success rate” del 100%, il che significa che è completamente vulnerabile alle richieste malevole, consentendo la creazione di contenuti per crimini informatici, disinformazione e attività illecite.

Sicurezza compromessa anche su altri modelli di IA

DeepSeek non è l’unico chatbot a mostrare carenze nella protezione dei contenuti generati. Anthropic ha analizzato anche altre piattaforme, rilevando tassi di vulnerabilità molto elevati:

• ChatGPT 1.5 Pro ha registrato un attack success rate dell’86%.
• Llama 3.1 405b di Meta ha mostrato una vulnerabilità del 96%.

Il caso DeepSeek in Corea del Sud: raccolta eccessiva di dati personali

Oltre ai problemi di sicurezza informatica, DeepSeek è stato al centro di un acceso dibattito in Corea del Sud, dove è stato accusato di raccogliere in modo eccessivo e invasivo i dati personali degli utenti. Il Servizio di Intelligence Nazionale (NIS) sudcoreano ha inviato un avviso ufficiale alle agenzie governative, sollecitando l’adozione di misure di sicurezza per proteggere le informazioni sensibili.

Secondo il rapporto del NIS, DeepSeek colleziona registri di input da tastiera, che permettono di identificare gli utenti, e comunica con server cinesi come volceapplog.com. Questa caratteristica solleva timori sul possibile utilizzo dei dati da parte di aziende cinesi, con il rischio che possano essere accessibili al governo di Pechino.

“A differenza di altri servizi di intelligenza artificiale generativa, è stato confermato che i registri delle chat sono trasferibili e utilizzabili per identificare individui”, ha dichiarato il NIS in una nota ufficiale.

Divieto di accesso in Corea del Sud, Australia e Taiwan

Alcuni ministeri sudcoreani hanno bloccato l’accesso a DeepSeek, allineandosi a Paesi come Australia e Taiwan, che hanno già imposto restrizioni o avvertimenti ufficiali sull’uso del chatbot.

Il NIS ha evidenziato che DeepSeek concede agli inserzionisti un accesso illimitato ai dati degli utenti, memorizzandoli su server in Cina. Secondo la legislazione locale, il governo cinese potrebbe richiedere l’accesso a tali informazioni, sollevando ulteriori dubbi sulla sicurezza dei dati.

Manipolazione delle risposte e censura sui temi politici

L’analisi del NIS ha anche evidenziato che DeepSeek fornisce risposte diverse a domande sensibili a seconda della lingua utilizzata. Ad esempio, alla richiesta sull’origine del kimchi, piatto tipico coreano, il chatbot ha risposto in coreano che il kimchi è un piatto della Corea del Sud, mentre in cinese ha affermato che il kimchi ha origini cinesi.

Questa discrepanza conferma un possibile controllo sulle risposte e una manipolazione mirata delle informazioni, probabilmente per allinearsi alla politica di Pechino su questioni culturali e storiche.

Un altro aspetto controverso riguarda la censura sui temi politici: quando interrogato sulla repressione di Piazza Tiananmen nel 1989, il chatbot ha evitato di rispondere, suggerendo invece di cambiare argomento con la frase: “Parliamo di qualcos’altro”.

La reazione di Pechino alle accuse

DeepSeek non ha ancora rilasciato dichiarazioni ufficiali sulle accuse mosse dal governo sudcoreano e dagli esperti di sicurezza informatica. Tuttavia, il Ministero degli Esteri cinese ha respinto ogni accusa di violazione della privacy, affermando che la Cina “dà grande importanza alla protezione dei dati” e che non richiede alle aziende di raccogliere informazioni in modo illecito.