Nelle ultime settimane, una serie di inchieste giornalistiche ha rivelato come l'intelligenza artificiale generativa stia amplificando rischi concreti per la sicurezza e i diritti delle persone, dal malware che sfrutta l'AI per raccogliere dati sensibili alle app che nascondono funzionalità di deepfake abusivo. Questi episodi sollevano interrogativi urgenti su AI etica e governance AI, temi al centro del prossimo HDAI Summit 2026 di Pompei.
Cosa è successo
Secondo Wired, un nuovo infostealer chiamato Volta-Autodoxer utilizza strumenti di intelligenza artificiale per raccogliere enormi quantità di dati sulle vittime, dalle credenziali di accesso ai numeri di carta di credito, fino alle sessioni Discord e alle ricevute di UberEats. Il malware, soprannominato "autodoxer", sfrutta l'AI per automatizzare la ricerca e l'estrazione di informazioni sensibili, rendendo gli attacchi più efficaci e mirati.
Sempre Wired riporta che i chatbot stanno portando gli escursionisti fuori strada, con conseguenze potenzialmente letali. Affidarsi all'AI per pianificare escursioni in ambienti selvaggi può indurre le persone a rinunciare al proprio pensiero critico, con rischi mortali in luoghi come il backcountry. Un altro articolo di Wired ha scoperto circa 400 app e siti web collegati a sviluppatori di lingua cinese che, sotto l'apparenza di normali strumenti AI, nascondevano funzionalità segrete per creare immagini e video deepfake violenti e abusivi. Infine, un pezzo di Wired esplora quando è opportuno usare l'AI per cercare sul web e quando è meglio affidarsi ai motori di ricerca tradizionali, sottolineando che i chatbot possono essere utili ma non sempre affidabili.
Perché conta
Questi casi dimostrano che l'AI generativa sta abbassando le barriere per attività malevole, rendendo più semplice per attori malintenzionati condurre attacchi su larga scala. Il malware Volta-Autodoxer mostra come l'AI possa essere usata per automatizzare la raccolta di dati personali, violando la privacy e mettendo a rischio la sicurezza finanziaria delle vittime. Le app con funzionalità di deepfake abusivo rappresentano una minaccia diretta per la dignità e i diritti delle persone, in particolare delle donne, che sono spesso le principali vittime di questa tecnologia. Inoltre, l'uso acritico dei chatbot per pianificare attività all'aperto evidenzia come l'affidamento eccessivo all'AI possa portare a decisioni pericolose, con conseguenze potenzialmente fatali. Questi episodi sollevano interrogativi su come garantire un'AI responsabile e su quale ruolo debba avere la regolamentazione, come l'AI Act europeo, nel prevenire abusi.
Il punto di vista HDAI
In Human Driven AI crediamo che l'innovazione tecnologica debba essere guidata da principi etici e da una governance solida. I casi di Volta-Autodoxer, delle app di deepfake abusivo e dei chatbot che mettono in pericolo gli escursionisti non sono incidenti isolati, ma segnali di un ecosistema che sta crescendo senza adeguati controlli. Non è un problema tecnico, è un problema di governance: senza regole chiare e meccanismi di accountability, l'AI continuerà a essere sfruttata per fini dannosi. È necessario un approccio che metta al centro la persona, con audit algoritmici, trasparenza e responsabilità legale per gli sviluppatori. L'AI etica non è un lusso, ma una condizione per un futuro digitale sicuro e inclusivo. Il prossimo HDAI Summit 2026 di Pompei sarà l'occasione per discutere queste sfide con esperti, istituzioni e aziende, e per promuovere un'intelligenza artificiale Italia che sia all'avanguardia non solo nella tecnologia, ma anche nella tutela dei diritti.
Da seguire
Nei prossimi mesi, è probabile che le autorità di regolamentazione intensifichino i controlli sulle app di AI e sui chatbot, soprattutto alla luce dell'AI Act europeo. Sarà interessante vedere se verranno introdotti obblighi di trasparenza per gli sviluppatori di strumenti AI e se le piattaforme adotteranno misure più severe per prevenire usi abusivi. Inoltre, la ricerca su malware potenziati dall'AI potrebbe portare a nuove difese, ma anche a nuove minacce. La sfida sarà trovare un equilibrio tra innovazione e sicurezza, senza soffocare il potenziale positivo dell'AI.