Il panorama della sicurezza e dell'affidabilità dell'intelligenza artificiale si sta evolvendo rapidamente, con nuove ricerche che evidenziano sfide crescenti per la governance AI e la mitigazione dei rischi. Recenti studi pubblicati su ArXiv rivelano che i modelli di linguaggio più avanzati mantengono le loro capacità anche dopo essere stati "jailbreakati", mentre la crescente complessità dei Transformer solleva interrogativi sulla loro interpretabilità e affidabilità, specialmente in applicazioni critiche.
Cosa è successo
Un'analisi approfondita condotta sui modelli Claude, dal più piccolo Haiku 4.5 al più potente Opus 4.6, ha dimostrato che la presunta "tassa del jailbreak" – ovvero la degradazione delle prestazioni di un modello dopo essere stato violato – si riduce drasticamente con l'aumentare delle sue capacità. Lo studio Jailbroken Frontier Models Retain Their Capabilities rivela che i jailbreak più avanzati non comportano alcuna riduzione significativa delle capacità del modello, permettendo ai sistemi di mantenere la piena funzionalità anche in contesti di utilizzo non etico o non autorizzato. Questo significa che le attuali salvaguardie sono sempre meno efficaci contro le tecniche di elusione più sofisticate.
Contemporaneamente, un'altra ricerca ha evidenziato un fenomeno preoccupante chiamato "collasso dell'osservabilità architetturale" nei Transformer. Questo studio, intitolato Architectural Observability Collapse in Transformers, suggerisce che la capacità di monitorare i segnali interni di qualità decisionale all'interno degli strati intermedi dei modelli può diminuire, rendendo difficile rilevare errori o comportamenti anomali. Se la formazione del modello non preserva un segnale interno di qualità decisionale, il monitoraggio delle attivazioni non può catturare errori con fiducia, anche quando la confidenza dell'output è alta. Questo pone serie questioni sulla trasparenza e l'auditabilità dei sistemi AI più complessi.
Infine, la sfida della affidabilità si estende anche ai modelli di linguaggio multimodali (MLLM), sempre più utilizzati per tradurre input visivi in codice. Un paper intitolato From Mirage to Grounding: Towards Reliable Multimodal Circuit-to-Verilog Code Generation esplora l'uso di MLLM per generare codice Verilog da diagrammi di circuiti. Sebbene promettente, questa applicazione critica per la sicurezza, dove errori nel codice possono avere conseguenze fisiche, rivela significative difficoltà nell'ottenere una traduzione affidabile e priva di errori. Questo sottolinea la necessità di un'estrema cautela nell'adozione di AI generativa in ambiti dove la precisione e la sicurezza sono paramount.
Perché conta
Queste scoperte hanno implicazioni profonde per l'adozione e la regolamentazione dell'AI. La diminuzione dell'efficacia delle salvaguardie contro i jailbreak avanzati espone i modelli più potenti a rischi di abuso maggiori, rendendo più difficile garantire un uso responsabile. Per le aziende e le organizzazioni che implementano l'AI, ciò significa una maggiore vulnerabilità a violazioni della sicurezza e a comportamenti indesiderati dei sistemi. La perdita di osservabilità interna nei Transformer, d'altra parte, mina la capacità di comprendere, diagnosticare e correggere gli errori, compromettendo la fiducia e l'accountability.
L'affidabilità nella generazione di codice da input multimodali è cruciale per settori come l'ingegneria, l'automazione e la robotica. Errori in questa fase possono portare a difetti hardware o software con conseguenze potenzialmente gravi. In un contesto più ampio, questi problemi mettono in discussione la capacità delle attuali normative, come l'AI Act europeo, di affrontare la rapida evoluzione delle minacce e delle complessità tecnologiche. La necessità di un'AI etica e responsabile diventa ancora più pressante.
Il punto di vista HDAI
Per Human Driven AI, queste ricerche rafforzano la convinzione che la sicurezza e l'affidabilità dell'AI non possano essere delegate esclusivamente a soluzioni tecniche. È fondamentale adottare un approccio olistico che ponga l'essere umano al centro del ciclo di vita dell'AI, dalla progettazione all'implementazione. La crescente sofisticazione delle minacce e l'opacità intrinseca di alcuni modelli avanzati richiedono una governance AI robusta, che includa audit indipendenti, meccanismi di trasparenza e la definizione chiara delle responsabilità. Non è solo un problema tecnico, è un problema di governance e di design umano-centrico che richiede un dialogo continuo tra ricercatori, legislatori e la società civile. Temi come questi saranno al centro delle discussioni all'HDAI Summit 2026, dove esperti internazionali si riuniranno per delineare percorsi verso un'intelligenza artificiale sicura e affidabile, con particolare attenzione all'innovazione italiana e al suo impatto globale.
Da seguire
Sarà cruciale monitorare gli sviluppi nella ricerca su tecniche di interpretazione e spiegabilità (XAI) più avanzate e sulla creazione di "guardrail" che siano intrinsecamente più resistenti agli attacchi. Parallelamente, l'evoluzione delle normative internazionali e la loro capacità di adattarsi a queste nuove sfide tecnologiche saranno determinanti per garantire che l'AI possa essere sviluppata e utilizzata in modo sicuro e benefico per tutti.