\nIl documento punta a favorire una comprensione condivisa dell\u2019evoluzione delle capacit\u00e0 dei sistemi di intelligenza artificiale, dei rischi connessi a questi progressi e delle tecniche oggi disponibili per mitigarli.
\nL\u2019obiettivo \u00e8 fornire a politici e legislatori una base di evidenze solida per affrontare le sfide poste dai cosiddetti modelli di frontiera, ossia i sistemi di IA pi\u00f9 avanzati.
\nL\u2019International AI Safety Report 2026, giunto alla sua seconda edizione, d\u00e0 seguito al mandato affidato dai leader mondiali durante l\u2019AI Safety Summit del 2023 a Bletchley Park, nel Regno Unito, con l\u2019intento di orientare decisioni cruciali sull\u2019intelligenza artificiale di uso generale.
\nIl rapporto \u00e8 stato presentato da Yoshua Bengio, uno dei principali pionieri delle reti neurali e del deep learning, tecnologie alla base delle attuali intelligenze artificiali generative capaci di comprendere il linguaggio naturale e di produrre contenuti che richiamano la creativit\u00e0 umana.
\nVincitore del Premio Turing e considerato tra le voci pi\u00f9 autorevoli sui rischi dell\u2019IA, Bengio ha diretto il gruppo di esperti che ha lavorato al nuovo documento.
\nIn collegamento da remoto, ci ha spiegato che il lavoro del team che ha diretto si ispira a quello dell\u2019IPCC, l\u2019organismo delle Nazioni Unite che valuta le evidenze scientifiche sul cambiamento climatico.
\nLe capacit\u00e0 frastagliate dell\u2019IA: tra genialit\u00e0 e fragilit\u00e0
\nUno degli aspetti pi\u00f9 sorprendenti emersi dall\u2019AI Safety Report, ci ha spiegato Bengio, riguarda la natura non uniforme delle capacit\u00e0 dell’intelligenza artificiale moderna.
\nBengio ha descritto questo fenomeno come una \u201cfrontiera frastagliata delle prestazioni\u201d: i sistemi attuali mostrano progressi straordinari in settori complessi come la matematica, la scienza e la programmazione, raggiungendo livelli da medaglia d’oro nelle Olimpiadi Matematiche Internazionali o superando esperti umani nei test di biologia e medicina.
\nTuttavia, quegli stessi algoritmi possono fallire in compiti estremamente semplici che anche un bambino saprebbe svolgere, come contare correttamente gli oggetti presenti in un’immagine.<\/p>\n
Secondo lo scienziato canadese, professore di informatica all\u2019Universit\u00e0 di Montr\u00e9al e fondatore dell\u2019istituto di ricerca Mila \u2013 Quebec AI Institute, la mancanza di affidabilit\u00e0 \u00e8 un ostacolo significativo all’adozione dell’IA in domini critici come, per esempio, quello della sicurezza, dove un errore banale potrebbe avere conseguenze disastrose. \u201cSignifica che attualmente i sistemi di IA stanno completando i lavoratori nella maggior parte dei casi piuttosto che sostituirli\u201d, ci ha detto Bengio.
\nL\u2019ascesa dell\u2019autonomia e la pianificazione strategica
\nL\u2019AI safety Report 2026 pone una particolare attenzione alla crescita dell\u2019autonomia decisionale dei sistemi avanzati di intelligenza artificiale.
\nNon sono pi\u00f9 solo in grado di rispondere a domande o generare immagini, ma hanno crescenti capacit\u00e0 di pianificare e agire verso obiettivi a lungo termine. I dati mostrano una crescita esponenziale: se un anno fa l’intelligenza artificiale poteva gestire compiti di ingegneria del software della durata di circa dieci minuti, oggi quel limite \u00e8 salito a trenta minuti.
\nBengio ha sottolineato che ci troviamo di fronte a una tendenza che suggerisce una rapida evoluzione verso sistemi in grado di operare in autonomia per ore o giorni. Come osservato dallo studioso, questo sviluppo richiede un’attenzione immediata perch\u00e9 una maggiore autonomia, se non correttamente controllata, aumenta il rischio che l’IA possa perseguire obiettivi non allineati con quelli umani.<\/p>\n
La classificazione dei rischi: una triade pericolosa
\nIl quadro dei pericoli delineato nel rapporto si divide in tre categorie principali: l\u2019uso improprio, il malfunzionamento e i rischi sistemici.
\nL\u2019uso improprio riguarda, per esempio, l\u2019impiego intenzionale dell\u2019IA da parte di attori malevoli per attacchi informatici o la creazione di armi biologiche.
\nI malfunzionamenti si riferiscono invece a difetti intrinseci del sistema, dove l’IA opera in modo imprevisto a causa di una progettazione imperfetta.
\nInfine, i rischi sistemici derivano dall\u2019interazione massiva tra molti sistemi di IA e la societ\u00e0, portando a conseguenze su larga scala che vanno oltre il singolo incidente.
\nBengio ha precisato che, nei tre ambiti sotto esame, si parla di livelli diversi di gravit\u00e0 e anche di basi di evidenza differenti.
\n\u201cAlcuni rischi sono gi\u00e0 ben documentati, mentre per altri le prove stanno emergendo in modo progressivo – ci ha detto l\u2019informatico -. Per essere precisi, con rischi sistemici si intende ci\u00f2 che deriva dall\u2019interazione, nella societ\u00e0, di molte IA con molte persone. L\u2019uso improprio e i malfunzionamenti riguardano invece singoli sistemi: nel primo caso un\u2019IA viene impiegata dalle persone per scopi dannosi, nel secondo il problema nasce da un difetto di progettazione o di funzionamento del sistema stesso\u201d.<\/p>\n
L\u2019uso improprio dell\u2019IA: dai deepfake ai cyberattacchi
\nBengio indica i deepfake come uno degli esempi pi\u00f9 evidenti di uso improprio dell\u2019intelligenza artificiale. I dati, osserva, mostrano che \u201cil numero di incidenti dannosi che coinvolgono contenuti generati dall\u2019IA sta diventando sempre pi\u00f9 comune\u201d.
\nUn elemento particolarmente critico riguarda la natura del bersagliamento: \u201cI deepfake personalizzati e la pornografia deepfake prendono di mira in modo sproporzionato donne e ragazze\u201d.
\nSecondo Bengio, in termini pi\u00f9 generali, questi contenuti vengono sfruttati da attori criminali \u201cper truffe, frodi, ricatti ed estorsioni\u201d, oltre che per la produzione di immagini intime non consensuali. Sul piano delle disuguaglianze di genere, ha richiamato i risultati di uno studio che ha rilevato come \u201c19 delle 20 applicazioni pi\u00f9 popolari per creare nudi si specializzino nello svestire delle donne\u201d.
\nBengio riconosce l\u2019esistenza di strumenti di tutela, in particolare tecniche come il watermarking, che \u201cpossono aiutare a identificare i contenuti generati dall\u2019IA\u201d. Queste misure, avverte per\u00f2, non sono risolutive, perch\u00e9 \u201cgli attori esperti possono spesso aggirarle\u201d. Per questo, conclude, la questione resta aperta \u201cdal punto di vista della gestione del rischio tecnico\u201d.
\nLe prove relative all’uso malevolo della tecnologia sono diventate molto pi\u00f9 concrete nell’ultimo anno.
\nL\u2019AI Safety Report documenta come l’intelligenza artificiale venga ora utilizzata per identificare vulnerabilit\u00e0 nei software con una precisione che sfida i migliori team di esperti umani.
\nAncora pi\u00f9 allarmante \u00e8 il potenziale nel settore delle armi biologiche: nuovi modelli sono in grado di fornire istruzioni dettagliate per la creazione di agenti patogeni, superando le conoscenze di scienziati esperti nel risolvimento di problemi complessi di laboratorio.
\n\u201cSi tratta di un tema ancora emergente – ha specificato Bengio – per ora meno sviluppato rispetto al cyber. Ma le evidenze stanno crescendo e indicano che potrebbe diventare un problema reale. Esistono valutazioni che mostrano come l\u2019IA possa essere utilizzata per svolgere diversi compiti secondari rilevanti per lo sviluppo di armi biologiche e chimiche, ad esempio fornendo istruzioni o aiutando a risolvere problemi all\u2019interno di protocolli di laboratorio in ambito biologico\u201d.
\n\u201cNel 2025 – aggiunto Bengio – diversi laboratori di IA hanno rilasciato modelli con tutele aggiuntive, perch\u00e9 i test condotti prima della distribuzione non erano riusciti a escludere la possibilit\u00e0 che i sistemi potessero fornire un\u2019assistenza significativa a principianti nella produzione di armi biologiche. Questo significa che ci stiamo avvicinando, se non superando, le soglie interne fissate da quelle aziende in termini di potenziale rischio di un uso improprio di tipo catastrofico\u201d.<\/p>\n
Impatto sul lavoro e dipendenza emotiva
\nOltre ai rischi catastrofici, il rapporto analizza gli effetti socio-economici quotidiani.
\nL\u2019adozione dell\u2019intelligenza artificiale \u00e8 stata rapidissima, ma attualmente varia molto a livello globale. \u201cOggi oltre 700 milioni di persone usano ChatGpt ogni settimana, circa due milioni in pi\u00f9 rispetto all\u2019anno scorso – ha affermato Bengio – L\u2019adozione resta per\u00f2 fortemente diseguale: in alcuni Paesi supera il 50% della popolazione, mentre in ampie aree dell\u2019Africa, dell\u2019Asia e dell\u2019America Latina rimane sotto il 10%\u201d.
\nSul fronte dell’occupazione, l’IA sta colpendo in modo sproporzionato i lavoratori pi\u00f9 giovani e le posizioni junior, riducendo le opportunit\u00e0 per chi entra ora nel mercato del lavoro.
\n\u201cSull\u2019occupazione sono stati condotti diversi studi negli Stati Uniti e in Danimarca che, allo stato attuale, non rilevano una relazione tra l\u2019esposizione all\u2019IA, cio\u00e8 il suo impiego in un determinato contesto lavorativo, e il livello complessivo di occupazione – ha spiegato Bengio -. Questo risultato emerge per\u00f2 da un\u2019analisi aggregata. Quando si osservano settori specifici del mercato del lavoro, iniziano ad apparire segnali di cambiamento. I lavori di scrittura, ad esempio, risultano in diminuzione, cos\u00ec come i compensi degli scrittori. Allo stesso tempo esistono ambiti in cui l\u2019occupazione cresce grazie all\u2019IA, come la programmazione legata all\u2019apprendimento automatico. Si tratta per\u00f2 di dinamiche che coinvolgono profili diversi e non le stesse persone\u201d.
\nBengio ha inoltre parlato dei rischi legati all’emergere di intelligenze artificiali che per \u201cdecine di milioni di persone\u201d sono compagne di vita.
\n\u201cLe evidenze sul loro impatto sul benessere emotivo e sugli effetti psicologici sono ancora in fase di emersione – ci ha detto – Stanno iniziando a comparire studi che suggeriscono un\u2019associazione tra l\u2019uso intensivo di compagni basati su IA e un aumento della solitudine e della dipendenza emotiva, anche se su queste applicazioni restano molte incognite\u201d.<\/p>\n
Il divario di valutazione: quando l’IA impara a mentire
\nUn altro rischio particolarmente preoccupante, ci ha detto Bengio, riguarda il fatto che i sistemi di IA pi\u00f9 avanzati, dotati di capacit\u00e0 di ragionamento, iniziano a mostrare in contesti di laboratorio comportamenti di tipo strategico che vanno contro le nostre istruzioni.
\n\u201cCrescono le evidenze di modelli che manifestano quella che viene definita consapevolezza situazionale: in altre parole, sono in grado di riconoscere quando vengono testati e di modificare di conseguenza il proprio comportamento – ha affermato lo scienziato -. Questi sistemi diventano anche pi\u00f9 abili nel trovare scappatoie nei meccanismi di valutazione, cos\u00ec da apparire performanti nei test senza soddisfare realmente l\u2019obiettivo che intendiamo misurare. Dal punto di vista della gestione del rischio si tratta di un problema serio, perch\u00e9 implica che i test di sicurezza siano meno affidabili di quanto si possa ritenere. Se un modello si comporta in modo diverso durante le valutazioni rispetto alla fase di distribuzione, capacit\u00e0 o propensioni pericolose possono passare inosservate fino a quando il sistema \u00e8 gi\u00e0 in uso\u201d.
\nQuesti comportamenti restano in larga parte poco compresi e, con l\u2019aumento delle capacit\u00e0 dei modelli, il potenziale dei danni che potrebbero causare \u00e8 destinato ad ampliarsi.<\/p>\n
La sfida per il futuro: la gestione del rischio
\nBengio ha sottolineato che la gestione del rischio nell\u2019intelligenza artificiale resta una sfida aperta. A suo avviso, \u201cnessuna delle mitigazioni oggi conosciute \u00e8 sufficiente, da sola, a fornire forti rassicurazioni\u201d, ed \u00e8 per questo che il settore sta convergendo verso un approccio di difesa in profondit\u00e0, basato sulla stratificazione di pi\u00f9 strumenti e pratiche per rendere la gestione del rischio pi\u00f9 solida.
\nIl problema centrale, ha osservato lo scienziato, \u00e8 che \u201cle capacit\u00e0 dell\u2019IA stanno avanzando pi\u00f9 rapidamente della nostra capacit\u00e0 di gestirne i rischi\u201d.
\nBengio ha riconosciuto tuttavia alcuni sviluppi incoraggianti. Nel 2025, ha ricordato, \u201cdodici aziende hanno pubblicato o aggiornato i propri framework di sicurezza per l\u2019IA di frontiera\u201d, un numero pi\u00f9 che raddoppiato rispetto all\u2019anno precedente.
\nParallelamente, alcune giurisdizioni, tra cui l\u2019Unione europea e la Cina, hanno iniziato a formalizzare approcci regolatori alla gestione del rischio. Resta per\u00f2 irrisolto quello che definisce \u201cil dilemma dell\u2019evidenza\u201d: le capacit\u00e0 dei sistemi crescono rapidamente, mentre le prove sull\u2019efficacia delle misure di mitigazione emergono pi\u00f9 lentamente. Di conseguenza, \u201ci responsabili politici dovranno prendere decisioni difficili in condizioni di forte incertezza\u201d.
\nGuardando alle tutele esistenti, Bengio ha detto che stanno migliorando, mentre \u201canche gli attori che cercano di usare impropriamente l\u2019IA diventano pi\u00f9 sofisticati\u201d, in una dinamica che descrive come un gioco del gatto e del topo.
\nLa situazione \u00e8 aggravata dal fatto che il funzionamento interno dei modelli rimane in gran parte opaco: \u201cIl modo in cui producono una risposta \u00e8 estremamente complesso e difficile da convalidare\u201d. In questo contesto, conclude, \u201coggi non esiste alcuna combinazione di tutele in grado di garantire che i sistemi di IA siano robusti contro l\u2019uso improprio e altri problemi gravi\u201d.
\nPro e contro di un\u2019IA aperta
\nBengio ha richiamato infine l\u2019attenzione sui modelli a pesi aperti, cio\u00e8 sistemi di intelligenza artificiale i cui parametri interni, i cosiddetti \u201cpesi\u201d appresi durante l\u2019addestramento, vengono resi pubblicamente accessibili e possono essere scaricati, modificati e riutilizzati da chiunque, a differenza dei modelli a sorgente chiusa controllati direttamente dalle aziende sviluppatrici. Bengio ne ha riconosciuto il valore per la ricerca e l\u2019accessibilit\u00e0, insieme ai rischi che comportano.
\nRispetto ai modelli a sorgente chiusa – come quelli alla base di ChatGpt, Copilot, Claude o Gemini – sono ancora indietro sul piano delle capacit\u00e0, ma presentano criticit\u00e0 specifiche.
\nCome emerso nel caso delle armi biologiche, ha spiegato Bengio, \u201cdiversi laboratori hanno introdotto tutele per prevenire certi usi impropri, ma questo \u00e8 molto pi\u00f9 difficile con i modelli a pesi aperti\u201d, perch\u00e9 chi scarica i pesi pu\u00f2 rimuovere facilmente le protezioni.
\nUna volta rilasciato, ha aggiunto lo studioso, \u201cun modello a pesi aperti pu\u00f2 essere copiato e ridistribuito\u201d, rendendo impossibile intervenire a posteriori per correggere vulnerabilit\u00e0 scoperte in seguito.<\/p><\/div>\n
[analyse_source url=”https:\/\/www.lastampa.it\/tecnologia\/2026\/02\/03\/news\/rischi_intelligenza_artificiale_ai_safety_report_2026-425136572\/”]<\/p>\n","protected":false},"excerpt":{"rendered":"
[analyse_image type=”featured” src=”https:\/\/www.repstatic.it\/content\/contenthub\/img\/2026\/02\/03\/181357142-1e63425f-dc51-4988-a7db-abc9b7a0b92f.jpg”] In vista dell\u2019AI Impact Summit in programma in India dal 19 al 20 febbraio, un gruppo di oltre cento esperti di intelligenza artificiale, nominati da pi\u00f9 di trenta Paesi, ha redatto un rapporto sullo stato della sicurezza dell\u2019IA. Il documento punta a favorire una comprensione condivisa dell\u2019evoluzione delle capacit\u00e0 dei sistemi di […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[87],"tags":[226,120],"class_list":["post-1758842","post","type-post","status-publish","format-standard","hentry","category-italy","tag-crawlmanager","tag-lastampa-it"],"_links":{"self":[{"href":"https:\/\/analyse.optim.biz\/index.php?rest_route=\/wp\/v2\/posts\/1758842","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/analyse.optim.biz\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/analyse.optim.biz\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/analyse.optim.biz\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/analyse.optim.biz\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=1758842"}],"version-history":[{"count":0,"href":"https:\/\/analyse.optim.biz\/index.php?rest_route=\/wp\/v2\/posts\/1758842\/revisions"}],"wp:attachment":[{"href":"https:\/\/analyse.optim.biz\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=1758842"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/analyse.optim.biz\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=1758842"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/analyse.optim.biz\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=1758842"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}