{"id":1492003,"date":"2026-01-22T09:22:49","date_gmt":"2026-01-22T06:22:49","guid":{"rendered":"https:\/\/analyse.optim.biz\/?p=1492003"},"modified":"2026-01-22T09:22:49","modified_gmt":"2026-01-22T06:22:49","slug":"grok-e-le-immagini-create-dallia-il-lato-oscuro-dellalgoritmo","status":"publish","type":"post","link":"https:\/\/analyse.optim.biz\/?p=1492003","title":{"rendered":"Grok e le immagini create dall&#8217;IA: il lato oscuro dell&#8217;algoritmo"},"content":{"rendered":"<div class=\"body-text\">\n<p>Se \u00e8 vero quello che <a href=\"http:\/\/corriereadriatico.it\/t\/yann-lecun\">Yann LeCun<\/a> ripete da tempo, la strada che l\u2019intelligenza artificiale generativa sta seguendo per diventare una macchina indipendente e super intelligente \u00e8 quella sbagliata.<\/p>\n<div class=\"embed_audio\" data-titolo=\"Milano-Cortina 2026, Olimpiadi invernali con l'IA. E gli spettatori si divertiranno ancora di pi\u00f9\"><a class=\"spreaker-player\" data-height=\"150px\" data-hide-comments=\"false\" data-hide-likes=\"false\" data-hide-logo=\"true\" data-hide-sharing=\"false\" data-resource=\"episode_id=69542065\" data-width=\"100%\" href=\"https:\/\/www.spreaker.com\">Ascolta: Milano-Cortina 2026, Olimpiadi invernali con l&#039;IA. E gli spettatori si divertiranno ancora di pi&ugrave;<\/a><\/div>\n<aside class=\"slider-articoli-orizzontale in-article\">\n<div class=\"testatabox default\"><span>APPROFONDIMENTI<\/span><\/div>\n<div class=\"slider-items\" data-slidestoshow=\"3\" data-slidestoscroll=\"2\" data-slidedots data-slidearrows=\"1\">\n<article class=\"col-xs html_base_bottom tecnologia news \">\n<div class=\"item_content\"><span class=\"testatina testatina-articolo\"><a href=\"http:\/\/corriereadriatico.it\/tecnologia\/news\/x_down_non_funziona_twitter_elon_musk_cosa_sta_succedendo-9301735.html\">IL DISSERVIZIO<\/a><\/span><\/p>\n<figure class=\"medium\"><a href=\"http:\/\/corriereadriatico.it\/tecnologia\/news\/x_down_non_funziona_twitter_elon_musk_cosa_sta_succedendo-9301735.html\" title=\"X e Grok down, il social di Elon Musk non funziona: cosa sta succedendo\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/analyse.optim.biz\/wp-content\/uploads\/2026\/01\/9301735_16163547_x_down-2.jpg\" title=\"X e Grok down, il social di Elon Musk non funziona: cosa sta succedendo\" width=\"264\" height=\"144\"><\/a><\/p>\n<ul class=\"info-item\">\n<li class=\"has-video ri-video-line\"><\/ul>\n<\/figure>\n<div class=\"titolo\"><a href=\"http:\/\/corriereadriatico.it\/tecnologia\/news\/x_down_non_funziona_twitter_elon_musk_cosa_sta_succedendo-9301735.html\" title=\"X e Grok down, il social di Elon Musk non funziona: cosa sta succedendo\">X e Grok down, il social di Elon Musk non funziona: cosa sta succedendo<\/a><\/div>\n<\/div>\n<\/article>\n<article class=\"col-xs html_base_bottom video askanews \">\n<div class=\"item_content video\"><span class=\"testatina testatina-articolo\"><a href=\"http:\/\/corriereadriatico.it\/video\/askanews\/x_interviene_su_grok_e_blocca_la_generazione_con_ia_di_immagini_di_nudo-9299759.html\">ASKANEWS<\/a><\/span><\/p>\n<figure class=\"medium\"><a href=\"http:\/\/corriereadriatico.it\/video\/askanews\/x_interviene_su_grok_e_blocca_la_generazione_con_ia_di_immagini_di_nudo-9299759.html\" title=\"X interviene su Grok e blocca la generazione con IA di immagini di nudo\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/analyse.optim.biz\/wp-content\/uploads\/2026\/01\/9299759_poster.jpg\" title=\"X interviene su Grok e blocca la generazione con IA di immagini di nudo\" width=\"264\" height=\"144\"><\/a><\/figure>\n<div class=\"titolo\"><a href=\"http:\/\/corriereadriatico.it\/video\/askanews\/x_interviene_su_grok_e_blocca_la_generazione_con_ia_di_immagini_di_nudo-9299759.html\" title=\"X interviene su Grok e blocca la generazione con IA di immagini di nudo\">X interviene su Grok e blocca la generazione con IA di immagini di nudo<\/a><\/div>\n<\/div>\n<\/article>\n<article class=\"col-xs html_base_bottom economia \">\n<div class=\"item_content\"><span class=\"testatina testatina-articolo\"><a href=\"http:\/\/corriereadriatico.it\/economia\/l_intelligenza_artificiale_di_elon_musk_ottiene_20_miliardi-9282312.html\">ECONOMIA<\/a><\/span><\/p>\n<div class=\"titolo\"><a href=\"http:\/\/corriereadriatico.it\/economia\/l_intelligenza_artificiale_di_elon_musk_ottiene_20_miliardi-9282312.html\" title=\"L\u2019intelligenza artificiale di Elon Musk ottiene 20 miliardi\">L\u2019intelligenza artificiale di Elon Musk ottiene 20 miliardi<\/a><\/div>\n<\/div>\n<\/article>\n<\/div>\n<\/aside>\n<p>\u00abI modelli di IA generativa non possono diventare pi\u00f9 intelligenti di un gatto, per questo dobbiamo puntare sui world model, modelli in grado di visualizzare informazioni e creare un database della realt\u00e0\u00bb, ha detto LeCun lo scorso autunno in un evento a <a href=\"http:\/\/corriereadriatico.it\/t\/brooklyn\">Brooklyn<\/a>, negli stessi giorni in cui stava lasciando <a href=\"http:\/\/corriereadriatico.it\/t\/meta\">Meta<\/a> dopo undici anni alla guida del gruppo di ricerca che ha sviluppato l\u2019intelligenza artificiale del social media di <strong><a href=\"http:\/\/corriereadriatico.it\/t\/mark-zuckerberg\">Mark Zuckerberg<\/a><\/strong>.\u00a0<\/p>\n<p> Nelle ultime settimane diversi esperti si sono interrogati sul funzionamento dei modelli e sulla possibilit\u00e0 di porre dei limiti ai loro comportamenti, soprattutto dopo che Grok, il chatbot di xAI, ha iniziato a \u201cspogliare\u201d le immagini e i video reali di donne e bambini, mettendoli in bikini, a volte nudi, o in atteggiamenti sessuali, spingendo i governi di diversi Stati, dall&#8217;India alla <a href=\"http:\/\/corriereadriatico.it\/t\/francia\">Francia<\/a> fino alla <a href=\"http:\/\/corriereadriatico.it\/t\/gran-bretagna\">Gran Bretagna<\/a>, a chiedere spiegazioni al gruppo di Elon Musk e in alcuni casi ad aprire inchieste per violazione delle leggi contro l\u2019abuso sessuale di minori e il sesso non consensuale.\u00a0<br \/> All\u2019inizio di gennaio, quando \u00e8 emerso lo scandalo, Musk ha risposto con un tweet: \u00abBugie dei media tradizionali\u00bb. Ma nei giorni successivi le immagini di donne reali che venivano spogliate dall\u2019intelligenza artificiale si sono moltiplicate, insieme alle tensioni legali: a essere colpite dallo scandalo bikini sono state soprattutto attrici, cantanti, persone famose e lo stesso Musk che si \u00e8 fatto spogliare da Grok per poi scrivere \u00abperfetto\u00bb. Inoltre il chatbot ha permesso agli utenti di spingersi oltre, chiedendo di rendere sempre pi\u00f9 trasparenti i costumi, in un gioco che mostra una caratteristica essenziale di modelli come Grok: \u00e8 molto difficile porre dei limiti e decidere in modo chiaro quale sia la linea rossa da non superare. In realt\u00e0 il dibattito sui guardrail dell\u2019intelligenza artificiale rischia di essere pi\u00f9 retorico che sostanziale. <a href=\"http:\/\/corriereadriatico.it\/t\/carrie-goldberg\">Carrie Goldberg<\/a>, avvocata per i diritti delle vittime e fondatrice dello studio Ca <a href=\"http:\/\/corriereadriatico.it\/t\/goldberg\">Goldberg<\/a> Pllc, \u00e8 netta: \u00abIn questo momento la maggior parte dei guardrail dell\u2019IA \u00e8 volontaria, incoerente e facile da aggirare\u00bb, e per questo \u00abfunziona pi\u00f9 come un insieme di temi da affrontare che come vere misure di sicurezza\u00bb, ha detto in un\u2019intervista a <a href=\"http:\/\/corriereadriatico.it\/t\/newsweek\">Newsweek<\/a>.\u00a0<\/p>\n<p> Una fragilit\u00e0 che, avverte, ricade direttamente sugli utenti pi\u00f9 vulnerabili: \u00abTutto questo avviene a spese degli utenti, in particolare donne e bambini\u00bb, che spesso scoprono l\u2019inefficacia delle tutele \u00absolo dopo che il danno si \u00e8 gi\u00e0 verificato\u00bb. La semplice esistenza di barriere, conclude Goldberg, \u00abnon significa che la tecnologia sia sicura\u00bb, ma solo che \u00able aziende hanno riconosciuto il rischio, non che lo abbiano affrontato in modo adeguato\u00bb.\u00a0<br \/> Il caso Grok inoltre mostra una mancanza concreta nel quadro normativo statunitense: gli sviluppatori di intelligenza artificiale operano in un contesto in cui anche attivit\u00e0 di test possono trasformarsi in un rischio legale. Il problema dei deepfake non consensuali \u00e8 noto da tempo, ma l\u2019evoluzione dei modelli generativi ha reso la produzione di immagini false molto pi\u00f9 semplice e veloce. Non \u00e8 pi\u00f9 necessario conoscere software complessi o saper programmare: basta un prompt. I sistemi di sicurezza presenti nei modelli, sia open source sia commerciali, si sono dimostrati deboli. Chi vuole aggirarli spesso ci riesce con strumenti facilmente reperibili online.<\/p>\n<p><strong>SOS PROTEZIONI<\/strong><br \/> Sulla questione \u00e8 intervenuto un altro padre dell\u2019intelligenza artificiale generativa, Yoshua Bengio, che ha appena nominato Yuval Noah Harari nel board di LawZero, non profit che si occupa di sicurezza dei modelli IA: \u00ab\u00c8 troppo priva di vincoli e, poich\u00e9 le aziende che sviluppano l\u2019IA pi\u00f9 avanzata stanno creando sistemi sempre pi\u00f9 potenti senza adeguate protezioni tecniche e sociali, questo sta iniziando ad avere effetti negativi sempre pi\u00f9 evidenti sulle persone\u00bb, ha detto in un\u2019intervista al Guardian. Bengio \u00e8 professore di informatica all\u2019Universit\u00e0 di Montreal e per la sua fondazione ha raccolto 35 milioni di dollari. C\u2019\u00e8 per\u00f2 un altro risvolto nella questione: in un editoriale sul New York Times Arianna Pfefferkorn del Stanford Institute for Human-Centered AI sostiene che le aziende di intelligenza artificiale, come xAI, \u00abpossono e dovrebbero fare di pi\u00f9\u00bb, non solo reagendo quando i modelli producono contenuti illeciti, ma intervenendo prima, attraverso test rigorosi per capire \u00abcome e perch\u00e9 possano essere manipolati\u00bb e chiudere le falle.<\/p>\n<p> Il problema \u00e8 che l\u2019attuale quadro normativo non tutela adeguatamente chi conduce questi test in buona fede e \u00abnon distingue correttamente tra ricercatori e utenti malevoli\u00bb, finendo per scoraggiare le aziende. Secondo i ricercatori che seguono da vicino questi dossier, i rischi legali spingono molte societ\u00e0 a non fare tutto il possibile per prevenire abusi gravi, inclusi i materiali di sfruttamento sessuale dei minori. Anche per questo, il caso Grok \u00absottolinea con urgenza la necessit\u00e0 che il Congresso liberi il campo\u00bb, permettendo test pi\u00f9 approfonditi senza il timore di restare intrappolati in una zona grigia legale.<\/p>\n<\/div>\n<div class=\"articleBody\" data-key=\"articleBody\">Se \u00e8 vero quello che Yann LeCun ripete da tempo, la strada che l\u2019intelligenza artificiale generativa sta seguendo per diventare una macchina indipendente e super intelligente \u00e8 quella sbagliata. Ascolta: Milano-Cortina 2026, Olimpiadi invernali con l&#8217;IA. E gli spettatori si divertiranno ancora di pi\u00f9 \u00abI modelli di IA generativa non possono diventare pi\u00f9 intelligenti di un gatto, per questo dobbiamo puntare sui world model, modelli in grado di visualizzare informazioni e creare un database della realt\u00e0\u00bb, ha detto LeCun lo scorso autunno in un evento a Brooklyn, negli stessi giorni in cui stava lasciando Meta dopo undici anni alla guida del gruppo di ricerca che ha sviluppato l\u2019intelligenza artificiale del social media di Mark Zuckerberg.\u00a0 Nelle ultime settimane diversi esperti si sono interrogati sul funzionamento dei modelli e sulla possibilit\u00e0 di porre dei limiti ai loro comportamenti, soprattutto dopo che Grok, il chatbot di xAI, ha iniziato a \u201cspogliare\u201d le immagini e i video reali di donne e bambini, mettendoli in bikini, a volte nudi, o in atteggiamenti sessuali, spingendo i governi di diversi Stati, dall&#8217;India alla Francia fino alla Gran Bretagna, a chiedere spiegazioni al gruppo di Elon Musk e in alcuni casi ad aprire inchieste per violazione delle leggi contro l\u2019abuso sessuale di minori e il sesso non consensuale.\u00a0 All\u2019inizio di gennaio, quando \u00e8 emerso lo scandalo, Musk ha risposto con un tweet: \u00abBugie dei media tradizionali\u00bb. Ma nei giorni successivi le immagini di donne reali che venivano spogliate dall\u2019intelligenza artificiale si sono moltiplicate, insieme alle tensioni legali: a essere colpite dallo scandalo bikini sono state soprattutto attrici, cantanti, persone famose e lo stesso Musk che si \u00e8 fatto spogliare da Grok per poi scrivere \u00abperfetto\u00bb. Inoltre il chatbot ha permesso agli utenti di spingersi oltre, chiedendo di rendere sempre pi\u00f9 trasparenti i costumi, in un gioco che mostra una caratteristica essenziale di modelli come Grok: \u00e8 molto difficile porre dei limiti e decidere in modo chiaro quale sia la linea rossa da non superare. In realt\u00e0 il dibattito sui guardrail dell\u2019intelligenza artificiale rischia di essere pi\u00f9 retorico che sostanziale. Carrie Goldberg, avvocata per i diritti delle vittime e fondatrice dello studio Ca Goldberg Pllc, \u00e8 netta: \u00abIn questo momento la maggior parte dei guardrail dell\u2019IA \u00e8 volontaria, incoerente e facile da aggirare\u00bb, e per questo \u00abfunziona pi\u00f9 come un insieme di temi da affrontare che come vere misure di sicurezza\u00bb, ha detto in un\u2019intervista a Newsweek.\u00a0 Una fragilit\u00e0 che, avverte, ricade direttamente sugli utenti pi\u00f9 vulnerabili: \u00abTutto questo avviene a spese degli utenti, in particolare donne e bambini\u00bb, che spesso scoprono l\u2019inefficacia delle tutele \u00absolo dopo che il danno si \u00e8 gi\u00e0 verificato\u00bb. La semplice esistenza di barriere, conclude Goldberg, \u00abnon significa che la tecnologia sia sicura\u00bb, ma solo che \u00able aziende hanno riconosciuto il rischio, non che lo abbiano affrontato in modo adeguato\u00bb.\u00a0 Il caso Grok inoltre mostra una mancanza concreta nel quadro normativo statunitense: gli sviluppatori di intelligenza artificiale operano in un contesto in cui anche attivit\u00e0 di test possono trasformarsi in un rischio legale. Il problema dei deepfake non consensuali \u00e8 noto da tempo, ma l\u2019evoluzione dei modelli generativi ha reso la produzione di immagini false molto pi\u00f9 semplice e veloce. Non \u00e8 pi\u00f9 necessario conoscere software complessi o saper programmare: basta un prompt. I sistemi di sicurezza presenti nei modelli, sia open source sia commerciali, si sono dimostrati deboli. Chi vuole aggirarli spesso ci riesce con strumenti facilmente reperibili online. SOS PROTEZIONI Sulla questione \u00e8 intervenuto un altro padre dell\u2019intelligenza artificiale generativa, Yoshua Bengio, che ha appena nominato Yuval Noah Harari nel board di LawZero, non profit che si occupa di sicurezza dei modelli IA: \u00ab\u00c8 troppo priva di vincoli e, poich\u00e9 le aziende che sviluppano l\u2019IA pi\u00f9 avanzata stanno creando sistemi sempre pi\u00f9 potenti senza adeguate protezioni tecniche e sociali, questo sta iniziando ad avere effetti negativi sempre pi\u00f9 evidenti sulle persone\u00bb, ha detto in un\u2019intervista al Guardian. Bengio \u00e8 professore di informatica all\u2019Universit\u00e0 di Montreal e per la sua fondazione ha raccolto 35 milioni di dollari. C\u2019\u00e8 per\u00f2 un altro risvolto nella questione: in un editoriale sul New York Times Arianna Pfefferkorn del Stanford Institute for Human-Centered AI sostiene che le aziende di intelligenza artificiale, come xAI, \u00abpossono e dovrebbero fare di pi\u00f9\u00bb, non solo reagendo quando i modelli producono contenuti illeciti, ma intervenendo prima, attraverso test rigorosi per capire \u00abcome e perch\u00e9 possano essere manipolati\u00bb e chiudere le falle. Il problema \u00e8 che l\u2019attuale quadro normativo non tutela adeguatamente chi conduce questi test in buona fede e \u00abnon distingue correttamente tra ricercatori e utenti malevoli\u00bb, finendo per scoraggiare le aziende. Secondo i ricercatori che seguono da vicino questi dossier, i rischi legali spingono molte societ\u00e0 a non fare tutto il possibile per prevenire abusi gravi, inclusi i materiali di sfruttamento sessuale dei minori. Anche per questo, il caso Grok \u00absottolinea con urgenza la necessit\u00e0 che il Congresso liberi il campo\u00bb, permettendo test pi\u00f9 approfonditi senza il timore di restare intrappolati in una zona grigia legale.<\/div>\n<p> Source URL: http:\/\/corriereadriatico.it\/tecnologia\/moltofuturo\/grok_e_le_immagini_create_dall_ia_il_lato_oscuro_dell_algoritmo-9313156.html<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Se \u00e8 vero quello che Yann LeCun ripete da tempo, la strada che l\u2019intelligenza artificiale generativa sta seguendo per diventare una macchina indipendente e super intelligente \u00e8 quella sbagliata. Ascolta: Milano-Cortina 2026, Olimpiadi invernali con l&#039;IA. E gli spettatori si divertiranno ancora di pi&ugrave; APPROFONDIMENTI IL DISSERVIZIO X e Grok down, il social di Elon [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":1492004,"comment_status":"open","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[87],"tags":[161],"class_list":["post-1492003","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-italy","tag-corriereadriatico-it"],"_links":{"self":[{"href":"https:\/\/analyse.optim.biz\/index.php?rest_route=\/wp\/v2\/posts\/1492003","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/analyse.optim.biz\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/analyse.optim.biz\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/analyse.optim.biz\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/analyse.optim.biz\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=1492003"}],"version-history":[{"count":0,"href":"https:\/\/analyse.optim.biz\/index.php?rest_route=\/wp\/v2\/posts\/1492003\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/analyse.optim.biz\/index.php?rest_route=\/wp\/v2\/media\/1492004"}],"wp:attachment":[{"href":"https:\/\/analyse.optim.biz\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=1492003"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/analyse.optim.biz\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=1492003"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/analyse.optim.biz\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=1492003"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}