Pillole
Avvelenare un modello linguistico non richiede accesso ai suoi pesi: basta saturare il web di contenuti calibrati. Il caso Clock Tower X documenta questa strategia e solleva questioni urgenti su trasparenza, regolamentazione e responsabilità epistemica nell’era dell’intelligenza artificiale generativa.
L’avvelenamento sistematico dei modelli linguistici di grandi dimensioni – LLM poisoning – non è più una minaccia teorica confinata ai laboratori di cybersecurity. È diventato oggetto di un contratto governativo, finanziato con fondi pubblici esteri, progettato per alterare le risposte che milioni di utenti ricevono ogni giorno da sistemi come ChatGPT. Il caso che lo dimostra arriva da un filing ufficiale depositato presso il Dipartimento di Giustizia degli Stati Uniti.
Indice degli argomenti
- Il contratto da 6 milioni di dollari che vuole riscrivere la “conoscenza” dell’AI
- Le tre tecniche per avvelenare un modello linguistico
- Data poisoning: il veleno nel corpus di addestramento
- RAG poisoning: l’attacco al momento dell’interrogazione
- Generative Engine Optimization (GEO): la SEO per l’era dell’AI
- Il paradosso della delega: perché gli agenti AI non sono oracoli
- Verso un ecosistema informativo resiliente: le contromisure possibili
- Contromisure tecniche
- Contromisure istituzionali
- La sfida culturale: il vero terreno di battaglia
- Conclusione: la responsabilità epistemica resta umana
Le aziende stanno ottenendo vaste quantità di dati online attraverso forme illegali di estrazione di informazioni dalla rete per realizzare i loro prodotti di intelligenza artificiale generativa. In questo modo, consentono un’invasione di massa della privacy. I loro prodotti sono illegali proprio per il modo in cui sono progettati.
È quanto ha dichiarato oggi in un nuovo rapporto Amnesty International, mettendo in guardia sull’impatto negativo per l’ambiente e per le comunità storicamente marginalizzate.
“Aziende di ogni parte del mondo stanno rifornendo i loro prodotti di intelligenza artificiale generativa vantandone l’efficienza e la sofisticatezza. In realtà, stanno perpetuando un’invasione di massa della privacy attraverso l’estrazione illegale di dati dalla rete: usano procedimenti automatizzati per estrarre dati dai siti, compresi quelli personali come le immagini e le attività sulle piattaforme social al fine di addestrare i loro modelli di intelligenza artificiale”, ha dichiarato Likhita Banerji, direttrice dell’Algorithmic Accountability Lab di Amnesty International.
Dietro i consumi dell'IA c'è una corsa da 2.500 miliardi di dollari. Un rapporto Onu ne calcola per la prima volta il prezzo ambientale
Se i data center del mondo fossero considerati uno Stato, già oggi consumerebbero la stessa energia della Francia. Entro il 2030, inquinerebbero quanto il Regno Unito. Due dati che esprimono le dimensioni degli impatti ambientali dell’intelligenza Artificiale sul pianeta.
Il quadro generale lo descrive il rapporto pubblicato il 3 giugno 2026 dall’Unu-Inweh (United Nations University Institute for Water, Environment and Health), il braccio accademico dell’Onu che lavora da trent’anni su sfide globali all’incrocio tra acqua, ambiente e salute. Il documento si intitola Environmental cost of AI’s energy use: carbon, water and land footprints ed è, ad oggi, la valutazione più completa degli impatti ecologici dell’intelligenza artificiale mai condotta a livello internazionale.
Per capire perché i consumi crescano a questo ritmo occorre partire dall’economia. Il rapporto stima che la spesa globale per l’IA nel 2026 supererà i 2.500 miliardi di dollari, per arrivare a 5mila miliardi entro il 2033. Questa crescita si traduce direttamente in consumo di risorse energetiche. I data center hanno consumato circa 448 Terawattora (TWh) di elettricità nel 2025.
Da chi chiede una “pausa globale” a chi fa lobby tra i politici fino alle proteste fuori dagli uffici delle big tech: ecco chi sono le voci che manifestano contro l'Intelligenza Artificiale
Contro l’intelligenza artificiale. Se per anni il dibattito sull’AI è stato dominato quasi soltanto da entusiasmo, investimenti e promesse sul futuro, oggi il movimento di gruppi contrari sta crescendo e diventando sempre più visibile. Il loro obiettivo è cercare di rallentare, limitare o addirittura fermare lo sviluppo di tale tecnologia. Non si tratta di un fronte unico. Alcuni gruppi puntano a influenzare governi e istituzioni attraverso lobbying, ricerca e campagne mediatiche. Altri funzionano come movimenti di protesta dal basso, con manifestazioni, azioni simboliche e attivismo continuo. Anche le motivazioni cambiano molto.
C’è chi teme soprattutto la concentrazione di potere nelle mani delle big tech, chi parla di perdita di posti di lavoro e sostituzione delle competenze umane e chi, invece, considera possibile uno scenario estremo in cui sistemi AI molto avanzati possano diventare impossibili da controllare. Il risultato è una galassia frammentata ma in rapida crescita, dove convivono ricercatori universitari, attivisti politici, ex insider della tecnologia e gruppi di protesta più radicali. Wired Italia ha provato ad esplorarla.
Tra gli esperti di AI circola una voce: l’enciclica papale sull’intelligenza artificiale potrebbe essere stata scritta proprio da un’intelligenza artificiale
Se davvero il Papa si fosse fatto aiutare dall’intelligenza artificiale come un laureando qualunque per scrivere l’enciclica Magnifica Humanitas sarebbe uno scandalo, o una beffa situazionista. Tanto più se l’enciclica è dedicata in buona parte alla denuncia dei rischi derivanti dall’intelligenza artificiale. Impossibile, dunque? Il dubbio che sia andata proprio così circola da ieri, quando alcuni utenti hanno setacciato l’enciclica di Leone XIV per mezzo dei software anti-plagio, addestrati a riconoscere l’origine algoritmica di un testo e, va detto, non sempre affidabili.
Puntata 26 di EM, sesta del ciclo Estrattivismo dei Dati, parliamo di intelligenza artificiale, università, conoscenza e infrastrutture.
Nella prima parte ospitiamo un rappresentante dell’Osservatorio collaborativo Artificial Intelligence e Digital Humanities, Andrea Bolioli, per presentare l'osservatorio appena nato e discutere di ricerca, open source, alfabetizzazione critica e del ruolo delle Digital Humanities in un ecosistema sempre più dominato dall’hype tecnologico.
Nella seconda parte parliamo della lettera aperta contro l’adozione acritica dell’IA nella scuola e nell’università: formazione o addestramento? Pensiero o dipendenza? Conoscenza o automazione del sapere? Con noi Maria Chiara Pievatolo, Ordinaria di Filosofia Politica a Scienze Politiche, Università di Pisa.
Una puntata su ciò che l’IA sta trasformando davvero: non solo tecnologia, ma il rapporto tra esseri umani, conoscenza e potere.
Il vero problema è la marea di bug report inutili generati dai sistemi automatici.
Linus Torvalds è seccato con la IA: non perché questa non sappia davvero fare il proprio lavoro, ossia nel caso specifico generare bug report per il kernel di Linux, ma soprattutto perché è usata in maniera estremamente ampia e così le segnalazioni dei medesimi bug si moltiplicano. Davanti a questa situazione e all'aumentare dei "falsi positivi", di recente è intervenuto sulla mailing list ufficiale dello sviluppo del kernel, criticando duramente l'uso crescente di strumenti di intelligenza artificiale per generare i bug report, affermando che tali segnalazioni automatiche stanno rallentando lo sviluppo invece di accelerarlo. Il problema riguarda in particolare report prodotti da sistemi IA che analizzano automaticamente il codice e inviano segnalazioni prive di contesto, inaccurate o basate su interpretazioni errate delle patch.
infoAccessibile diventa 🔒 contenuto creativo umano volutamente inibito a spider di motori di ricerca e intelligenze artificiali
L’ABBECEDARIO infoAccessibile – parole chiave Abracadabra in tema Inclusive Design, alla luce delle ultime dinamiche di prevaricazione e sfruttamento che le big tech stanno attuando in maniera sempre più aggressiva, decide di diventare 🔒 contenuto creativo umano volutamente inibito a spider di motori di ricerca e intelligenze artificiali; con meta e login che scoraggiano l’indicizzazione, su http perchè la s di sicurezza per il protocollo di gestione dei contenuti ipertestuali del web dovrebbe essere utilizzata solo da chi vende informazione o profila l’utenza finale attraverso cookies ed altre amenità che infoAccessibile non prevede perché nasce come libera condivisione e sperimentazione dell’informazione digitale a scopi didattici.
Le ultime due puntate di DataKnightmare: L'algoritmico è politico, smontano completamente la narrazione sul nuovo prodotto di Anthropic, Claude Mythos, "così potente da non potercelo far usare" e sull'utilità e affidabilità degli "Agenti intelligenti".
Puntata DK 10x29 - Un tiro di dati
Che differenza c'è fra un "agente intelligente" che cancella il tuo lavoro e un modello linguistico che ti racconta la vera storia degli orsi nello spazio?
"La storia ve la racconto senza gergo perché è una storia che vale per tutti, non solo per chi fa software.
C'è un tizio che si chiama Giorg che ha una piccola azienda che produce un gestionale per agenzie di noleggio per lo più autonoleggi.
Siccome Giorg è uno che sta sempre sul pezzo, per scrivere codice si appoggia a un agente intelligente, nello specifico cursor con opus 4.6 di Anthropic.
Per i non addetti ai lavori, è lo stato dell'arte degli agenti intelligenti per scrivere codice.
Che cosa è successo?
È successo che l' agente intelligente ha cancellato tutto, ma tutto tutto tutto in nove secondi. Così, de botto, senza senso.
Ora, agente intelligente è un termine di marketing per indicare un modello linguistico con la capacità di interagire con il proprio ambiente.
Il resto della storia e le considerazioni di Vannini potete ascoltarlo su spreaker
Puntata DK - 10x28 Claude Mythos
Come sempre, quando gli AI bros annunciano, non è vero niente
Forbes scrive: Claude Mythos ha individuato vulnerabilità zero day in tutti i principali sistemi operativi e browser web in modo completamente autonomo, senza bisogno di alcun intervento umano. Apparentemente, a Forbes se la bevono un po' troppo facilmente perché nell'annuncio originale, Anthropic dice questo.
Cito. "Classificiamo ogni bug che individuiamo. Quindi inoltriamo quelli con il livello di gravità più elevato, a valutatori professionisti, affinché li verificino prima di segnalarli al responsabile del progetto."
Quindi, come sempre, siamo di fronte a uno strumento che confronta del codice con degli esempi di cosa possa essere una vulnerabilità e produce un report.
Si chiama analizzatore statico e ne esistono da decenni...
La fallacia del “modello linguistico” sarebbe rimasta confinata nel mondo della matematica astratta se le multinazionali della Silicon Valley non avessero un bisogno disperato di ripagare, almeno in parte, gli enormi investimenti fatti al buio nell’intelligenza artificiale. Il mercato non ripaga: le grasse commesse pubbliche, meglio se militari, sì. Con esiti fatali, come dimostra il bombardamento della scuola Minab, in Iran, a fine febbraio
“È la generazione, attraverso modelli, di un reale privo di origine o di realtà: un iper reale. Il territorio non precede più la mappa, né le sopravvive. È tuttavia la mappa che precede il territorio -la precessione dei simulacri- a generare il territorio”, Jean Baudrillard, “Simulacres et Simulation”, 1981.
[...]
Dopo lo sversamento all’esterno dei laboratori di ricerca dei modelli linguistici seguito al lancio di ChatGPT, informatica e politica sembrano preda di un pensiero molto simile a quello dei cartografi del racconto di Borges. La sana fiducia nell’utilità di modelli matematici per predire il comportamento del mondo fisico si è tramutata in fede cieca e assoluta. Secondo le imprese della Silicon Valley (e i loro protettori alla Casa Bianca) dovremmo prendere questi modelli a nostra “mappa del mondo”, per orientarci nel prendere decisioni importanti, soprattutto in emergenza.
