L’introduzione dell’intelligenza artificiale in medicina dovrebbe essere valutata caso per caso, e con grande attenzione. È una tecnologia tutt’altro che neutra, soggetta al problema delle “allucinazioni” e non sempre rispettosa dei protocolli tipici della ricerca scientifica. Errori metodologici pericolosi che un certo marketing asfissiante vuole cancellare. L’analisi di Stefano Borroni Barale
“Cosa succede quando abbiamo messo la decisione [sulla vita o morte di un paziente, ndr] nelle mani di un’inesorabile macchina a cui dobbiamo porre le giuste domande in anticipo, senza comprendere appieno le operazioni o il processo attraverso cui esse troveranno risposta?”. Norbert Wiener, “God and Golem, Inc.”, 1963.
Questa citazione ha aperto un recente congresso sull’uso dell’Intelligenza artificiale (Ai) in ambito sociosanitario durante il quale era intenzione di chi scrive provocare un dibattito per cercare di uscire dallo “spettro delle opinioni accettabili” (Noam Chomsky) e -al contempo- ampliare la comprensione del fenomeno, ripercorrendone la storia.
Sta circolando un’accusa pesante che riguarda il popolarissimo software Word di Microsoft: userebbe i testi scritti dagli utenti per addestrare l’intelligenza artificiale dell’azienda. Se l’accusa fosse confermata, le implicazioni in termini di privacy, confidenzialità e diritto d’autore sarebbero estremamente serie.
Questa è la storia di quest’accusa, dei dati che fin qui la avvalorano, e di come eventualmente rimediare. Benvenuti alla puntata del 25 novembre 2024 del Disinformatico, il podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica.
Le intelligenze artificiali hanno bisogno di dati sui quali addestrarsi. Tanti, tanti dati: più ne hanno, più diventano capaci di fornire risposte utili. Un’intelligenza artificiale che elabora testi, per esempio, deve acquisire non miliardi, ma migliaia di miliardi di parole per funzionare decentemente.
Procurarsi così tanto testo non è facile, e quindi le aziende che sviluppano intelligenze artificiali pescano dove possono: non solo libri digitalizzati ma anche pagine Web, articoli di Wikipedia, post sui social network. E ancora non basta. Secondo le indagini del New York Times, OpenAI, l’azienda che sviluppa ChatGPT, aveva già esaurito nel 2021 ogni fonte di testo in inglese pubblicamente disponibile su Internet.
Per sfamare l’appetito incontenibile della sua intelligenza artificiale, OpenAI ha creato uno strumento di riconoscimento vocale, chiamato Whisper, che trascriveva il parlato dei video di YouTube e quindi produceva nuovi testi sui quali continuare ad addestrare ChatGPT. Whisper ha trascritto oltre un milione di ore di video di YouTube, e dall’addestramento basato su quei testi è nato ChatGPT 4.
Puntata 5 di EM, prima del ciclo Estrattivismo dei dati, parliamo di IA nel costesto del consumo delle risorse e della guerra.
Leggi tutto e ascolta l'audio della trasmissione sul sito di Radio Onda Rossa
Questa non è la storia della solita gara fra guardie e ladri in fatto di sicurezza; non è una vicenda di casseforti virtuali più robuste da contrapporre a grimaldelli sempre più sottili e penetranti. È la storia di come l’intelligenza artificiale obbliga tutti, utenti, studiosi e malviventi, a pensare come una macchina, in modo non intuitivo, e di come questo modo di pensare stia portando alla scoperta di vulnerabilità e di forme di attacco incredibilmente originali e impreviste e alla dimostrazione di strani virtuosismi di fantasia informatica, che conviene a tutti conoscere per non farsi imbrogliare. Perché per esempio una semplice immagine o un link che ai nostri occhi sembrano innocui, agli occhi virtuali di un’intelligenza artificiale possono rivelarsi bocconi fatalmente avvelenati.
[...]
La nuova tendenza in informatica, non solo da parte di Microsoft, è spingerci a installare sui nostri computer un assistente automatico che ha pieno accesso a tutte le nostre mail e ai nostri file ed esegue ciecamente qualunque comando datogli dal primo che passa. Cosa mai potrebbe andare storto?
Benvenuti alla puntata del 4 novembre 2024 del Disinformatico, il podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica. Io sono Paolo Attivissimo.
Un articolo scientifico di daniela tafani, prezioso, ricco di spunti di riflessioni e di verità tanto evidenti quanto nascoste.
Il testo demistifica le "credenze" relative alla presunta intelligenza dei software probabilistici e ristabilisce dei punti fermi sulla non neutralità del software, anche quando si tratta di cosidetta Intelligenza Artificiale.
L'articolo dimostra perché l'introduzione dell'intelligenza artificiale nella scuola e nelle univeristà sia un problema per i processi di apprendimento e insegnamento. Tuttavia si tratta di una tendenza già presente: la trasformazione dell'insegnamento in addestramento degli studenti per andare incontro alle esigenze del mondo aziendale.
Indice
L’Intelligenza artificiale (Ai) è un tema oggi talmente di moda che persino il papa ha ritenuto indispensabile dire la sua sull’argomento. Un utile strumento per orientarsi in questo profluvio di notizie, in genere sensazionalistiche e spesso fuorvianti, è fornito dal libro recentemente pubblicato di Stefano Borroni Barale, “L’intelligenza inesistente. Un approccio conviviale all’intelligenza artificale”, Altreconomia, 2023. Un agile saggio divulgativo alla portata anche del lettore meno esperto.
Il titolo “L’intelligenza inesistente” rimanda esplicitamente ad Agilulfo il “cavaliere inesistente” creato da Italo Calvino, un paladino che pur “non esistendo” riesce comunque a combattere valorosamente al servizio di Carlomagno (“Bé, per essere uno che non esiste, siete in gamba !” sbotta a un certo punto l’imperatore).
Più precisamente per l’autore – a differenza di quanto sostengono i millantatori – non esiste oggi (né è alle viste) una Ai “forte” in grado di pensare come un essere umano ma solo un’Ai “debole” in grado di “simulare” alcuni aspetti del pensiero umano. Una Ai che funziona solo grazie al lavoro costante di un vasto proletariato digitale, invisibile e malpagato (i cosiddetti “turchi meccanici” o “turker”).
L’intelligenza artificiale causa carenza di energia elettrica: verrà riattivato la centrale in cui si verificò il più grande incidente nucleare della storia degli Stati Uniti.
Three Mile Island, Chernobyl e Fukushima sono stati teatro di disastri nucleari a lungo ricordati, specialmente in gran parte dell’Europa, dove il tema dell’energia nucleare è stato molto discusso. Ancora oggi il problema delle centrali nucleari è oggetto di dibattito, nonostante la tecnologia nucleare odierna abbia fatto molti progressi rispetto al passato, in presenza di un’economia guidata dal consumo elettrico sempre maggiore, in particolar modo a causa della crescita dell’Intelligenza artificiale (IA), il cui uso sta guidando la domanda di elettricità.
Tuttavia, diversa è la linea adottata da altri paesi nel mondo. Se i tedeschi hanno chiuso le loro centrali nucleari e la Svizzera ne sta mettendo in discussione la chiusura, in Asia è attualmente in corso una vera e propria rinascita del nucleare. Infatti, negli ultimi anni la produzione di energia elettrica derivante dal nucleare nel continente asiatico è aumentata notevolmente e gli americani stanno attualmente rivalutando la questione con un approccio più pragmatico. Nei giorni scorsi, la società energetica Constellation Energy e il gruppo tecnologico Microsoft hanno annunciato che riattiveranno insieme l’unità I della centrale nucleare di Three Mile Island, vicino a Harrisburg, in Pennsylvania.
Leggi l'articolo di Christof Leisinger (per la rivista online INFOsperber)
Google ha siglato un accordo con Kairos Power per l'utilizzo di piccoli reattori nucleari per generare la quantità di energia necessaria ad alimentare i suoi data center per lo sviluppo dell'intelligenza artificiale (AI). L'azienda ha dichiarato che l'accordo prevede l'avvio dell'utilizzo del primo reattore nel corso di questo decennio e la messa in funzione di altri entro il 2035. Le società non hanno fornito alcun dettaglio sull'importo dell'accordo o su dove saranno costruiti gli impianti.
Ma Google a quanto pare non è l'unica, lo scorso mese Microsoft ha raggiunto un accordo per rimmettere in funzione l'impianto nucleare di Three Mile Island, tristemente noto per il più grave incidente nucleare accaduto negli USA nel 1979.
Nel suo rapporto Draghi dice che non possiamo avere una forte tutela dei diritti fondamentali e allo stesso tempo aspettarci di promuovere l’innovazione. La critica è rivolta in particolare al GDPR, che protegge i nostri dati personali. Ma è una critica senza fondamento.
Tra le cause della scarsa competitività delle imprese europee nei settori avanzati dell’informatica, oggi chiamata “intelligenza artificiale”, il rapporto Draghi individua la regolamentazione dell’Unione Europea sull’uso dei dati1. Considerata troppo complessa e onerosa rispetto ai sistemi in vigore nei principali paesi leader, come USA e Cina, tale regolamentazione penalizzerebbe i ricercatori e gli innovatori europei impegnati nella competizione globale.
[...]
Il senso è chiaro: non possiamo avere una forte tutela dei diritti fondamentali e allo stesso tempo aspettarci di promuovere l’innovazione. Il trade-off è inevitabile, e prepariamoci ad affrontarlo.
Ma quali sarebbero gli ostacoli che questa “strong ex ante regulatory safeguard” pone all’innovazione e alla competitività delle imprese europee? Il rapporto Draghi ne individua tre: i) il GDPR impone oneri alle imprese europee impegnate nei settori di punta dell’intelligenza artificiale che le penalizzano rispetto ai concorrenti USA e cinesi; ii) l’applicazione frammentaria e incoerente del GDPR crea incertezza sull’uso legittimo dei dati e iii) questa incertezza impedisce, in modo particolare, l’uso efficiente dei dati sanitari per lo sviluppo di strumenti di intelligenza artificiale nel settore medico e farmaceutico.
Verifichiamo se gli argomenti a sostegno di queste tesi possono reggere a un’analisi un po’ approfondita.
La prima parte della trasmissione è dedicata al secondo tentativo di Microsoft di lanciare un sistema di ricerca all'interno di Windows basato su intelligenza artificiale. Se il primo tentativo era stato un disastro di sicurezza, cosa possiamo dire del secondo? Indubbiamente il nuovo design sembra più solido; ma come leggere complessivamente questo progetto di accumulazione di grossi dataset in locale e di spostamento del carico computazionale sull'hardware utente?
La seconda parte della trasmissione è invece legata ad NSO e alle cause che ha con Apple e Whatsapp (avete letto bene). Benché per entrambe le aziende è chiaro che si tratti di processi il cui fine ultimo è il miglioramento della propria reputazione, rileviamo come entrambi i processi siano molto appesantiti dall'ostruzionismo e dalla copertura di Israele.
Il 176° Mercoledì di Nexa si terrà mercoledì 9 ottobre, alle ore 17.30, con un incontro dal titolo "An anti-fascist approach to AI means decomputing".
Ospite: Dan McQuillan (Goldsmiths, University of London), autore del libro Resisting AI. An Anti-fascist Approach to Artificial Intelligence.
Tutte le informazioni per partecipare sono sul sito del Centro Nexa for Internet Societty
Leggi una recensione del libro
"AI’s apparatus of computation and social relations produces a nested set of inevitable harms, from states of exception to environmental degradation. A common thread running through its mathematical operations, its c2ontemporary applications and its accompanying ideologies is the reemergence of eugenics and authoritarian social logics.
In this talk I will argue for an anti-fascist approach to AI that aims for alternative technopolitical outcomes. I will suggest a strategy of decomputing which combines degrowth and decolonialism in order to delegitimise AI’s extractivism and its use as a diversion from the structural failures of the status quo. In practice, this would consist of forms of action that reject hyperscale machinery hurtful to the commonality, and instead attempt to transform collective subjectivities and technical arrangements at the same time."
Una nuova ricerca segnala l'eccessivo consumo di acqua ed elettricità nei data center delle aziende proprietarie
Una bottiglia d'acqua per ogni email di 100 parole scritta da ChatGpt: questo il prezzo che deve pagare l'ambiente per il funzionamento corretto dei chatbot AI. A rivelarlo è un nuovo studio condotto dal Washington Post in collaborazione con i ricercatori dell'Università della California di Riverside, che hanno analizzato la quantità di risorse naturali che servono a ChatGpt per espletare le sue funzioni più elementari. “Ogni richiesta su ChatGpt passa attraverso un server che esegue migliaia di calcoli per determinare le parole migliori da usare nella risposta”, scrive il WP precisando che i server generano calore per eseguire i calcoli necessari.
Nella Silicon Valley sono convinti che le intelligenze artificiali generative (come ChatGPT) diventeranno presto più intelligenti dell’uomo e cominceranno a seguire fini propri. Il corollario di queste credenze sono spesso racconti fantascientifici tipo Matrix o Terminator. Per gioco, Stefano Borroni Barale ha provato a immaginare un’altra distopia, altrettanto fantascientifica, ma dagli esiti politicamente imprevedibili
Se il Novecento è stato “il secolo breve”, i primi cento anni di questo nuovo millennio sembrano esser durati un’eternità. Certamente il successo strepitoso della gerontologia nello studio dei telomeri, che ha allungato la vita degli esseri umani fino a circa 140 anni, contribuisce a questa percezione.
Grazie a questo successo uno come me, nato nel 1985, vive ancora oggi, nel 2114. Se però avessi saputo in anticipo che cosa mi riservava questa vita incredibilmente lunga, avrei fatto scelte differenti. Noi raccontavamo al popolino che l’intelligenza artificiale avrebbe sterminato l’umanità per prepararli a quello che sarebbe avvenuto davvero, ossia lo sterminio della classe lavoratrice. Mai avremmo pensato che la nostra creatura sarebbe stata la causa della fine del nostro potere.
L.I.C.I.A - Laboratorio Informale per la Critica dell'Intelligenza Artificiale - è un laboratorio che ha avuto per oggetto i servizi di creazione automatica di artefatti (testi, immagini, video, audio) a partire da indicazioni verbali generiche che va sotto il nome generico di "Intelligenza Artificiale Generativa"
Perché
Pur avendo sperimentato un certo numero di servizi di IAG online, noi non siamo in grado di fare un esame tecnico dell’IAG (cos’è, come funziona), né pretendiamo di sapere come sarà utilizzata nei vari ambiti lavorativi, come quello educativo. Possiamo però criticare i discorsi correnti sull’IAG. Criticare significa “valutare le pretese di universalità”:
Per leggere e, eventualmente, aderire al Manifesto vai sul sito
Lo spiega l'esperto mondiale Bruce Schneier.
È facile considerare l'intelligenza artificiale come nient'altro che l'ennesima novità tecnologica, uno strumento informatico in più, un ausilio al quale ci abitueremo presto. Nessuno si è agitato o ha proclamato la catastrofe sociale per l'introduzione del controllo ortografico o del riconoscimento vocale. Quindi perché così tanto clamore, e in alcuni casi panico, proprio intorno all'intelligenza artificiale?
L'esperto di sicurezza informatica Bruce Schneier, autore di numerosi libri sulle tematiche digitali e membro del direttivo della Electronic Frontier Foundation, una delle associazioni di punta nella tutela dei diritti digitali, ha pubblicato un saggio, intitolato AI and Trust, nel quale spiega molto bene questa anomalia partendo da un concetto sociale, non tecnologico: la fiducia. E spiega perché noi, come esseri umani, siamo particolarmente vulnerabili alla natura seducente dell'intelligenza artificiale.
Materia oscura. La versione aggiornata 4o di ChatGpt commette meno errori delle precedenti, ma ancora ce n'è di strada da fare
Gli studenti lo sanno bene: quando si tratta di matematica e fisica non ci si può fidare del tutto dell’intelligenza artificiale generativa – ChatGpt e le sue colleghe, per capirci. Se si pone all’intelligenza artificiale un problema di qualche complessità, non sempre si ottiene la risposta giusta. Anche un esercizio di terzo o quarto anno di liceo può metterla in difficoltà, mentre se la cava benissimo con temi e traduzioni. Per questo ragazze e ragazzi, più saggi dei loro genitori, hanno inizialmente mantenuto qualche diffidenza nei confronti della nuova tecnologia e le verifiche di fisica e matematica integralmente copiate da ChatGpt sono state sporadiche.
Può sorprendere che l’intelligenza artificiale sviluppata e studiata da alcuni dei più brillanti matematici del mondo fatichi proprio in questi campi, mentre brilla con una versione dal greco. Ma la rete neurale che costituisce il «motore» di ChatGpt non impara sulla base di regole formali come i postulati della geometria euclidea o le leggi della meccanica newtoniana.
I fondi raccolti fino adesso da OpenAI non sono abbastanza per far fronte ai continui investimenti che richiede la ricerca sull'intelligenza artificiale generativa e l'allenamento di modelli sempre più performanti come ChatGPT 4o.
OpenAI si trova ad affrontare una situazione finanziaria critica, con una perdita prevista di 5 miliardi di dollari entro la fine dell’anno.
Questa previsione, secondo quanto riporta il sito The Information, che ha raccolto e studiato i dati finanziari della società, è dovuta a una serie di fattori, tra cui massicci investimenti in ricerca e sviluppo, espansione delle infrastrutture e alti costi operativi.
"A partire proprio dal tuo lavoro abbiamo diverse domande per arrivare anche alle ultimissime ricerche che hai fatto con i tuoi collaboratori e altri ricercatori. Ma prima di arrivare a questo tema vorremmo un attimo definirne dei contorni e quindi incominciare chiedendoti un pochino come sei arrivato negli ultimi anni nel tuo lavoro di ricerca a occuparti di lavoro digitale e in particolar modo di intelligenza artificiale e la sua intersezione col mondo del lavoro."
Durante tutta l'intervista vengono svelati i molti luoghi comuni legati alla scomparsa del lavoro a causa dell'Intelligenza Artificiale. Si può dire che il mito della scomparsa del lavoro è un prodotto ideologico del sistema capitalistico attuale. Il lavoro al contrario viene nascosto, sempre più delocalizzato (anche in Madagascar) e sotto pagato. A volte addirittura è il lavoro umano che sostituisce ciò che viene venduto come Intelligenza Artificiale: durante l'intervista vengono fatti diversi esempi.
Nella famiglia di tecnologie denominata, per ragioni di marketing, «intelligenza artificiale», alcuni genuini progressi sono stati ottenuti, a partire dal 2010, con sistemi di natura statistica, antropomorficamente definiti di «apprendimento automatico» (machine learning). Si tratta di sistemi che, anziché procedere secondo le istruzioni scritte da un programmatore, costruiscono modelli a partire da esempi. Sono statistiche automatizzate, prive, in quanto tali, di intelligenza: «sistemi probabilistici che riconoscono modelli statistici in enormi quantità di dati» (Whittaker 2024). Dovrebbero perciò essere utilizzati solo per compiti con una elevata tolleranza al rischio.
La costruzione dei sistemi di apprendimento automatico richiede, tra gli altri, un’elevata potenza di calcolo e enormi quantità di dati: queste sono oggi nella disponibilità dei soli monopoli della tecnologia (le cosiddette Big Tech), che detengono l’accesso al mercato necessario per l’intercettazione di grandi flussi di dati e metadati individuali e le potenti infrastrutture di calcolo per la raccolta e l’elaborazione di tali dati (Lynn, von Thun, Montoya 2023). Su tali aziende si concentrano gli investimenti del capitale di rischio.
Google vuole primeggiare nell’AI e aumenta consumi ed emissioni
Ci hanno raccontato che buona parte dei consumi energetici delle grandi aziende tecnologiche sono ormai soddisfatti da fonti energetiche rinnovabili e che comunque, per compensare l’impego sempre massiccio dei combustibili fossili, stanno aumentando anche l’utilizzo di tecnologie green per ridurre l’impatto ambientale e rimuovere CO2.
È sicuramente un fatto, qualcosa sta accadendo, il problema è che la crescita esponenziale del traffico di dati internet globale e l’accelerazione dello sviluppo di sempre nuovi modelli di intelligenza artificiale (AI) spostano sempre in avanti l’asticella dei consumi energetici.
In sostanza, le rinnovabili non riescono a stare dietro alla domanda di energia di questi giganti. Secondo un articolo di qz.com, infatti, la stessa Google nel suo “Environmental Report 2024” ha ammesso che le sue emissioni di carbonio sono aumentate del 50% rispetto al 2019 e questo nonostante gli investimenti in fonti pulite.