Pillole
Il 2024 delle intelligenze artificiali si è concluso con molti annunci e rilasci di nuovi strumenti da parte delle principali aziende impegnate nello sviluppo di queste tecnologie. Come da manuale delle trovate di marketing di Sam Altman, la OpenAi si è riservata il finale a effetto. L’azienda, che aveva addirittura organizzato un calendario dell’avvento per svelare una alla volta le proprie novità, ha anticipato o3, il suo nuovo modello.
o3 non è ancora disponibile al pubblico: solo chi fa ricerca nell’ambito della sicurezza dei sistemi di ia può ottenere un accesso anticipato.
Sappiamo poco di o3. Da quel che si può leggere online, si basa ancora sull’architettura degli altri modelli della OpenAi. Quel che lo rende interessante, però, è il fatto che è stato valutato da un progetto che si chiama Arc prize. L’Arc prize è’un premio da un milione di dollari riservato a chiunque riesca a far risolvere ai modelli linguistici alcuni test chiamati Arc-agi che sono particolarmente ostici per le macchine.
Versione non integrale e privo dell’apparato delle note, di un articolo uscito sul numero 64 della rivista Le nuove frontiere della scuola.
Questo breve dialogo è la continuazione e la sintesi di un confronto molto fecondo, che dura ormai da tempo, sulle tematiche del digitale e su un’idea della tecnologia non asservita ai grandi interessi economici. L’intenzione è quella di liberare la riflessione attorno alle nuove tecnologie, e all’Intelligenza artificiale in particolare, dal pensiero magico e dal tecnoentusiasmo del PNRR sulla scuola
Luca Malgioglio: Stefano, la lettura del tuo bellissimo libro sull’intelligenza artificiale mi ha aiutato a chiarire un paio di questioni che mi piacerebbe approfondire ulteriormente insieme a te. La prima la porrei così: l’intelligenza artificiale, come molte altre cose, ci viene presentata come un prodotto senza storia, un dato di fatto tecnologico di fronte al quale l’unico approccio possibile sarebbe quello di capire come utilizzarlo...
L’introduzione dell’intelligenza artificiale in medicina dovrebbe essere valutata caso per caso, e con grande attenzione. È una tecnologia tutt’altro che neutra, soggetta al problema delle “allucinazioni” e non sempre rispettosa dei protocolli tipici della ricerca scientifica. Errori metodologici pericolosi che un certo marketing asfissiante vuole cancellare. L’analisi di Stefano Borroni Barale
“Cosa succede quando abbiamo messo la decisione [sulla vita o morte di un paziente, ndr] nelle mani di un’inesorabile macchina a cui dobbiamo porre le giuste domande in anticipo, senza comprendere appieno le operazioni o il processo attraverso cui esse troveranno risposta?”. Norbert Wiener, “God and Golem, Inc.”, 1963.
Questa citazione ha aperto un recente congresso sull’uso dell’Intelligenza artificiale (Ai) in ambito sociosanitario durante il quale era intenzione di chi scrive provocare un dibattito per cercare di uscire dallo “spettro delle opinioni accettabili” (Noam Chomsky) e -al contempo- ampliare la comprensione del fenomeno, ripercorrendone la storia.
Sta circolando un’accusa pesante che riguarda il popolarissimo software Word di Microsoft: userebbe i testi scritti dagli utenti per addestrare l’intelligenza artificiale dell’azienda. Se l’accusa fosse confermata, le implicazioni in termini di privacy, confidenzialità e diritto d’autore sarebbero estremamente serie.
Questa è la storia di quest’accusa, dei dati che fin qui la avvalorano, e di come eventualmente rimediare. Benvenuti alla puntata del 25 novembre 2024 del Disinformatico, il podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica.
Le intelligenze artificiali hanno bisogno di dati sui quali addestrarsi. Tanti, tanti dati: più ne hanno, più diventano capaci di fornire risposte utili. Un’intelligenza artificiale che elabora testi, per esempio, deve acquisire non miliardi, ma migliaia di miliardi di parole per funzionare decentemente.
Procurarsi così tanto testo non è facile, e quindi le aziende che sviluppano intelligenze artificiali pescano dove possono: non solo libri digitalizzati ma anche pagine Web, articoli di Wikipedia, post sui social network. E ancora non basta. Secondo le indagini del New York Times, OpenAI, l’azienda che sviluppa ChatGPT, aveva già esaurito nel 2021 ogni fonte di testo in inglese pubblicamente disponibile su Internet.
Per sfamare l’appetito incontenibile della sua intelligenza artificiale, OpenAI ha creato uno strumento di riconoscimento vocale, chiamato Whisper, che trascriveva il parlato dei video di YouTube e quindi produceva nuovi testi sui quali continuare ad addestrare ChatGPT. Whisper ha trascritto oltre un milione di ore di video di YouTube, e dall’addestramento basato su quei testi è nato ChatGPT 4.
Puntata 5 di EM, prima del ciclo Estrattivismo dei dati, parliamo di IA nel costesto del consumo delle risorse e della guerra.
PRIMA PARTE - CONSUMO DI ENERGIA E DI RISORSE
- Crescente domanda di energia dell'IT negli ultimi 20 anni, forte accelerazione causata dalla corsa all'intelligenza artificiale
- L’espansione delle infrastrutture per AI, i data center, ha portato ad un aumento significativo delle emissioni di CO2
- Impatto di tale aumento, della domanda insaziabile di energia, sugli obiettivi climatici. A partire dalle grandi aziende tecnologiche che oltre a causarlo, si trovano nella condizione di dover ridurre le emissioni (Google e Microsoft: target di e+missioni nette zero entro il 2030 – capire quanto sia vincolante, quanto siano trasparenti le verifiche…)
- I data center, essenziali per l’addestramento e l’operatività dei modelli AI, consumano enormi quantità di energia, generando emissioni e richiedendo grandi quantità d'acqua. Con costi ambientali difficili da quantificare completamente. Vediamo qualche numero:
- Una recente ricerca dell'Università della California di Riverside. Premessa: ogni richiesta su un LLM come ChatGpt passa attraverso uno dei milioni di server di cui l’azienda OpenAI dispone, e questo server esegue migliaia di calcoli per determinare le parole migliori da usare nella risposta, consumando energia e generando calore, calore che poi deve essere smaltito usando altra energia nei sistemi di raffreddamento
Leggi tutto e ascolta l'audio della trasmissione sul sito di Radio Onda Rossa
Questa non è la storia della solita gara fra guardie e ladri in fatto di sicurezza; non è una vicenda di casseforti virtuali più robuste da contrapporre a grimaldelli sempre più sottili e penetranti. È la storia di come l’intelligenza artificiale obbliga tutti, utenti, studiosi e malviventi, a pensare come una macchina, in modo non intuitivo, e di come questo modo di pensare stia portando alla scoperta di vulnerabilità e di forme di attacco incredibilmente originali e impreviste e alla dimostrazione di strani virtuosismi di fantasia informatica, che conviene a tutti conoscere per non farsi imbrogliare. Perché per esempio una semplice immagine o un link che ai nostri occhi sembrano innocui, agli occhi virtuali di un’intelligenza artificiale possono rivelarsi bocconi fatalmente avvelenati.
[...]
La nuova tendenza in informatica, non solo da parte di Microsoft, è spingerci a installare sui nostri computer un assistente automatico che ha pieno accesso a tutte le nostre mail e ai nostri file ed esegue ciecamente qualunque comando datogli dal primo che passa. Cosa mai potrebbe andare storto?
Benvenuti alla puntata del 4 novembre 2024 del Disinformatico, il podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica. Io sono Paolo Attivissimo.
Un articolo scientifico di daniela tafani, prezioso, ricco di spunti di riflessioni e di verità tanto evidenti quanto nascoste.
Il testo demistifica le "credenze" relative alla presunta intelligenza dei software probabilistici e ristabilisce dei punti fermi sulla non neutralità del software, anche quando si tratta di cosidetta Intelligenza Artificiale.
L'articolo dimostra perché l'introduzione dell'intelligenza artificiale nella scuola e nelle univeristà sia un problema per i processi di apprendimento e insegnamento. Tuttavia si tratta di una tendenza già presente: la trasformazione dell'insegnamento in addestramento degli studenti per andare incontro alle esigenze del mondo aziendale.
Indice
- Macchine per scrivere frasi probabili
- La bolla dell’“intelligenza artificiale generativa”
- Il valore dell’istruzione: le aziende e le narrazioni Edtech
3.a. L’idea che la sorveglianza sia una forma di cura
3.b. Il mito della personalizzazione dell’apprendimento
3.c. Il soluzionismo tecnologico
3.d. L’idea della neutralità delle piattaforme “educative” - Girelli, stampelle e ciuchini: gli omini di burro nei sistemi neoliberali
Nota bibliografica
L’Intelligenza artificiale (Ai) è un tema oggi talmente di moda che persino il papa ha ritenuto indispensabile dire la sua sull’argomento. Un utile strumento per orientarsi in questo profluvio di notizie, in genere sensazionalistiche e spesso fuorvianti, è fornito dal libro recentemente pubblicato di Stefano Borroni Barale, “L’intelligenza inesistente. Un approccio conviviale all’intelligenza artificale”, Altreconomia, 2023. Un agile saggio divulgativo alla portata anche del lettore meno esperto.
Il titolo “L’intelligenza inesistente” rimanda esplicitamente ad Agilulfo il “cavaliere inesistente” creato da Italo Calvino, un paladino che pur “non esistendo” riesce comunque a combattere valorosamente al servizio di Carlomagno (“Bé, per essere uno che non esiste, siete in gamba !” sbotta a un certo punto l’imperatore).
Più precisamente per l’autore – a differenza di quanto sostengono i millantatori – non esiste oggi (né è alle viste) una Ai “forte” in grado di pensare come un essere umano ma solo un’Ai “debole” in grado di “simulare” alcuni aspetti del pensiero umano. Una Ai che funziona solo grazie al lavoro costante di un vasto proletariato digitale, invisibile e malpagato (i cosiddetti “turchi meccanici” o “turker”).
L’intelligenza artificiale causa carenza di energia elettrica: verrà riattivato la centrale in cui si verificò il più grande incidente nucleare della storia degli Stati Uniti.
Three Mile Island, Chernobyl e Fukushima sono stati teatro di disastri nucleari a lungo ricordati, specialmente in gran parte dell’Europa, dove il tema dell’energia nucleare è stato molto discusso. Ancora oggi il problema delle centrali nucleari è oggetto di dibattito, nonostante la tecnologia nucleare odierna abbia fatto molti progressi rispetto al passato, in presenza di un’economia guidata dal consumo elettrico sempre maggiore, in particolar modo a causa della crescita dell’Intelligenza artificiale (IA), il cui uso sta guidando la domanda di elettricità.
Tuttavia, diversa è la linea adottata da altri paesi nel mondo. Se i tedeschi hanno chiuso le loro centrali nucleari e la Svizzera ne sta mettendo in discussione la chiusura, in Asia è attualmente in corso una vera e propria rinascita del nucleare. Infatti, negli ultimi anni la produzione di energia elettrica derivante dal nucleare nel continente asiatico è aumentata notevolmente e gli americani stanno attualmente rivalutando la questione con un approccio più pragmatico. Nei giorni scorsi, la società energetica Constellation Energy e il gruppo tecnologico Microsoft hanno annunciato che riattiveranno insieme l’unità I della centrale nucleare di Three Mile Island, vicino a Harrisburg, in Pennsylvania.
Leggi l'articolo di Christof Leisinger (per la rivista online INFOsperber)
Nel suo rapporto Draghi dice che non possiamo avere una forte tutela dei diritti fondamentali e allo stesso tempo aspettarci di promuovere l’innovazione. La critica è rivolta in particolare al GDPR, che protegge i nostri dati personali. Ma è una critica senza fondamento.
Tra le cause della scarsa competitività delle imprese europee nei settori avanzati dell’informatica, oggi chiamata “intelligenza artificiale”, il rapporto Draghi individua la regolamentazione dell’Unione Europea sull’uso dei dati1. Considerata troppo complessa e onerosa rispetto ai sistemi in vigore nei principali paesi leader, come USA e Cina, tale regolamentazione penalizzerebbe i ricercatori e gli innovatori europei impegnati nella competizione globale.
[...]
Il senso è chiaro: non possiamo avere una forte tutela dei diritti fondamentali e allo stesso tempo aspettarci di promuovere l’innovazione. Il trade-off è inevitabile, e prepariamoci ad affrontarlo.
Ma quali sarebbero gli ostacoli che questa “strong ex ante regulatory safeguard” pone all’innovazione e alla competitività delle imprese europee? Il rapporto Draghi ne individua tre: i) il GDPR impone oneri alle imprese europee impegnate nei settori di punta dell’intelligenza artificiale che le penalizzano rispetto ai concorrenti USA e cinesi; ii) l’applicazione frammentaria e incoerente del GDPR crea incertezza sull’uso legittimo dei dati e iii) questa incertezza impedisce, in modo particolare, l’uso efficiente dei dati sanitari per lo sviluppo di strumenti di intelligenza artificiale nel settore medico e farmaceutico.
Verifichiamo se gli argomenti a sostegno di queste tesi possono reggere a un’analisi un po’ approfondita.
