Pillole
Lezioni di Cassandra/ L'alter ego di Cassandra ha fatto una chiacchierata eretica sulle false IA in un paio di eventi pubblici, apparentemente con una certa soddisfazione dei presenti; perché allora non trasformare gli appunti in una esternazione vera e propria, salvandoli dall'oblio digitale?
Se oggi siamo in questa situazione è tutta colpa di Joseph Weizenbaum, noto eretico dell'informatica. Anzi, è colpa di Joseph Weizenbaum e della sua segretaria. Ma andiamo con ordine.
Nell'ambito dell'intelligenza artificiale, una delle pietre miliari più conosciute è stato ELIZA, un programma informatico sviluppato appunto da Weizenbaum nel 1966, che ha rivoluzionato la nostra comprensione delle interazioni tra l'uomo e la macchina. Eliza, sebbene rudimentale rispetto agli standard odierni, ha gettato le basi per molte delle tecnologie di chatbot e assistenti virtuali che utilizziamo oggi.
[...]
In 70 anni di storia dell'IA sono stati sviluppati i motori di inferenza, le reti neurali, le tecniche di apprendimento profondo: tutte cose che nei loro ambiti funzionano benissimo. Se non li avete mai sentiti nominare, ricorderete certo le notizie che l'IA referta le TAC meglio di un radiologo e che ha battuto i campioni mondiali di scacchi e Go (dama cinese). Tre anni fa una tecnologia già nota da tempo, gli LLM (Large Language Models — Grandi modelli di Linguaggio) ha cominciato a funzionare. Perché? Per semplici motivi di scala, cioè l'utilizzo di server più potenti per eseguirli e di più informazioni con cui allenarli.
La speculazione finanziaria delle dotcom in cerca di nuove opportunità di far soldi ci si è buttata a pesce. Improvvisamente ChatGPT e i suoi fratelli sono diventati disponibili a chiunque gratuitamente: hanno cominciato ad affascinare tutti esattamente come Eliza aveva fatto con la segretaria di Weizenbaum. Ma, come Eliza, un LLM non sa niente, non comprende niente, non può rispondere a nessuna domanda e nemmeno rispondere sempre nello stesso modo.
Cassandra Crossing/ Quanto è probabile un collasso totale di Internet? E magari non solo di Internet. Perché diavolo la situazione non è migliorata dagli anni '90?
Gli anni '90 erano ancora una novità quando una allora inesperta Cassandra lesse un articolo molto interessante sulla fragilità dell'infrastruttura tecnologica di Internet.
L'articolo in effetti non distingueva tra fragilità e inaffidabilità, confondendo i due termini, che sono in realtà diversi. Ma andiamo con ordine. Si narrava del «Nodo più importante di Internet», oggi lo chiameremmo un MIX; cioè un punto in cui i vari provider di connettività geografica (non di connessioni ultimo miglio) avevano trovato conveniente installare un loro router, connesso con tutti gli altri, in modo da smistare con la massima efficienza i pacchetti da un provider all'altro.
Cassandra Crossing/ Perché un dettaglio tecnico delle false IA, per giunta di tipo matematico, dovrebbe essere conosciuto da tutti?
Il collasso di un modello di LLM avviene quando un modello, addestrato sui dati generati da generazioni precedenti di modelli, inizia a perdere informazioni, particolarmente sulle code della distribuzione statistica dei dati originali, e alla fine converge verso una stima a punto singolo, con poca varianza statistica (in soldoni, fornisce sempre la stessa risposta a qualsiasi domanda).
Cassandra Crossing/ Le false IA commerciali che usiamo oggi sono così ambigue che non si riesce a usarle senza correre continui rischi. Anche quando si parla in confidenza.
Proprio nel giorno di San Valentino, Cassandra si è imbattuta su Gizmodo in un articolo, citato anche da Slashdot, che parlava di evidenti e gravi problemi di privacy presenti negli accordi di licenza dei "chatbot romantici".
Cassandra Crossing/ Quanto è sfaccettato il problema delle capacità delle false IA e delle loro ''allucinazioni'' quando viene discusso nei salotti? E nel marketing? E nella filosofia?
Perché il termine allucinazioni è volutamente errato e ingannatore? Perché l'avere allucinazioni implica un funzionamento razionale e una percezione corretta del mondo o del dominio di conoscenza del sistema, in tutti gli altri casi.
E dove manca non solo intelligenza, ma anche il semplice determinismo, non è possibile, anzi è totalmente disonesto parlare di "allucinazioni", quando invece si tratta manifestazioni particolarmente forti della normale assenza di significato di tutte le risposte, anche quelle "esatte".
Cassandra Crossing/ Com'era prevedibile, ChatGPT evolve verso un'architettura di API e plugin. Questo rappresenta un rischio, perché deresponsabilizza sia chi vende i servizi di GPT4 sia chi li usa.
Circa due mesi fa un annuncio di OpenAI ha reso nota la realizzazione di plugin che consentono di interfacciare ChatGPT con fonti esterne di dati e servizi.
Tecnicamente, si tratta di una API che permette la realizzazione di plugin che interfacciano, anche in maniera bidirezionale, una fonte di dati o un servizio con ChatGPT (per esempio) e viceversa.
In questo modo ChatGPT può utilizzare risorse informative per produrre le sue "risposte". E nella direzione opposta gli "oggetti intelligenti", i servizi e i siti possono far generare testi, programmi e immagini alla falsa IA di turno, e utilizzarli per produrre i risultati o le pagine che devono fornire.
È perfettamente chiaro come questa architettura permetta un immediato inserimento delle false Intelligenze Artificiali nei tessuti profondi della Rete come la conosciamo oggi.
«La pratica» - si diceva un tempo - «è più importante della grammatica». È per questo motivo che per oggi Cassandra dismette il cappello da profetessa per raccontare come sono stati i suoi ultimi due anni senza Google, più precisamente con uno smartphone Android completamente degooglizzato.
Che cosa manca di più?
Certamente Google Maps. L'utilizzo delle reti WiFi per migliorare la rilevazione delle posizioni e l'integrazione con il motore di ricerca e i punti di interesse rendono Maps un'applicazione dall'uso incredibilmente semplice e potente.
Il sostituto Magic Earth, che usa solo il posizionamento GPS e le mappe di Open Street Map, è molto più spartano e farraginoso da utilizzare. Ma 10 anni fa sarebbe stato giudicato invece un miracolo dell'informatica, e comunque vi porta dove volete andare. È un sacrificio che valeva senz'altro la pena di fare. I ristoranti cercateli con un motore di ricerca.
Cassandra Crossing/ Le parole al vento, i bit per l’eternità.
Poi è venuto il digitale, e l'informazione si è riversata li. La parola scritta si è trasformata in sequenze di bit, e i bit sono il mezzo meno duraturo e più cagionevole inventato dall'uomo. Pur essendo potenzialmente eterni, ben poco delle opere e degli scritti nati digitali è sopravvissuto fino a oggi.
Pensiamo alle "opere digitali" su Cd-Rom, tanto comuni nelle edicole di una quindicina di anni fa. Fortemente legate a un sistema operativo e un computer, sono già oggi illeggibili, a causa del progresso tecnologico che ha spazzato via le piattaforme su cui potevano essere fruite.
Cassandra Crossing/ Lasciare Google o Apple diventa più facile, non ci sono ormai motivi pratici o difficoltà tecniche da usare per autoassolversi; in più, ecco una piccola guida rapida su cosa fare e come farlo.
I 24 indefettibili lettori, ma non solo loro, sono ormai edotti sul lungo viaggio che ha portato Cassandra ad abbandonare i sistemi operativi proprietari per smartphone, riducendo moltissimo i danni alla propria privacy subiti, a malincuore, per poterne usare uno. Sono passati ormai tre anni, e le uniche difficoltà incontrate sono state dover fare i conti con le applicazioni sostitutive di Search, Maps e cose così.
Cassandra Crossing/ Esiste una scuola di pensiero che ritiene possibile l'evoluzione "spontanea" dei modelli linguistici in "vera" intelligenza artificiale. Di che cosa si parla esattamente?
È un concetto interessante in cui Cassandra non si era mai imbattuta. Ha invece scoperto che l'ipotesi è, pur in un ambiente molto ristretto, oggetto di dibattito filosofico e anche scientifico. Molto interessante, e vediamo di spiegare il perché.
Perdonate però la vostra profetessa preferita, perché sono necessarie un bel po' di premesse. Speriamo che almeno i 24 indomiti lettori mi seguano senza esitare.
