Pillole
Giudizi e decisioni che hanno effetti rilevanti sulle vite delle persone sono oggi affidati, in un numero crescente di ambiti, a sistemi di intelligenza artificiale che non funzionano. Tali malfunzionamenti non sono occasionali e non sono scongiurabili con interventi tecnici: essi rivelano, anzi, il funzionamento ordinario dei sistemi di apprendimento automatico, utilizzati impropriamente per compiti che non è loro possibile svolgere o che sono impossibili tout court.
Le decisioni basate su tali sistemi sono costitutivamente discriminatorie, e dunque, in alcuni ambiti, infallibilmente lesive di diritti giuridicamente tutelati, in quanto procedono trattando gli individui in base al loro raggruppamento in classi, costituite a partire dalle regolarità rilevate nei dati di partenza. Essendo radicata nella natura statistica di questi sistemi, la caratteristica di dimenticare i «margini» è strutturale: non è accidentale e non è dovuta a singoli bias tecnicamente modificabili. Ci si può trovare ai margini dei modelli algoritmici di normalità in virtù di caratteristiche totalmente irrilevanti, rispetto alle decisioni di cui si è oggetto.
Alla vasta documentazione degli esiti ingiusti, nocivi e assurdi di tali decisioni, le grandi aziende tecnologiche – paventando un divieto generalizzato – hanno risposto, in evidente conflitto di interessi, con un discorso sull'etica: è nata così, come operazione di cattura culturale, con l'obiettivo di rendere plausibile un regime di mera autoregolazione, l'«etica dell'intelligenza artificiale». Si tratta di una narrazione che le aziende commissionano e acquistano perché è loro utile come capitale reputazionale, che genera un vantaggio competitivo; è cioè un discorso, rispetto al quale le università hanno il ruolo, e l'autonomia, di un megafono; è «un'esca per catturare la fiducia» dei cittadini: un discorso pubblicitario che, in quanto declamato da altri, non appare neppure come tale.
La funzione di tale discorso è quella di tutelare, legittimandolo, un modello di business – fondato sulla sorveglianza e sulla possibilità di esternalizzare impunemente i costi del lavoro, degli effetti ambientali e dei danni sociali – il cui nucleo consiste nella vendita, alle agenzie pubblicitarie, della promessa di un microtargeting fondato sulla profilazione algoritmica.
Negli ultimi anni, l'opera di demistificazione della natura meramente discorsiva e del carattere strumentale dell'«etica dell'intelligenza artificiale», che trasforma l'etica nella questione della conformità procedurale a un «anemico set di strumenti» e standard tecnici, è stata così efficace da indurre molti a liquidare come inutile o dannosa – in quanto disarmata alternativa al diritto o vuota retorica aziendale – l'intera filosofia morale.
Al dissolversi della narrazione sull'etica dell'intelligenza artificiale, compare il convitato di pietra ch'essa aveva lo scopo di tenere alla larga: si sostiene infatti ora, da più parti, l'urgenza che ad intervenire, in modo drastico, sia il diritto. L'adozione di sistemi di apprendimento automatico a fini decisionali, in ambiti rilevanti per la vita delle persone, quali il settore giudiziario, educativo o dell'assistenza sociale, equivale infatti alla decisione, in via amministrativa, di istituire delle «zone pressoché prive di diritti umani».
A chi, in nome dell'inarrestabilità dell'innovazione tecnologica, deplori gli interventi giuridici, giova ricordare che il contrasto non è, in realtà, tra il rispetto dei diritti umani e un generico principio di innovazione, ma tra il rispetto dei diritti umani e il modello di business dei grandi monopoli del capitalismo intellettuale.
Grandi e piccole imprese digitali pagano il prezzo della crisi finanziaria. Ma il ciclo tecnologico è pronto a ripartire con le prime applicazioni su larga scala delle tecnologie di intelligenza artificiale. Sarà la regolamentazione, figlia di una politica che inizia a occuparsi del digitale, a far capire che la crescita non è infinita.
Intervista con l'imprenditore e informatico Stefano Quintarelli
Vogliamo riaccendere la miccia di una forma di comunicazione ed espressione potentissima, dando spazio a chi sviluppa, a chi vorrebbe formarsi e iniziare a sviluppare, o anche solo a chi vuole giocare e divertirsi.
Il mondo del videogioco in Italia è sempre più monopolizzato dalle logiche del profitto. Viene raccontato solo nei suoi aspetti commerciali e per questo il suo potenziale sociale e sovversivo viene disinnescato.
Il mondo del videogioco in Italia è sempre più monopolizzato dalle logiche del profitto. Viene raccontato solo nei suoi aspetti commerciali e per questo il suo potenziale sociale e sovversivo viene disinnescato.
La quantità è una parte importante dei ragionamenti; a volte diventa qualità, diceva un tale. Cose piccole sono trattabili, cose grandi meno. I computer (in generale le macchine) servono a rendere trattabili cose troppo grandi per noi. Ma anche loro hanno dei limiti, pratici o teorici.
Per esempio GPT-3 (la cosa che sta dietro ChatGPT, ma anche dietro DALLE-E, per quanto si faccia fatica a capire cosa c'entrano l'una con l'altra ed entrambe col T9) è una cosa grossa assai. GPT significa Generative Pre-trained Transformer. Grosso modo, per quel che anche un ignorante come me capisce, è un modello linguistico con un sacco di parametri che è stato costruito nel 2020 a partire da diverse sorgenti utilizzare come dati di partenza una "copia di internet, Wikipedia, archivi di immagini, etc." Un oggetto "molto, molto grande".
Quanti parametri, cioè quanti possibili modi di configurare il modello? Dicono 175 miliardi. Un numero talmente grande che solo un altro software è in grado di enumerarli o verificarli.
Nella puntata di Le Dita Nella Presa del 16 Aprile 2023 si è parlato di:
- Il TorProject presenta un nuovo browser che... non include tor! Raccontiamo di cosa si tratta e, già che ci siamo, ne approfittiamo per parlare un po' di Tor, VPN e affini.
- Finalmente compiuta la sottomissione del capitalismo californiano alle volontà popolari in India, dove finalmente sarà il governo, con apposita commissione, a indicare quali notizie sono false e vanno rimosse dai social network.
- Ancora azioni legali contro la possibilità di scaricare i video di Youtube. Questa volta a farne le spese è il provider del sito di presentazione di youtube-dl.
- L'intelligenza artificiale inventa. A proposito di notizie false, vediamo quanto sono brave le IA a crearne, focalizzandoci sul fenomeno dello swatting as a service.
- Nuovo passo nella paradossale lotta tra Google e Apple sulla protezione della privacy. Google cerca di rimontare obbligando le app presenti nel Play Store ad includere funzioni di cancellazione dell'account e dei dati.
- Finalmente un alto esponente del Pentagono sostiene che un oggetto spaziale potrebbe essere una sonda aliena, e lo scrive addirittura su un articolo (non pubblicato). Non tutti sono d'accordo.
I Garanti privacy dell'Unione europea (EDPB), finalmente, hanno deciso: Meta deve interrompere il trasferimento dei dati degli utenti di Facebook nei suoi server negli Stati Uniti. E in base a questa decisione, il Garante privacy irlandese, il principale regolatore sulla protezione dei dati di Meta, perché la sua sede europea è in Irlanda, deve adottare questa decisione vincolante entro al massimo un mese dalla decisione finale dell'EDPB.
[...]
Si sta, quindi, per scrivere una storica pagina per la protezione dei dati personali dei cittadini dell'Unione Europea. E dopo l'ordine di stop, Meta cosa farà?
Bloccherà Facebook nell'Unione Europea? In passato ha già minacciato questa ipotesi… vedremo. E il Garante italiano riprenderà con i provvedimenti come a Caffeina Media, dopo essersi “bloccato da quando c'è l'ordine esecutivo di Biden”?
Per ora è solo una proposta nelle sue prime fasi ma, per come è scritto, il Cyber Resilience Act potrebbe consegnare delle responsabilità a chi programma codice open source.
La Python Software Foundation (PSF) ha messo in luce un particolare della proposta di legge europea Cyber Resilience Act (CRA) che, per come è attualmente scritta, potrebbe compromettere lo sviluppo e la distribuzione di software open source in Europa, perché renderebbe le organizzazioni open source e i singoli individui responsabili per la distribuzione di codice che si rivelasse non sicuro.
[...]
La PSF, l'organizzazione non-profit che ha cura di promuovere la distribuzione del linguaggio di programmazione open source Python, ha scritto una lettera (come anche Eclipse Foundation e NLnet Labs) per evidenziare che il modo in cui è stato scritto il CRA rischia di bloccare lo sviluppo dell’open source in Europa.
A giudicare dai dati sul primo trimestre del 2023, il mercato dei PC è in crisi: secondo IDC, rispetto allo stesso periodo dell’anno scorso le vendite sono crollate del 29%, arrivando a 56,9 milioni di unità contro gli 80,2 milioni dell’anno scorso.
[...]
Eppure anche le vendite dei telefonini non stanno brillando, anzi; i dati sull’ultimo trimestre del 2022 hanno riportato il maggior declino della loro storia, pari al -18,3%, per un -11,3% su base annuale. Il dato che più ha preoccupato gli analisti è che per la prima volta le consegne durante il periodo delle vacanze invernali, da sempre il momento “caldo” dell’anno per gli acquisti legati alle feste, sono diminuite rispetto all’anno precedente.
Cassandra Crossing/ Esiste una scuola di pensiero che ritiene possibile l'evoluzione "spontanea" dei modelli linguistici in "vera" intelligenza artificiale. Di che cosa si parla esattamente?
È un concetto interessante in cui Cassandra non si era mai imbattuta. Ha invece scoperto che l'ipotesi è, pur in un ambiente molto ristretto, oggetto di dibattito filosofico e anche scientifico. Molto interessante, e vediamo di spiegare il perché.
Perdonate però la vostra profetessa preferita, perché sono necessarie un bel po' di premesse. Speriamo che almeno i 24 indomiti lettori mi seguano senza esitare.
Intervista ad Antonio Casilli, autore di «Schiavi del Clic»: «Dietro questa tecnologia c'è un'enorme quantità di lavoro sui dati fatto da grandi masse di persone. C'è un filo rosso che lega chi allena ChatGpt e i suoi utilizzatori»
Nel comunicato del garante della Privacy che blocca l’assistente virtuale ChatGpt c’è un passaggio illuminante in cui si osserva che l’illecita raccolta dei dati personali avviene in mancanza di una «base giuridica» e «allo scopo di addestrare gli algoritmi sottesi al funzionamento della piattaforma».
L’«addestramento» è stato effettuato dagli utenti di questo software che, stimolati dalla stupefacente operazione di marketing basata sull’immaginario apocalittico della sostituzione del lavoro, e persino degli esseri umani, da parte dei robot nelle ultime settimane hanno lavorato gratuitamente, e probabilmente inconsapevolmente, allo sviluppo di ChatGpt bombardandolo con le richieste più singolari e divertenti. Ciò ha permesso alla società OpenAI che ha lanciato anche ChatGpt, fondata a San Francisco nel 2015, di raccogliere fondi da decine di miliardi di dollari, e investimenti cospicui da parte di Microsoft.
