Pillole
Come temevamo i nodi relativi al nudging (spinta gentile) verso l'accettazione delle "decisioni" dell'Intelligenza Artificiale in campo medico stanno venendo al pettine.
Il WSJ racconta del caso di una esperta infermiera specializzata in oncologia che si è trovata di fronte a una diagnosi, secondo lei sbagliata, fatta da una IA. La diagnosi era di sepsi. L'allarme dell'algoritmo ha messo in relazione un elevato numero di globuli bianchi con un'infezione settica. A quanto pare l'IA non avrebbe tenuto conto che il paziente fosse affetto da leucemia, che può causare valori di globuli bianchi simili. L'algoritmo attiva l'allarme quando rileva modelli che corrispondono a precedenti pazienti con sepsi. Peraltro il sistema non ha spiegato la sua decisione.
Le regole dell'ospedale in questione prevedono che gli infermieri seguano il protocollo quando c'è una segnalazione di setticemia a meno che non ricevano un'approvazione da parte del medico responsabile. Secondo l'infermiera, Melissa Beebe, però anche con l'autorizzazione, in caso di errore rischia un procedimento disciplinare.
Risultato: l'infermiera ha eseguito gli ordini e ha effettuato il prelievo di sangue mettendo a rischio il malato. Alla fine la diagnosi dell'algoritmo si è rivelata sbagliata, come sosteneva l'infermiera.
Certamente l'uso di Intelligenza Artificiale, sempre più usata nella diagnosi medica, costituisce un grande aiuto per la cura della salute dei pazienti. Allo stesso tempo sta sollevando un grande interrogativo: chi prende le decisioni in caso di emergenza: gli umani o il software?
Temiamo che per un/una medico o un/una infermiere sarà sempre più difficile assumersi la responsabilità di contraddire la diagnosi di una Intelligenza Artificiale. Speriamo di sbagliarci, ma le avvisaglie sembrano andare in questa direzione.
Leggi la storia sul sito del WSJ o nella newsletter "Guerre di Rete"
La newsletter del 25 giugno di Carola Frediani
In questo numero:
- AI Act, effetto Bruxelles
- AI: Biden accelera, ascolta i rischi, cerca finanziatori
- Se infermiera e AI non sono d’accordo
- Microsoft e Anonymous Sudan
- Che fine ha fatto la piattaforma per il Referendum digitale?
- Altro
Un testo del sociologo Antonio Casilli che è interventuo alla giornata di dibattito presso il Monk di Roma dal titolo «C’è vita oltre il lavoro», organizzata da Tlon
Angelica, giovane donna di 27 anni, vive a Tambaú, a nord della megalopoli di San Paolo. Il suo lavoro: «addestrare» robot aspirapolvere, piccoli elettrodomestici dotati di telecamere intelligenti che riconoscono e evitano ostacoli. Anche i più inattesi, come gli escrementi degli animali domestici. Angelica è retribuita per scattare foto delle deiezioni del suo cane. Le sue immagini, etichettate e catalogate, vengono pagate solo pochi reais su una delle cinquantaquattro piattaforme di micro-lavoro attive in Brasile. L’esempio di Angelica è tratto dal rapporto Micro-lavoro in Brasile. I lavoratori dietro l’IA? pubblicato il 19 giugno dal centro Latraps (Brasile), in collaborazione con il mio gruppo di ricerca DiPLab (Francia). Per anni, con i miei colleghi e studenti ho condotto inchieste come questa in diciannove paesi in Europa, Africa e America Latina. Alla domanda: «Dove viene prodotta l’intelligenza artificiale?», oggi noi diamo una risposta originale: non nella Silicon Valley o in grandi centri tecnologici dei paesi del Nord. I dati, ingredienti fondamentali dell’IA, vengono prodotti nei paesi emergenti e in via di sviluppo.
Presentazione del libro di Alessandro Delfanti, Il magazzino.
“Amazon si vanta di essere relentless, ovvero implacabile, inarrestabile. È un termine che ricorre con estrema frequenza tanto nella sua storia quanto nei discorsi di Bezos e nelle lettere annuali agli investitori. In un primo momento doveva addirittura essere il nome dell’azienda: ecco perché, se digitate «relentless.com» nel vostro browser, verrete reindirizzati sul sito di Amazon. Ancora oggi Bezos è titolare del dominio.”
La brutale realtà lavorativa dei magazzini di Amazon, fatta di ritmi insostenibili, tattiche antisindacali aggressive e sorveglianza digitale, non è più un mistero, come testimoniato da numerose inchieste giornalistiche. Queste, per quanto necessarie, non restituiscono però la portata storica di quello che sta succedendo nei centri logistici del colosso di Seattle sparsi in mezzo mondo. Oggi sono loro, infatti, gli avamposti del capitalismo, come negli anni Sessanta e Settanta del Novecento lo furono le fabbriche del Nord Italia che alimentarono il boom economico. Ed è proprio tra le mura dei magazzini di Amazon che si sta ridefinendo il nuovo rapporto, conflittuale, tra capitale e lavoro.
Alessandro Delfanti li ha visitati, questi magazzini, e ha intervistato decine di dipendenti ed ex dipendenti. Il racconto che emerge dalle pagine del suo libro diventa l’innesco per una riflessione che arriva al cuore del capitalismo digitale.
Ascolta la trasmissione radiofonica del 21 giugno 2023 sul sito di Radio Blackout.. Se volete andare dritte al punto, ascoltate dal minuto 17:20
Sono ormai mesi che l'Unione Europea è al lavoro sul ritorno delle batterie rimovibili in smartphone e cellulari, possibilità che consentirebbe di allungare la vita utile dei dispositivi e ridurre i rifiuti elettronici.
Un nuovo passo in questa direzione è stato fatto pochi giorni fa, quando il Parlamento Europeo ha approvato - con 587 voti a favore, 9 contrari e 20 astenuti - la revisione delle regole sulle batterie.
All'interno del testo approvato, accanto a varie imposizioni ideate per ridurre le possibilità di inquinamento, è chiaramente elencata l'introduzione dell'obbligo di «progettare le batterie portatili nei dispositivi in maniera tale da consentire agli utenti di rimuoverle e sostituirle da sé con facilità».
Sarà valido fino a fine 2025, e non era scontato visto che piacciono molto al ministro dell'Interno, Matteo Piantedosi
La Camera ha approvato decreto-legge 51 del 2023 che tra le altre cose contiene l’estensione della moratoria sui sistemi di riconoscimento facciale in scadenza alla fine dell’anno. Fino al 31 dicembre 2025, e non più fino al 31 dicembre 2023, le autorità pubbliche e i privati non potranno installare impianti di videosorveglianza con sistemi di riconoscimento facciale in luoghi pubblici e aperti al pubblico. L’emendamento che ha confermato il divieto in scadenza era stato presentato da Marianna Madia, Lia Quartapelle e Filiberto Zaratti del Partito Democratico, e approvato la scorsa settimana in commissione.
La conferma della moratoria non era scontata perché alla fine di aprile il ministro dell’Interno, Matteo Piantedosi, aveva sostenuto la necessità di installare sistemi di riconoscimento facciale nelle stazioni, negli ospedali e nelle zone commerciali delle grandi città per garantire più sicurezza. «La videosorveglianza è uno strumento ormai unanimemente riconosciuto come fondamentale», aveva detto Piantedosi, intervistato dal Quotidiano Nazionale. «La sua progressiva estensione è obiettivo condiviso con tutti i sindaci. Il riconoscimento facciale dà ulteriori e significative possibilità di prevenzione e indagine». L’estensione del divieto fino al 2025 non era scontata anche perché negli ultimi anni molti sindaci, soprattutto di centrodestra, avevano cercato di installare telecamere a riconoscimento facciale: tutti i tentativi fatti finora erano stati bloccati dal Garante della privacy.
Nei mesi scorsi la biblioteca di internet – e con essa il futuro dell’accesso alla cultura online – è finita sul banco degli imputati. Nelle aule di un tribunale federale di New York si è svolto il primo round di un procedimento legale intentato da alcuni editori americani nei confronti di Internet Archive, la biblioteca digitale non profit fondata dall’informatico, attivista e archivista Brewster Kahle nel 1996 a San Francisco. Lo scontro è tra Davide e Golia, e rischia di definire per sempre il modo in cui la conoscenza è condivisa.
Cosa è e cosa vuole Internet Archive
“Accesso universale alla conoscenza” è da 27 anni lo slogan di Internet Archive. L’organizzazione raccoglie e mette a disposizione di chiunque, gratuitamente, 37 milioni di libri, 16 milioni di file audio e molti altri contenuti nonché servizi come la Wayback machine, il più noto archivio di pagine Web. Una delle maggiori e più evidenti eredità culturali e intellettuali che gli esseri umani possano vantare per raccontare la loro storia.
L'azienda americana aveva promesso all'Italia un investimento di 4,5 miliardi di euro, di cui non si hanno notizie da un anno.
La firma dell’accordo tra il governo tedesco e Intel, una delle più importanti aziende produttrici di microprocessori al mondo, per costruire una nuova fabbrica di semiconduttori a Magdeburgo, nell’est della Germania, ha ricordato a diversi addetti ai lavori che gli ultimi due governi italiani avevano lavorato a un’intesa con l’azienda americana per costruire una grande fabbrica anche in Italia. Ma a differenza della trattativa tedesca, di quella italiana non si sa nulla da circa un anno. Negli ultimi mesi non ci sono stati aggiornamenti ufficiali in merito a un obiettivo dato quasi per certo e pubblicizzato con orgoglio e soddisfazione dai ministri che si sono succeduti negli ultimi anni.
Web Analytics Italia è un servizio di statistiche web basato sul software open source Matomo, fornito direttamente da AgID - Agenzia per l'Italia Digitale.
Monitora PA in una delle primissime PEC inviate alle PA, oltre a richiedere l'interruzione dei trasferimenti illeciti verso Google, suggerì l'adozione di Web Analytics. Moltissime pubbliche amministrazioni richiesero di accedere al servizio ed evidentemente l'hardware dedicato non era stato dimensionato sulla base delle reali esigenze della PA italiana.
AgID disabilitò temporaneamente la possibilità di registrarsi al servizio, spiegando il problema e promettendo, entro il gennaio del 2023, la riabilitazione delle registrazioni, in modo che tutte le altre PA potessero finalmente usufruirne.
...su Amazon Web Service
Purtroppo, come è stato segnalato da diverse persone da dentro e fuori dalla pubblica amministrazione, per risolvere il problema di carico, AgID ha adottato i servizi forniti da Amazon Web Service, Inc. società statunitense controllata da Amazon che ripropone tutti i problemi di trasferimento transfrontaliero dei dati personali, già posti da Google Analytics...
Bellisima puntata di Mordicchio.
DENTRO C'È:
- AGLIO, TANTISSIMO AGLIO
- TECNOLOGIE CONVIVIALI, PEDAGOGIA HACKER E SETTING NOTTURNI
- GLI OCCHIALI DI JOHN NADA
- DAVIDE FANT, CARLO MILANI E C.I.R.C.E.
- STAR "CHEBBELLO" TREK
- FATE L'AMORE, NON FATE IL DOMINIO
💖
(Con la voce di Diāvoli, in questo episodio le idee e le produzioni artistiche di: Davide Fant, Carlo Milani, C.I.R.C.E.)
Cassandra Crossing/ Lasciare Google o Apple diventa più facile, non ci sono ormai motivi pratici o difficoltà tecniche da usare per autoassolversi; in più, ecco una piccola guida rapida su cosa fare e come farlo.
I 24 indefettibili lettori, ma non solo loro, sono ormai edotti sul lungo viaggio che ha portato Cassandra ad abbandonare i sistemi operativi proprietari per smartphone, riducendo moltissimo i danni alla propria privacy subiti, a malincuore, per poterne usare uno. Sono passati ormai tre anni, e le uniche difficoltà incontrate sono state dover fare i conti con le applicazioni sostitutive di Search, Maps e cose così.
26 giugno 2023
Incontro con le scuole del Lazio.
Un approccio alle tecnologie informatiche da parte delle scuole che fa leva su un modello di condivisione realmente democratico basato sul software libero in grado di garantire la sicurezza dei dati personali secondo il GDPR e nel pieno rispetto del Codice di Amministrazione Digitale (CAD)
Partecipa all'incontro Guido Scorza, componente del collegio del garante per la protezione dei dati personali
Programma
ore 17 - Introduzione.
Massimo Corinti, Data Protecion Officer (DPO)
ore 17,05 - Che volto avrà la scuola del futuro
Stefano Borroni Barale. Docente. CUB SUR
17,20 - Il progetto FUSS e la creazione di Valore Pubblico
Paolo Dongilli, Progetto FUSS, Provincia Autonoma di Bolzano
17,35 - L'impegno di Zorin per una scuola libera
Albano Battistella, Zorin
17,45 - Aspetti legali da considerare quando la PA acquisisce software
Marco Ciurcina, Avvocato
18,0 - Cosa significa lavorare con il modello del software libero e perché è la soluzione ideale per le scuole. 3 testimonianze di aziende operanti operanti sul territorio azionale
- Christian Surchi, True Elite
- Marco Marinello, Qnets
- Giorgio Favaro, Continuity
18,15 - Sostegno sul territorio a Km zero
Associazioni nel Lazio (Linuxshell Italia, Linux Club Italia, Raom2Lug
Anna Pizzicato e Marco Zampetti
18,30 - 19 - domande e discussione
Per iscriversi e per seguire la videoconferenza:
https://fuss.bz.it/incontro-scuole-lazio
Naomi Klein, The Guardian, Regno Unito
Le aziende tecnologiche sostengono che l’intelligenza artificiale risolverà molti problemi e migliorerà la vita delle persone. Ma senza regole adeguate produrrà sfruttamento e povertà
Tra i molti dibattiti in corso sulla rapida diffusione della cosiddetta intelligenza artificiale (ia) ce n’è uno relativamente sconosciuto sulla scelta della parola “allucinazioni”. È il termine che i programmatori e i sostenitori dell’ia generativa (quella in grado di generare a richiesta testi, immagini o altro in risposta a una richiesta) usano per descrivere le sue risposte quando sono completamente inventate o semplicemente sbagliate. Per esempio, quando chiediamo a un chatbot (un software che simula la conversazione di un essere umano) la definizione di una cosa che non esiste e il programma, in modo piuttosto convincente, ce ne dà una con tanto di note a piè di pagina false. “Nel nostro campo nessuno è ancora riuscito a risolvere il problema delle allucinazioni”, ha detto di recente Sundar Pichai, l’amministratore delegato di Google e dell’Alphabet, l’azienda che controlla il motore di ricerca californiano.
E' disponibile la registrazione video della conferenza di Richard Stallman, tenuta il 7 giugno, alle ore 10.00, nell’Aula multimediale di Palazzo Ricci - Univrsità di Pisa. La conferenza ha avuto luogo nell’ambito di un convegno su Working for the public. Universities, software and freedom.
Richard Stallman è tra i principali esponenti del movimento del software libero: ha avviato nel 1983 il progetto GNU, con l’intento di creare un sistema operativo composto interamente da software libero. Fondatore della Free Software Foundation, nel 1989 ha creato la GNU General Public License, una delle licenze libere più diffuse.
7 persone sono state accusate di terrorismo per aver messo in sicurezza le proprie comunicazioni, tramite strumenti quali il sistema operativo Tails, la rete Tor e l'applicazione di messaggistica Signal. Tra le altre cose, la conoscenza di questi strumenti e l'aver partecipato a dei "caffè della privacy" sono state usate come argomentazioni contro le persone arrestate.
"Cosa ne pensi delle GAFA (Google Amazon Facebook Apple)?", "Sei contro le GAFA?" sono alcune delle domande che la polizia e i giudici hanno posto ripetutamente alle persone accusate, come se criticare queste aziende fosse segno di radicalizzazione.
Le persone arrestate sono state accusate di avere "comportamenti clandestini" e di far parte di un "culto basato sulla segretezza" solo per avere a cuore la propria privacy. Tuttavia la polizia non ha trovato alcuna prova a supporto di questa tesi.
Respiro . La MeMa che sta prendendo forma è immersa nel mondo degli automi che ci inquietano, ma la sua intenzione è quella di testimoniare che esistono modi sicuri e socialmente sani per utilizzare le tecnologie cosiddette “intelligenti”
Con Sal avevamo spesso fantasticato di fare qualcosa insieme. Lui ‘hacker’ creativo e situazionista, io infiltrato nella realtà di una ‘big tech’ multinazionale ma molto presente nelle viscere tecnologiche d’Italia. Condividevamo molte intuizioni, l’amore per la ricerca, lo spirito anti-accademico, l’allergia per il soluzionismo e le buzzword del marketing informatico.
[...]
Leggi l'articolo su "Il Manifesto"
Sul sito è possibile leggere un primo risultato di MeMa: La nostra Intelligenza Artificiale alla ricerca di Berlusconi
p.s. per leggere gli articoli de "Il Manifesto" è necessario registrarsi. La registrazione è gratuita
È in arrivo un nuovo richiamo dell’Unione Europea a Google. Questa volta il problema risiede nella violazione delle norme comunitarie antitrust da parte della società americana, che avrebbe distorto la concorrenza nel settore dell’adtech, la tecnologia pubblicitaria. La Commissione ha così inviato la sua opinione preliminare in cui si sostiene che Google abbia favorito i propri servizi di pubblicità online a scapito della concorrenza. L’indagine, ad ogni buon conto, è ancora in corso e il parere dell’Ue non è in alcun modo vincolante, anche se di certo ha un suo peso. È per questo che Google ha già fatto sapere di respingere le conclusioni a cui è giunta la Commissione e che risponderà nel merito della vicenda.
la puntata si apre con gli aggiornamenti su Chat Control 2.0, il nuovo tentativo dell'unione europea di proibire la cifratura dei dati con il pretesto della lotta alla pedopornografia.
Riprendendo il comunicato de La Quadrature Du Net, aggiorniamo sul clima che si respira in Francia per chi promuove consapevolezza nell'uso delle tecnologie digitale: nel tentativo di criminalizzare i movimenti sociali con l'accusa di terrorismo, vengono criminalizzate le loro pratiche di sicurezza, l'utilizzo di specifici strumenti, l'autoformazione all'uso di tecnologie rispettose della privacy e persino le opinioni anti-GAFAM.
A seguire, la solita carrellata di notiziole.
Il testo normativo più avanzato al mondo sull’intelligenza artificiale è stato approvato dal Parlamento ed entra così nella fase finale della negoziazione europea. Ma solo l’applicazione pratica dirà quanto il testo sarà rispettoso del “mondo libero” di cui ci fregiamo di far parte
Le pratiche di AI vietate
Il Regolamento prosegue con le pratiche di AI vietate, cui è dedicato il Titolo II; nella relazione della Bozza si legge che “Il titolo II stabilisce un elenco di pratiche di IA vietate. Il regolamento segue un approccio basato sul rischio, differenziando tra gli usi dell’IA che creano: i) un rischio inaccettabile; ii) un rischio alto; iii) un rischio basso o minimo. L’elenco delle pratiche vietate di cui al titolo II comprende tutti i sistemi di IA il cui uso è considerato inaccettabile in quanto contrario ai valori dell’Unione, ad esempio perché viola i diritti fondamentali.
Vietati:
- Sistemi di identificazione biometrica remota “in tempo reale” in spazi accessibili al pubblico;
- sistemi di identificazione biometrica a distanza “a posteriori”, con l’unica eccezione delle forze dell’ordine per il perseguimento di reati gravi e solo previa autorizzazione giudiziaria;
- sistemi di categorizzazione biometrica che utilizzano caratteristiche sensibili (ad esempio, sesso, razza, etnia, cittadinanza, religione, orientamento politico);
- sistemi di polizia predittiva (basati su profili, ubicazione o comportamenti criminali passati);
- sistemi di riconoscimento delle emozioni nelle forze dell’ordine, nella gestione delle frontiere, nei luoghi di lavoro e nelle istituzioni scolastiche; e
- lo scraping non mirato di immagini facciali da Internet o da filmati di telecamere a circuito chiuso per creare database di riconoscimento facciale (in violazione dei diritti umani e del diritto alla privacy).
Si sa ancora poco di Giove, il nuovo sistema di polizia predittiva italiano che il Ministero dell’Interno vorrebbe dare in dotazione a tutte le questure d’Italia.
Sviluppato dentro il Dipartimento di pubblica sicurezza del Ministero dell’Interno – sulla base delle sperimentazioni portate avanti dal 2008 dalla questura di Milano con il software KeyCrime – Giove si presenta come “un sistema di elaborazione e analisi automatizzata per l’ausilio delle attività di polizia”, come riporta Il Sole 24Ore, e sarebbe in grado di predire dove e quando i reati di maggior impatto sociale, come molestie sessuali, furti in abitazione e truffe agli anziani, potrebbero verificarsi nuovamente.
Uno scenario che richiama la fantascienza e che solleva dubbi e perplessità tra gli addetti ai lavori, soprattutto per la comprovata incapacità attuale di questi sistemi di trovare corrispondenze con la realtà e per la loro tendenza a discriminare le persone in base all’etnia e alla provenienza geografica. Non solo, ad aumentare la preoccupazione è il fatto che nulla sia ancora stato detto circa alcuni aspetti fondamentali, come quali banche dati e dati verranno usati per addestrare l’algoritmo, chi sarà il responsabile del trattamento dei dati e se l’uso del sistema comporterà o meno arresti preventivi. Domande che hanno spinto alcuni senatori a depositare, qualche giorno fa, un’interrogazione parlamentare dedicata.
Uno scenario inquietante, insomma, che potrebbe materializzarsi se il sistema otterrà il parere positivo del Garante della privacy.
Ne parliamo con Jacopo, parte del gruppo di ricerca C.I.R.C.E
Ascolta l'audio dell'intervento di Jacopo sul sito di Radio Onda D'Urto
