Pillole
Sta circolando un’accusa pesante che riguarda il popolarissimo software Word di Microsoft: userebbe i testi scritti dagli utenti per addestrare l’intelligenza artificiale dell’azienda. Se l’accusa fosse confermata, le implicazioni in termini di privacy, confidenzialità e diritto d’autore sarebbero estremamente serie.
Questa è la storia di quest’accusa, dei dati che fin qui la avvalorano, e di come eventualmente rimediare. Benvenuti alla puntata del 25 novembre 2024 del Disinformatico, il podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica.
Le intelligenze artificiali hanno bisogno di dati sui quali addestrarsi. Tanti, tanti dati: più ne hanno, più diventano capaci di fornire risposte utili. Un’intelligenza artificiale che elabora testi, per esempio, deve acquisire non miliardi, ma migliaia di miliardi di parole per funzionare decentemente.
Procurarsi così tanto testo non è facile, e quindi le aziende che sviluppano intelligenze artificiali pescano dove possono: non solo libri digitalizzati ma anche pagine Web, articoli di Wikipedia, post sui social network. E ancora non basta. Secondo le indagini del New York Times, OpenAI, l’azienda che sviluppa ChatGPT, aveva già esaurito nel 2021 ogni fonte di testo in inglese pubblicamente disponibile su Internet.
Per sfamare l’appetito incontenibile della sua intelligenza artificiale, OpenAI ha creato uno strumento di riconoscimento vocale, chiamato Whisper, che trascriveva il parlato dei video di YouTube e quindi produceva nuovi testi sui quali continuare ad addestrare ChatGPT. Whisper ha trascritto oltre un milione di ore di video di YouTube, e dall’addestramento basato su quei testi è nato ChatGPT 4.
Questa non è la storia della solita gara fra guardie e ladri in fatto di sicurezza; non è una vicenda di casseforti virtuali più robuste da contrapporre a grimaldelli sempre più sottili e penetranti. È la storia di come l’intelligenza artificiale obbliga tutti, utenti, studiosi e malviventi, a pensare come una macchina, in modo non intuitivo, e di come questo modo di pensare stia portando alla scoperta di vulnerabilità e di forme di attacco incredibilmente originali e impreviste e alla dimostrazione di strani virtuosismi di fantasia informatica, che conviene a tutti conoscere per non farsi imbrogliare. Perché per esempio una semplice immagine o un link che ai nostri occhi sembrano innocui, agli occhi virtuali di un’intelligenza artificiale possono rivelarsi bocconi fatalmente avvelenati.
[...]
La nuova tendenza in informatica, non solo da parte di Microsoft, è spingerci a installare sui nostri computer un assistente automatico che ha pieno accesso a tutte le nostre mail e ai nostri file ed esegue ciecamente qualunque comando datogli dal primo che passa. Cosa mai potrebbe andare storto?
Benvenuti alla puntata del 4 novembre 2024 del Disinformatico, il podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica. Io sono Paolo Attivissimo.
L’intelligenza artificiale causa carenza di energia elettrica: verrà riattivato la centrale in cui si verificò il più grande incidente nucleare della storia degli Stati Uniti.
Three Mile Island, Chernobyl e Fukushima sono stati teatro di disastri nucleari a lungo ricordati, specialmente in gran parte dell’Europa, dove il tema dell’energia nucleare è stato molto discusso. Ancora oggi il problema delle centrali nucleari è oggetto di dibattito, nonostante la tecnologia nucleare odierna abbia fatto molti progressi rispetto al passato, in presenza di un’economia guidata dal consumo elettrico sempre maggiore, in particolar modo a causa della crescita dell’Intelligenza artificiale (IA), il cui uso sta guidando la domanda di elettricità.
Tuttavia, diversa è la linea adottata da altri paesi nel mondo. Se i tedeschi hanno chiuso le loro centrali nucleari e la Svizzera ne sta mettendo in discussione la chiusura, in Asia è attualmente in corso una vera e propria rinascita del nucleare. Infatti, negli ultimi anni la produzione di energia elettrica derivante dal nucleare nel continente asiatico è aumentata notevolmente e gli americani stanno attualmente rivalutando la questione con un approccio più pragmatico. Nei giorni scorsi, la società energetica Constellation Energy e il gruppo tecnologico Microsoft hanno annunciato che riattiveranno insieme l’unità I della centrale nucleare di Three Mile Island, vicino a Harrisburg, in Pennsylvania.
Leggi l'articolo di Christof Leisinger (per la rivista online INFOsperber)
Google ha siglato un accordo con Kairos Power per l'utilizzo di piccoli reattori nucleari per generare la quantità di energia necessaria ad alimentare i suoi data center per lo sviluppo dell'intelligenza artificiale (AI). L'azienda ha dichiarato che l'accordo prevede l'avvio dell'utilizzo del primo reattore nel corso di questo decennio e la messa in funzione di altri entro il 2035. Le società non hanno fornito alcun dettaglio sull'importo dell'accordo o su dove saranno costruiti gli impianti.
Ma Google a quanto pare non è l'unica, lo scorso mese Microsoft ha raggiunto un accordo per rimmettere in funzione l'impianto nucleare di Three Mile Island, tristemente noto per il più grave incidente nucleare accaduto negli USA nel 1979.
La prima parte della trasmissione è dedicata al secondo tentativo di Microsoft di lanciare un sistema di ricerca all'interno di Windows basato su intelligenza artificiale. Se il primo tentativo era stato un disastro di sicurezza, cosa possiamo dire del secondo? Indubbiamente il nuovo design sembra più solido; ma come leggere complessivamente questo progetto di accumulazione di grossi dataset in locale e di spostamento del carico computazionale sull'hardware utente?
La seconda parte della trasmissione è invece legata ad NSO e alle cause che ha con Apple e Whatsapp (avete letto bene). Benché per entrambe le aziende è chiaro che si tratti di processi il cui fine ultimo è il miglioramento della propria reputazione, rileviamo come entrambi i processi siano molto appesantiti dall'ostruzionismo e dalla copertura di Israele.
Puntata del 21 luglio in buona parte dedicata all'incidente Crowdstrike: la nota azienda di sicurezza fa un aggiornamento sbagliato e blocca un numero enorme di sistemi in tutto il mondo. Da cosa dipende? Proviamo a rispondere sia sul micro (il bug specifico) sia sul macro (il sistema complessivo).
Proseguiamo poi con le ultime notizie di Anna's Archive. L'ambizioso progetto archivistico, dopo aver incassato il blocco di uno dei suoi domini, si chiede: usque tandem la diffusione della cultura sarà attaccabile dalle lobby del copyright? La risposta che cerca è di natura tecnica, e richiede la stima di analisi sulla dimensione degli archivi, un po' di fiducia positivista nei progressi della tecnica... ma il risultato è incoraggiante!
A causa di un problema alla rete si stanno verificano disservizi anche sui circuiti bancari. Aeroporti bloccati, stop mondiale alle compagnie United, Delta e American: cancellati centinaia di voli. Microsoft: «Prese azioni di mitigazione»
Secondo Downdetector, un sito che monitora le interruzioni, da ieri sera si sono registrati picchi improvvisi di incidenti su diversi siti web che includono applicazioni Microsoft. Problemi che hanno iniziato a essere rilevati negli Stati Uniti e si sono diffusi in diverse parti del mondo. Da Microsoft Azure, la piattaforma di cloud computing per la gestione di applicazioni e servizi, hanno confermato sui social network che si registravano problemi e che si stava indagando e lavorando per risolverli. Questa interruzione del software legato ai sistemi Microsoft ha causato, nel caso della Spagna, della Germania e dell'Australia alterazioni nei sistemi degli aeroporti, che hanno avvertito della possibilità di ritardi. A causa di problemi nei servizi cloud nella regione centrale degli Stati Uniti, ieri sera la compagnia aerea low cost americana Frontier Airlines ha comunicato la cancellazione di diversi voli e la sospensione temporanea delle operazioni a causa di problemi di prenotazione, di `check-in´, di accesso alla carta d'imbarco.
La localizzazione del dato sta diventando sempre di più un "false friend". il 24 giugno Microsoft ha ammesso agli organi di polizia scozzesi che non può garantire che i dati sensibili delle forze dell'ordine rimangano nel Regno Unito.
Può sembrare che processare i dati nei confini territoriali dello Stato sia una garanzia assoluta di sovranità. Purtroppo non è così, intanto perchè banalmente non sempre accade. Ed il caso inglese è emblematico. Ma comunque c’è sempre un dato fattuale che non possiamo più far finta di non vedere. L’operatore cloud extraeuropeo spesso si processa i dati in casa: la sua.
Nella migliore delle ipotesi, tiene fermi i dati degli utenti inattivi, ma gli altri li porta fuori e sono proprio quelli in elaborazione.
[...]
Di quale sovranità stiamo parlando quando reclamiamo la localizzazione dei dati nei confini UE? Lo capiamo facilmente seguendo il filo conduttore che ha portato al rinnovo dell’accordo di data flow UE/US.
La Ue accusa Microsoft di aver violato le norme antitrust. La Commissione Ue ha infatti informato il gigante Usa della sua opinione preliminare secondo la quale Microsoft ha violato le norme europee vincolando lo strumento per la comunicazione Teams ai prodotti Office 365 e Microsoft 365.
Ma la Ue ha preso di mira tutti i Big Tech. Il 24 giugno, infatti, la Commissione ha dichiarato che le regole dell'App Store di Apple violano il Dma, in quanto impediscono agli sviluppatori di app di indirizzare i consumatori verso offerte alternative. Una nuova indagine su Apple è stata avviata anche in merito ai suoi nuovi requisiti contrattuali per gli sviluppatori di app e gli app store. Intanto, il 4 marzo Bruxelles ha inflitto ad Apple una multa di 1,84 miliardi di euro a seguito di una denuncia di Spotify del 2019.
Anche Facebook e Instagram sono oggetto di indagini per per potenziali violazioni delle norme della Ue sui contenuti online in materia di sicurezza dei bambini, che potrebbero portare a multe salate.
Sulla scia della pandemia, le scuole dell'Unione Europea hanno iniziato a implementare sempre più servizi digitali per l'apprendimento online. Se da un lato questi sforzi di modernizzazione sono uno sviluppo apprezzabile, dall'altro un piccolo numero di grandi aziende tecnologiche ha immediatamente cercato di dominare lo spazio, spesso con l'intenzione di abituare i bambini ai loro sistemi e creare una nuova generazione di futuri clienti "fedeli". Una di queste è Microsoft, i cui servizi 365 Education violano i diritti di protezione dei dati dei bambini. Quando gli studenti vogliono esercitare i loro diritti GDPR, Microsoft afferma che le scuole sono il "responsabile del trattamento" dei loro dati. Tuttavia, le scuole non hanno alcun controllo sui sistemi.
Spostamento di responsabilità tra Big Tech e scuole locali. I fornitori di software come Microsoft hanno un enorme potere di mercato, che consente loro di dettare i termini e le condizioni dei contratti con chiunque voglia utilizzare i loro prodotti. Allo stesso tempo, questi fornitori di software cercano di eludere le responsabilità insistendo sul fatto che quasi tutto ricade sulle autorità locali o sulle scuole. In realtà, nessuno dei due ha il potere di influenzare il modo in cui Microsoft tratta i dati degli utenti. Al contrario, si trovano di fronte a una situazione di "prendere o lasciare" in cui tutto il potere decisionale e i profitti spettano a Microsoft, mentre le scuole devono sopportare la maggior parte dei rischi. Le scuole non hanno alcuna possibilità realistica di negoziare o modificare i termini.
Magari siete di fretta, avete da fare. Però qualcuno vi ha segnalato l’ennesima rivoluzione dell’AI, targata Microsoft. Non potete fare un figuraccia se qualcuno in una conversazione butta là “…un po’ come Vasa, no?” e voi non sapete se reagire con “interessante”, “io l’avevo già detto”, “roba da matti” o “dove andremo a finire?”. Per fortuna, questo articolo scritto da nove ricercatori di Microsoft Research Asia viene riassunto tre volte.
[...]
La ricerca del gruppo di Microsoft Research Asia ha prodotto dei risultati francamente affascinanti. Come sottolineano gli autori, il punto non è la possibilità di fare un video fake in cui Monna Lisa canta un brano rap (questo si era già visto), ma il fatto che avendo i due stimoli di partenza (la foto e la registrazione audio) il video può essere generato e controllato in tempo reale, in termini di persona, di movimenti oculari, di rotazione della testa, ma anche di espressione, come è dimostrato dalla registrazione di una demo. Il risultato è verosimile e il processo efficiente. Quindi si può immaginare un avatar che reagisca in tempo reale alla situazione, usando un parlato non registrato ma sintetizzato a partire da un testo prodotto da un software. Alexa, scànsate.
I punti interessanti, per me, sono due: i disclaimer etici che vengono immediatamente messi avanti dai ricercatori e i campi di applicazione dichiarati.
La Commissione europea ha violato le norme sulla protezione dei dati personali per le istituzioni, il Gdpr, usando Microsoft 365. Lo ha fatto sapere il Garante europeo per la protezione dei dati, a seguito di un’indagine aperta sull’esecutivo europeo, che ha evidenziato come la Commissione non sia stata in grado assicurare un livello adeguato di protezione ai dati trasferiti fuori dall’Unione europea o dallo Spazio economico europeo.
Secondo il Garante, Wojciech Wiewiórowski, la Commissione ha infranto diverse disposizioni del regolamento 1725 del 2018, relativo alla protezione dei dati raccolti e trattati all’interno delle istituzioni, degli organi, degli uffici e delle agenzie dell’Unione. Una violazione che ha origine dallo stesso contratto stipulato tra Microsoft e l’esecutivo, nel quale l’istituzione ha mancato di specificare quali dati siano raccolti e a quale scopo quando si utilizza Microsoft 365, che comprende World, Excel, PowerPoint, Outlook e altri applicativi.
"A partire dal mese di novembre 2023 il Ministero migrerà le vecchie caselle di posta @posta.istruzione.it su un nuovo sistema a seguito di decorrenza dei termini contrattuali."
Quello che il Ministero omette di dire è quale sarà il nuovo provider e quali sono le ragioni del cambio di fornitore.
Mentre il motivo del cambio di fornitore non è molto chiaro (la sezione vantaggi chiarisce solo in parte), il primo mistero è svelato facilmente visitando la sezione "Per saperne di più" sulla migrazione del sito del Ministero. Si legge: "Potrà accedere alla nuova webmail tramite il seguente link: https://outlook.office.com/". Ovvero il sistema di posta elettronica è "ospitato" sui server Microsoft.
Le domande a questo punto sono lecite:
- siamo certi che passare da un fornitore di posta elettronica italiano (Aruba), compatibile con il regolamento per la protezione dei dati personali (GDPR) europeo, ad uno americano (Microsoft), con tutti i dubbi sulla medesima compatibilità di aziende USA e in attesa di un probabile nuovo ricorso e conseguente pronunciamento contrario della Corte di giustizia dell'Unione europea (sarebbe il terzo), sia negli interessi del sistema scuola italiano?
- Siamo certi che i dati dei docenti "catturati" da Microsoft non siano usati all'insaputa degli insegnanti per "addestrare" ChatGPT?
- Siamo certi che non sarebbe meglio, sia economicamente che per la crescita del sapere locale, adottare una soluzione basata su software libero (vedi gli esempi della Provincia autonoma di Bolzano)?
Queste le domande. Ci sarà mai risposta?
Prosegue il dibattito sull'AI.
Nella Newsletter del 28 maggio si parla di:
- AI, copilota o dirottatore?
- Bengio sui rischi e la sicurezza nell’AI
- Spyware, GDPR e altro
Microsoft ha annunciato che nei prossimi mesi integrerà Copilot, il suo assistente AI, in Windows 11. Sarà quindi possibile, fra le altre cose, chiedere all'assistente di "regolare le impostazioni" o di eseguire altre azioni su un computer (The Verge). “Stiamo introducendo Windows Copilot, rendendo Windows 11 la prima piattaforma per computer ad annunciare un’assistenza AI centralizzata per aiutare le persone a intervenire facilmente e a realizzare le cose”, scrive Microsoft nel suo blog...
Una recente analisi mostra che l'utima versione del sistema di Microsoft invia un sacco di informazioni anche a terze parti sin dal primo avvio.
La "telemetria" di Windows 11 non si limita a fornire informazioni tecniche al produttore del sistema operativo, ma contatta anche aziende specializzate in ricerche di mercato, editori pubblicitari e domini legati alla geolocalizzazione senza che l'utente apra un browser, e soprattutto senza chiedere il permesso ad alcuno.
Leggi l'articolo su Zeus News
Il ministro dell’istruzione francese ci dà una lezione, dichiarando illegale l'utilizzo della versione Online di Microsoft Office 365 e di Google Docs nelle scuole e nel settore dell'istruzione, ha detto no a Microsoft e a Google confermando di non volere le offerte gratuite di Microsoft Office 365 e Google Workspace nelle scuole.
Chiediamo al Ministro Valditara di fare lo stesso, incentivando iniziative in campo di sovranità e libertà digitale Leggi l'articolo completo
La suite europea sarà open source, facile da usare, e pienamente compatibile col prodotto americano.
Da tempo, ormai, l'Unione Europea non vede di buon occhio la dipendenza informatica di cui l'intero Vecchio Continente sostanzialmente soffre nei confronti delle grandi multinazionali americane che, in aggiunta a essere praticamente le sole fornitrici di certe tecnologie, spesso agiscono in modo non conforme a quanto stabilito dalle leggi europee.
Così Bruxelles ha da un lato iniziato a promulgare alcune direttive con le quali intende regolamentare l'azione dei giganti tecnologici che agiscono in Europa, e dall'altro avviato la ricerca di soluzioni alternative, specialmente in campo software, rispetto a quanto offerto dagli americani.
L'ultima novità in questo senso riguarda la volontà di affrancarsi dal dominio di Microsoft Office, per lo meno per quanto riguarda la pubblica amministrazione, e si concretizza in un accordo con Nextcloud per lo sviluppo di una suite per ufficio "europea".
Leggi l'articolo originale su ZEUS News Vedi anche il comunicato di Nextcloud
WFH - Watched from Home: Office 365 and workplace surveillance creep
- Working from home bolstered the use of remote surveillance software to monitor employees.
- It's not only tools that are developed specifically for surveillance, traditional productivity suites might also enable an intrusive level of monitoring.
- PI and UCL students looked into Office 365 and found features that can enable employers to access all communications and activities on Microsoft services
- These features can be operated without the employees' knowledge and there seems to be a lack of transparency for users in terms of what data is collected and for what purpose
da Etica Digitale: Microsoft: l'azienda consente al datore di lavoro di monitorare tutte le attività legate ai prodotti Office 365, e di leggere i contenuti delle chat e delle mail tramite Teams e Outlook.
Attraverso il "Microsoft Office 365 Admin Center" un amministratore può selezionare specifici utenti e leggere diverse informazioni sui dipendenti, tra cui: quanto tempo hanno passato in chiamate, quanti messaggi hanno scambiato, a quante riunioni hanno partecipato e quali dispositivi hanno usato. È anche possibile accedere a documenti, e-mail e messaggi delle persone su Teams.
Questo aspetto è in verità specificato nell'informativa sulla privacy dell'azienda, tuttavia è così seppellito nel testo che è pressoché impossibile notarlo. A prescindere, i dipendenti spesso non hanno altra scelta che acconsentire all'utilizzo di tali programmi.
Anche questa volta (l'avevamo già fatto un anno fa) prendiamo spunto da un post di Moxie Marlinspike che affronta il tema dei sistemi federati e di quelli centralizzati. Questa volta affrontiamo due degli altri nodi che il post pone:
- quanto controllo (lock-in) possono ancora effettuare i servizi centralizzati, al tempo in cui usare identificatori di terze parti (il numero di telefono) è ormai molto comune? E può questa tecnica essere utilizzata anche dai servizi federati?
- si sa che i sistemi federati hanno una innovazione molto lenta rispetto ai sistemi centralizzati. Ma quanta centralizzazione serve, per poter avere davvero una innovazione veloce? E quali sono le conseguenze dell'innovazione veloce in senso ecologico?
Proseguiamo poi con delle notizie di attualità:
- Apple fornisce un kit per la riparazione dell'iPhone; peccato che il costo sia proibitivo
- DuckDuckGo, motore di ricerca che promette maggiore privacy, includeva dei tracker e non lo diceva
- Bing, il motore di ricerca di Microsoft, non solo censura i risultati in Cina, ma censura persino nei suggerimenti automatici di ricerca. Alcune di queste censure, inoltre, avvengono anche fuori dalla Cina, per persone che hanno il dispositivo configurato per la lingua cinese.
Ascolta il podcast sul sito di Radio Onda Rossa
Il ministro Brunetta ha presentato il Piano strategico per la valorizzazione e lo sviluppo del capitale umano della PA. Ma la formazione la fanno aziende private, come Tim e Microsoft, che mettono a disposizione, a titolo gratuito, contenuti formativi.
Cosa ci guadagnano le aziende ad offrire corsi gratuiti? La diffusione all’interno della Pa della conoscenza dei loro prodotti commerciali e di conseguenza un ulteriore lock in su quei prodotti, al cui utilizzo i funzionari pubblici saranno ammaestrati, restando all’oscuro di soluzioni alternative open source.
Andrebbe formata una parte del personale dirigenziale su competenze informatiche di più alto livello rispetto a quelle indicate nel Syllabus. I dirigenti dovrebbero avere conoscenze più approfondite dei sistemi informatici e delle loro potenzialità tecnologiche, al fine di riuscire a concepire i requisiti per servizi innovativi da erogare.
Leggi l'articolo su Domani
