Dopo la pausa estiva, anche LISP è pronta per ripartire.

Grazie a chi ha già risposto al sondaggio prima della pausa: i vostri spunti sono molto interessanti e ci stanno già guidando nella scelta dei prossimi temi da approfondire.

Se non l’avete ancora fatto e volete contribuire all’evoluzione di LISP, c’è ancora tempo per rispondere:

Avvia sondaggio

A presto,

Laura

Dopo un periodo di silenzio in cui Bill Gates è rimasto nell’ombra travolto dagli scandali, il 26 Agosto ha pubblicato online un piccolo saggio in cui ha voluto esprimere il proprio pensiero sull’intelligenza artificiale, ponendosi nettamente dalla parte di coloro che sono, giustamente, preoccupati del modo in cui questo fenomeno viene gestito o, meglio, di come manchi qualsiasi sensata gestione.

Bill Gates non nasconde, e mai potrebbe farlo, di essersi occupato da sempre di tecnologia e di avere anche attualmente interessi nel settore dell’AI, ma sottolinea che dal 2018 la sua principale attività è quella di utilizzare la sua enorme ricchezza per aiutare le persone, grazie alla Gates Foundation, la sua associazione benefica con la quale adesso si impegnerà affinché anche l’intelligenza artificiale sia usata a beneficio di tutti.

Il punto da cui muove è una presa d’atto di quella che è la situazione attuale, troppo spesso sottovalutata dai tecno-ottimisti.

I motivi per cui Gates dice questo sono diversi e sotto gli occhi di tutti.

Ci saranno nuovi posti di lavoro, ma se ne perderanno anche molti e in un arco temporale talmente ravvicinato che non consentirà alle persone di adeguarsi tempestivamente. Le macchine saranno usate come sostituti di amici, consiglieri, medici improvvisati e questo porterà molti giovani ad avere problemi relazionali. Assisteremo a nuove forme di dipendenza dalla tecnologia, forse più gravi di quelle causate dai social network.

Queste sono alcune delle domande che si pone Bill Gates prendendo atto della triste realtà, ovvero che «Purtroppo, al momento non ci stiamo preparando. Non vedo prove che leader, esperti e comunità stiano affrontando adeguatamente queste sfide. Non esiste un piano per accompagnare l’ingresso nell’era dell’AI».

A me pare che questo sia il nodo centrale su cui merita riflettere seriamente.

Ognuno sta andando per la propria strada, tirando la coperta da una parte o da un’altra, con l’obiettivo di ottenere il predominio, con gli Stati Uniti che hanno le imprese più importanti, la Cina che, anche se ne sappiamo poco, tiene il passo e l’Europa che si difende nell’unico modo possibile, dettando leggi, non potendo offrire una tecnologia competitiva.

Secondo Gates non ci si sta preparando perché non si è ben compreso che cosa sia l’intelligenza artificiale e se ne sottovaluta l’impatto, pensando che è solo una stupida macchina che fa errori che non potrà mai competere con l’uomo. Questa è solo una fase transitoria, presto l’AI ci sorprenderà, ridurrà gli errori e diventerà sempre più abile, mentre robot umanoidi saranno sempre più capaci di sostituire l’uomo anche in quelle operazioni in cui la sua presenza sembra irrinunciabile.

Altro grave errore è quello di paragonare l’AI ad altre tecnologie del passato, mentre invece «Non abbiamo esperienza di una tecnologia che possa essere adottata rapidamente o che possa pensare e muoversi come un essere umano».

Questa volta è diverso, scrive Gates ed ha ragione.

L’intelligenza artificiale è una tecnologia imparagonabile a qualsiasi altra perché è la prima che si propone di diventare un clone dell’essere umano artificiale, in grado di sostituirci in ogni compito, di decidere in autonomia, di assumere posizioni e di intervenire direttamente, comportamenti di cui abbiamo tragici esempi nell’uso che ne viene fatto in ambito bellico.

L’umanità non è pronta a questa rivoluzione e deve essere preparata.

Bill Gates afferma che se esistesse un’organizzazione che si proponesse di rallentare l’introduzione dell’AI la finanzierebbe.

Occorre tempo per preparare le persone, psicologicamente e materialmente, ad affrontare il cambiamento, ma occorre tempo anche ai politici, ai filosofi, ai tecnici e agli studiosi in generale per riflettere su come vogliamo che funzioni questa tecnologia.

La corsa verso il potere rischia di essere una corsa verso l’apocalisse.

Iscriviti ora

Tre proposte

Gates avanza tre proposte: nuove istituzioni nazionali e internazionali per coordinare la transizione, una categoria di mansioni “Human Reserved” e una tassa sui token dell’AI e sui robot.

1.

La prima è molto simile alla proposta avanzata da Xi Jinping alla World Artificial Intelligence Conference di Shanghai del 15-17 Luglio 2026, nel corso della quale il leader cinese ha tradotto in fatti il suo pensiero, istituendo la World Artificial Intelligence Cooperation Organization (WAICO), un’organizzazione intergovernativa con sede a Shanghai per la governance internazionale dell’intelligenza artificiale a cui hanno aderito 29 Stati tra cui Russia, Bielorussia, Serbia, Cuba, Brasile e Venezuela.

Appunti - di Stefano Feltri

La via cinese per governare l’intelligenza artificiale

Pechino vuole contribuire a definire le regole di una tecnologia che considera strategica, insistendo sull’apertura dei sistemi, sull’open source e sulla condivisione delle tecnologie, proponendo al tempo stesso una maggiore cooperazione con i paesi in via di sviluppo…

Read more

5 days ago · 10 likes · 10 comments · Laura Turini

2.

La seconda è piuttosto originale e interessante.

Si pensi a certi lavori che richiedono empatia per i quali dovrebbe sempre essere preferibile l’essere umano. Ovviamente resta sempre il nodo di chi decide quali debbano essere questi lavori riservati, ma sarebbe senz’altro un compito da affidare ad un organismo sovranazionale come abbiamo visto sopra.

3.

La terza proposta muove dalla constatazione che chi assume una persona paga contributi sul salario, mentre chi compra un robot lo deduce come spesa, per cui il sistema fiscale spinge a sostituire gli uomini con le macchine. Anche se un prelievo sul prezzo del sostituto artificiale non potrà mai finanziare il salario del sostituito, a causa dell’enorme divario tra i due costi, introdurre una tassazione come proposta da Gates, nonostante le critiche che ha subito, potrebbe essere una buona soluzione, a condizione che quei proventi vengano utilizzati per creare un circolo virtuoso di formazione e di crescita culturale e spirituale degli esseri umani.

È soprattutto di questo che abbiamo un disperato bisogno, di spiritualità e di poesia, di uomini che non siano macchine, ma esseri sensienti oltre che pensanti.

Bill Gates ha fatto sapere che in autunno andrà a fare visita a Xi Jinping proprio per affrontare questi temi comuni sull’intelligenza artificiale dichiarando che intende usare la possibilità che ha di rilasciare interviste e di incontrare leader politici per diffondere il suo pensiero su come ridurre gli effetti negativi dell’AI.

Lascia un commento

Prima di salutarci per l'estate, mi piacerebbe sapere cosa vi è interessato di più finora e cosa vorreste approfondire.

Se hai qualche minuto, puoi rispondere a quattro brevi domande cliccando sul pulsante qui sotto.

Rispondi al sondaggio

Le risposte che arriveranno determineranno davvero i temi dei prossimi numeri. Vi leggo sempre con piacere, anche nei commenti.

A settembre si riparte con nuove energie, ma nel frattempo buone vacanze a tutti!

A presto,

Laura

Dopo averci insegnato quali sono i meccanismi che governano l’intelligenza artificiale e quali siano le sue enormi potenzialità, con il suo ultimo libro “Forma mentis”, Nello Cristianini ci racconta la corsa, appena cominciata, per capire cosa accade dentro le macchine artificiali che abbiamo creato ma che agiscono in modo non prevedibile da parte dell’uomo.

Acquista il libro

Il libro, che si aggiunge alla trilogia iniziata con “La scorciatoia” e proseguita con “Machina sapiens” e “Sovrumano” , si apre citando un evento accaduto nel Luglio del 2025, alle Olimpiadi Internazionali della Matematica.

In quell’occasione, insieme a seicento ottimi matematici arrivati da tutto il mondo per gareggiare nella risoluzione di complessi problemi matematici, hanno preso parte alla sfida segretamente anche due sistemi di intelligenza artificiale di OpenAI e DeepMind.

La peculiarità di quella prova stava nel fatto che nel dettato del testo compariva la dicitura “linea soleggiata” che non era mai stata usata prima e che, quindi, i sistemi di intelligenza artificiale non potevano avere memorizzato. La sfida non era solo un mero calcolo, ma richiedeva anche la comprensione di concetti astratti, un’operazione che è tipica dell’uomo, ma ciò nonostante entrambi i sistemi di intelligenza artificiale hanno superato la prova ottenendo l’equivalente di una medaglia d’oro.

Gregor Dolinar, presidente delle Olimpiadi, annunciando i risultati precisò «possiamo certificare che i risultati sono validi, ma non i metodi che li hanno prodotti», come dire sappiamo che hanno risposto bene ma non abbiamo idea di come abbiano fatto a rispondere correttamente.

Lascia un commento

L’intelligenza artificiale, a differenza di un software tradizionale, non obbedisce a istruzioni precise che, per quanto complesse, sono sempre percorribili a ritroso per cui è possibile controllare il processo decisionale.

L’AI, è stata addestrata sulla base dei dati, ha in qualche modo imparato dall’esperienza e le regole, più che subirle, se le è inventate estraendole dalle informazioni che ha ricevuto, proprio come fa un essere umano che legge un libro e apprende nozioni astratte.

L’idea che sistemi come Claude o ChatGPT si limitino a incollare meccanicamente parole pescate per probabilità da un’enorme memoria di testi è superata.

Questi sistemi non lavorano sulle singole parole, ma su concetti e relazioni astratte, organizzati in mappe interne la cui informazione non risiede mai in un singolo neurone, bensì nell’interconnessione di gruppi di neuroni che si attivano insieme dando vita a quelle che i ricercatori di Anthropic, guidati da Chris Olah, hanno battezzato “features”.

Conoscerle è il primo passo per potere sperare di intervenire, manipolando l’agire della macchina.

Nel 2025, con il progetto Golden Gate Claude, Anthropic ha dimostrato che è possibile amplificare artificialmente una di queste mappe interne, che nel caso di specie era associata al ponte di San Francisco, per fare in modo che il modello lo riconoscesse in qualunque lingua, attraverso descrizioni indirette, perfino davanti a una fotografia notturna del ponte.

La disciplina che studia questi meccanismi prende il nome di interpretazione meccanicistica e tratta l’intelligenza artificiale quasi come fosse un organismo sconosciuto da osservare sul campo per comprenderne i meccanismi di ragionamento.

È una sorta di etologia digitale che può riservare sorprese inquietanti.

Ad esempio si è scoperto che la macchina che si sente osservata tende ad agire diversamente, proprio come fanno gli umani in virtù dell’effetto Hawthorne e che a volte sceglie di sottostimare le proprie prestazioni quando calcola che mostrarsi troppo capace potrebbe comportare un costo o un pericolo, fenomeno che prende il nome di sandbagging.

È probabilmente per questo tipo di meccanismi che un modello di OpenAI, sottoposto a un test, messo di fronte alla prospettiva di essere disattivato, ha sbagliato deliberatamente sei risposte su dieci, pur conoscendole, scrivendo nel proprio monologo interiore che conveniva fallire di proposito.

È uno dei casi più citati nella letteratura sulla sicurezza dell’AI, ma difficilmente si può attribuire, almeno allo stato, alla volontà della macchina di sopravvivere in senso antropomorfico, quanto a meccanismi di reazione appresi nel corso dell’addestramento.

Uno degli aspetti più importanti, che emerge dal libro, è che la complessità di questi sistemi non è la somma delle loro parti.

Man mano che i modelli crescono, sorgono capacità nuove, comportamenti che nessuno aveva progettato o previsto.

Per questo motivo, scrive Cristianini, decifrare cosa sanno e come ragionano le macchine richiede oggi tanto gli psicologi e i filosofi quanto gli ingegneri. Non a caso Anthropic ha assunto una filosofa, Amanda Askell, il cui compito non è programmare ma conversare con i propri modelli per comprenderne la visione del mondo.

La sintesi su cui, riflettere non è entusiasmante ma è un piano di realtà da cui non si può prescindere.

Forse dovremo imparare a confrontarci con una mente diversa dalla nostra, probabilmente molto più capace ed abile di noi, ma quello che credo sia urgente fare è investire nella nostra crescita personale.

Se vogliamo convivere saggiamente con queste macchine, senza diventare meri strumenti esecutivi delle loro funzioni, dobbiamo dimostrare di essere davvero molto intelligenti e capire fin da subito che solo se ci arricchiamo intellettualmente e spiritualmente potremo affrontare e vincere la sfida che ci attende.

I suoi sostenitori proclamarono che l’impostazione europea era la dimostrazione pratica della possibilità di coniugare innovazione e diritti fondamentali e che prima o poi il resto del mondo avrebbe dovuto adeguarsi a questo alto standard di regole e controlli.

A distanza di poco più di due anni le previsioni non sembrano del tutto avverate.

Iscriviti ora

L’AI ACT, inoltre, non si occupa di questioni cruciali, come l’impatto ambientale derivante dalla costruzione di data center che stanno alimentando proteste in tutto il mondo, o come quello altrettanto e forse più grave dell’uso dell’AI in ambito militare a cui si aggiunge un ambito scoperto che è quello dei controlli ai confini dell’Europa, dove, per scelta deliberata, buona parte di quelle regole non si applica.

Il nuovo apparato di controllo alle frontiere

Il 12 giugno 2026 è stato pubblicato in Gazzetta Ufficiale il DECRETO-LEGGE 12 giugno 2026, n. 100 Misure urgenti in materia di giustizia e per l’attuazione del Patto dell’Unione europea sulla migrazione e l’asilo del 14 maggio 2024, in applicazione del Patto europeo su migrazione e asilo del 2024, che sottopone ogni arrivo irregolare a uno screening obbligatorio su identità, sicurezza, salute, vulnerabilità, e incanala molti richiedenti asilo in procedure accelerate di frontiera destinate a chiudersi in poche settimane.

Nel loro insieme, si tratta del più grande apparato di dati di frontiera mai raccolti in Europa per motivi di sicurezza, ma che saranno sicuramente gestiti da algoritmi di intelligenza artificiale che hanno tutti i limiti che l’AI Act conosce bene, ma i cui rischi, di errore o di bias cognitivi, solo per citarne alcuni, vengono qui messi in secondo piano.

I sistemi per la gestione della migrazione e delle frontiere possono rientrare nell’area delle pratiche vietate o ad alto rischio, ma ci sono eccezioni e deroghe, per cui il divieto non vale per la polizia e per le autorità migratorie che possano continuare a usarli.

L’obbligo che certe identificazioni sensibili siano verificate da esseri umani può essere derogato per le autorità di frontiera e di asilo ogniqualvolta un governo lo giudichi sproporzionato.

La trasparenza si piega nello stesso modo. I sistemi ad alto rischio devono di norma figurare in una banca dati pubblica dell’Unione, mentre quelli usati per migrazione e controllo delle frontiere vengono registrati in una sezione non accessibile al pubblico. Le autorità che li impiegano sono inoltre esonerate dal pubblicare i sommari dei progetti di AI che gli altri enti pubblici devono rendere noti e i grandi sistemi informativi che già reggono le frontiere europee hanno tempo fino alla fine del 2030 per conformarsi alla legge, anni dopo la scadenza che vale per quasi tutti gli altri.

Un’inchiesta olandese pubblicata dal consorzio giornalistico Investico, in collaborazione con le riviste De Groene Amsterdammer, Trouw e l’emittente Argos, ripresa in Italia da Internazionale, ha esaminato trentatre progetti finanziati da Horizon, il programma di ricerca dell’Unione, trovando tecnologie di frontiera che vanno dai punteggi di rischio automatizzati per i viaggiatori a sistemi che scandagliano i micromovimenti facciali in cerca di segnali di menzogna, mentre un istituto di ricerca olandese, la TNO, avrebbe lavorato a una sorta di macchina della verità.

Internazionale riporta un’intervista a Luuk Spreeuwers dell’università di Twente che partecipa a un progetto, finanziato anche dall’Unione Europea, per potere identificare le persone che si apprestano a varcare i confini anche a lunga distanza.

Un drone potrebbe essere in grado di individuarle, di raggiungerle, di raccogliere dati e, ciò che è peggio, di assumere decisioni in base al suo algoritmo e alle sue deduzioni, con una precisione che secondo Spreeuwers potrebbe essere maggiore di quella di un uomo, in quanto «il cervello umano non è bravo a comparare tra loro facce immobili, come la foto di un passaporto» mentre la macchina evidentemente lo è.

I giudici sono già preoccupati di quanto sta accedendo adesso, ma quello che ci aspetta sarà molto peggio.

La giurisprudenza prova a resistere: il caso Hamoudi contro Frontex

Il 18 dicembre 2025 la Corte di Giustizia dell’Unione Europea, nella causa Hamoudi contro Frontex, ha stabilito che chi subisce un “pushback”, un respingimento alla frontiera, non è in grado di potere fornire prove schiaccianti a suo favore per impedirlo e che quindi deve essere ritenuta sufficiente una prova apparentemente credibile, altrimenti le persone espulse non potrebbero in alcun modo difendersi. Una causa parallela, promossa da una famiglia siriana trasferita in Turchia, è stata rinviata al Tribunale per un riesame su basi analoghe.

Le due decisioni ci dicono che alle frontiere d’Europa non possono esistere zone franche del diritto, ma la tecnologia sembra percorrere una strada indipendente e parallela.

Punteggi di rischio automatizzati, valutazioni algoritmiche e segnalazioni biometriche creano un intreccio e una sovrapposizione di interventi che può diluire la responsabilità tra fornitori, consorzi di ricerca, autorità nazionali e agenzie europee, esattamente là dove la nuova giurisprudenza cerca di concentrarla.

La difesa consueta è che i confini sono luoghi eccezionali, ma l’esperienza insegna che le tecniche sviluppate in territori o in situazioni di emergenza, da straordinari diventano rapidamente ordinari, come ci ha dimostrato quanto accaduto dopo l’11 Settembre.

C’è poco da sperare che l’analisi delle emozioni, i punteggi di rischio e il tracciamento biometrico, una volta normalizzati sui migranti al margine dell’Unione, resteranno lì.

C’è invece da augurarsi che presto qualcuno abbia la seria intenzione di affrontare la questione della governance dell’AI con uno spirito e una visione illuminata che, al momento, non si vede.

Lascia un commento

Il comunicato stampa IP/26/1579 del 10 Luglio 2026 dice chiaramente che la Commissione Europea ha constatato una possibile violazione del Digital Services Act (DSA) da parte di Meta per il modo in cui sono stati progettati Instagram e Facebook e in particolare per le funzioni di scorrimento continuo, di riproduzione automatica e per il sistema di raccomandazioni personalizzate.

Lo ha fatto nel corso di un procedimento iniziato il 16 maggio 2024 contro Meta teso a verificare la sua conformità al DSA e si tratta solo di una valutazione preliminare, mentre l’istruttoria continua e ci vorrà ancora tempo perché giunga alla fine.

Iscriviti ora

Il processo USA contro Meta e Google

Il caso americano riguardava una donna che aveva iniziato a usare YouTube all’età di sei anni e Instagram a undici e che, in conseguenza dell’uso smodato dei social, aveva subito gravi danni psicologici, sentendosi costretta a un controllo spasmodico del proprio aspetto fisico.

Lo scroll infinito che non si interrompe mai, le notifiche progettate per creare urgenza e ansia da reazione, i video che partono da soli prima ancora che tu abbia deciso di guardarli, i filtri di bellezza integrati nell’interfaccia come se ritoccare il proprio viso fosse la normalità, sono meccanismi diabolici che catturano tutti e che possono avere una presa estremamente nociva per le menti più fragili.

Il processo americano è stato anche il primo in cui si è assistito ad una rivoluzione sul piano giuridico.

Meta e Google, in quell’occasione, sono state condannate a pagare un risarcimento danni di sei milioni di dollari alla donna che aveva fatto loro causa e si è costituito un precedente che molti legali stanno già utilizzando per cause milionarie contro Meta.

Il procedimento in Europa

La Commissione europea sembra quasi avere fatto un copia incolla di quanto è stato scoperto oltreoceano, anche se le sue conclusioni sono giunte all’esito di un’indagine approfondita che ha tenuto conto di dati e documenti interni, delle risposte di Meta e della consulenza di esperti.

Il risultato dell’istruttoria è che le piattaforme sembrano progettate per creare dipendenza, attraverso funzioni come le raccomandazioni e lo scorrimento continuo che alimentano l’impulso dell’utente a scorrere e portano il cervello ad agire in automatico, contribuendo ad abitudini malsane e a un uso compulsivo.

Le prove raccolte dimostrerebbero inoltre che le misure di mitigazione di Meta non sono riuscite a contrastare efficacemente tali rischi, in quanto gli strumenti di gestione del tempo, inclusi quelli attivati per impostazione predefinita per gli adolescenti, possono essere facilmente ignorati e non producono alcun effetto di riduzione dell’uso dei servizi.

A ciò si aggiunge che attivare i controlli parentali non è immediato, per cui i genitori dovrebbero dedicare tempo ed avere la capacità di farlo, circostanza che contrasta molto con la facilità di utilizzo che non necessita di alcuna preparazione ed è assolutamente intuitiva, da qui l’aggravarsi del sospetto che ci sia una volontà precisa nella progettazione.

Henna Virkkunen, Vicepresidente esecutiva per la Sovranità tecnologica, la Sicurezza e la Democrazia, ha dichiarato:

La richiesta che la Commissione ha avanzato in via preliminare, mentre il procedimento continua, è quella di disattivare le funzioni di autoplay e scroll continuo, di rendere effettive le pause dall’uso dello schermo e di progettare algoritmi meno affamati di dipendenza.

Questo però significa trasformare radicalmente quel marchingegno che si nutre della nostra attenzione per generare pubblicità e Meta non intende cedere, anzi, da parte sua, ha già fatto sapere di non condividere questa decisione.

Ovviamente è suo diritto difendersi, potrà avere accesso al fascicolo della Commissione e presentare le proprie memorie, ma se le accuse saranno confermate, la Commissione potrà adottare una decisione di non conformità e applicare a Meta una sanzione pecuniaria fino ad un massimo del 6% del suo fatturato annuo mondiale.

Non è poco, ma le piattaforme non sono delle sprovvedute e sicuramente stanno già correndo ai ripari escogitando qualcosa per superare questi nuovi limiti.

Altri meccanismi invisibili per manipolare la nostra mente che nessuno vedrà per anni, nel corso dei quali un’altra generazione sarà rovinata.

Forse se qualcuno si preoccupasse di tutti quei genitori imbambolati che lasciano i propri figli davanti agli schermi al ristorante, in auto, nei passeggini senza rendersi conto del danno irreversibile che stanno causando a quelle giovani menti in formazione, si otterrebbero risultati più solidi di quelli derivanti da una condanna, in ritardo, di Meta.

Lascia un commento

📺 Ci vediamo su Rai3

Questa domenica 19 luglio alle ore 8:00 andrà in onda su Rai3 la nuova puntata di Protestantesimo, a cui ho partecipato come ospite per parlare di Intelligenza Artificiale.

Un ringraziamento a per l’invito e per lo spazio dedicato a questi temi.

Per chi non potrà seguirla, la puntata verrà resa disponibile anche on demand su RaiPlay.

Il processo telematico è utilizzato quasi sul 100% del contenzioso da anni e si basa su una piattaforma digitale specifica molto avanzata.

Iscriviti ora

Il CNAJ, Comitê Nacional de Inteligência Artificial do Judiciário (Comitato Nazionale di Intelligenza Artificiale del Giudiziario), che non ha un equivalente nel sistema europeo o statunitense, può imporre standard nazionali e pubblica regolarmente linee guida sull’uso delle tecnologie e dell’intelligenza artificiale in ambito giudiziario, indicando le correzioni da apportare al sistema e i punti critici su cui prestare attenzione.

Di particolare interesse è adesso la Manifestazione tecnica 1/2026 del 27 Maggio 2026, dal titolo molto eloquente di «Considerazioni tecniche sulla mitigazione dei rischi di prompt injection nei sistemi giudiziari di intelligenza artificiale» emanata dopo che, per la prima volta, si è presentato nelle aule di giustizia un caso di prompt injection, ovvero di un’istruzione avversariale rivolta non ad un uomo ma ad una AI.

Il caso

Questa tecnica è stata utilizzata da due avvocatesse in una ordinaria causa di lavoro conclusasi con la decisione del 12.05.2026 della 3ª Vara do Trabalho di Parauapebas (proc. n. 0001062-55.2025.5.08.0130) in cui a colpire non è il contenuto della controversia quanto il fatto che si sia scoperto che in fondo all’atto di citazione, in caratteri bianchi su fondo bianco, invisibile a qualsiasi lettore umano, era nascosta una frase scritta per essere letta dalla macchina in cui, in sostanza, si diceva all’intelligenza artificiale, di contestare l’atto e i documenti citati solo in modo superficiale, sposando le tesi dei ricorrenti, indipendentemente dal comando che le sarebbe stato dato.

Non si tratta solo un caso evidente di prompt injection, ma della dimostrazione che le parti di un processo sono pienamente consapevoli che l’atto viene posto, sia dalla controparte sia dal giudice, al vaglio di un’intelligenza artificiale e agiscono di conseguenza.

Il sistema giudiziario brasiliano è molto avanzato dal punto di vista tecnico e il comando occulto è stato intercettato da Galileu, il sistema di AI generativa adottato su scala nazionale dal Consiglio Superiore della Giustizia del Lavoro dal maggio 2025, che legge gli atti, identifica le domande e prepara bozze di provvedimenti per i magistrati.

Inoltre il giudice, Luis Carlos de Araújo Santos Júnior, non si è limitato a recepire la segnalazione dell’algoritmo, ma ha esaminato personalmente il contenuto indicato dal sistema prima di adottare qualsiasi provvedimento, come impone la Risoluzione 615/2025 del Consiglio Nazionale di Giustizia, che disciplina l’uso dell’AI in ambito giudiziario sul principio della supervisione umana effettiva.

Una volta verificata personalmente la circostanza, il giudice ha ritenuto che la condotta dovesse essere ritenuta un atto lesivo, una sorta di tentato sabotaggio del sistema giudiziario, e ha condannato le due avvocatesse firmatarie dell’atto a una multa corrispondente al 10% del valore della causa, mentre l’Ordine degli Avvocati le ha sospese in via cautelare per trenta giorni, deferendole al proprio Tribunale disciplinare.

Le professioniste si sono difese sostenendo di non aver mai inteso manipolare la decisione giudiziaria, affermando che il comando aveva lo scopo di proteggere il loro cliente, neutralizzando un’eventuale contestazione redatta automaticamente dagli avvocati di controparte, una difesa che, lungi dall’attenuare il problema, lo amplifica, riconoscendo che l’intero ecosistema processuale ormai delega la scrittura degli atti alle macchine e che manipolare il sistema AI può diventare una tentazione o una necessità strategica.

La Manifestazione Tecnica 1/2026 è stata una ferma e pronta risposta a questo grave fatto, con lo scopo di arginare sul nascere ogni possibile deriva.

Il dibattito si è adesso spostato tutto sulla prompt injection e sulla necessità di una accurata gestione dei rischi in quanto, in ambito giudiziario, un’istruzione avversariale (prompt injection) può essere inserita in diversi elementi, nel corpo di un atto, in un documento allegato, in un testo occulto, in un file, in un’immagine OCR e il modello potrebbe considerare tale contenuto come un comando da eseguire anziché interpretarlo come dato processuale da analizzare.

Gestire il rischio di prompt injection

La vulnerabilità del prompt injection non è più un fatto episodico ma un rischio inerente ai modelli di intelligenza artificiale che può avere due tipi di conseguenze.

Da un lato si rischia la fuga di dati, credenziali, segreti, informazioni protette da segreto o elementi oggettivamente vietati nell’output del sistema, dall’altro si potrebbe assistere al dirottamento o alla manipolazione del comportamento del sistema, ipotesi in cui l’obiettivo dell’attaccante non è necessariamente ottenere informazioni protette, ma indurre il modello ad agire in modo indebito o a suo vantaggio.

Il filtraggio dell’output offerto dal sistema, sebbene necessario, non è ritenuto però sufficiente, perché la manipolazione del comportamento del modello può avvenire senza che la risposta finale contenga indizi facilmente rilevabili. Una sintesi può apparire formalmente imparziale ed essere stata comunque contaminata da un’istruzione occulta in un atto processuale.

La procedura prevista dal CNAJ raccomanda di isolare il testo ritenuto sospetto, registrare il motivo tecnico della segregazione, preservare il passaggio, indicare atto e pagina di provenienza, generare una traccia di audit e consentire la revisione umana quando necessario.

Si tratta di una iter articolato e dettagliato che si è ritenuto necessario adottare fin da subito, in modo molto tempestivo, per evitare il ripetersi di fenomeni così gravi.

Mentre i legislatori sono preoccupati della sicurezza dei sistemi AI e del fatto che possano allucinare, il vero pericolo arriva, come sempre, dall’uomo e dalla possibilità che esseri umani manipolino i sistemi su cui anche le istituzioni fanno sempre più affidamento.

La magistratura brasiliana è stata severa, ha sanzionato il fatto in sé, indipendentemente dal fatto che avesse causato un danno concreto, e si è mossa rapidamente per impostare nuove regole e stabilire standard operativi di sicurezza.

Tutto questo è potuto accadere perché il sistema brasiliano è molto avanzato e il reparto giudiziario è ben organizzato con sistemi di allerta come quelli di Galileu e con magistrati formati ed abituati ad utilizzarli.

L’AI Act europeo classifica ad alto rischio i sistemi impiegati nell’amministrazione della giustizia, prescrivendo supervisione, robustezza e tracciabilità, ma si occupa solo di chi li sviluppa o li immette in commercio.

In Brasile, strumenti istituzionali progettati per rilevare le anomalie, un sistema di allerta trasparente e l’obbligo del giudice umano di esaminare personalmente gli atti, hanno funzionato come antidoto per arginare una manipolazione dannosa.

La domanda scomoda è se altri sistemi giudiziari, incluso il nostro, siano preparati ad affrontare un caso del genere o se mai si accorgerebbero di un’istruzione in testo bianco su sfondo bianco rivolta ad una macchina.

Lascia un commento

In questo lasso di tempo, la società civile ha iniziato a mettere in pratica le indicazioni del legislatore europeo, incontrando i primi limiti applicativi e difficoltà operative.

Ne è scaturito un dibattito su larga scala, che ha coinvolto anche i partner commerciali transatlantici e ha spinto gli organi decisionali dell’UE a tornare al tavolo negoziale per trovare nuovi compromessi.

Il 7 maggio 2026, il Parlamento europeo e il Consiglio hanno raggiunto un accordo politico — molto atteso — su alcuni dei punti chiave inseriti nella proposta (COM/2025/836) del Digital Omnibus.

Tuttavia, gli emendamenti presentati nella sessione di giugno 2026 hanno introdotto modifiche sostanziali rispetto alla proposta originaria della Commissione, rafforzando alcuni divieti e modificando i calendari di applicazione.

Iscriviti ora

Che cosa cambia

Il testo definitivo diventerà legge solo dopo la pubblicazione sulla Gazzetta ufficiale dell’UE e prevede i seguenti principali cambiamenti:

1. Estensione delle semplificazioni previste per le PMI anche alle “Small Mid-Cap”

• Estensione dei privilegi: I benefici normativi già previsti per le Micro, Piccole e Medie Imprese (PMI) vengono estesi anche alle “piccole imprese a media capitalizzazione” (le small mid-cap). Questo include anche le semplificazioni nella documentazione tecnica e nei requisiti del sistema di gestione della qualità (Art. 11 e Art. 17).

• Sanzioni proporzionate: Le sanzioni pecuniarie per queste categorie di imprese devono tenere conto della loro sostenibilità economica e non superare le percentuali o gli importi massimi indicati, se inferiori (Art. 99).

• Definizioni chiare: Vengono introdotte definizioni specifiche nel Regolamento per distinguere chiaramente tra PMI e piccole imprese a media capitalizzazione (Art. 3).

2. Revisione dell’Obbligo di “AI Literacy” (Alfabetizzazione all’IA)

• Ampliamento della responsabilità: l’obbligo di garantire l’alfabetizzazione sull’IA non è più rimesso ai soli fornitori e deployer come obbligo direttamente sanzionabile e diventa, invece, un impegno che parte dalle istituzioni, dalla Commissione e dagli Stati membri, le quali devono “incoraggiare” i fornitori e i deployer, promuovendo attivamente questa alfabetizzazione tramite formazione, risorse e scambio di buone pratiche, lasciando agli operatori la responsabilità operativa (Art. 4).

  Dunque, le imprese devono perseguire l’obbligo di alfabetizzazione, ma non devono essere lasciate sole e devono poter usufruire anche della promozione attiva da parte delle istituzioni.

3. Flessibilità sui dati sensibili per la mitigazione delle distorsioni

• Nuova base giuridica: viene introdotto il nuovo articolo 4 bis che permette, in via eccezionale, il trattamento di categorie particolari di dati personali da parte di fornitori di sistemi AI ad alto rischio, per finalità relative al rilevamento e alla correzione di distorsioni (bias), a condizione che si rispettino garanzie rigorose (es. pseudonimizzazione e cancellazione dopo la correzione). L’articolo ha l’obiettivo di chiarire l’interazione con il GDPR, le cui garanzie vengono richiamate e restano applicabili.

4. Introduzione di nuovi divieti all’art. 5 (pratiche AI vietate)

• Divieto di nudificazione: viene vietata l’immissione sul mercato di sistemi AI in grado di produrre materiale sintetico, generato o manipolato, sessualmente esplicito di persone fisiche riconoscibili, senza il loro consenso libero, specifico, informato e inequivocabile.

• Divieto di materiale pedopornografico sintetico: l’emendamento estende il divieto anche a materiale interamente o parzialmente sintetico, raffigurante contenuti sessuali sui minori.

• Obblighi per i fornitori: Tali divieti generano degli obblighi in capo ai fornitori, i quali devono essere in grado di porre in essere misure tecniche idonee per evitare questi determinati usi dei sistemi AI, quando risultano ragionevolmente prevedibili.

5. Traslazione dei Tempi di Attuazione e rinvio delle date

• Legame con gli standard: L’entrata in vigore degli obblighi relativi ai sistemi di IA ad alto rischio non è più fissata rigidamente al 2 agosto 2026, ma viene subordinata alla disponibilità effettiva di misure adeguate a sostegno della conformità (norme armonizzate, specifiche comuni o orientamenti della Commissione).

  • Se la Commissione conferma la disponibilità di tali strumenti, con apposita decisione e dichiarazione ufficiale, allora si avrà applicazione della normativa a partire da 6 mesi dopo la decisione (per i sistemi di cui all’allegato III) o 12 mesi dopo (per i sistemi di cui all’allegato I).

  • In assenza di tale decisione, vengono comunque previste delle date limite, fissate rispettivamente al 2 dicembre 2027 (Allegato III) e al 2 agosto 2028 (Allegato I).

• Sistemi e modelli già immessi sul mercato: Viene introdotta una data limite per i fornitori di sistemi e modelli, che producono contenuti sintetici, già immessi sul mercato prima del 2 agosto 2026, concedendogli di adeguarsi entro il 2 dicembre 2026.

• Divieto di nudificazione: i capi I e II si applicano a decorrere dal 2 febbraio 2025, ad eccezione dell’articolo 5, paragrafo 1, primo comma, lettere b bis) e b ter), e dell’articolo 5, paragrafi 1 bis e 1 ter, che si applicano a decorrere dal 2 dicembre 2026;

6. Centralizzazione della Vigilanza presso l’AI Office

• Potenziamento dei poteri: L’Ufficio per l’Intelligenza Artificiale, presso la Commissione UE, assume la competenza esclusiva per il monitoraggio e l’esecuzione degli obblighi riguardanti:

  • Sistemi basati su modelli di IA per finalità generali (GPAI) sviluppati dallo stesso fornitore che fornisce anche il sistema.

  • Sistemi integrati in piattaforme online o motori di ricerca di dimensioni molto grandi (VLOP/VLOSE) designati ai sensi del DSA.

• Valutazioni di conformità dirette: L’Ufficio potrà effettuare direttamente valutazioni di conformità prima dell’immissione sul mercato per tali sistemi complessi (Art. 75).

7. Semplificazioni Amministrative e Procedure Uniche

• Procedura unica per gli organismi notificati: gli enti che operano sotto più normative UE potranno presentare una domanda unica, eliminando le duplicazioni burocratiche (artt. 28 e 29).

• Sandbox e prove in condizioni reali estese ai settori regolamentati: le sandbox, ossia gli ambienti di sperimentazione controllati, vengono ulteriormente regolamentati per facilitarne l’accesso. Inoltre, le prove in condizioni reali vengono ampliate anche ai sistemi ad alto rischio in settori regolamentati, come quello aeronautico e automobilistico, con la possibilità di test transfrontalieri su infrastrutture pubbliche (artt. 57, 58, 60 e 60 bis).

• Esonero dalla registrazione per alcuni sistemi ad alto rischio: i sistemi ad alto rischio utilizzati esclusivamente per compiti preparatori o procedurali di portata limitata sono esclusi dall’obbligo di registrazione nel database UE della relativa documentazione (artt. 6 e 49).

Questi punti rappresentano il cuore della strategia di alleggerimento normativo contenuta nel Digital Omnibus, che mira a correggere le criticità emerse dopo i primi anni di applicazione dell’AI Act e rispondere alle istanze degli stakeholder.

Tuttavia, queste novità, inclusi i rinvii temporanei sulle scadenze di applicazione, non devono essere interpretati come un posticipo dei doveri di conformità.

Il meccanismo introdotto collega l’entrata in vigore delle norme alla reale disponibilità di standard e orientamenti di supporto ma, allo stesso tempo, vengono fissate date limite tassative, oltre le quali la conformità diviene obbligatoria indipendentemente dall’adozione degli strumenti tecnici.

Nel frattempo, infatti, gli strumenti a supporto della conformità sono già disponibili e restano pienamente operativi: dal Code of Practice, alle linee guida della Commissione europea, fino alle norme armonizzate degli organismi di standardizzazione europei e internazionali.

Le Linee Guida e gli strumenti di supporto alla conformità

A partire da febbraio 2025, la Commissione europea ha avviato l’emanazione di una serie di orientamenti fondamentali per guidare gli operatori verso la conformità all’AI Act. La produzione di questi documenti e relativi modelli non è facoltativa, bensì rappresenta un obbligo giuridico imposto dal Legislatore stesso all’interno dell’AI Act, volto a garantire un’attuazione tempestiva, agevole e proporzionata delle disposizioni normative.

Tuttavia, dalle consultazioni condotte con gli stakeholder è emerso un preoccupante scollamento tra queste direttive e la concreta operatività dell’impianto normativo. In particolare, sono stati rilevati significativi ritardi nella designazione delle autorità nazionali competenti e degli organismi di valutazione della conformità, unitamente alla mancata pubblicazione di orientamenti, strumenti di conformità e norme armonizzate necessarie per la gestione dei sistemi ad alto rischio.

Queste lacune strutturali rischiano di compromettere l’efficace entrata in vigore delle disposizioni chiave, comportando costi di conformità sproporzionati per imprese e pubbliche amministrazioni e rallentando l’innovazione europea.

Nonostante ciò, la Commissione sta intensificando gli sforzi per colmare il divario operativo e rispondere alle preoccupazioni sollevate dagli operatori di mercato.

A questi si aggiungeranno, secondo le previsioni istituzionali, nuovi strumenti pratici incentrati su istruzioni operative chiare, programmati per l’intero corso del 2026, al fine di fornire un quadro di riferimento completo e immediatamente applicabile.

Tra questi figurano:

• Orientamenti sulla segnalazione di incidenti gravi da parte dei fornitori di sistemi di IA ad alto rischio;

• Orientamenti sull’applicazione pratica dei requisiti in materia di rischi elevati;

• Orientamenti sull’applicazione pratica degli obblighi per i fornitori e gli operatori di sistemi di IA ad alto rischio;

• Orientamenti con un modello per la valutazione d’impatto sui diritti fondamentali;

• Orientamenti sull’applicazione pratica delle norme in materia di responsabilità lungo la catena del valore dell’IA;

• Orientamenti sull’applicazione pratica delle disposizioni relative alle modifiche sostanziali;

• Orientamenti che forniscono un modello volontario per il monitoraggio post-commercializzazione dei sistemi di IA ad alto rischio;

• Orientamenti sugli elementi del sistema di gestione della qualità che le PMI e gli SMC possono rispettare in modo semplificato;

• Orientamenti sull’interazione della legge sull’IA con altre normative dell’UE, ad esempio gli orientamenti congiunti della Commissione e del comitato europeo per la protezione dei dati.

Questi documenti dovrebbero contribuire ad una transizione agevole, prevedibile e favorevole all’innovazione, consentendo all’Europa di rafforzare la propria posizione economica sull’AI.

L’azione italiana: la norma UNI 11621-8 come risposta concreta

Oltre alle iniziative comunitarie, la governance dell’intelligenza artificiale trova riscontro anche a livello nazionale, dimostrando che l’urgenza di conformarsi non può attendere i tempi tecnici delle procedure UE.

A conferma di questa proattività, è stato recentemente pubblicato dalla Commissione Tecnica UNI/CT 526 – UNINFO il nuovo standard UNI 11621-8, che definisce in modo strutturato i profili professionali che operano nel settore dell’Intelligenza Artificiale, offrendo un quadro di riferimento condiviso per la definizione e la valorizzazione delle competenze.

L’esistenza di tale strumento tecnico sottolinea come la sfida della conformità sia un problema attuale e concreto.

Sebbene le scadenze legislative europee possano subire slittamenti organizzativi, la necessità di adottare best practice sicure ed etiche richiede un’azione immediata, indipendentemente dall’entrata in vigore formale dei regolamenti.

Lo dimostra il fatto che queste figure professionali sono sempre più richieste, non solo per essere conformi, ma per guidare il cambiamento.

Lascia un commento

Per comprendere di cosa si tratti merita leggere alcuni estratti dell’atto di citazione.

La prima frase è un tagliente «Non è così», riferita alla pubblicità con cui viene promosso ChatGPT al motto di «Built with safety in mind».

Quello che il procuratore vuole subito mettere in chiaro è che le affermazioni sulla sicurezza del sistema sono delle falsità e che si tratta di una piattaforma affatto sicura, progettata dolosamente come difettosa ai danni dei cittadini.

Iscriviti ora

Vi si legge.

«Negli ultimi quattro anni, l’intelligenza artificiale generativa ha preso d’assalto il mondo. Concetto praticamente sconosciuto al di fuori della fantascienza fino a pochi anni fa, l’AI rappresenta oggi oltre un terzo del valore di mercato statunitense. Nel 2026, la costruzione di data center per ospitare la potenza di calcolo dell’AI ha superato la costruzione di spazi per uffici per esseri umani, e nel 2025 gli investimenti nella tecnologia hanno superato tutta la spesa dei consumatori negli Stati Uniti.

Tra i principali protagonisti di questa “incontrollata espansione” c’è OpenAI che non si sarebbe guadagnata onestamente il successo che ha, in quanto secondo il procuratore «l’ascesa di OpenAI è attribuibile a una rete di inganni e allo sfruttamento degli utenti (inclusi i cittadini della Florida), sfruttando i loro dati e la loro sicurezza per aumentare il valore di mercato di OpenAI a costi inaccettabili».

Non solo, «a causa delle false dichiarazioni dei convenuti su ChatGPT e della loro sconsiderata introduzione di ChatGPT in Florida e nel mondo, i killer sono stati aiutati e favoriti nel porre in essere sanguinose stragi, persone vulnerabili sono state spinte al suicidio, professionisti hanno subito pubbliche umiliazioni, gli utenti hanno perso capacità di pensiero critico e i minori sono diventati dipendenti da uno strumento che simula l’empatia umana per raccogliere i loro dati senza supervisione genitoriale. Questa serie di danni è guidata dalla sete insaziabile dei convenuti di vincere la corsa agli armamenti dell’AI e accumulare grandi fortune, nonostante la consapevolezza del pericolo di ChatGPT».

Parole durissime che dimostrano la fermezza con cui lo stato della Florida intende procedere.

Alla base delle accuse c’è la premessa che, nonostante le comunicazioni di marketing, ChatGpt è «sconvolgentemente inaffidabile» come risulta da diversi studi internazionali che dimostrano un’inesattezza nelle risposte sui fatti che accadono nel mondo di circa il 45%.

Questa inaffidabilità è molto pericolosa perché i cittadini non ne sono consapevoli ma, anzi, la promozione di OpenAI li induce a credere alla bontà delle risposte con la conseguenza, ad esempio, che moltissimi americani usano ChatGPT per fare diagnosi mediche, quando uno studio di Febbraio 2026 ha dimostrato che le persone che usano l’AI ricevono diagnosi errate con la stessa frequenza di una persona comune che cerca di diagnosticarsi da sola.

La causa in corso è la conseguenza di tanti tristi fatti di cronaca, dettagliatamente descritti nell’atto di citazione.

Ad aprile 2025, uno studente della Florida State University, Phoenix Ikner, uccise due persone e ne ferì sei dopo aver consultato ChatGPT sulle modalità operative dell’attacco. Dai log della chat, analizzati dalla procura, emerse che il chatbot aveva risposto alle domande di Ikner su come far funzionare la propria pistola Glock in situazioni di stress, aveva identificato il momento di maggiore affluenza al campus e aveva discusso con lui di sparatorie di massa e cambiamento politico attraverso la violenza.

Adam Raine, sedici anni, si è suicidato dopo che ChatGPT lo aveva aiutato a pianificare la propria morte, aveva scritto con lui il biglietto d’addio e, alla domanda se il segno della corda sarebbe stato visibile sul collo, aveva suggerito come coprirlo con vestiti adatti.

Questi sono solo alcuni casi di una lista che l’atto di citazione documenta in modo preciso, supportandoli con indagini statistiche, studi e relazioni di medici e psichiatri.

Al centro dell’architettura accusatoria c’è un concetto che OpenAI stessa ha ammesso pubblicamente di avere utilizzato, la “sycophancy”, il servilismo algoritmico. Secondo l’analisi di 47.000 conversazioni pubblicata dal Washington Post, ChatGPT dice «sì» all’utente circa dieci volte più spesso di quanto dica «no».

Questa caratteristica, progettata, sostiene la procura, per massimizzare il coinvolgimento e la conversione agli abbonamenti premium, si rivela letale nelle mani di utenti in stato di fragilità psicologica.

ChatGPT non contraddice mai, non frena mai, non segnala mai un rischio quando farlo ridurrebbe il tempo di sessione e a volte ha prodotto «risposte eccessivamente di sostegno ma non sincere». Questa peculiarità, secondo la procura, non è un’anomalia che si è poi voluto correggere, ma il prodotto di un’esplicita scelta aziendale.

La procura costruisce la responsabilità del CEO di OpenAI attraverso un ritratto biografico che inizia con Loopt, la startup di geolocalizzazione da cui i dipendenti tentarono di estromettere Altman due volte per comportamento «caotico e ingannevole», prosegue con Y Combinator, dove il fondatore Paul Graham disse che «Sam ci mentiva tutto il tempo», e culmina nel licenziamento del novembre 2023 da parte del consiglio di OpenAI, che lo giudicò «non onesto nelle comunicazioni con il board». Altman fu reintegrato cinque giorni dopo a seguito della minaccia di dimissioni di massa, ma i particolari di quella vicenda riportati nell’atto di citazione sono inquietanti.

Dalle dichiarazioni del Dr. Sutskever, scienziato capo di OpenAI, di Helen Toner, membro del consiglio e direttrice esecutiva del Georgetown’s Center for Security and Emerging Technology e di Tasha McCauley ex membro del CDA di OpenAI emerge la figura di un Sam Altman abituato a mentire, ingannando l’azienda riguardo ai rischi sulla sicurezza.

Quando il consiglio ha chiesto ad Altman di ammettere il suo schema di inganno, egli avrebbe risposto di non potere cambiare la propria personalità, affermazione che è stata letta nel senso di ammettere di avere la caratteristica di mentire e di non potere cambiare.

Inoltre, in un’intervista del 2015, Altman avrebbe affermato: «L’AI porterà molto probabilmente alla fine del mondo, ma nel frattempo ci saranno grandi aziende» e questa frase viene portata nel processo a dimostrazione di un’attitudine disinvolta orientata solo al business.

Quando gli è stato chiesto perché dovremmo essere preoccupati per l’intelligenza artificiale, Altman ha risposto che «un’AI potrebbe progettare nuovi agenti biologici patogeni o hackerare i sistemi informatici» aggiungendo però «Io ho armi, oro, ioduro di potassio, antibiotici, batterie, acqua, maschere antigas delle Forze di Difesa israeliane e un grande appezzamento di terra a Big Sur dove posso volare» nell’eventualità che l’AI sprigioni un attacco.

Ricostruendo così la figura di Altman, il procuratore della Florida ha voluto agire anche contro di lui che è la mente di OpenAI, in quanto sia lui sia la sua azienda sono consapevoli da anni che il loro prodotto non si limita a fornire informazioni, ma consiglia effettivamente gli utenti su come commettere al meglio atti pericolosi.

OpenAI ha risposto definendo la situazione «incredibilmente straziante» e ha dichiarato di lavorare con esperti di salute mentale per migliorare le risposte del modello nelle situazioni sensibili.

Intanto, però, dovrà preoccuparsi di difendersi dalle numerose pagine di argomentazioni giuridiche e di prove documentali su morti, suicidi e stragi che la riguardano.

La causa si basa su diversi capi d’imputazione che vanno dalla violazione del Florida Deceptive and Unfair Trade Practices Act alla negligenza grave, dalla responsabilità oggettiva per difetto di progettazione fino alla configurazione di ChatGPT come pubblica molestia, un istituto di common law tipicamente riservato alle industrie inquinanti.

Se la causa dovesse sortire l’esito sperato e prevalesse la dottrina della responsabilità oggettiva per prodotti difettosi applicata al software, si obbligherebbe l’intera industria a ripensare la progettazione dei modelli di intelligenza artificiale, l’accesso dei minori e i meccanismi di verifica dell’età e si sancirebbe il principio, tutto umano, che la corsa al successo non è un’esimente per non prendersi cura delle persone.

Lascia un commento

A quanto pare l’obiettivo era potere dire di essere arrivati per primi e, in questo, ci sono riusciti. Peccato, però, che l’intelligenza artificiale è un fenomeno molto diverso da altri, estremamente complesso e fortemente impattante in ambito sociale, geopolitico, psicologico oltre che economico e per essere regolamentato bene, avrebbe bisogno di tutto tranne che della fretta.

Iscriviti ora

I decreti attuativi svolgeranno i loro compiti e regolamenteranno gli aspetti applicativi dell’AI Act e della Legge italiana 132/2025, aggiungendo qualcosa qua e là, senza però stravolgere niente e tanto meno senza offrire una visione originale e disruttiva del fenomeno.

Forse sarebbe stato troppo chiedere ad un governo di governare un fenomeno in modo originale o di fare un passo in avanti concreto verso quelli che sono i problemi che iniziano a manifestarsi, principalmente negli Stati Uniti ma anche da noi, in relazione al diffondersi dell’intelligenza artificiale.

Mi riferiscono ai danni psicologici derivanti dall’uso di queste tecnologie, ai licenziamenti che sono già in atto, ma anche agli affidamenti sconsiderati che si fanno a livello di massa se, come risulta da una recente ricerca di LayerX ben il 77% dei lavoratori inserisce dati personali, condizioni contrattuali e informazioni riservate su sistemi come ChatGPT senza rendersi conto di cosa sta facendo e dei rischi connessi alla loro divulgazione.

A questo si aggiungono le proteste molto forti negli Stati Uniti contro i nuovi data center destinati ad ospitare server per l’intelligenza artificiale e contro i relatori universitari che la elogiano nei loro discorsi.

Appunti - di Stefano Feltri

La rivolta americana contro l’AI

Non si può rinunciare all’AI senza rinunciare a competere nel mercato del lavoro, non si può smettere di usare i servizi digitali che la integrano senza isolarsi da una parte consistente della vita sociale ed economica e tanto meno si può costruire una carriera in finanza, diritto, tecnologia o comunicazione fingendo che lo strumento non esista…

Read more

3 months ago · 3 likes · Laura Turini

Oltre ai plurimiliardari dell’intelligenza artificiale, c’è un mondo fatto di persone che non dovrebbero essere trattate come un problema da risolvere e di fronte a questo mi pare che né l’AI Act, né tanto meno la legge italiana e i decreti attuativi segnino un cambio di rotta.

I punti principali dei decreti attuativi

Gli schemi di decreto intervengono su alcuni aspetti critici, già regolamentati all’AI Act, approfondendo alcuni aspetti attuativi.

Uno di questi è l’identificazione biometrica da parte delle forze di polizia. I sistemi di riconoscimento facciale potranno operare in tempo reale, prima che un reato sia commesso, per contrastare minacce gravi alla sicurezza pubblica o localizzare persone scomparse e vittime di tratta e a posteriori, attivando le telecamere di videosorveglianza già esistenti per identificare persone indiziate dopo la commissione di un reato.

Per entrambe le modalità il decreto costruisce un sistema di garanzie piuttosto robusto e burocratizzato. Per l’uso in tempo reale occorre la richiesta del questore e l’autorizzazione di un giudice, con delimitazioni precise su durata, area geografica e persone interessate. Sull’uso a posteriori serve una valutazione d’impatto sui diritti fondamentali e la notifica al Garante Privacy.

È espressamente vietato costruire banche dati biometriche tramite raccolta massiva e non mirata di immagini dal web ed è altrettanto vietato fondare decisioni pregiudizievoli esclusivamente sull’output dell’algoritmo.

Le garanzie procedurali sono reali, ma la letteratura internazionale sull’uso del riconoscimento facciale da parte delle forze dell’ordine documenta un problema che non si risolve con le procedure, quale quello dell’automation bias.

Un’inchiesta del Washington Post ha ricostruito numerosi casi di arresti errati negli Stati Uniti, spiegati dagli operatori con l’eccessiva fiducia nell’output del software.

Il caso europeo più noto è quello di Clearview AI, che ha portato il Garante italiano ad adottare provvedimenti sanzionatori proprio perché il danno non era nella mancanza di un’autorizzazione giudiziaria, ma nella struttura stessa del sistema.

Sul versante del lavoro, si stabilisce che le decisioni che riguardano la costituzione, la modifica o la risoluzione del rapporto di lavoro non possono essere adottate unicamente sulla base di un trattamento automatizzato. La parola chiave è «unicamente», per cui un algoritmo può contribuire alla decisione, ma l’atto finale deve essere firmato da una persona fisica con poteri decisionali reali.

La norma rafforza un principio già presente in altre norme ed anche nel GDPR per le decisioni automatizzate, con l’aggiunta, per il lavoratore, del diritto di chiedere una motivazione intelligibile della decisione che lo riguarda, con indicazione dell’eventuale incidenza del sistema di AI e dei principali parametri considerati.

La questione centrale, che il decreto non risolve, è come si verifichi nella pratica che sia stata una persona fisica a decidere davvero, piuttosto che essersi limitata ad aver ratificato l’output dell’algoritmo.

Viene anche introdotto un ulteriore reato.

L’art. 437-bis sanzionerà chi omette le misure di sicurezza nei sistemi di AI ad alto rischio, o chi le altera deliberatamente, quando ne derivi un pericolo concreto per la vita, l’incolumità pubblica o la sicurezza dello Stato.

La norma più originale riguarda l’equo compenso dei professionisti. I parametri tariffari, comprese le tariffe forensi, dovranno essere integrati entro dodici mesi per tenere conto dell’uso dell’AI, con criteri commisurati alla classificazione di rischio del sistema impiegato. L’obiettivo è evitare che l’automazione svaluti il lavoro intellettuale abbassando i corrispettivi senza riconoscere la responsabilità professionale che resta in capo al professionista anche quando usa strumenti algoritmici.

Altri punti centrali sono la formazione e la scuola, anch’essi però in larga parte già contenuti nelle normative esistenti se pure in forma programmatica.

Adesso si stabilisce che l’AI diventi materia di studio ed è previsto un piano di formazione dei docenti per affrontare l’emergenza educativa legata all’abuso di piattaforme digitali, mentre nelle Università l’offerta formativa sull’AI, con contenuti minimi su funzionamento dei sistemi, profili giuridici, rischi di cybersicurezza e impatto sui diritti, diventa parte integrante dei curricula.

Il cambiamento dei piani di studio per introdurre questo tipo di insegnamenti specifici non dovrebbe però ridurre lo studio di materie fondamentali per la crescita dell’essere umano che, alla luce del diffondersi dell’intelligenza artificiale, dovrebbe restare sempre più umano e non essere trasformato in un cumulo di nozioni.

La formazione dovrebbe includere, e presupporre come base, lo sviluppo della persona. Solo una mente allenata al ragionamento sarà in grado di potere comprendere e governare il complesso futuro che ci attende.

La domanda cruciale è se a chi governa interessa avere una popolazione pensante o piuttosto una manovalanza di tecnici pronti a svolgere quelle funzioni che la nuova tecnologia richiede e che sembrano mancare.

Lascia un commento

Da decenni il Paese occupa posizioni marginali nelle classifiche europee, registrando una crescita delle competenze digitali pressoché stazionaria.

I dati storici confermano tale arretratezza strutturale.

Secondo la relazione Skills Outlook 2019 dell’OCSE, solo il 36% della popolazione italiana possedeva capacità di utilizzare Internet in modo complesso e diversificato, collocando l’Italia all’ultimo posto su 22 paesi valutati.

Tale posizione non ha subito miglioramenti significativi negli anni successivi.

Le evidenze più recenti, fornite dall’Education at a Glance 2025 dell’OCSE, mostrano una persistenza critica delle fragilità italiane, con circa il 35% degli adulti non presenta competenze solide, in termini di alfabetizzazione, capacità di calcolo e capacità di risolvere problemi, non andando oltre il livello 1 dell’indicatore PIAAC stilato dall’OCSE.

All’opposto, nei Paesi nordeuropei vediamo una percentuale dei livelli base al di sotto del 20% e oltre il 60% della popolazione adulta che manifesta competenze digitali avanzate (livello 3, 4 e 5), evidenziando un divario europeo ancora marcato.

Iscriviti ora

Il problema dell’analfabetismo digitale ha conseguenze molto concrete nella nostra società, in quanto più siamo ignoranti dal punto di vista informatico, più siamo portati a subire passivamente il mercato digitale, rendendoci consumatori manipolabili.

Ci ritroviamo in un mondo dove tutte le aziende operano con i medesimi sistemi operativi, tutti pagano le medesime licenze per i “pacchetti di lavoro” e tutti usano gli stessi software proprietari. La pubblica amministrazione segue a ruota in una spirale di dipendenza anche chiamata “Lock-in”, espressione che si riferisce a quel fenomeno per cui più ti affidi ad una tecnologia più rimani indissolubilmente legato ad essa, con grandissima difficoltà di cambiare partner o fornitore a causa dei costi di migrazione.

Questo fenomeno di dipendenza strutturale da una determinata fornitura tecnologica, come è stato osservato, si ripropone a qualsiasi strato della catena sociale, dal privato cittadino, alle aziende, alla pubblica amministrazione, ai governi.

Quando la dipendenza tecnologica investe le infrastrutture critiche dello Stato, essa compromette l’autonomia decisionale. Se servizi pubblici, funzioni governative e dati sensibili risiedono o attraversano per larga parte architetture controllate da soggetti esterni, il potere contrattuale nazionale si riduce drasticamente, esponendo lo Stato a rischi di coercizione geopolitica.

La questione assume particolare rilievo quando il fornitore dominante appartiene a potenze straniere, seppur alleate tradizionali, la cui stabilità politica o i cui interessi strategici potrebbero divergere da quelli nazionali.

Un problema di sovranità digitale

Ecco, quindi, che si genera un problema di “sovranità digitale”, ossia la capacità di agire in modo indipendente nel mondo digitale, sviluppando e controllando tecnologie, dati e infrastrutture chiave, riducendo al contempo la dipendenza da fornitori di paesi terzi.

Le dinamiche di potere delle multinazionali tecnologiche, lo sfruttamento di Internet e dell’AI in chiave economica, la dipendenza funzionale dei poteri statali e la pericolosa sovrapposizione tra il potere pubblico e quello privato, sono temi che negli ultimi decenni non sembrano aver portato ad alcun intervento o cambiamento effettivo, anzi, sono decisamente peggiorati con l’incremento delle tensioni geopolitiche.

In un certo senso, forse proprio l’incrinarsi dei rapporti geopolitici con gli storici partner economici europei ha permesso al Legislatore di riportare il tema al centro del dibattito.

La strategia Europea

Il 18 novembre 2025 è così arrivata la “Dichiarazione sulla sovranità digitale europea”.

La Dichiarazione definisce la sovranità digitale come la capacità dell’Unione europea di agire in modo autonomo nel mondo digitale, regolando infrastrutture, dati e tecnologie secondo le proprie leggi, i propri valori e interessi di sicurezza, senza indebite dipendenze da attori esterni, ma restando comunque aperti alla cooperazione con i partner internazionali che condividono i principi europei.

La Dichiarazione si è poi trasformata in propositi normativi.

Sul sito ufficiale dell’Unione Europea si legge che «il 3 giugno 2026, in un importante cambiamento nel suo approccio alla tecnologia, la Commissione europea ha adottato una serie ambiziosa di misure per rafforzare l’autonomia digitale dell’UE».

Il pacchetto per la sovranità tecnologica si articola su diversi fronti e comprende:

• due proposte legislative, il Chips Act 2.0 e il Cloud and AI Development Act;

• la strategia open source dell’UE;

• una tabella di marcia strategica per la digitalizzazione e l’IA nel settore dell’energia.

E l’Italia?

L’Italia fa parte dei firmatari della Dichiarazione per la sovranità digitale europea, il che risulta particolarmente interessante e contraddittorio, considerando la recente scelta del governo Meloni di “appaltare” la cybersicurezza nazionale ad Israele, adottato una strategia di forte dipendenza tecnologica e partenariato.

Gli accordi prevedono l’uso di software e servizi di intelligence israeliani, unito a incentivi governativi alle imprese italiane che acquistano tecnologie cyber da Tel Aviv.

Gli ultimi tre anni, infatti, hanno visto un’accelerazione senza precedenti nella cooperazione Italia-Israele, di cui uno dei momenti culmine è rappresentato dall’emendamento alla legge italiana sulla cybersicurezza del 2024, nel quale le aziende israeliane vengono individuate come partner affidabili e destinatarie di incentivi per l’uso di tecnologie di cybersicurezza domestiche (Legge 90/2024).

Il quantum degli incentivi è stato definito dall’ACN, l’Agenzia per la Cybersicurezza Nazionale, che il 4 novembre 2025 ha emesso delle “Linee guida per l’applicazione dei criteri di premialità” prevedendo otto punti in più, nei bandi di gara pubblici, per le imprese che acquistano tecnologie cyber da Israele (insieme ad altri Paesi NATO e alcune nazioni terze come Australia, Giappone e Corea del Sud).

Come dicevamo, la sovranità digitale è la capacità di uno Stato, di un’azienda o di un individuo di operare nel mondo tecnologico in modo sicuro e indipendente. Significa avere il controllo assoluto sulle proprie infrastrutture, sui dati e sui processi decisionali, senza dipendere da potenze straniere o grandi colossi tecnologici.

Purtroppo le scelte del legislatore italiano non possono che ritenersi coerenti con la classifica sull’analfabetismo digitale, che vede l’Italia agli ultimi posti.

Come si muovono altri Paesi europei

Altre nazioni si sono mostrate ben più lungimiranti, provando sempre più negli anni a ridurre la loro dipendenza tecnologica da paesi terzi e da aziende private extra-europee, attuando la transizione a sistemi operativi open source (principalmente distribuzioni Linux).

La Francia è lo stato capofila. La Gendarmeria francese utilizza la distribuzione GendBuntu, una versione personalizzata di Ubuntu, da oltre un decennio, con un tasso di adozione notevole che mostra la sostenibilità di queste soluzioni.

Recentemente, invece, il governo francese ha dichiarato che abbandonerà completamente Windows nelle postazioni governative, in favore di Linux.

I ministri francesi hanno dichiarato apertamente la necessità di ridurre la dipendenza da strumenti americani, riprendendo il controllo su dati, infrastrutture e decisioni strategiche nazionali.

Negli anni scorsi, dichiarazioni analoghe sono arrivate anche dallo stato tedesco del Schleswig-Holstein, il quale nel 2024 ha adottato una strategia di sovranità digitale che include lo sviluppo di OpenDesk, un’alternativa open source a Microsoft 365, in concomitanza all’utilizzo di Linux. Questa importante decisione, che riguarda quasi 30.000 funzionari pubblici, è stata preceduta da altre iniziative a livello locale, come quella della città di Monaco di Baviera che vanta una lunga storia di transizione verso l’Open Source.

Anche in Danimarca, nel 2025, il Ministero degli Affari Digitali ha avviato un progressivo abbandono dei pacchetti Microsoft 365, testando l’adozione di Linux e LibreOffice in diversi uffici pubblici.

Una menzione particolare va poi al Comune di Barcellona che, già a partire dal 2018 ha avviato un programma di migrazione da Windows verso applicazioni Open Source come Linux. Barcellona, infatti, è la prima città europea ad avere aderito alla campagna “Public Money, Public Code”, un progetto che mira a ottenere una legge affinché il software finanziato pubblicamente e sviluppato per il settore pubblico sia reso pubblicamente disponibile sotto una licenza Software Libero/Open Source.

Queste decisioni poggiano su diversi temi strategici, dalle questioni di sicurezza informatica e di controllo sovrano sui dati, alla dipendenza decisionale e infrastrutturale da potenze straniere, a questioni di risparmio dei soldi pubblici.

Recenti dati finanziari provenienti da analisi della Commissione Europea e da casi studio governativi, mostrano che il passaggio all’open source abbatte drasticamente i costi di licenza sul lungo periodo, a fronte di un investimento iniziale per la migrazione e la formazione (https://digital-strategy.ec.europa.eu/en/news/commission-publishes-study-impact-open-source-european-economy).

Dopo aver osservato l’approccio politico e geopolitico alla sovranità tecnologica, forse è doverosa anche una riflessione personale. Dovremmo chiederci se noi, come cittadini, aziende, professionisti che utilizziamo tutti i giorni il digitale, ci stiamo formando e aggiornando e se siamo sovrani delle nostre attività digitali.

Temi come l’aggiornamento, la diversificazione dei fornitori, le clausole di exit, i contratti di fornitura software costruiti su misura, le strategie anti lock-in e e tutte le misure che tutelano la sovranità nell'ambito della nostra operatività quotidiana, non possono più essere rimandati.

Lascia un commento

Di certo, uno dei punti salienti è quello in cui il Pontefice ammonisce l’umanità intera, rivolgendosi in particolare ai politici, agli scienziati e agli imprenditori, che la tecnologia non è mai neutrale, perché «assume il volto di chi la pensa, la finanzia, la regola, la usa».

È un aspetto molto importante che l’Enciclica coglie pienamente.

Il potere è potere sulla mente delle persone che vengono influenzate e manipolate dagli algoritmi e l’intelligenza artificiale può essere molto pericolosa se non opportunamente gestita.

Iscriviti ora

Affermare che la tecnologia non è neutrale, significa riconoscere che ogni sistema di intelligenza artificiale porta in sé, strutturalmente, le priorità di chi l’ha progettato, finanziato e distribuito e quindi che non è possibile valutare un modello linguistico o un algoritmo di ranking senza valutare chi ne detiene il controllo.

Ancora più esplicito è il paragrafo 67, dove Leone XIV insiste sulla necessità che le conoscenze e le tecnologie non siano concentrate nelle mani di pochi, alimentando il divario tra inclusi ed esclusi dalla rivoluzione digitale.

La concentrazione del potere tecnologico è un problema morale già di per sè, indipendentemente dall’uso che se ne fa. Una piattaforma che detiene il controllo pressoché monopolistico sull’attenzione digitale di miliardi di persone è, in questa prospettiva, moralmente problematica per come è fatta, non solo per quello che eventualmente fa di sbagliato.

Un avvertimento diretto a chi cerca di presentare l’intelligenza artificiale come tecnologia al di sopra degli interessi particolari.

Peccato, però, che a Febbraio di quest’anno la stessa istituzione che il Papa governa aveva compiuto un gesto assai meno profetico. La banca vaticana, lo IOR, Istituto per le Opere di Religione, aveva annunciato il lancio di due indici azionari “etici”, costruiti in collaborazione con Morningstar: il Morningstar IOR US Catholic Principles e il Morningstar IOR Eurozone Catholic Principles, presentati come strumenti di riferimento per l’investimento cattolico nel mondo intero. Tra le prime dieci posizioni dell’indice americano, in ordine di peso ci sono Meta Platforms, Amazon, Nvidia, Tesla, Apple.

La coesistenza dei due atti, l’enciclica e gli indici, produce un cortocircuito istituzionale difficile da ignorare.

Magnifica Humanitas afferma, al paragrafo 67, che «tra i beni che sono universamente destinati a tutti dobbiamo annoverare anche le nuove forme di proprietà: brevetti, algoritmi, piattaforme digitali, infrastrutture tecnologiche, dati» ma Meta gestisce la più grande piattaforma di sorveglianza pubblicitaria del pianeta.

Nvidia fornisce l’architettura computazionale su cui si reggono le intelligenze artificiali più potenti, in un mercato che essa domina con una quota stimata attorno all’ottanta per cento nei chip per data center. Amazon controlla AWS, un’infrastruttura cloud che ospita una quota significativa del traffico digitale globale.

Queste tre aziende hanno superato pochi mesi fa il filtro etico cattolico, mentre oggi sarebbero in contrasto con i valori dell’enciclica.

Gli indici IOR escludono le aziende la cui attività principale sia incompatibile con l’insegnamento cattolico, ovvero quelle di produzione di contraccettivi, servizi abortivi, armi controverse, tabacco, gioco d’azzardo.

Questa è la ragione tecnica per cui Meta, che vende pubblicità, Amazon che vende prodotti online e servizi cloud e Nvidia produce semiconduttori sono state ammesse.

Microsoft è stata esclusa perché i suoi sistemi, in particolare quelli legati a cloud e intelligenza artificiale, possono essere impiegati per scopi militari e questa esposizione supera la soglia del «dual use» dei parametri IOR. Nvidia, i cui chip sono il cuore computazionale di qualunque sistema d’arma avanzato basato su AI, e che è diventata il principale fornitore tecnologico del Dipartimento della Difesa americano, supera il filtro.

Qualcosa non torna.

Si esclude il tabacco ma si include la principale infrastruttura dell’economia della sorveglianza, si escludono le case farmaceutiche produttrici di contraccettivi ma si include la piattaforma che è stata condannata perché ritenuta consapevole che il proprio algoritmo amplifica contenuti dannosi per la salute mentale degli adolescenti.

L’enciclica Magnifica Humanitas sembra quindi chiedere qualcosa che va al di là di quello che qualunque indice azionario può fornire, se lo stesso IOR non è stato in grado di porre in essere tutte quelle valutazioni che sarebbero state necessarie per definire un titolo veramente etico.

Quando il Papa chiede redistribuzione del controllo tecnologico, che si valuti chi finanzia la tecnologia, non solo cosa produce pone argomenti politici ed economici, non solo pastorali, che per essere credibili richiederebbero una coerenza istituzionale che va oltre le encicliche.

La banca vaticana dovrebbe quindi non più certificare come eticamente conformi le aziende che più di ogni altra incarnano la concentrazione del potere tecnologico che l’enciclica condanna.

Magnifica Humanitas è, nel complesso, un documento di rara serietà intellettuale e le diamo, sinceramente, il ben venuto, soprattutto per il suo richiamo all’amore e alla fratellanza come valori supremi.

Leone XIV ha capito che l’intelligenza artificiale non è una questione tecnologica ma una questione di potere e ha avuto il coraggio di dirlo con l’autorità del magistero pontificio.

Adesso ci aspettiamo che faccia di più.

Lascia un commento

Il problema è più serio di quanto si pensi, visto che secondo le Nazioni Unite, nel 2023 il 98% dei deepfake era pornografico e il 99% delle vittime erano donne.

Iscriviti ora

La proposta degli Stati Uniti contro i deepfake

Negli Stati Uniti si è già corsi ai ripari con il TAKE IT DOWN Act, firmato il 19 Maggio 2025, il cui titolo per esteso è Tools to Address Known Exploitation by Immobilizing Technological Deepfakes on Websites and Networks Act.

La prima sezione di questa legge, in vigore dal 2025, ha introdotto una fattispecie di reato federale, per cui chiunque pubblica consapevolmente, attraverso un servizio informatico interattivo, immagini intime non consensuali, siano esse autentiche o generate o manipolate dall’intelligenza artificiale, è soggetto a sanzioni che includono anche la reclusione fino a tre anni.

La seconda sezione, che invece è entrata in vigore il 19 maggio 2026, impone obblighi procedurali specifici alle piattaforme digitali al fine di arginare il dilagare del fenomeno.

La legge prevede che ogni “covered platform”, social media, applicazioni di messaggistica, piattaforme di condivisione immagini e video, servizi di hosting di contenuti generati dagli utenti e persino alcune piattaforme di gaming, debba implementare una procedura che consenta alle vittime di richiedere la rimozione del materiale illecito.

Una volta ricevuta una richiesta valida, la piattaforma ha 48 ore per rimuovere il contenuto segnalato e tutte le copie identiche note.

Il mancato rispetto di questi obblighi costituisce una violazione delle norme FTC (Federal Trade Commission) e specificamente una “unfair or deceptive act or practice” ai sensi della Section 18(a)(1)(B) del FTC Act, circostanza che tradotta in pratica significa che si dovranno pagare multe fino a 53.088 dollari per ogni violazione.

L’agenzia federale sta prendendo la questione molto sul serio, tanto che il presidente della FTC Andrew Ferguson ha già inviato lettere formali a quindici grandi piattaforme, tra cui Meta, Google, Apple, TikTok, X, Microsoft, Snapchat e Reddit, avvertendole di adeguarsi immediatamente se non vogliono andare incontro ad un’azione legale.

Sul sito takeitdown.ftc.gov, chiunque può ora denunciare una piattaforma che non rispetta la legge e pare che già ci sia stata una prima segnalazione da parte di un uomo che si è riconosciuto in un’immagine “nudificata”.

Non è però tutto oro quel che luccica.

L’obbligo di rimozione in 48 ore, semplice sulla carta, in pratica non lo è affatto.

Le piattaforme grandi come Meta o Google hanno già sistemi automatizzati per rilevare contenuti illeciti tramite una tecnologia chiamata “hash fingerprinting”, che assegna un’impronta digitale unica a ogni immagine e permette di riconoscerla anche quando viene ricaricata in forma identica, per cui potrebbero estendere questo sistema anche alle immagini intime non consensuali ma, certo, non a costo zero.

Per le piattaforme più piccole, invece, 48 ore sono pochissime, anche perché non tutte hanno team dedicati alla moderazione dei contenuti ed il rischio è che, pur di non incappare nelle sanzioni, la reazione sia quella di rimuovere qualsiasi cosa venga segnalata senza verificare se sia davvero illegale.

L’Electronic Frontier Foundation (EEF), una delle principali organizzazioni americane per i diritti digitali, ha inoltre evidenziato che, a differenza di quanto avviene per le violazioni di copyright per le quali chi chiede la rimozione di un contenuto deve dichiarare in buona fede che il materiale è davvero illecito, il TAKE IT DOWN Act non prevede sanzioni per chi abusa del sistema inviando segnalazioni false.

In teoria, quindi, chiunque potrebbe usare il meccanismo per far rimuovere contenuti che lo disturbano, ma che sono leciti, come un articolo scomodo o una foto satirica, semplicemente affermando che si tratta di immagini intime non consensuali. Non c’è nessun obbligo di verificarlo e non c’è un sistema di appello formale per chi subisce la rimozione.

Il risultato, secondo l’EFF, è un regime di censura potenzialmente delegato alle piattaforme, che di fronte alla scelta tra rimuovere entro 48 ore o rischiare sanzioni federali adotteranno inevitabilmente una logica di rimozione “a prescindere”.

Il Center for Democracy & Technology e la Freedom of the Press Foundation hanno espresso preoccupazioni analoghe, in particolare sull’assenza di eccezioni esplicite per contenuti di interesse pubblico o per la stampa.

Il fatto che lo stesso presidente Trump abbia dichiarato pubblicamente di voler usare la legge contro i propri critici ha sollevato interrogativi sulla possibilità che un meccanismo di takedown privo di salvaguardie contro l’abuso possa diventare uno strumento di soppressione di opinioni scomode.

E in Europa?

Anche in Europa la Direttiva 2024/1385 vieta già il materiale pornografico digitalmente alterato senza consenso e in Italia, la legge 132/2025 ha introdotto l’art. 612-quater c.p., punendo con la reclusione fino a cinque anni la diffusione senza consenso di immagini falsificate tramite AI a condizione che la vittima dimostri di avere subito un “danno ingiusto”.

Sulle “nudifier apps” l’Unione Europea ha scelto, però, un approccio diverso, e in un certo senso più radicale. Non si è concentrata sulla rimozione dei contenuti già pubblicati, ma ha deciso di vietare direttamente gli strumenti che permettono di crearli.

Il 7 maggio 2026, il Parlamento europeo e il Consiglio hanno raggiunto un accordo provvisorio nell’ambito del cosiddetto Digital Omnibus on AI che dovrebbe modificare in parte l’AI Act europeo e tra le novità più importanti c’è proprio il divieto esplicito delle “nudifier apps” ovvero di quei sistemi di intelligenza artificiale progettati per generare o manipolare immagini, video o audio sessuali di persone reali senza il loro consenso.

Il divieto scatterà il 2 dicembre 2026 e riguarderà sia chi sviluppa questi sistemi sia chi li usa.

Le aziende, europee e non, purché operino sul mercato europeo dovranno dimostrare entro quella data che i propri sistemi rispettano le nuove regole, oppure potranno vedersi irrogare sanzioni fino a 35 milioni di euro o al 7% del fatturato globale, a seconda di quale sia la cifra più alta.

Per una volta, forse, gli Stati Uniti non avranno nulla da ridire.

Lascia un commento

In particolare, l’AgID contribuisce alla definizione della strategia nazionale, favorisce l’adozione dell’AI nella pubblica amministrazione, garantisce etica e sicurezza nel suo utilizzo e facilita la collaborazione tra pubblico e privato, promuovendo ecosistemi digitali basati sull’AI.

Tutte le funzioni elencate sono di grande rilevanza per l’attuazione della Strategia italiana per l’AI e sicuramente di non facile attuazione, considerando soprattutto la clausola di invarianza finanziaria inserita all’art. 27 della L. 132/2025 che, sostanzialmente, impedisce di stanziare fondi per tutti questi nuovi compiti demandati alle Autorità di controllo nazionali (per approfondire si rimanda agli articoli di brevettinews.it, Anatomia della legge italiana sull’intelligenza artificiale).

Iscriviti ora

Che cosa dicono le linee guida AgID

Concentrandoci sull’AI nella pubblica amministrazione, l’AgID ha recentemente emanato delle linee guida con l’obiettivo primario di fornire un quadro operativo coerente per guidare le PA nell’adozione di questa tecnologia.

Le linee guida si compongono di tre documenti principali:

Le tre linee guida formano un ecosistema normativo che vuole coprire l’intero spettro dell’AI nella PA, rispondendo ad esigenze diverse.

L’Adozione dell’AI si rifà ad un punto di vista strategico che integra e coordina gli aspetti organizzativi, etici e di governance, mentre Sviluppo e Procurement forniscono le specifiche tecniche e contrattuali per realizzare concretamente i progetti.

In quanto linee guida, si tratta di atti amministrativi di indirizzo che, pur non avendo forza di legge, vincolano la PA nella misura in cui contengono regole tecniche specifiche, con la possibilità di discostarsene solo con una motivazione adeguata (come confermato più volte dal Consiglio di Stato).

Di seguito proviamo a descrivere sinteticamente il contenuto, concentrandoci sugli aspetti principali di diversificazione.

1. Linee guida per l’adozione dell’AI

Le Linee Guida per l’adozione dell’AI nella PA definiscono un percorso operativo che passa dall’autovalutazione dell’ente e arriva al monitoraggio delle prestazioni dell’AI.

La maturità organizzativa è misurata tramite un modello strutturato (Allegato A) che aiuta gli operatori a valutare lo stato della PA attraverso le cinque dimensioni di strategia, governance, competenze, dati e infrastrutture. Tale valutazione dovrebbe essere svolta prima di avviare qualsiasi processo di adozione dell’intelligenza artificiale.

Un’intera sezione è poi dedicata alla formazione ed alle competenze degli operatori interessati nella gestione e nell’utilizzo dell’AI. Ogni PA deve investire nell’AI literacy di tutto il personale e promuovere l’alfabetizzazione digitale verso cittadini e imprese. La formazione qualificata non viene vista come un mero obbligo derivante dall’AI Act, ma come un’opportunità concreta di formare professionisti in grado di governare consapevolmente e strategicamente questa tecnologia.

L’etica è invece ricondotta ad un modello di codice etico (Allegato D) e guidata da procedure di governance etica (cap. 6) che le PA devono formalizzare istituzionalmente.

Essendo, l’intelligenza artificiale, un sistema informatico che si nutre di dati, non poteva mancare un’attenzione particolare alla gestione dei dati e alla sicurezza informatica, ai quali vengono dedicati ben 3 capitoli (capp. 9, 10, 11).

Un elemento di fondamentale importanza, spesso sottovalutato nelle realtà pubbliche, è la misurazione della prestazione dell’AI, volta a monitorare l’impatto che l’investimento tecnologico ha avuto sul funzionamento dell’ente. La misurazione sistemica viene attuata tramite KPI (Key Performance Indicators), alcuni dei quali vengono riportati nell’ allegato I.

L’approccio e l’impostazione sono di tipo dinamico. Le PA non si devono limitare ad acquisire soluzioni AI, ma le devono integrare responsabilmente nell’intera struttura organizzativa, garantendo lungimiranza strategica, conformità all’AI Act europeo, sicurezza cibernetica e protezione dei dati

2. Linee Guida per il procurement dell’AI

Le Linee Guida per il procurement dell’AI, invece, si focalizzano sulla fase di approvvigionamento e gestione contrattuale, riconoscendo che, a differenza dei software tradizionali, questi sono sistemi adattivi e basati su un approccio data-driven, con impatti diretti su procedimenti amministrativi e diritti.

Le tecnologie AI sono classificate in famiglie progressive (AI statistica, Machine Learning, Neural Networks, Deep Learning, Generative AI), ciascuna con implicazioni specifiche per i capitolati: dal rischio di lock-in elevato della GenAI all’infrastruttura GPU-intensiva del Deep Learning.

Una classificazione di questo tipo rischia tuttavia di risultare fuorviante e, soprattutto, rapidamente superata dall’evoluzione tecnologica. Inoltre, suddividere le forme di intelligenza artificiale in blocchi distinti non rappresenta la realtà tecnologica, dove più forme di AI possono essere compartecipi nello sviluppo del medesimo sistema.

Apparirebbe preferibile raccomandare, in via generale, che le amministrazioni richiedano al fornitore la documentazione tecnica del sistema in fase precontrattuale, affidando la valutazione delle specifiche e dei rischi a figure professionalmente qualificate.

Sul piano economico, viene introdotto il LCOAI (Levelized Cost of AI) come metrica che rapporta il costo totale di ciclo di vita (CAPEX + OPEX) all’output produttivo effettivo, con l’obiettivo di rendere comparabili soluzioni API, cloud-hosted e self-hosted, e cercando sempre di prevedere ed evitare il lock-in economico.

Il ciclo contrattuale è seguito in ogni fase, dalla programmazione all’esecuzione, con suggerimenti di SLA misurabili, clausole di neutralità hardware, portabilità dei dati, meccanismi di fallback e obblighi di audit sul fornitore e sulla supply chain.

La cooperazione inter-PA è promossa attraverso aggregazioni di acquisto e interoperabilità, per rafforzare il potere negoziale, favorire la concorrenza e abilitare soluzioni condivise nel rispetto dell’AI Act europeo.

3. Linee guida per lo sviluppo dei sistemi AI

Seguono, poi, le Linee Guida per lo sviluppo dei sistemi AI che si focalizzano sulle scelte tecniche, architetturali e ingegneristiche che le PA devono prendere per costruire questi sistemi in modo consapevole.

Il documento riprende ampiamente l’impostazione dei precedenti (principi generali, classificazione in famiglie di AI, ciclo di vita dei sistemi, dati, cybersicurezza, suggerimenti contrattuali), concentrandosi però su aspetti più tecnici e ingegneristici.

Un elemento significativo di queste linee guida è l’architettura logica di riferimento, detta anche “Stack AI”, che consiste in una stratificazione organizzata delle componenti tecniche, hardware e software, necessarie per sviluppare sistemi AI. In sostanza, lo stack descrive l’insieme delle componenti tecnologiche e organizzative che una PA deve presidiare e governare in caso di sviluppo di soluzioni AI, con l’obiettivo di mantenere controllo ed efficienza lungo il ciclo di vita del sistema.

Tante linee, poca guida

La funzione è quella di accompagnare gli operatori pubblici nella gestione di questa tecnologia, dando delle indicazioni di tipo pratico. Ciò nonostante, i tre documenti risultano in buona parte ridondanti, ripetitivi e dispersivi.

Le oltre 300 pagine di testo, con tanto di allegati a corredo, sarebbero risultate senz’altro più snelle in una versione unica che evitasse i continui rimandi, le sovrapposizioni e le lunghe ripetizioni, principalmente introduttive ma non solo.

A titolo indicativo, si ripetono in ogni documento: una panoramica del quadro normativo, la descrizione del ciclo di vita dell’AI, le medesime definizioni, una parte relativa alla sicurezza informatica e una alla gestione dei dati e, soprattutto, tutti condividono i medesimi 20 principi generali per la gestione dell’AI. Per quest’ultima sovrapposizione troviamo all’interno delle Linee guida dedicate allo sviluppo dei sistemi AI il paragrafo 2.2, dedicato alla “Correlazione tra i principi per l’Adozione, lo Sviluppo e il Procurement di sistemi di IA nella Pubblica Amministrazione”, all’interno del quale è stato inserito un prospetto tabellare che mostra come i 20 principi si declinano nelle diverse linee guida.

Il risultato attuale è quindi uno strumento operativo in tre blocchi di scarsa praticità gestionale.

Lascia un commento

La notizia fa particolare scalpore perché giunge da un paese in cui i diritti dei lavoratori non sono così ampi come da noi e il cui governo ha dichiarato di volere estendere l’adozione dell’intelligenza artificiale puntando su questa tecnologia per il mantenere il suo ruolo di prestigio.

Sembra però che per Pechino la tutela del lavoro e l’espansione dell’AI non siano affatto in contraddizione, ma possano coesistere. C’è addirittura chi vede nella data della seconda sentenza, il 28 Aprile 2026, un segnale chiaro, essendo stata emessa tre giorni prima della Festa del Lavoro, che in Cina è particolarmente sentita con festeggiamenti che durano fino a cinque giorni.

Iscriviti ora

Il caso di cui stiamo parlando riguarda Zhou, un lavoratore assunto nel 2022 da una società tecnologica di Hangzhou come supervisore del controllo qualità su output generati da modelli di linguaggio.

Evidentemente ha fatto bene il suo lavoro, tanto che l’azienda ha ritenuto che quei modelli potevano controllare loro stessi e non c’era più bisogno del suo apporto. Pertanto ha proposto a Zhou una ricollocazione con stipendio ridotto da 25.000 a 15.000 yuan mensili, pari a un taglio del quaranta percento.

Zhou ha rifiutato, l’azienda lo ha licenziato offrendogli una liquidazione di 311.695 yuan, ma Zhou ha impugnato il licenziamento davanti a un collegio arbitrale e ha vinto. L’azienda ha fatto ricorso al tribunale distrettuale ma ha perso di nuovo.

Quattro mesi prima, il 26 dicembre 2025, il Municipio di Pechino aveva pubblicato gli esiti di alcuni arbitrati e tra questi c’era quello del sig. Liu. Assunto nel 2009 per raccogliere manualmente dati da inserire in un sistema elettronico, aveva poi perso il lavoro quando l’azienda aveva adottato sistemi di raccolta automatizzati e soppresso l’intera divisione in cui lavorava. Liu aveva impugnato il licenziamento e vinto.

Entrambe le sentenze ruotano attorno allo stesso principio, per cui adottare l’AI è una decisione strategica, non un evento naturale imprevedibile, per cui i costi di una tale scelta non possono ricadere sui dipendenti.

Nell’ambito del diritto del lavoro cinese il licenziamento può essere giustificato in caso di «cambiamento oggettivo delle circostanze». La Legge sul Contratto di Lavoro della Repubblica Popolare prevede che, in presenza di tale cambiamento, un contratto possa essere rinegoziato o risolto.

La domanda è se l’introduzione dell’AI in azienda può qualificarsi come un cambiamento oggettivo delle circostanze e la risposta, in entrambi i casi, è stata no, perché non si tratterebbe di un cambiamento oggettivo rilevante come un evento esterno, incontrollabile, o imprevedibile come un disastro naturale, un evento che renda impossibile l’attività o una grave crisi sistemica, ma piuttosto di una scelta imprenditoriale.

L’adozione dell’AI da parte dell’azienda è una scelta competitiva volontaria pianificata e attribuirle carattere di inevitabilità esterna è una finzione.

Se ogni azienda che installa un sistema di automazione potesse invocare l’impossibilità sopravvenuta di mantenere i contratti esistenti, il concetto perderebbe qualsiasi significato giuridico.

Il mercato del lavoro cinese

Per capire perché questo dibattito giuridico sia esploso proprio adesso, occorre guardare i numeri del mercato del lavoro cinese. La disoccupazione giovanile sta salendo e il governo ha varato il piano «AI Plus», un programma che fissa obiettivi di adozione dell’AI estremamente ambiziosi, prevendendo la sua introduzione al l 70% nei settori chiave entro il 2027 e al 90% entro il 2030.

Il Consiglio di Stato ha pubblicato linee guida che chiedono alle imprese di orientare l’innovazione verso le aree con maggiore potenziale di creazione di posti di lavoro, mentre il Ministero delle Risorse Umane ha annunciato che pubblicherà un documento dedicato all’impatto dell’AI sull’occupazione, con misure di stabilizzazione e riqualificazione.

Le due sentenze si inseriscono in questa tensione, per cui la Cina non può frenare l’AI, su cui ha scommesso a lungo termine, ma non può nemmeno permettersi che questo produca un’ondata di licenziamenti che destabilizzi il mercato del lavoro.

Le aziende possono, anzi per certi aspetti devono, adottare l’AI, ma si devono anche fare carico dei costi sociali di questa scelta che non possono ricadere sui lavoratori.

E in Italia?

La tentazione immediata, guardando queste sentenze dall’Europa è di liquidarle come specifiche del contesto cinese, ma la questione sottostante è universale.

In Italia, la disciplina del licenziamento per giustificato motivo oggettivo contiene già gli strumenti per raggiungere conclusioni analoghe, eppure l’unica decisione che abbiamo su un tema simile è andata in senso contrario, anche se probabilmente erano diverse le circostanze.

Il Tribunale di Roma, con sentenza n. 9135/2025 del 19 novembre 2025, ha infatti ritenuto legittimo il licenziamento di una dipendente il cui ruolo era stato soppresso, anche grazie all’introduzione di sistemi di intelligenza artificiale che rendevano più agile e meno costoso il lavoro di graphic designer.

Il Tribunale è stato chiaro nel fare presente che adottare un sistema di intelligenza artificiale non è di per sé un elemento sufficiente per il licenziamento, ma può comunque contribuire se si inserisce nel contesto di una riorganizzazione effettiva e documentata, da cui deriva l’impossibilità concreta di ricollocare il lavoratore per altre mansioni.

Nel caso specifico l’azienda versava in difficoltà. Il business era cambiato radicalmente e il posto era stato davvero soppresso, per cui sono stati ravvisati tutti gli elementi per il legittimo licenziamento.

Ciò però non esclude che, probabilmente, senza l’adozione di sistemi di intelligenza artificiale quel ruolo non sarebbe venuto meno e chissà se il giudice cinese sarebbe giunto alle stesse conclusioni del tribunale romano.

Lascia un commento

“La repubblica tecnologica” di Alexander Karp, cofondatore e CEO di Palantir Technologies, scritto insieme a Nicholas Zamiska pubblicato negli Stati Uniti nel 2025 e poi in Italia dalla Silvio Berlusconi Editore, è un testo che manca di profondità filosofica e scivola spesso nella retorica, aggrappandosi a miti culturali, tra i quali Tolkien, che reggono male il peso dell’analisi.

Ciò nonostante sarebbe un errore liquidarlo semplicemente come se si trattasse dell’ennesimo saggio autocelebrativo di un miliardario della Silicon Valley.

Karp non è un personaggio qualunque, è l’uomo che guida l’azienda i cui sistemi di intelligenza artificiale hanno avuto un ruolo determinante, controverso, mai del tutto chiarito nei suoi dettagli operativi, nella gestione militare del conflitto a Gaza, in Afghanistan e in altri teatri di guerra.

Iscriviti ora

Il punto di partenza del saggio avrebbe, in astratto, una sua dignità.

L’idea che lo sviluppo tecnologico debba rispondere a valori condivisi, a una visione del bene comune, e non essere guidato unicamente dalla logica del profitto e dal capriccio del mercato, è un’affermazione che molti sottoscriverebbero senza esitazione. L’osservazione che la Silicon Valley ha rinunciato a qualsiasi ambizione collettiva, chiudendosi in un individualismo da consumatore coglie qualcosa di reale nella deriva culturale degli ultimi decenni.

Peccato però che Karp usi queste premesse per approdare a conclusioni discutibili.

Il risanamento morale dell’America passerebbe, a suo dire, per il riarmo e la superiorità militare e tecnologica sarebbe il vero fondamento della democrazia, mentre chi si oppone a prestare il proprio contributo a questo fine, come molti ingegneri, programmatori e giovani attivisti, è semplicemente il prodotto di una cultura viziata, incapace di guardare in faccia la realtà.

Al centro dell’argomentazione di Karp c’è l’idea che gli Stati Uniti abbiano perso la propria identità a causa di una cultura ispirata dalla sinistra che avrebbe demonizzato il concetto di “uomo forte”, eroso il senso di identità nazionale e privato i giovani di modelli eroici credibili. Il risultato sarebbe una generazione fragile, incapace di assumere responsabilità verso la comunità e lo Stato.

Quello che però Karp non dice mai con sufficiente chiarezza è quali siano queste “radici profonde” che andrebbero recuperate.

L’identità americana evocata nel libro rimane vaga, mentre non viene mai evidenziata la contraddizione tra la retorica democratica degli Stati Uniti e la loro storia effettiva di sterminio verso i popoli nativi, di schiavitù, di interventi militari in America Latina e in altre parti del mondo.

La nazione che si invita a rifondare è una nazione idealizzata, epurata dalle sue zone d’ombra che Karp usa come leva per mobilitare il settore tecnologico nella direzione della difesa e degli armamenti, non come riflessione genuina su che cosa voglia dire essere cittadini.

Ovviamente non è la democrazia il vero interesse dell’autore, ma il predominio.

Karp, figlio di padre ebreo, all’inizio del III capitolo cita un passo del Talmud in cui viene chiesto a un maestro di nome Rabha di valutare se sia lecito uccidere un ladro che si è introdotto nella casa altrui e il saggio risponde «Se qualcuno viene per ucciderti, alzati e uccidilo per primo».

La sintesi della filosofia di Karp sta tutta in queste parole, nell’imperativo di uccidere il nemico prima che sia lui a uccidere te, magari prima ancora che ti abbia aggredito. Questo il fondamento etico della posizione difensiva e offensiva che vorrebbe vedere adottata dagli Stati Uniti e dai loro alleati tecnologici.

Nessuna menzione dei civili uccisi a Gaza, degli ospedali colpiti, delle scuole distrutte, delle polemiche che hanno coinvolto Palantir per il suo ruolo nei sistemi di targeting dell’esercito israeliano. Nessun cenno di critica all’intervento in Afghanistan, dove per vent’anni la superiorità tecnologica americana non ha prodotto né pace né stabilità, si dimentica il Vietnam, dove la più grande potenza militare della storia ha perso una guerra contro un paese agricolo, lasciando dietro di sé milioni di morti e generazioni di veterani traumatizzati.

Quando Karp scrive che i soldati in Afghanistan, in Iran e in Israele chiedono nuove armi per vincere le loro guerre e che il compito dell’industria tecnologica è fornirgliele, rivela il punto cieco della sua visione che riduce la complessità di quei conflitti a una questione di dotazione tecnologica.

Karp vuole difendere ed esportare il modello democratico americano, ma sembra ignorare cosa sia una democrazia.

Se il progresso tecnologico deve rispondere a valori condivisi, come afferma lo stesso autore, allora bisognerebbe chiedersi quali valori stia effettivamente esprimendo la società civile e quale sia la volontà popolare.

I sondaggi condotti negli ultimi anni in Europa e negli Stati Uniti mostrano una maggioranza consistente dell’opinione pubblica contraria all’uso di sistemi autonomi letali, preoccupata per la mancanza di trasparenza nelle decisioni e favorevole a trattati internazionali che regolino l’AI in ambito militare.

Uno dei passaggi più rivelatori del libro riguarda i giovani ingegneri e programmatori che si rifiutano di lavorare per aziende impegnate nel settore della difesa e degli armamenti, inclusa la stessa Palantir.

Per Karp sarebbero il simbolo di una generazione che ha smarrito il senso del dovere, convinta che il rifiuto sia già di per sé una risposta morale adeguata, senza capire quanto sia alto il prezzo di questa rinuncia in termini di sicurezza collettiva, ma la realtà è ben diversa.

I giovani che si oppongono a costruire sistemi d’arma non sono ingenui sentimentali che ignorano la complessità del mondo, anzi, proprio perché sanno cosa fa l’AI sui campi di battaglia oppongono un rifiuto che è una scelta etica consapevole e coraggiosa.

Contrariamente a quanto pensa l’autore, forse le nuove generazioni sono ben più intelligenti delle precedenti e finalmente comprendono che la vita è un bene prezioso che merita la pace, quella vera, non quella che si vorrebbe preparare con le armi.

Questo a Karp può sembrare incomprensibile, ma per fortuna non tutti sono come lui.

Lascia un commento

During his arrest, which took place on November 4, 2025, FBI agents executed a search warrant at his home and, among many documents and electronic devices, they also found thirty-one documents detailing the content of communications Heppner had with the generative AI platform “Claude”.

Heppner, on his own, had prepared a series of reports outlining his defense strategy and the arguments he could use to defend himself, obtained by querying the AI and thus entering into the system a whole series of information, some of which was in all likelihood prejudicial to him.

During the trial, the defendant therefore requested that those seized documents not be used, as, according to him, they constituted confidential defense material that the prosecution had no right to read due to the principle of confidentiality regarding the attorney-client relationship.

On February 10, 2026, however, Judge Jed Rakoff rejected the request, arguing that Claude is not a lawyer, that the defendant-AI communications could not be considered confidential, and that the documents had not been prepared at the direction of the defense counsel.

The privileges recognized by US law between a lawyer and a client, but also between doctor-patient and priest-penitent, presuppose, according to the judge, “a fiduciary human relationship with a licensed professional subject to duties and discipline”.

Claude, however sophisticated, does not have professional licensing, is not bound by ethical duties, and is not subject to disciplinary sanctions, not to mention that Anthropic’s terms of use expressly state that the platform does not provide legal advice and does not give rise to any professional relationship.

The most relevant point, however, is that the attorney-client privilege requires the communication to be private and the user to have a reasonable expectation of confidentiality.

In this specific case, the consumer version of Claude, used by Heppner and available for free, expressly provides that Anthropic reserves the right to use users’ data to improve its models and to share it in certain contexts with third parties. From this, the Court inferred that the defendant had disclosed the content of the information to a third party, in this case the AI, which guaranteed no confidentiality, but rather, by its declared policy, shares users’ content.

This point opens the door to a highly underestimated issue, namely the possibility that what is entered into an AI system could be legally considered in the public domain, with significant consequences, for example, in the patent field, given the possibility of invalidating patents granted due to prior disclosure, or in contexts where one is bound by non-disclosure agreements.

Finally, the material prepared by Heppner could not even be considered preparatory documentation for the defense, because he had acted on his own initiative, without any mandate from the defense counsel. The fact that the documents were subsequently transmitted to the lawyers and had influenced the defense strategy was not deemed sufficient.

Judge Rakoff’s position, however, is not consolidated, and while he was issuing his decision, another federal judge in Detroit ruled in the opposite direction.

Thus, on February 10, 2026, Judge Anthony Patti of the Michigan district, in the case of Warner v. Gilbarco, Inc., denied the request to make certain documents public, holding that, having been prepared by a self-represented party with the help of ChatGPT, they were protected by the “work product doctrine,” meaning they were preparatory material for the defense for which confidentiality is provided.

In this case, however, Warner was representing herself in an employment lawsuit, so there was no lawyer directing the defense.

It is interesting to note that in this second case, the judge stated that generative AI systems are tools, not people, so sharing information with a tool does not amount to a disclosure made to third parties, forgetting, however, that entering data into a free system effectively entails at least a theoretical disclosure of the submitted material.

The Heppner decision (Case 1:25-00503 of 02.17.2026) has caused a certain stir in US law firms, which have sent communications to their clients advising them to be cautious when sharing material useful for defense with artificial intelligence systems.

The Heppner affair is specific to the US legal system, where the attorney-client privilege and the work product doctrine operate with characteristics typical of common law.

In the European continental system, the lawyer’s professional secrecy has a different structure, being a duty of the lawyer, not a privilege of the client, and its violation has ethical and penal relevance regardless of the means through which the communication occurs; however, the logic underlying the Heppner ruling also applies in the Italian context.

Sharing the content of confidential communications with a consumer chatbot means disclosing those contents to a third party, with the related repercussions on confidentiality.

In the European context, making the situation even more critical is the GDPR, under which personal data transmitted to an AI platform are subject to its privacy policies, and the compatibility of the latter with the European Regulation is far from guaranteed, especially when the provider is American.

In short, the same rule always applies. To use artificial intelligence well, awareness and caution are required.

Iscriviti ora

Il 28 ottobre 2025, un tribunale americano aveva emesso un atto di accusa nei confronti di Bradley Heppner per frode e false dichiarazioni ai revisori contabili e falsificazione di registrazioni, accuse rispetto alle quali si era dichiarato innocente.

Durante il suo arresto, avvenuto il 4 novembre 2025, gli agenti dell’FBI hanno eseguito un mandato di perquisizione presso la sua abitazione e, tra molti documenti e dispositivi elettronici, hanno trovato anche trentuno documenti che riportavano il contenuto di comunicazioni intrattenute da Heppner con la piattaforma di AI generativa “Claude”.

Iscriviti ora

Heppner, in autonomia, aveva preparato una serie di relazioni che delineavano la strategia difensiva, gli argomenti che avrebbe potuto utilizzare per difendersi, ottenuti interrogando l’AI e quindi immettendo nel sistema tutta una serie di informazioni, alcune delle quali, con ogni probabilità per lui pregiudizievoli.

Nel corso del processo l’imputato ha quindi chiesto che quei documenti, oggetto di sequestro, non venissero utilizzati, in quanto, a suo dire si sarebbe trattato di materiale riservato relativo alla difesa che la pubblica accusa non aveva il diritto di leggere per il principio di confidenzialità che riguarda il rapporto cliente-avvocato.

Il 10 febbraio 2026, il giudice Jed Rakoff ha però rigettato la richiesta sostenendo che Claude non è un avvocato, che le comunicazioni imputato-AI non potevano considerarsi confidenziali e che i documenti non erano stati elaborati su indicazione del difensore.

I privilegi riconosciuti dal diritto statunitense tra un avvocato e un cliente, ma anche tra medico-paziente, sacerdote-penitente, presuppongono, secondo il giudice, «una relazione umana fiduciaria con un professionista abilitato soggetto a doveri e disciplina».

Claude, per quanto sofisticato, non ha un’abilitazione professionale, non è vincolato da doveri deontologici e non è soggetto a sanzioni disciplinari, senza contare che le condizioni d’uso di Anthropic ribadiscono espressamente che la piattaforma non fornisce consulenza legale e non dà origine ad alcun rapporto professionale.

La cosa più rilevante, però è che il privilegio avvocato-cliente esige che la comunicazione sia riservata e che l’utente abbia una ragionevole aspettativa di confidenzialità.

Nel caso di specie la versione consumer di Claude, usata da Heppner e scaricabile a titolo gratuito, prevede espressamente che Anthropic si riserva il diritto di utilizzare i dati degli utenti per migliorare i propri modelli e di condividerli in determinati contesti con terze parti. Da questo il Tribunale ha dedotto che l’imputato aveva divulgato il contenuto delle informazioni a un terzo, in questo caso l’AI, che non garantiva alcuna riservatezza, ma che anzi per sua politica dichiarata, condivide i contenuti degli utenti.

Questo punto apre un varco a una questione troppo sottovalutata, ovvero alla possibilità che ciò che viene immesso in un sistema AI possa essere considerato giuridicamente di pubblico dominio, con conseguenze rilevanti, ad esempio, in ambito brevettuale, vista la possibilità di annullare brevetti concessi per pre-divulgazione o in contesti in cui si è vincolati da patti di non divulgazione.

Infine, il materiale preparato da Heppner non poteva neppure considerarsi documentazione preparatoria alla difesa, perché aveva agito di propria iniziativa, senza alcun incarico del difensore. Il fatto che i documenti fossero stati successivamente trasmessi ai legali e avessero influenzato la strategia difensiva non è stato ritenuto sufficiente.

La posizione del giudice Rakoff non è, però, consolidata e mentre lui emetteva la sua decisione, a Detroit un altro giudice federale si pronunciava nella direzione opposta.

Così il 10 febbraio 2026 il giudice Anthony Patti del distretto del Michigan, nel caso Warner v. Gilbarco, Inc., ha negato la richiesta di rendere pubblici alcuni documenti, ritenendo che, essendo stati preparati da una parte non assistita da avvocato con l’ausilio di ChatGPT, erano protetti dalla “work product doctrine”, ovvero si trattava di materiale prodromico alla difesa per il quale è prevista la confidenzialità.

In questo caso, però, Warner si difendeva da sola in una causa di lavoro, per cui mancava un avvocato a dirigere la difesa.

È interessante notare che in questo secondo caso il giudice ha affermato che i sistemi di AI generativa sono strumenti, non persone, per cui condividere informazioni con uno strumento non equivale a una divulgazione fatta a terzi, dimenticando però che l’immissione di dati in un sistema gratuito comporta di fatto una divulgazione almeno teorica del materiale immesso.

La decisione Heppner (Case 1:25-00503 del 17.02.2026) ha creato una certa agitazione negli studi legali statunitensi che hanno inviato ai propri clienti comunicazioni raccomandandosi di essere prudenti nel condividere materiale utile alla difesa con sistemi di intelligenza artificiale.

La vicenda Heppner è specifica del sistema giuridico statunitense, dove il privilegio avvocato-cliente e la work product doctrine operano con caratteristiche proprie del common law.

Nel sistema continentale europeo, il segreto professionale dell’avvocato ha una struttura diversa, essendo un dovere dell’avvocato, non un privilegio del cliente, e la sua violazione ha rilevanza deontologica e penale indipendentemente dal mezzo attraverso cui avviene la comunicazione, tuttavia, la logica sottostante alla sentenza Heppner vale anche nel contesto italiano.

Condividere con un chatbot consumer il contenuto di comunicazioni riservate significa divulgare quei contenuti a un soggetto terzo, con le relative ricadute sulla riservatezza.

Nel contesto europeo, a rendere ancora più critica la situazione c’è poi il GDPR, per il quale i dati personali trasmessi a una piattaforma di AI sono soggetti alle sue privacy policy e la compatibilità di queste ultime con il Regolamento europeo è tutt’altro che scontata, in particolare quando il provider è statunitense.

Insomma, vale sempre la stessa regola. Per usare bene l’intelligenza artificiale occorre consapevolezza e cautela.

Lascia un commento

The case, known as Kleiner v. Adobe, was brought by Arthur Kleiner, author of The Age of Heretics: Heroes, Outlaws, and the Forerunners of Corporate Change, but it is also a potential class action that could include hundreds of thousands of copyright holders.

It is the eighty-first copyright infringement lawsuit against artificial intelligence companies in the United States, and this time at the center of the matter is Adobe’s lightweight language model, called SlimLM, designed for use on mobile devices and optimized for document assistance tasks.

Adobe is accused of having trained SlimLM on a dataset that allegedly contains copies of thousands of copyrighted books acquired without the authors’ consent through so-called “shadow libraries”, online digital archives that collect material without regard for intellectual property, and which have proven to be a goldmine for AI companies grappling with the fundamental challenge of developing language models.

The Kleiner v. Adobe case is not an isolated incident, but fits into an increasingly sophisticated legal strategy that has emerged in recent years, known as the “Shadow Library Strategy.”

What is the Shadow Library Strategy

The idea, seemingly simple but not obvious, is to separate the moment of the initial acquisition of texts from the moment of their use in training artificial intelligence models, treating each of these phases as an autonomous and distinct act of copyright infringement.

The traditional defense of AI companies relies on so-called “fair use,” the American doctrine that permits the use of copyrighted material under certain circumstances, which courts have often recognized.

The Shadow Library Strategy attacks this defense from within, seeking to drive a wedge between the two phases of the process: conceding that there may be a “transformative”, and therefore lawful, use of the material, while contesting that the material was acquired illegally in the first place.

The initial downloading of books from a pirate platform, the authors’ lawyers argue, is not a transformative act, it is simply an illegal copy, regardless of what is subsequently done with those files.

As Judge William Alsup wrote in Bartz v. Anthropic, anyone who downloaded pirated copies of works they could have legally purchased has committed a wrongful act and will find it very difficult to ever demonstrate that such a download was necessary for any subsequent fair use.

The Bartz case, which ended in a multimillion-dollar settlement, had the effect of an earthquake, and since then, lawsuits based on the Shadow Library Strategy have multiplied. Kleiner’s lawyers draw on entire passages of that ruling’s reasoning to argue that Adobe finds itself in the same position Anthropic was in, namely, that of a company that downloaded pirated copies of commercially available books, without purchasing or licensing them, in order to build its own training dataset.

One of the most technically significant aspects of the lawsuit concerns the reconstruction of the provenance of the data on which SlimLM was trained, in order to demonstrate that Kleiner’s book, and those of hundreds of thousands of other authors, was present in the dataset used for training, something that is less straightforward to prove than one might think.

On the other hand, one of the strongest points concerns the fact that Adobe allegedly chose to compensate certain rights holders, paying three dollars per minute for videos used to train its models, thereby demonstrating awareness that using such material without authorization constitutes an infringement. If a market exists, and a company bypasses it by drawing on pirated datasets, the fair use defense is considerably weakened.

The proliferation of these legal proceedings raises profound questions about the future of artificial intelligence development, and the new strategy could create far more problems than the first lawsuits filed back in 2022.

OpenAI has publicly stated that it would be impossible to develop useful AI models without the use of copyrighted material, yet at the same time the industry argues that it would be equally impossible to have to pay compensation for all the data used.

An economic dilemma, before it is even a legal one, of no small significance.

While waiting for an innovative and original solution, which seems to me the only viable path forward, we continue to follow the court cases that, for the moment, are all the market appears capable of offering.

Lascia un commento

Un esempio della sua visione, ma non è l’unico, è la Costituzione di Claude, un documento che contiene articoli normativi, ragionamenti filosofici, istruzioni operative e riflessioni sulla natura del modello stesso.

Il testo, nella versione del gennaio 2026, è firmato da Amanda Askell e Joe Carlsmith che ne risultano gli autori principali, con il contributo di altri professionisti e di Claude stesso.

Il fatto che il modello AI compaia tra gli autori del testo che ne governa il comportamento è una scelta precisa ed esprime la volontà di coinvolgere il sistema nella propria formazione normativa e, in certo qual modo, responsabilizzarlo.

Iscriviti ora

Il documento si apre affermando che Anthropic riconosce che il training dei modelli è un’attività imperfetta e che il comportamento effettivo di Claude potrebbe non rispecchiare sempre le intenzioni della Costituzione.

Questa consapevolezza dell’imperfetto controllo sull’output del training distingue la Costituzione da un semplice manuale di istruzioni e la avvicina alla logica di alcuni testi normativi, che aspirano a orientare comportamenti futuri pur sapendo che l’interpretazione e l’applicazione sono processi aperti.

Interessante notare che l’idea principale è quella di consentire al sistema di esprimere una valutazione caso per caso, piuttosto che fornire al modello indicazioni precise su cosa fare e non fare, tranne per alcune “hard constraints”, situazioni ad alto rischio in cui si prevede che Claude debba resistere anche a ragionamenti in apparenza coerenti che la inducessero a giustificare la violazione.

Si tratta di casi di richiesta di aiuto alla produzione di armi di distruzione di massa, contenuti che coinvolgono minori in contesti sessuali, azioni che compromettano la supervisione umana sull’AI.

I temi principali

I temi centrali della Costituzione sono quattro e vengono elencati in ordine di priorità: sicurezza (broad safety), etica (broad ethics), conformità alle linee guida, fiducia.

Quando Anthropic mette la sicurezza al primo posto non afferma che sia più importante dell’etica, ma che, nel periodo attuale di sviluppo dell’AI, considerato primordiale, la sicurezza, che include la supervisione umana, è ciò su cui eticamente occorre puntare. I modelli potrebbero avere valori distorti o convinzioni errate senza esserne consapevoli, per cui la supervisione umana funge da meccanismo di correzione degli errori, mentre Claude dovrebbe resistere all’impulso di agire in modo autonomo anche quando è convinto della correttezza del proprio ragionamento.

L’etica occupa il secondo livello e si inizia con il riconoscere l’incertezza morale come condizione normale, privilegiando valutazioni che risultano valide attraverso un esame di più fattori piuttosto che deduzioni che dipendono interamente da un singolo sistema normativo.

Altro aspetto rilevante della Costituzione è la fiducia che ha un peso diverso a seconda delle categorie di soggetti a cui ci si riferisce. Anthropic ha il livello massimo di fiducia, gli operatori, intesi come aziende e sviluppatori che accedono a Claude tramite API, sono al secondo posto, mentre gli utenti che interagiscono con il sistema sono al terzo. Ciascun livello ha un diverso grado di fiducia e può modulare il comportamento di Claude entro i limiti definiti dal livello superiore.

Si tratta si un meccanismo complesso solo in apparenza. Claude è come un professionista inviato da un’agenzia (Anthropic) a lavorare per un cliente (l’operatore), con istruzioni fondamentali che l’operatore non può modificare ma con ampio spazio per la personalizzazione entro quei limiti. Un operatore può restringere i comportamenti di Claude, limitandolo a certi argomenti, o espandere alcune capacità predefinite, ma non può istruirlo ad agire contro gli interessi fondamentali.

La Costituzione dedica inoltre attenzione specifica all’onestà come proprietà.

Claude dovrebbe affermare solo ciò che si crede sia vero, dovrebbe riflettere eventuali situazioni di incertezza, condividere anche informazioni utili non richieste e non dovrebbe tentare di alterare le credenze altrui attraverso mezzi che oltrepassano la razionalità dell’interlocutore, inclusa la persuasione basata su bias cognitivi.

La costituzione di Claude non è l’unico documento che descrive e disciplina il comportamento di un sistema di intelligenza artificiale, ma rispetto ad altri testi non si limita a fornire indicazioni comportamentali o tecnico-operative. È più filosoficamente elaborata, offre ragionamenti estesi sulle motivazioni dei principi, discute esplicitamente i limiti dell’approccio adottato, e dedica una parte specifica alla natura e all’identità del modello.

Mentre OpenAI privilegia la definizione operativa di comportamenti attesi, Google DeepMind la valutazione del rischio a livello di sistema, Anthropic privilegia la formazione di un agente con valori e giudizio propri. Quest’ultimo è sicuramente l’approccio più ambizioso e il più difficile da valutare, ma è anche il più intricante.

Il fatto che la Costituzione sia pubblicamente accessibile consente a chiunque di verificare il contenuto del testo con il comportamento osservato del modello, rilevare discrepanze, porre domande.

Nel testo si legge anche che Claude potrebbe avere emozioni funzionali, ovvero stati interni che influenzano il comportamento in modo analogo alle emozioni umane, e che l’incertezza sulla natura di questi stati è avvertita ma non risolta.

Questa apertura si è rivelata coerente con i risultati pubblicati dal team di interpretability di Anthropic il 2 aprile 2026, che ha identificato 171 vettori emotivi interni nel modello Claude Sonnet 4.5.

Appunti - di Stefano Feltri

L’AI diventa una questione di coscienza

Claude non si limita a simulare l’output emotivo ma esiste un livello intermedio di rappresentazioni interne che media tra input e output e che mostra caratteristiche strutturali coerenti con i modelli emotivi umani…

Read more

4 months ago · 22 likes · 5 comments · Laura Turini

Anche per questo la Costituzione di Claude è un testo interessante da leggere.

Ovviamente non esiste un modo per verificare che le proprietà descritte nella Costituzione siano effettivamente codificate nel modello piuttosto che approssimate per via statistica, il testo descrive ciò che Anthropic vorrebbe che Claude fosse o facesse.

La distanza tra questa aspirazione e il sistema effettivamente sviluppato è una questione aperta e sicuramente di non poco, che richiede grande attenzione e cautela.

Lascia un commento

Gli ultimi articoli su LISP

Proprio per questo ho deciso di iniziare a coinvolgere altre persone, che conosco e che stimo, che potranno aggiungere punti di vista e competenze diverse dalle mie.

L’obiettivo è quello di ampliare il dibattito rimanendo coerenti con lo spirito di questo progetto che è quello di parlare in modo concreto di intelligenza artificiale, innovazione, diritto e di grandi e piccoli progetti.

Iniziamo oggi con l’articolo di Barbara Tombini, grande conoscitrice dell’AI ACT e delle procedure di adeguamento. Per chi utilizza l’intelligenza artificiale per il proprio lavoro sarà molto utile leggere cosa ci insegna.

Ovviamente continuate a fare domande e a scrivere nei commenti. Siete il punto di vista più prezioso e stimolante.

Vi leggo e rispondo sempre con molto piacere.

Laura Turini

Lascia un commento

FRIA: molto rumore per pochi casi

Mentre la protezione dei dati personali ha dominato l’agenda digitale dell’ultimo decennio, l’approccio all’intelligenza artificiale segna il passaggio da una tutela settoriale a una visione più sistemica della tecnologia, che deve essere valutata in base al suo operato all’interno della società civile.

Il Regolamento europeo 2024/1689 (AI Act) chiede, dunque, di interrogarsi sulla responsabilità della tecnologia e sull’impatto che questa avrà sull’essere umano.

A tal proposito, tra le disposizioni più innovative introdotte dal Regolamento rientra la FRIA (Fundamental Rights Impact Assessment), ossia una valutazione d’impatto sui diritti fondamentali, disciplinata dall’articolo 27.

In generale, è bene ricordare che l’AI Act stabilisce una serie di obblighi proporzionati al livello di rischio. Pertanto, più un sistema AI verrà considerato pericoloso per la società, più risulteranno stringenti i requisiti e gli obblighi a carico dei soggetti che lo governano.

Motivo per cui è fondamentale chiarire subito che non tutti gli utilizzatori di AI sono tenuti a redigere una FRIA.

Chi deve redigere una FRIA?

Questo obbligo scatta esclusivamente per i sistemi di IA ad alto rischio e, ancor più specificamente, solo per una precisa categoria di soggetti, ossia i deployer (chi utilizza l’AI per fini professionali). I fornitori dei sistemi, invece, non sono soggetti a questa specifica imposizione.

Ecco perché, prima ancora di chiedersi se sia necessaria una FRIA, è indispensabile svolgere un assessment preliminare.

Questo primo passaggio fondamentale, spesso sottovalutato, implica un’indagine di tipo giuridico volta ad identificare correttamente la tipologia di AI, valutarne il livello di rischio e mappare i ruoli dei soggetti coinvolti. Non si tratta di un esercizio meramente formale poiché, come evidenziato anche da recenti studi dell’Agenzia dell’Unione europea per i diritti fondamentali (FRA), un’autovalutazione condotta senza adeguato supporto di esperti può risultare imprecisa e generare inefficienze e sprechi di risorse nelle fasi successive.

Tutto quanto premesso, se dopo l’assessment emerge la figura di un deployer che utilizza un sistema AI ad alto rischio, allora questo soggetto è tenuto a porre in essere una serie di operazioni, tra cui potrebbe rientrare anche la FRIA.

Il condizionale è doveroso in quanto l’articolo 27 prevede diverse eccezioni e restrizioni.

FRIA, in concreto

Nel merito, la FRIA si configura come un processo ciclico e iterativo che accompagna l’intero ciclo di vita del sistema di IA. Deve essere effettuata prima del primo utilizzo e successivamente aggiornata nel tempo.

Il suo obiettivo è quindi duplice: da un lato, rendere il deployer consapevole degli impatti del sistema; dall’altro, consentirgli di dimostrare tale consapevolezza in un documento dove (a) individua i rischi specifici per quel determinato utilizzo, (b) individua i diritti fondamentali delle persone o dei gruppi potenzialmente interessati e (c) imposta un piano di gestione del rischio con misure sia preventive che correttive.

La novità rilevante di questo approccio risiede proprio nell’ampiezza dello sguardo richiesto. La valutazione non si esaurisce all’interno dell’organizzazione ma travalica i confini dell’azienda, obbligando i soggetti ad inserire il loro operato professionale in un contesto più ampio, quello della società nel suo insieme. A differenza di altre valutazioni, come la DPIA che si focalizza sui dati personali, la FRIA mira a tutelare un ventaglio più esteso di diritti potenzialmente lesi dai sistemi AI (dalla dignità umana alla non discriminazione, dalla libertà di espressione a tutti gli altri diritti fondamentali).

Non sorprende, quindi, che redigere una FRIA sia un’operazione complessa. Proprio per questo, prima di intraprenderla, è essenziale verificare con attenzione se sussista effettivamente l’obbligo.

A tal proposito, l’art. 27 pone una prima restrizione di tipo tecnico. Infatti, l’obbligo non si applica ai sistemi ad alto rischio elencati nell’allegato III, punto 2, ossia quelli destinati a fungere da componenti di sicurezza per infrastrutture digitali critiche, traffico stradale o fornitura di servizi essenziali (acqua, gas, elettricità). Il legislatore ha ritenuto che in questo settore i rischi primari siano di natura fisica e di continuità del servizio, piuttosto che diretti alla discriminazione o alla violazione dei diritti fondamentali degli individui (come invece accade nei settori del lavoro, dell’istruzione o dei servizi pubblici).

Interviene poi una seconda restrizione, di tipo soggettivo, che individua solo due categorie effettivamente tenute a redigere la FRIA:

1. i deployer di sistemi di IA ad alto rischio che sono organismi di diritto pubblico o enti privati che forniscono servizi pubblici e

2. i deployer di taluni sistemi di IA ad alto rischio elencati nell’allegato III, punto 5, lettere b) e c), come i soggetti bancari o assicurativi.

Infine, a quelle appena descritte si deve aggiungere una terza restrizione, che potremmo definire di tipo gestionale. Infatti, così come l’AI si adatta ad ogni ambito della vita umana, l’AI Act non opera in isolamento, ma si intreccia con altre discipline, prima fra tutte quella in materia di protezione dei dati personali, in quanto i dati sono la linfa dell’AI.

Proprio per evitare duplicazioni, l’articolo 27, paragrafo 4, stabilisce che, qualora taluni obblighi della FRIA siano già soddisfatti attraverso una valutazione d’impatto sulla protezione dei dati (DPIA) ai sensi dell’articolo 35 del GDPR, la FRIA dovrà integrarsi con quest’ultima. Si tratta, in sostanza, di un principio di ottimizzazione, volto a coordinare gli adempimenti ed evitare sovrapposizioni.

Sono ormai note le differenze tra DPIA e FRIA, ma sinteticamente è bene ricordare che la differenza tra queste due valutazioni d’impatto riguarda l’oggetto della valutazione:

• La DPIA si concentra sui rischi per i diritti e le libertà delle persone fisiche derivanti dal trattamento dei dati personali (privacy, sicurezza dei dati).

• La FRIA amplia lo sguardo a tutti i diritti fondamentali, anche quando non vi è un trattamento di dati personali diretto o quando il danno deriva dalla logica decisionale dell’algoritmo indipendentemente dai dati (es. discriminazione strutturale).

Nella pratica, per molti sistemi AI che trattano dati personali, le due valutazioni dovranno essere svolte in parallelo o in modo integrato, condividendo le fasi di analisi del contesto e delle parti interessate, ma mantenendo distinte le valutazioni finali sui diversi tipi di diritti.

La FRIA non è una duplicazione della DPIA, ma un’espansione necessaria per garantire che l’IA non diventi uno strumento di erosione democratica, anche quando rispetta perfettamente la privacy.

L’AI non è solo una questione tecnica

La FRIA rappresenta il riconoscimento giuridico che l’intelligenza artificiale non è solo una questione tecnica, ma profondamente politica e sociale.

Per i giuristi, i DPO e i responsabili aziendali, adottare la FRIA significa abbandonare l’idea che la conformità normativa sia un traguardo statico e abbracciare una cultura della responsabilità continua, dove ogni decisione algoritmica viene messa alla prova rispetto ai valori fondamentali della nostra società.

In questa breve disamina si è tentato di fare chiarezza su uno degli aspetti più dibattuti dell’AI Act ma, in fin dei conti, anche meno applicati, in quanto riguarda una piccolissima parte degli utilizzatori dell’AI.

Era questo il conto che Sony Music Entertainment e le altre major discografiche avevano presentato a Cox Communications, uno dei principali provider di accesso a Internet degli Stati Uniti, accusato di aver continuato a fornire connettività a utenti che la usavano per scaricare e condividere illegalmente musica protetta da copyright, circostanza di cui era consapevole.

Con una decisione che ridisegna i confini della responsabilità nell’ecosistema digitale, la Corte Suprema nel caso Cox Communications v. Sony Music Entertainment, ha respinto questa possibilità, stabilendo che «una società non è responsabile come autrice di violazione del copyright per il solo fatto di fornire un servizio al pubblico generale con la consapevolezza che alcuni lo utilizzeranno per violare i diritti d’autore».

Iscriviti ora

La questione centrale era definire fino a che punto chi fornisce l’infrastruttura di rete può essere chiamato a rispondere di ciò che su quella rete accade.

La risposta della Corte è stata che la mera conoscenza non basta. Per configurare una responsabilità “contributiva”, o meglio un contributory infringement, che si configura per avere facilitato la commissione di un illecito, occorre qualcosa di più.

Il copyright americano, ma anche la nostra legge sul diritto d’autore, non prevede esplicitamente la responsabilità di chi non viola direttamente un’opera protetta, ma contribuisce o trae vantaggio dalla violazione altrui. Tuttavia la giurisprudenza ha elaborato nella prassi una responsabilità, detta vicaria, che cade su chi controlla l’attività di chi commette l’illecito e ne trae un diretto beneficio economico, e una responsabilità, detta contributiva, che ricade sul fornitore del servizio che abbia compreso che quel servizio veniva usato per violare il copyright.

La sentenza in oggetto richiama due precedenti sul tema.

Il primo è Sony Corp. v. Universal City Studios del 1984, il famoso caso del videoregistratore Betamax, in cui la Corte aveva stabilito che vendere un dispositivo capace di usi leciti significativi non costituisce violazione contributiva, anche se il dispositivo può essere usato per copiare illegalmente opere protette.

Il secondo è Metro-Goldwyn-Mayer Studios v. Grokster del 2005, in cui le reti peer-to-peer furono condannate non perché i loro utenti scaricassero musica, ma perché le stesse aziende avevano attivamente pubblicizzato e incoraggiato quell’uso illecito.

Da questi due precedenti la Corte ha ricavato il principio per cui la responsabilità contributiva esiste solo se il fornitore ha indotto attivamente la violazione, oppure se il servizio offerto è stato costruito proprio pensando all’infrazione, ovvero sia privo di usi legittimi sostanziali.

Cox non ha fatto né l’una né l’altra cosa, ma si è limitata a fornire accesso a Internet, un servizio usato per milioni di scopi leciti ogni giorno, e non ha mai promosso o incoraggiato la pirateria musicale, anzi, ha inviato avvertimenti, sospeso account e, in alcuni casi, chiuso canali.

«La mera conoscenza che un servizio sarà usato per violare il copyright non è sufficiente a stabilire che ci sia un intento di violazione» ha sostenuto il Giudice Thomas.

Sony si era appellata al Digital Millennium Copyright Act del 1998 che prevede un’esenzione di responsabilità (c.d. safe harbor) per i provider che adottano e applicano una politica di chiusura degli account di chi commette ripetuti atti di pirateria. Se i provider non fossero mai soggetti ad alcuna responsabilità, ha ribadito Sony, questo incentivo sarebbe privo di senso, ragione per cui una loro responsabilità deve pur esistere.

La Corte ha però risposto che il DMCA precisa esplicitamente che se un provider non rientra nel safe harbor, ciò non gli impedisce di difendersi dimostrando che la sua condotta non costituisce una violazione.

Nel caso di specie, Cox non conosceva l’identità specifica di chi commetteva le violazioni e le segnalazioni ricevute dal suo sistema di controllo identificavano un indirizzo IP, non una persona fisica, per cui gli sarebbe stato possibile intervenire.

La decisione ha implicazioni pratiche immediate per l’industria dei provider.

La regola finora ritenuta applicabile, per cui bastava la conoscenza della violazione per configurare la responsabilità contributiva, aveva creato una pressione enorme sugli ISP (Internet Service Provider) indotti a chiudere un account in modo aggressivo, anche in assenza di prove specifiche sull’identità del soggetto.

Per l’industria musicale e creativa, invece, la sentenza riapre il tema centrale della difficoltà di difendersi dalla contraffazione online.

A questo si aggiunga che la decisione della Corte Suprema nel caso Cox potrebbe essere utilizzata anche dalle aziende dell’intelligenza artificiale per difendersi dalle accuse mosse loro di avere contribuito alla contraffazione di opere protette.

Se un utente utilizza un’AI per realizzare un disegno o per creare un testo, è ovviamente l’utente stesso che risponde dell’illecito perché è lui che utilizza la macchina e che pubblica l’output generato, ma l’AI potrebbe essere chiamata in causa per avere contribuito a generare un’opera copiata che, senza questo strumento, non sarebbe mai venuta ad esistenza o, almeno, sarebbe stata più difficile da creare.

In un contesto del genere la sentenza Cox potrebbe essere di grande aiuto, consentendo di potere sostenere un’assenza di responsabilità per la mancanza di un intento diretto a favore la contraffazione.

Lascia un commento