Intro

Da 3 anni e mezzo a questa parte, dopo il lancio di ChatGPT, orientarsi nel mondo dell’AI generativa è diventato sempre più complesso.

I primi sei mesi del 2026 sono stati - ancora una volta - profondamente trasformativi. I modelli sono migliorati, gli strumenti sono entrati in molti flussi di lavoro e alcuni use case producono benefici reali. Ma proprio questo passaggio da sperimentazione a produzione sta facendo emergere problemi meno visibili: misurazione accurata del valore, costi, dipendenze e rischi operativi.

Questo è il mio personalissimo1 hype cycle sull’AI, aggiornato con le tendenze attuali. Naturalmente, la curva non ha la pretesa di essere rigorosa, anche perché non esiste un ciclo unico per l’AI: coding, customer service, ricerca, creatività e agenti si trovano oggi in punti diversi, e la maturità cambia da azienda a azienda. Ma voglio sintetizzare quello che è il sentiment generale sul tema.

Per capirne qualcosa in più, e per dare un aggiornamento molto pragmatico sulla situazione attuale, ho riassunto in quattro punti quelli che a mio avviso sono i macro-trend, le novità, le prese di posizione e le vicende più significative di questa prima metà dell’anno.

I 4 aspetti da mettere a fuoco a metà 2026

[1] Quel valore difficile da dimostrare, da Uber a Ben Lorica

Non potevo partire da qualcuno di diverso di Andrew Macdonald, President and Chief Operating Officer di Uber.

La questione che pone non è tanto il consumo di token e la difficoltà di stare nei budget. È vero, Uber ha bruciato il budget annuale di token in soli 4 mesi, andando ad imporre limiti all’utilizzo da parte degli sviluppatori.

Ma il problema vero è un altro.

Come dice senza giri di parole, è sempre più difficile tirare una riga (causale) tra la spesa in token AI che sta esplodendo e la capacità di portare in produzione feature utili all’interno della loro app.

Una presa di posizione che ha avuto un certo rilievo a livello mediatico.

La mia personalissima impressione è che tanti lo pensino, in qualche modo e con varie sfumature, ma pochi possano dirlo apertamente:

• Chi ha interessi diretti nell’AI ha ovviamente un forte incentivo economico a sostenere una narrativa espansiva (a partire da chi sviluppa i modelli come OpenAI e Anthropic, chi produce GPU come Nvidia, chi fa consulenza strategica o informatica… come un po’ tutti, oggi).

• Chi non è un’azienda puramente tech rischia di passare come un dinosauro se assume posizioni contrarie al mainstream sull’AI, finendo con lo scontentare analisti, azionisti e investitori vari.

• Diventano quindi sempre più valide le testimonianze di quelle aziende veramente innovative che non sono direttamente coinvolte nello sviluppo dell’AI: non così tante, a dire il vero, e Uber è una di queste. Loro sì, possono dichiarare liberamente quello che pensano, forti dei loro prodotti e dei loro risultati.

A guardar bene, ci sono anche tanti osservatori terzi che hanno affrontato lo stesso tema, da un punto di vista privilegiato. È il caso di Ben Lorica, ex Chief Data Scientist di O’Reilly e una delle voci più autorevoli quando si parla di Dati e di Intelligenza Artificiale.

Parlando specialmente del mondo degli sviluppatori, Lorica osserva che a fronte di molto più codice prodotto e di un’apparente incremento di produttività - anche secondo gli sviluppatori stessi - la realtà è che i rilasci non stanno aumentando in maniera proporzionale, ed anzi aumenta la difficoltà nella manutenzione di codebase mature e i rischi di sicurezza.

In altri termini, aumenta l’attività sul codice, ma a maggior codice prodotto non corrisponde necessariamente maggiore valore.

Il punto non è che l’AI non stia producendo alcun beneficio. È che, perfino in aziende tecnologicamente avanzate come Uber o secondo osservatori attenti come Ben Lorica, quel beneficio non emerge ancora in modo netto nei risultati operativi… a fronte di costi che sono invece molto più immediati da quantificare.

[2] L’economia dell’AI si sta complicando: P × Q, tra costo per token e consumi agentici

Una narrazione ricorrente che ho sentito spesso, anche di recente, è quella della deflazione costante nel prezzo dei token.

Semplicemente: i dati oggi raccontano una realtà più articolata.

Prendiamo l’andamento dei prezzi di Gemini, nelle varie categorie di modelli disponibili. Come si può vedere, è tutt’altro che in declino.

È vero: i modelli nuovi sono più potenti e performanti. E forse ad inizio 2024 Gemini doveva recuperare terreno (e credibilità) sui maggiori competitor, anche grazie a prezzi di saldo.

Ma è un dato di fatto che oggi il modello più economico della famiglia Gemini di ultima generazione (il Flash-Lite) ha un costo che è più del triplo del più economico di un anno fa: la versione 3.1 costa 0,25$/1,5$ (token in input/output), mentre la 2.0 costava 0,075$/0,3$.

Il punto è che i modelli più datati sono stati dismessi e non sono più utilizzabili. Una sorta di obsolescenza programmata che ben conosce anche chi usa vari servizi cloud.

Magari questi modelli andavano benissimo per alcuni use case… ma ora non esistono più. E far quadrare business case costruiti su quei costi, o peggio ancora su una proiezione in decrescita, risulta sempre più complesso.

Ovviamente, l’offerta di servizi AI sta aumentando, e rivolgendosi ad altri fornitori (come le tante startup o aziende affermate cinesi) si può sicuramente risparmiare. Ma il mio messaggio è uno: non diamo per scontato un trend decrescente e diffuso nel prezzo dei token, né oggi né in futuro.

Fino ad ora mi sono focalizzato sul prezzo, la P che rappresenta la prima metà della famosa formula P × Q, prezzo per quantità.

Se il prezzo (per token) non scende più come una volta, e anzi può salire, il vero punto di attenzione è la Q, la quantità.

Ha avuto meno risalto di quanto merita un paper firmato tra gli altri da Alex Pentland, un punto di riferimento del MIT, dal titolo “How Do AI Agents Spend Your Money?”2, che quantifica una realtà non proprio idilliaca, percepita da molti.

Il paper copre diversi aspetti e, come si vede bene dall’immagine (in scala logaritmica!), mostra l’aumento nell’uso di token tra la modalità agentica (dove l’AI è indipendente nello svolgere un compito) e i metodi più tradizionali di code reasoning e code chat, ossia le modalità interattive in cui una persona in carne ed ossa interagisce con l’AI.

Il consumo di token arriva ad essere 1000x… sì, mille volte superiore, se lasciamo fare tutto all’AI, anziché avere un essere umano che ci si interfaccia.

L’effetto della diffusione di questa modalità di utilizzo, che ha preso piede da circa un anno con soluzioni quali Claude Code e OpenAI Codex, ma che è integrata in tanti altri ambienti, è il cambiamento nel piano di prezzi di alcune tra le piattaforme più usate, come Github Copilot.

Dal primo giugno 2026, Github Copilot ha infatti abbandonato un pricing per richiesta, introducendo quote e meccanismi di prezzo molto più vicini al costo computazionale effettivo, ossia ai token consumati.

L’incremento di prezzo, a conti fatti, può essere enorme:

[3] Il mercato dell’AI: multipolare, instabile, soggetto ai trend geopolitici

Archiviati per un attimo costi, ROI e discussioni economiche, c’è un altro tema che è sempre più evidente: l’AI di frontiera non è più una questione solamente statunitense.

Ho già avuto modo di coprire il mondo dei modelli asiatici (cinesi in primis), mostrando come le loro performance stiano sempre più tallonando i campioni in carica made in USA.

Quello che mi ha colpito negli ultimi mesi non è solo un tema di prestazioni: è un tema di adozione su larga scala.

OpenRouter è una delle maggiori piattaforme pensate per orchestrare le chiamate ai Large Language Model. Non è il totale del mercato e per sua natura tende a sovrastimare i modelli più piccoli ed efficienti. In altri termini: non rappresenta la verità assoluta e, come per qualsiasi dato, anche in questo caso è fondamentale capire le condizioni al contorno.

Detto questo, con tutti i bias del caso, è un dato di fatto che su questa piattaforma l’adozione dei modelli cinesi sia esplosa: DeepSeek R1 ha aperto la strada ad inizio 2025 e non è stato un fuoco di paglia. I modelli cinesi sono diventati per tanti il new normal. Da italiano ed europeo, mi rattrista vedere che l’unico player di rilievo del Vecchio Continente (la francese Mistral AI) è al momento quasi fuori da giochi, almeno per quanto riguarda i foundational model generalisti.

La strada per il consorzio EUROPA, scelto dalla Commissione Europea per costruire modelli open e guidato dall’italiana Domyn, è sicuramente in salita. Staremo a vedere.

La multipolarità non significa solo maggiore concorrenza, da diverse parti del mondo. Significa anche dipendere da un ecosistema in cui accesso, prestazioni e disponibilità possono cambiare rapidamente: non solo per ragioni tecniche o commerciali, ma anche per questioni geopolitiche.

La vicenda di Claude Fable 5 di inizio giugno è diventata emblematica: per la prima volta, un modello di AI è stato trattato dalla sua nazione di provenienza (gli USA) come un tema di sicurezza nazionale.

Questo LLM di frontiera, presentato il 9 giugno 2026 da Anthropic, è stato disabilitato il 12 giugno su richiesta del governo americano, per poi ritornare operativo a inizio luglio.

E secondo il benchmark del team BridgeMind, le ulteriori restrizioni messe in piedi su Fable 5 nella seconda metà di giugno ne hanno drasticamente ridotto le capacità.

Il punto in questo caso è che, una volta per tutte, è emersa la criticità di affidarsi ciecamente ad un singolo fornitore, soggetto inevitabilmente alla giurisdizione della nazione di appartenenza.

Un altro aspetto da considerare nella scelta di uno (o più) fornitori AI, meno mediatico e più da addetti ai lavori, è la questione dell’affidabilità dei servizi offerti.

A titolo di esempio, riporto la pagina ufficiale di Anthropic sulla disponibilità dei propri servizi3. La trasparenza è sempre apprezzata: la pagina rende visibili episodi di indisponibilità o degradazione delle performance, distribuiti nel tempo.

Non bisogna farsi impressionare: parliamo di piattaforme complesse con una molteplicità di servizi - al “rosso” non corrisponde un KO completo. Detto questo, siamo molto, molto lontani da un uptime al 100%.

In definitiva, siamo in un mondo veloce e multipolare, non più USA-centrico e con una serie di complessità giuridiche e tecniche che mettono a rischio la disponibilità dei servizi AI. Se l’AI diventa centrale nelle dinamiche e nei processi aziendali, affidarsi esclusivamente ad un fornitore, senza alcun piano B, assume tutte le caratteristiche di un azzardo.

[4] Agenti autonomi: il rischio cresce insieme alla capacità di agire. Un errore software diventa un’azione reale in tempo zero

Ultimo, ma non ultimo, è il tradeoff tra autonomia e governance.

L’AI sta diventando sempre più un problema di gestione del rischio e la vicenda PocketOS è diventata emblematica.

Questa vicenda mostra un tema centrale: gli agenti non sono infallibili e le architetture, i guardrails e l’orchestrazione degli agenti stessi non sono un optional. Si tratta di trovare un equilibrio: è facile limitare il raggio di azione degli agenti, riducendo i rischi ma anche i benefici. La vera sfida è ridurre i primi, senza intaccare definitivamente i secondi: un classico problema di risk appetite e risk management.

Nel prossimo anno assisteremo probabilmente ad altri incidenti di questo tipo, anche in organizzazioni più grandi ed in sistemi con un blast radius superiore.

E di conseguenza saranno diversi i temi che dovranno entrare dalla porta principale negli uffici di CTO, CIO e forse anche CEO: sicuramente il controllo e la governance dell’AI, come si capisce da questa vicenda, ma anche la sicurezza e la gestione del debito tecnico diventeranno ancora più cruciali di quanto siano oggi.

Conclusioni

Molti dei temi discussi in questo articolo emergono non perché la GenAI abbia fallito, ma perché sta iniziando a funzionare davvero: entra nei processi, consuma risorse, crea dipendenze e ottiene la capacità di agire.

In altri termini, sta diventando parte integrante del sistema-azienda, ricoprendo un ruolo crescente nell’infrastruttura operativa di realtà grandi e piccole. Proprio per questo emergono problemi che la fase sperimentale poteva ignorare.

1. Bisogna misurare il valore prodotto più che l’attività generata, per non cadere in vanity metrics fini a sé stesse.

2. Bisogna governare non solo i costi, ma anche le dipendenze e la continuità operativa, costruendo una visione di insieme dove gli aspetti economico-finanziari sono solo una delle diverse angolature.

3. Bisogna trattare gli agenti come sistemi con capacità di azione, non come chatbot sofisticati, andando a trovare un equilibrio tra due estremi: agenti a briglia sciolta vs. paralisi da eccesso di controllo.

La tecnologia di metà 2026 è più potente, più utile e più complessa di quella di un anno fa. E la parte facile, se mai c’è stata, è finita.

Post scriptum personale: l’AI vista dietro le quinte

Tanti di questi spunti che ho riassunto finora vengono da chiacchierate e discussioni emerse a margine di tre conferenze fantastiche, a cui ho partecipato come speaker, tra maggio e giugno: Pycon a Bologna, Py4AI a Pavia e AI Conf a Milano.

È in questo tipo di eventi che il nerd che è in me trova ossigeno, in abbondanza! Ed è qui, più che in altri eventi blasonati, che si capisce il dietro le quinte dell’AI e dell’innovazione tecnologica in generale.

Non è il tema centrale di oggi, ma è stato bello incontrare qualcosa come 1.500 appassionati, tra tutti e tre gli eventi. Ho capito, ancora una volta, che il talento in Italia non manca, anche se spesso ha meno visibilità di quanta meriterebbe.

Un grazie a chi rende possibile tutto ciò, dall’organizzazione di Pycon, ad Alessandro Ferrari e tutto il team di ARGO Vision per Py4AI, fino ad Andrea Saltarello ed il team di Improove per AI Conf.

Intro

From time to time, I feel the need to take a breath of fresh air. And attending Pycon Italia 2026 (my third time after 2022 and 2023) was definitely a good way for me.

If you love Python, innovation, passion, deep competence… it’s the place to be! Sponsors are mostly there to hire professionals (rather than for selling products and services) and the vast majority of the talks have no commercial angle. Considering that Python is the default language of AI… it’s a big deal nowadays!

I’m a man of numbers, so here are a few of them:

• 3 days

• 120 sessions

• 850 people (500 Italians and 350 people from 40 countries, 19% women)

This makes PyCon Italia one of the largest European Python conferences.

Why I joined PyCon and… the keynotes I loved

After missing the last couple of editions, I finally came back to PyCon, this time as a speaker (more on that later).

Besides that, I had the chance to attend some great talks and keynotes: I came away with quite a few ideas and concepts that will likely turn out to be very useful for my projects and at work.

That’s why I decided to write a recap of this event (that took place in Bologna, 28-30 May), sharing my top picks.

I’m writing my comments now, right after the conference, and I’ll update the article with the links to the talks, as soon as they are published on Python Italia Youtube channel.

Let’s start with the keynotes, as there were 5 of them.

My favorite: Sarah Boyce’s “Django has a marketing problem: debunking the myths that won’t die”

As a Data/ML/AI guy, I barely know what Django is1, that’s why I came to the keynote without high expectations.

But I was actually blown away. Sarah managed to keep the balance on a thin line: on one hand, praising the Django community for the work done over a couple decades, on the other, highlighting some mistakes or naive communication choices that created a series of myths surrounding this core Python project.

The point is that you can replace the word “Django” with many Python packages, libraries, but actually many technologies in general. As the speaker whispered at some point: “developers are terrible at marketing”. And that’s true for most of them, in my experience.

I consider this keynote a marketing masterclass for tech people - I’m looking forward to having the recording at hand!

Runners-up

Samuel Colvin and Diego Russo are in different ways two heavyweights of Python.

The former is best known as the creator of Pydantic, a widely-used Python data validation library that is also a dependency of many successful Python projects. Actually, Pydantic is now much more: an end-to-end AI engineering stack. The talk, called “Durable Agents: long running AI workflows in a flakey world”, showcased Pydantic AI as an agent framework, Logfire for AI observability and much more. Worth having a deeper look, especially if you’re after long-running agents.

The latter is currently a Principal Software Engineer in Arm and above all a CPython Core Developer. In other words: a key contributor on the internals of Python. In his talk “From “Fast Enough” to “Fast by Design”: The Evolution of CPython Performance”, Diego directly addressed the evolution of performance from good old Python 2.7 all the way to Python 3.15. For a language that was born for simplicity and developer-friendliness over performance, it’s been amazing to deep dive on the work that core developers do in order to improve Python’s performance while retaining the language original DNA.

My top 4 talks

I was in general impressed by the average level of the talks, but some just stood out for different reasons. Here are my top picks.

Alex Casalboni’s “FeatureOps: Designing for Failure and Speed in Agentic AI Workflows“

Intuition: everything fails in IT systems; it’s just a matter of when. And guess what? Agents fail as well. Designing architectures with failures in mind is more and more critical.

When deploying an agent in the real world, not just in a fancy demo, you have to thinkg about reliability concepts like bug containment and blast radius reduction. Some well-known standards in software development, like feature flags, are becoming more and more relevant: agents can code at an unprecedented speed and feature flags can help decouple deploys from releases.

Alex introduce a very valuable four-layer framework to deal with such topics.

My take: over the last year, even core services from the largest cloud providers have failed multiple times, just think of the 15-hour outage that AWS had just in October 2025, in its main US region, or similar events affecting Azure and Google.

LLMs and GenAI platforms are no exceptions. Just have a look at Claude’s status page:

When you build on top of fast-moving systems, reliability becomes a core topic, and Alex addressed it very clearly. I also enjoyed his ability to properly mention Unleash (his current employer) without transforming the talk into a giant advertisement. Quite uncommon and much appreciated!

Valeria Zuccoli’s “The Zero-Temperature Lie: Why Your Deterministic LLM is Still Hallucinating Randomness”

Intuition: we are often told that temperature is the parameter that regulates the creativity of an LLM. “Temperature = 0” is supposed to make an LLM always use the most likely continuation of a conversation, with no room for variability.

Yet, if you try 100 times to start a chat with your favourite AI chatbot, even with those settings, you’ll get very different answers (almost) all of the times.

Understanding why is… tricky. No spoilers!

My take: as a very hands-on guy, I like the empirical approach to AI. If there is some sort of axiom, some supposed absolutely certainty, you have to try, test it yourself and validate it.

And if something does not add up… you have to dig deeper.

That’s what Valeria did. Very clear, linear in her explaination, she covered both simple ideas (e.g., possible impact of floating point numbers representation) and more complex topics, eventually identifying the culprit! The result was a great talk, both deep and accessible at the same time.

Stefano Maestri’s “Dai Pixel alle Pinze: Addestrare il robot SO-101 con RL, Sim-to-Real e LoRA” (in Italian)

Intuition: physical AI is one of the next big things. The idea to teach a robot how to solve a trivial task (e.g., pick a red brick within its radius and put it in a box)… is far from trivial.

It involves a lot of trial and error, from the obvious aspects of training an ad hoc model, to less obvious ones, such as dealing with sensor calibration, incompatible firmware and more.

The result is actually pretty nice:

My take: to some extent, Stefano’s talk was quite similar to mine. We both chose to speak in Italian, to add that extra fluency and passion that speaking in our native language allows for, and we both told a story, a journey of ideas, challenges, perseverance and finally some joy!

I’m not really into robotics myself, but I’ve got to say that spending a few hundred euros on an AI-enabled robot is actually pretty cool.

Stefano’s next step: mounting this robot on top of a small moving rover, to collect objects around the house!

His presentation is available here: https://maeste.it/pycon2026-so101/final/presentation/slides.html#slide-1

Graziano Montanaro’s “DuckLake: The Lakehouse That Finally Embraces the Database”

Intuition: everyone who is really into data in 2026 loves DuckDB, an OLAP SQL database that comes with many modern, compelling features.

DuckLake is a key new component of the team’s vision. It’s basically a lakehouse that allows for ACID transactions, versioning/time travel, schema evolution and more.

Over the last few years, high-performance open data formats like Apache Iceberg and DeltaLake have changed the way most data practitioners work, together with platforms such as Databricks, Fabric or other native cloud solutions.

DuckLake has some though competition… but that was also true for DuckDB, just a few years ago! It’s worth following its roadmap and trying it out.

My take: in general, we don’t talk enough about Data (I know, I’m biased).

Apparently, AI wiped out much of the interest around Lakehouses, Data Platforms and many other amazing pieces of engineering in the data world. Hint: these are key components in any serious company, even if most of the CEOs don’t know anything about them.

Coming to DuckLake, I have a lot of confidence in DuckDB’s team. Their results have been nothing short of impressive over the last few years. Still, Apache Iceberg is eating the (data) world and I do not know what the landscape will look like in two or three years.

In 2023, I gave a talk about a rather new python library for data, called Polars. Fast forward 3 years, and Polars has more weekly downloads than PySpark.

Now, I’m saying that DuckLake is the new kid in the block, and deserves attention and respect.

Shout out to Graziano for giving it some visibility at PyCon.

His presentation is available here: https://github.com/montanarograziano/ducklake_playground/blob/main/DuckLake_Presentation.pdf

Honorable mentions

I did enjoy a few other talks as well:

• Ines Panker’s “Stop asking me how long it will take” - A non-trivial take on software estimation. In a nutshell: it’s a hard topic by itself, not correlated with the actual competence in developing. Add misaligned incentives (top management prefers narrow estimates, even if they turn out to be wrong) and you get a really complex scenario. A good approach is changing the way we frame this topic, focusing more on managing stakeholders’ expectations rather than providing magic numbers. Definitely a useful talk from Ines, with plenty of references to studies and research on the topic.

• Luca Baggi’s “Inside the mind of an LLM” - Everyone knows that writing a prompt carefully is a way to steer AI in a certain direction. But what about hacking directly the internals of an LLM for it to be more aligned towards certain topics or positions? In this talk, Luca explores mechanistic interpretability, from its inception to the latest developments. The deck presented is here.

  

• Francesco Conti’s “Making Pricing Decisions with Causal Inference in Python” - While machine learning is amazing at predicting or classifying events, you shouldn’t trust it blindly when you are modeling decision-making processes. Pricing is such a case: many confounding factors and unclear dependencies require different frameworks. Causal inference is one, and the library DoWhy (https://github.com/py-why/dowhy) is a valid implementation. This is a huge topic: Francesco only scratched the surface, but I think his was a very good introduction.

• Stefano Fiorucci’s “Let LLMs wander: An introduction to Reinforcement Learning Environments” - Generative AI is wonderful but apparently… cannot play tic-tac-toe! It could seem trivial, but this is actually a great playground to understand how reinforcement learning can be used to improve the performance of a large language model. Stefano applied this to a small, open model (LFM2-2.6B by LiquidAI), achieving a performance that is way better than a regular GPT-5-mini baseline from OpenAI.

  

Too many interesting alternatives!

The conference featured six parallel tracks, so attending everything was impossible. I heard great feedback about several other talks I would have loved to see, if only I could be in multiple rooms at once. Here they are:

• Giuseppe Birardi’s “Hacking an AI Brain: Frankenstein Experiments with Language Models”, a hands-on session on the same topic as Luca Baggi’s talk.

• Marco Santoni and Igor Saggese’s “Chatting with Data, Safely: Role-Based Authorization for Text-to-SQL Agents”, because Text-to-SQL may not be ground-breaking, but it’s what many companies need.

• Iryna Kondrashchenko and Oleh Kostromin’s “Why LLM Evaluation Is Hard, and How to Do It Anyway”, on evaluating LLM effectiveness in production.

• Piero Savastano’s “Stregatto 2.0” (in Italian), a made-in-Italy framework for AI, developed by Piero and an active community. Plus: he always delivers very entertaining speeches!

• Francesco Bruzzesi’s “Narwhals: One dataframe API to ~rule~ run them all”, an interfacing layer that is becoming more and more popular for python data libraries.

• Raúl Cumplido and Alenka Frim’s “Datanomy: Understanding the Anatomy of Arrow and Parquet”, on two of the must-know standards of modern data stacks.

• Haki Benita’s “Don’t Blame the ORM: Advanced Indexing in PostgreSQL”, on advanced indexing techniques in PostgreSQL

• Alessandro Molina’s “Orbital: predizioni di ML zero-setup con il tuo database” (in Italian), an approach to compile scikit-learn models directly in SQL

Just a couple of ideas and considerations on PyCon Italia

As you probably realized, I was deeply impressed by PyCon Italia this year. Yet, I still feel there a couple of hints that the organization could consider.

It’s already PyCon + PyData in practice

If you look at the agenda, Data & AI are not just a minor fraction of the talks. They account for more or less half of the conference.

This is a rough AI-assisted classification of the 120 sessions2. While it is certainly debatable, I think it is directionally right.

In Germany, there’s already a shared conference with both brands, PyCon DE & PyData. Is it time to have this in Italy as well?

It’s not just Django that has a marketing problem

I loved the vibe, the passion, the energy, the organization. PyCon is not for profit, and many volunteers literally work miracles, dedicating their free time to this.

All of this is amazing and I think more and more people need to know about such an event.

This year, the number of participants was around 850, down from 1.000 in 2025. And the organization was still working to close the budget gap until the very last few days, as they said during the closing speech.

As a comparison, in Germany there were 2.000+ attendees, despite tickets costing around 900€ each. In Italy, tickets were available for around 300€, and early-bird tickets could be found for roughly 200€.

I realize it’s not an easy topic: I think the vast majority of the participants wants to keep the vibe of this community, and growing it without taking the wrong direction (e.g., becoming yet another commercial AI event) is challenging.

Still, I think this deserves some attention. I mean this in the most positive way possible: the conference is too good not to be on every Pythonista’s radar.

Conclusions

I almost forgot to mention my own talk. I really enjoyed describing my side project for benchmarking local AI/ML on consumer hardware, during the first day of the conference.

I decided to present it in Italian: a good choice for fluency and for landing a few jokes, but I didn’t expect 40% of PyCon attendees to come from abroad. Still, the room was almost full!

All in all, PyCon was a blast, as always.

I’m usually quite concise, but it was really impossible to squeeze all of the content, the amazing talks, the new ideas in fewer words.

See you next year, PyCon Italia!

Intro

Uno dei tanti aspetti interessanti sull’AI, sicuramente specchio della società, è la polarizzazione della maggior parte degli articoli e dei post sul tema.

Fondamentalmente, il mondo sembra dividersi in due:

• Chi dimostra, con parole e/o azioni, di ritenere che l’AI sia un soggetto che pensa, ragiona, capisce (!)

• Chi relega l’AI a semplice calcolo delle probabilità: quelli che l’amico Massimo Chiriatti ha definito pappagallisti o next-tokenisti1

L’AI è la svolta epocale degli ultimi anni ed è un tema troppo importante per essere banalizzato e visto con un sguardo monodimensionale, quale che sia.

Ho pensato quindi di analizzare il perché di certe posizioni, quali sono i punti più o meno condivisibili e soprattutto come possiamo arrivare ad una prospettiva più ampia.

Anche perché il punto non è tanto decidere se l’AI “pensa” o se è “solo statistica”. Il punto è capire se una specifica affermazione sull’AI è verificabile, riproducibile e confrontabile.

L’hype: tra interesse e ingenuità

Sam Altman e Dario Amodei, i fondatori di OpenAI e Anthropic, competono ormai da anni nel raccontare una visione idealizzata dell’AI.

Anzi, è forse più una co-opetition, visto che entrambi traggono giovamento da una narrativa ambiziosa, a prescindere da chi la porti avanti.

Sicuramente sarà legato al loro essere visionari - aspetto innegabile - ma anche a esigenze molto più contingenti: far quadrare i conti delle rispettive aziende.

Se da un lato i loro ricavi stanno crescendo rapidamente, ad un ritmo incredibile…

… dall’altro, i costi non sono da meno.

Enfatizzare una certa narrazione, comprensiva dell’Intelligenza Artificiale Generale (AGI in inglese) che sarebbe alle porte, è sicuramente un buon modo per guadagnare tempo e sostenere gli enormi investimenti di oggi (sicuri) rispetto a prospettive di guadagni futuri (tutti da verificare, in un contesto competitivo in continua evoluzione).

Se da questo punto di vista l’hype è ovviamente interessato, diverso è il discorso per i “non addetti ai lavori”, di cui i politici sono un ottimo esempio. In Italia ha riscosso molta curiosità (e tante critiche) l’intervista di Walter Veltroni a Claude di Anthropic (sul Corriere a inizio maggio - dietro paywall). Il precursore, almeno tra i soggetti con una certa visibilità, è stato Bernie Sanders, che ha discusso con lo stesso interlocutore a metà marzo.

Ho visto/letto entrambe: da un lato, capisco l’aspetto mediatico e il valore di frequentare il mondo dell’AI da parte di due politici esperti. Ma dall’altro, percepisco una genuina incomprensione dello strumento con cui si sono interfacciati, scambiato per un soggetto senziente con idee proprie.

In realtà, Claude (ma lo stesso si potrebbe dire per Gemini, ChatGPT, Grok o l’AI che preferite) non ha sentimenti, volontà o capacità di discernimento. Il fatto che produca testo staordinariamente fluente, coerente con il tono dell’intervistatore, non va frainteso con una sorta di comprensione o, peggio, con l’essere più o meno in sintonia con alcune idee.

L’anti-hype: il fraintendimento tra come e cosa

Dal lato diametralmente opposto si posizionano personaggi come Gary Marcus negli Stati Uniti, sostenitori dei limiti strutturali dei Large Language Models e dell’AI generativa più in generale.

L’idea di fondo è che l’AI, alla fine, non è nient’altro che calcolo delle probabilità. Una posizione ben rappresentata anche in Italia, ad esempio nella lettera aperta di 45 professori universitari, dal titolo Una visione realistica dell’Intelligenza Artificiale.

Come antidoto all’ingenuità di alcuni e agli interessi nascosti (ma neanche tanto) di altri, penso sia assolutamente importante riportare l’enfasi sul fatto che parliamo di statistica, informatica, ingegneria e dati, non qualcosa di metafisico. Quindi comprendo il motivo di queste posizioni.

Il problema è fermarsi al livello del come, del meccanismo.

Dire che un LLM “calcola probabilità” è vero, ma è un livello di descrizione troppo generico. Per fare un’analogia, possiamo dire che Leonardo del Cineca (uno dei 10 supercomputer più potenti al mondo), una calcolatrice scientifica e lo smartphone che abbiamo in tasca “eseguono calcoli”.

Concettualmente il meccanismo, ossia l’essere strumenti elettronici che processano segnali digitali, è lo stesso. Questa considerazione è vera, ma quasi inutile. Scala, architettura, dati disponibili e modalità di interazione non sono dettagli: determinano le capacità osservabili di questi strumenti e ne estendono drasticamente i problemi affrontabili.

Con l’AI, il ragionamento è analogo. Il fatto che da decenni (non da anni) si stiano sviluppando algoritmi sempre più complessi ed evoluti, ma comunque afferenti al mondo della probabilità e della statistica computazionale, non implica che le loro capacità rimangano sempre confinate allo stesso perimetro di applicazione.

Se restiamo sul piano del come funzionano gli strumenti di AI, rischiamo di arenarci su un solo piano di lettura, e di non capire la differenza tra una calcolatrice ed un supercomputer. Andando per esempio a negare le capacità di generalizzare e inferire nuove informazioni dei più recenti algoritmi di AI, che non capiscono, ma possono effettivamente ricombinare in maniera originale i dati su cui sono addestrati.

C’è quindi una via d’uscita da queste discussioni, che a volte assumono i contorni di guerre di religione più che di dibattito sull’innovazione tecnologica?

Il metodo scientifico: troppo spesso in secondo piano

A mio avviso, il miglior modo per uscire da questo impasse è superare i proclami generalisti e favorire qualche forma di riproducibilità.

Sia ben chiaro: i modelli di AI hanno intrinsecamente un certo livello di variabilità, proprio per la loro natura probabilistica, ma questo non giustifica affermazioni generiche, definitive e incontrovertibili, in cui chiunque sia interessato al tema non sia in grado minimamente di verificare e sperimentare in prima persona.

Ho visto troppa aneddotica e troppo “sentito dire” negli ultimi anni… per questo ho deciso di applicare personalmente una semplice checklist per valutare qualsiasi proclama, pro-AI o anti-AI.

1. Non esiste l’AI in generale: esistono tanti modelli differenti, commerciali o non, che quantitativamente hanno performance drasticamente diverse

2. Prompt, configurazioni e modalità di utilizzo non sono invarianti: si possono ottenere risultati non comparabili se non sono chiari

3. La disponibilità di dati (allegati), l’accesso a internet e la disponibilità di tool (es. un ambiente python per operazioni deterministiche) rendono fattibili (o meno) task complessi

4. Se c’è un risulato atteso, un oracolo, è utile riportarlo

Se c’è tutto questo, la strada è giusta: si può almeno impostare una verifica indipendente di una qualsiasi affermazione.

Altrimenti, è pura fede nei confronti dell’autore. E il rischio di finire in una echo chamber è alto.

Un buon esempio

Prendiamo il post di qualche giorno fa di Alessandro Maserati sulle performance dell’AI alle finali nazionali italiane delle Olimpiadi di Matematica del 7-10 Maggio 2026.

I modelli usati sono chiari: Gemini 3.1 Pro, GPT-5.5 e gli altri principali.

Il prompt pure: come da commenti al post, il prompt migliore si è rivelato proprio il puro e semplice testo del problema #6.

I dati forniti sono il quesito in sé, mentre sulla disponibilità di internet e dei tool standard nei vari motori non c’è una menzione esplicita. Tutto lascia intendere che i settaggi usati siano quelli di default (quindi internet attivo, plugin nativi pure, nessun altra customizzazione).

Il fatto che ci sia una ground truth, un risultato atteso, è insito nel fatto che parliamo di una competizione delle olimpiadi di matematica, quindi verificare correttezza o meno è immediato.

Ovviamente un post su Linkedin non è una disamina accurata e ha limiti di lunghezza: ma già in questo esempio compatto, c’è molto di quello che serve per sperimentare in prima persona e i risultati non sono portati come verità assoluta.

Conclusioni

Capisco la grande difficoltà, per chi non vive il mondo dell’AI da vicino, ad orientarsi.

Vale per lavoratori, manager, persone comuni, giovani e meno giovani… letteralmente chiunque, visto l’impatto dell’AI.

La polarizzazione del dibattito non aiuta. Più che adorare i profeti dell’hype o dell’anti-hype, spesso portatori di verità assolute, penso sia utile rifarsi al buon vecchio metodo scientifico: sperimentare, provare e riprovare, mettendo in discussione le idee altrui… ma anche le proprie.

Sicuramente questo ha un costo, anche se non economico:

• Per chi fa divulgazione a vario titolo, documentare metodologie e dettagli per facilitare la riproducibilità dei propri esperimenti richiede tempo;

• Per chi vuole capire, impegnarsi in prima persona è sicuramente più faticoso che limitarsi a credere.

Per la cronaca, questo è il testo del quesito #6 delle Olimpiadi di Matematica, a cui hanno risposto correttamente solo 2 partecipanti su 300 (che sono a loro volta i migliori studenti di matematica su circa 2,5mln di studenti delle scuole superiori italiane).

Complimenti a Gemini 3.1 Pro che ha risposto correttamente, al primo tentativo, in poco più di 2 minuti.

L’AI quindi pensa, ha capito? No, anche se arriva alla risposta giusta su un quesito che sa risolvere una percentuale infinitesima della popolazione. È e rimane un modello che con dati, prompt e tecnologia è riuscito a risolvere quel problema.

È solo calcolo delle probabilità? A un certo livello di descrizione, sì. Ma fermarsi lì è come dire che il dispositivo da cui state leggendo questo articolo è “solo elettronica che processa zeri e uni”: vero, ma riduttivo e non sufficiente a spiegare cosa riesce a fare.

Intro

20 gennaio 2025: DeepSeek, una startup cinese nel mondo dell’AI poco nota anche agli addetti ai lavori, nonché braccio innovativo dell’hedge fund High Flyer, lancia quello che è probabilmente il primo modello open di AI reasoning, DeepSeek R1.

È un momento di svolta, in cui almeno due cliché sulla Cina vengono superati in un colpo solo. Il primo è quello che sostiene che “gli americani siano bravi a innovare, mentre i cinesi lo siano a copiare”: DeepSeek R1 introduce novità sostanziali nella modalità di addestramento dei modelli di AI, che oggi sono ampiamente riconosciute e alla base delle innovazioni degli ultimi 12 mesi.

Il secondo è quello di una certa “opacità” del mondo asiatico: in realtà, è proprio grazie al Dragone (e ai suoi tanti centri di ricerca) che il mondo dell’open source sta oggi avanzando. OpenAI di “aperto” ha ormai solo il nome; DeepSeek e tante altre realtà in Oriente sono oggi i veri trascinatori del sapere condiviso sullo sviluppo di modelli open.

Chi gioca la partita dell’AI

Il punto vero è che dall’inizio del 2025 una serie di startup, centri di ricerca, team di innovazione delle Big Tech asiatiche sono venuti allo scoperto: hanno superato quel muro, in primis linguistico e culturale, che li aveva tenuti all’interno dei confini nazionali, entrando nel contesto internazionale dalla porta principale.

Vi fornirò una vista d’insieme su chi gioca la partita, e mi si passi la metafora calcistica: forse non sono ancora pronte per la Champions League, ma sono squadre che giocano più che dignitosamente la Serie A, ogni tanto andando a vincere qualche scontro con chi occupa i vertici.

Il punto è che, come esseri umani, siamo abbastanza bravi a capire la situazione corrente, ma fatichiamo a mettere a fuoco velocità ed accelerazione dei trend: queste squadre fino a qualche anno fa… non giocavano nemmeno.

Vediamo in rassegna quelle che ritengo le 4 realtà cinesi più interessanti ad oggi, Aprile 2026, oltre a diverse menzioni d’onore.

DeepSeek

Difficile partire con qualcuno di diverso da DeepSeek, per i motivi che ho già menzionato.

Parliamo di un peso massimo, che copre con modelli distinti un po’ tutto il mondo dell’AI odierna: modelli istantanei generalisti, modelli di ragionamento come il già citato R1, modelli dedicati al coding, alla matematica, all’interazione agentica e a quella multimodale. C’è di tutto.

E se nella fruizione sul loro sito si incappa nella censura da parte del governo cinese (non saprete mai cosa è successo a piazza Tienanmen nel 1989), i modelli in sé sono open source (diciamo open weight1 per essere più precisi) e intrinsecamente non sono censurati2 (nota: vedi errata corrige alla fine dell’articolo).

Grande attesa per DeepSeek v4, che secondo molti alzerà ulteriormente l’asticella dei modelli open.

Insomma, c’è un motivo se CEO occidentali parlano oggi di “DeepSeek moment” quando c’è un grosso balzo in avanti nelle tecnologie di AI, anche applicando l’espressione alle Big Tech americane.

MoonShot.AI (Kimi)

Impossibile ignorare la famiglia Kimi K2.5 / K2, sviluppata da MoonShot.AI, che si è imposta come una delle alternative più credibili a DeepSeek nel corso del 2025, e oggi si colloca come una soluzione validissima: veloce, economica, innovativa. Senza entrare nei tecnicismi, è anche questo un approccio molto ampio e quasi sistemico, orientato a coprire una molteplicità di esigenze.

Z.AI (GLM)

È il turno di Z.AI con GLM, in tutto comparabile con le precedenti realtà, ma particolarmente in vista sul fronte del coding.

Piena integrazione con agenti come Claude Code, performance comparabili ai migliori modelli americani sui task di coding, ma il triplo dei volumi ad un terzo del costo: c’è tanta innovazione, unita ad un’efficienza economica difficile da trovare nel mondo occidentale.

Alibaba (Qwen)

Ultimo in questa prima selezione, ma non per importanza, è il mondo di Qwen, risultato degli sforzi di Alibaba sull’intelligenza artificiale.

A mio avviso, è il miglior esempio cinese di innovazione AI all’interno di una grande azienda tech (per l’appunto Alibaba). I modelli della famiglia Qwen sono attualmente tra i migliori, con risultati impressionanti.

Basti pensare che il recente Qwen3.5, nella sua versione “leggera” da 35B di parametri di cui 3B attivi, batte su tutti i benchmark il miglior modello aperto (nonché l’unico) di OpenAI, GPT-OSS, che però è enormemente più grande e dispendioso (120B di parametri, 5B attivi).

Menzioni d’onore: StepFun, MiniMax e tanti altri

La lista di altre aziende cinesi, emerse soprattutto a partire dal 2025, è molto lunga. Ne cito solo alcune:

• MiniMax, con una serie di soluzioni (a volte proprietarie e non open) orientate ad una molteplicità di esigenze, tra cui spicca il mondo della generazione video con Hailuo, tra i migliori nel suo genere

• StepFun, sconosciuta anche a molti appassionati di AI, ma capace di performance impressionanti grazie al proprio modello Step 3.5 Flash, attualmente tra i leader in task specialistici come le competizioni matematiche

• Ernie di Baidu, Doubao e Dola di ByteDance (l’azienda di TikTok), Hunyuan di Tencent: soluzioni validissime e molto diverse tra loro, forse un po’ meno “sistemiche” rispetto all’ambizione di Alibaba con Qwen, e a mia percezione tuttora più orientate al mondo cinese.

La lista potrebbe continuare e una dissertazione completa richiederebbe più un libro che un articolo!

Le performance su Arena.ai

Si sa: nel mondo dell’AI, quella vera, i risultati pesano più delle parole.

I benchmark sono tantissimi; personalmente ho scelto di focalizzarmi su quelli di Arena.ai. Ho scelto questi perché le loro modalità di funzionamento li rendono meno esposti al problema della contaminazione: in parole semplici, rendono difficile “barare” (in maniera più o meno conscia), cosa che potrebbe avvenire se alcuni test standard fossero inseriti all’interno del perimetro di addestramento3.

Arena.ai è un portale che mette a confronto centinaia di AI, valutate da una community molto ampia in un contesto di esperimento in cieco. In altri termini, la qualità dei modelli viene valutata a partire dai risultati (testo prodotto, immagini realizzate, etc.) senza sapere quale modello ne sia stato l’autore. Un po’ come un sommelier, a cui viene chiesto di valutare un calice di vino… dopo essere stato bendato.

Le classifiche sono tante e consiglio di navigarle con comodo, dedicandoci un po’ di tempo. Voglio però riassumere i risultati principali.

La situazione complessiva vede Anthropic (Claude 4.x) in cima alla classifica un po’ su tutto, con un margine significativo sul coding e molto più ridotto su tutto il resto. Google (Gemini 3.x) ed OpenAI (GPT-5.x) sono molto vicini, mentre Grok è competitivo solo sulla produzione di testo.

Già qui, i modelli cinesi di Alibaba (Qwen), Z.AI e ByteDance (Dola) sono ben presenti in alcune delle Top 10.

Ma possiamo anche vederla così: i migliori modelli cinesi di oggi hanno meno di 12 mesi di ritardo sui modelli occidentali. O in altri termini: sono migliori di quello che era lo stato dell’arte dell’AI a metà 2025.

Se poi parliamo di modelli open, la situazione prende una piega impensabile anche solo 2 anni fa. Mi focalizzo per semplicità solo sulla produzione di testo, anche perché è l’uso più comune dell’AI - quello che facciamo quando parliamo con un chatbot.

Nella Top 20, 18 modelli sono made in China. In rosso ho evidenziato i due modelli made in USA: sono due versioni di Gemma 4 di Google (DeepMind), rilasciate giusto qualche giorno fa, che riescono al momento a dire la loro in mezzo alla fortissima prevalenza cinese, tra l’altro con costi molto contenuti.

E l’Europa? L’Italia?

Bisogna scendere fino alla 71esima posizione4 per trovare un player europeo. E nessun addetto ai lavori si stupirà: è la francese Mistral AI, col suo Mistral Large 3.

Parliamo di un’azienda che mi colpì profondamente 3 anni fa, quando concluse un seed da 113 milioni di dollari. Poi fu la volta del primo round da 415 milioni di dollari, a cui ne sono seguiti altri. E ora parliamo di miliardi di dollari ulteriori.

I modelli non saranno proprio in cima alle classifiche, ma almeno giocano nello stesso campionato dei colossi non europei. Con qualche chicca, come un ottimo OCR basato sull’AI che trascrive molto bene anche appunti scritti (male) a mano.

Insomma, se dovessi fare solo un nome, la Francia sarebbe indubbiamente il paese europeo che più di tutti ha provato realmente a mettere in discussione il duopolio americano-cinese sull’AI. Una situazione che avete visto dai benchmark qui sopra e che si è rafforzata di recente, ma che è ben nota già da anni, come dimostra il fortunatissimo AI Superpowers di Kai-Fu Lee del 2018.

Sarebbe però unfair parlare solo di Mistral. Ci sono le tedesche Black Forest Labs (molto evoluta sulla generazione di immagini) ed Helsing (con un forte focus su sovranità e applicazioni AI per difesa e sistemi critici), oppure la polacca ElevenLabs (specialista dell’AI audio generation)… e ne sto dimenticando sicuramente qualcuna. Tutte realtà interessanti, ma con una portata sicuramente diversa rispetto ai player cinesi o americani.

E l’Italia? Parto da un fatto: salvo mie sviste (di cui mi rallegrerei), non c’è nessun modello italiano contemplato tra gli oltre 500 valutati a vario titolo su Arena.ai, nemmeno uno.

Alla stessa maniera, non ho personalmente mai visto un modello italiano preso in qualche modo come confronto in qualsiasi lavoro non-italiano - e anche qui sarei felicissimo di essere smentito.

Insomma, se i grandi player cinesi e americani dominano la prima fascia, mentre un gradino sotto ci sono tante realtà europee staccate ma di assoluto valore (capeggiate da Mistral), in Italia restano alcune aziende di nicchia capaci anche di lavori interessanti, ma su una scala ridotta.

Conclusioni

Così ha detto Salvatore Sanfilippo, uno dei pochi italiani davvero in prima linea nel mondo della tecnologia, in una live di qualche giorno fa. Questa frase è difficilmente contestabile. E se l’avessi sentita nel 2024, non ci avrei creduto.

Vedo tre aspetti da considerare nel ruolo crescente della Cina nel mondo dell’AI:

1. Un cambiamento culturale: con centri di ricerca e startup sempre più innovativi e indubbiamente più aperti di quanto non fossero solo pochi anni fa.

2. Un accesso a risorse computazionali e a finanziamenti in evidente crescita, guidato da una visione di lungo termine sull’importanza dell’AI.

3. Uno sviluppo straordinario delle competenze STEM, come dimostra questo grafico impressionante del 2020.

In definitiva, la Cina è ormai un protagonista dell’AI a tutti gli effetti, non è più un inseguitore.

E sta trainando la ricerca in un settore così complesso, capital intensive e dalle implicazioni sociali enormi: bene che ci sia ancora spazio per l’innovazione aperta e che non si sviluppi tutto solamente nel chiuso delle più grandi corporations mondiali.

C’è tanto da riflettere (e soprattutto, tanto da fare) nel mondo più vicino a noi, specialmente in un contesto globale di grande complessità come quello che stiamo vivendo. L’Europa ha alcuni player credibili, l’Italia no: per rientrare in partita servono competenze STEM, capitale e visione strategica.

Errata corrige

Nei giorni successivi alla pubblicazione dell’articolo, ho usato in diverse occasioni alcuni dei modelli di cui ho parlato. Sul tema censura, se da un lato nei modelli eseguiti in locale non ho notato un blocco completo come quello mostrato nel video del Guardian che ho riportato, sicuramente c’è un evidente allineamento dei modelli quando si parla di tematiche sensibili.

Potete vedere qui la risposta di 4 modelli (uno occidentale e tre cinesi) su una tematica come le vicende di Piazza Tienanmen del 1989.

Intro

Boris Cherny non è certo il primo nome che viene in mente quando si parla di Intelligenza Artificiale. Non è un frontman come Sam Altman o Dario Amodei, non è un idolo dei nerd come Andrej Karpathy o Sebastian Raschka, non è di sicuro un uomo che occupa le prime pagine dei giornali, e nemmeno le homepage dei siti tech.

Quest’uomo, che vedete in foto, è il responsabile di Claude Code e suo primo sviluppatore.

Per chi non ha troppo le mani in pasta, sto parlando dello strumento di agentic coding più in voga degli ultimi mesi: di fatto è un tool sviluppato da Anthropic a cui possono essere assegnati compiti di scrittura di codice anche molto complessi, potenzialmente anche lo sviluppo di un’applicazione da zero o il suo completo refactoring. In accoppiata con le API dei LLM della stessa Anthropic, ma anche con quelle di altre aziende, di fatto sembra essere l’equivalente AI di un software engineer navigato: competente, preciso e soprattutto capace di scrivere codice no-stop 24/7/365, alla velocità della luce. Beh, conosco alcuni esseri umani che non ci vanno troppo lontano… ma diciamo la verità: è uno strumento impressionante.

Giusto qualche settimana fa, alcune dichiarazioni di Cherny hanno apparentemente dato il colpo di grazia ai professionisti del codice, quei developer che negli ultimi 20 anni hanno sancito il successo delle aziende tech. In rapida progressione:

1. Il terreno è stato preparato da Andrej Karpathy, che ha dichiarato che il nuovo linguaggio di programmazione è… l’inglese, affiancato da Jensen Huang (CEO di Nvidia) che ha sostenuto che i ragazzi oggi non dovrebbero imparare a programmare.

2. È seguito appunto nella prima metà del 2025 il rilascio di Claude Code (e di altri equivalenti delle principali aziende di AI), agenti autonomi nel senso stretto del termine.

3. Boris Cherny, come se non bastasse, ha dichiarato che ormai Claude Code scrive il 100% del proprio codice e che lui, in prima persona, non scrive più una riga da Novembre 2025.

Aggiungiamoci tanto qualunquismo, come quello di chi dichiara: “non so scrivere una riga di codice, ma ho sviluppato la mia prima app per mandare l’uomo su Marte in 10 minuti netti”.

Oppure le opinioni (assolutamente disinteressate!) delle tante società di AI transformation, pronte ad interpretare queste novità come fonti di efficientamento per qualsiasi azienda… non pro bono, naturalmente.

Insomma, il quadro è tetro per chi si occupa di tecnologia… ma ne siamo sicuri?

Reality check, dati alla mano

“Talk is cheap, show me the code”, diceva un tale che molti presunti esperti di AI non conoscono.

Io farei una piccola modifica: più che il codice, in questo caso è utile andare a vedere i dati.

La domanda è semplice: quali sono i profili che oggi le aziende tech come Anthropic stanno cercando di assumere? Se la narrazione fosse confermata dai fatti, dovrebbe esserci penuria di ruoli tech.

Sono partito proprio da questa azienda, che ha sviluppato Claude Code e che è tra i principali competitor di OpenAI. Un’azienda fatta in larga parte di tecnici, ingegneri, ricercatori, come tutte le Big Tech.

Queste sono le posizioni aperte a Marzo 2026.

Ho provato a riclassificare i ruoli in poche famiglie di uso comune anche in Italia, ed ecco il risultato:

Surprise, surprise, nonostante il 100% del codice sia scritto dalle macchine, le figure tech sono sempre le più ricercate. E questo nonostante un fortissimo investimento sul fronte commerciale, testimoniato da oltre 130 sales da assumere in giro per il mondo.

Quindi un’azienda tech come Anthropic, giovane e con pochi sistemi legacy, e soprattutto davvero AI-driven, non solo non indietreggia sulle figure tech… ma investe soprattutto su loro.

Quindi non bastava dare “Claude Code” a chiunque, dai product owner alle persone di marketing? Evidentemente no. Non lo pensano nemmeno gli stessi creatori di Claude Code, a giudicare dalle persone che stanno cercando.

Quindi non sta cambiando nulla? Spoiler: sbagliato

Giusto per chiarezza, da tempo sono convinto che l’AI avrà un impatto molto ampio sul mondo del lavoro. Nel breve termine, soprattutto sui colletti bianchi. Penso però che gli esperti di tecnologia abbiano dalla loro tanti vantaggi.

Una demo non è una soluzione in produzione

Faticosamente, ma lo stanno capendo tutti: una demo con gli effetti speciali non è neanche lontana parente di una soluzione in produzione, affidabile, testata e soprattutto incastonata in un’architettura complessa di sofware e infrastrutture, come quella di qualsiasi grande azienda.

E non apriamo il vaso di Pandora della sicurezza: se si confonde una demo con una soluzione debitamente rinforzata, si rischia di fare qualche brutta figura. L’ultima di una lunga serie è l’hackeraggio di Lilli, il chatbot di McKinsey.

Per gli individual contributor: il “mindset tech” è insostituibile

Il fatto che chiunque possa usare un agente AI non implica che lo sappia usare con quella mentalità che è tipica di chi si è sporcato le mani in prima persona.

Quindi: ben venga dare la possibilità a tutti di sperimentare, di provare, di capire. Ben venga ridurre il tempo per fare un mockup e poi una demo. E ben vengano strumenti evolutissimi, che in mani esperte sono un acceleratore incredibile.

Chi lavora nel tech è da sempre abituato a mettersi in discussione, imparare nuove tecnologie e nuovi strumenti: avere questo approccio rappresenta una marcia in più.

Per i manager: è la “tech leadership” il vero collo di bottiglia

Quello che faccio nel mio quotidiano professionale, ma anche in diverse attività parallele, è mettere in pratica e diffondere il concetto di “tech leadership”. Non è scrivere codice, e nemmeno soltanto fare scelte su tecnologie, framework e affini: è creare una visione tecnologica che sia ben allineata alle vere esigenze di business dell’azienda. Dove Dati, AI e strumenti moderni non sono solo un accessorio: sono il cuore attorno a cui una società può crescere ed evolvere.

Tutto questo, non su un bel Powerpoint, ma nello sviluppo di ogni progetto, da quelli più ampi e strategici, a quelli più puntuali e circoscritti.

Come cambia la scala valoriale per tech people

Per supportare questo percorso, è inevitabile un cambiamento anche nel profilo delle persone tech.

Personalmente, sono un ingegnere e prendo spesso in giro la categoria a cui appartengo, fatta spesso di persone brillanti e capaci, ma a volte più a proprio agio con il codice che con gli esseri umani. Amo i nerd che sanno immergersi in un problema o in una tecnologia per ore e giorni, senza bisogno di fastidiose interazioni umane. I personaggi alla Linus Torvalds (soprattutto quando diventano un po’ più civilizzati).

Il problema è che il mercato li amerà sempre di meno.

La mentalità serve, la competenza pure, ma per chi non si chiama Torvalds, serve anche altro.

Un buon punto di partenza per capire quali saranno le figure tech di successo nel futuro (ma secondo me anche nel presente) è guardare ai cosiddetti Forward-Deployed Engineer (FDE), su cui lascio l’approfondimento del Pragmatic Engineer.

Questo ruolo è stato reso famoso da Palantir, che ha iniziato a parlarne già nei primi anni 2010.

Un FDE ha le competenze di un ingegnere (o figura STEM affine), ma unisce un approccio consulenziale e orientato al cliente, interno o esterno che sia.

Saper scrivere, saper parlare, saper ascoltare: un po’ è un cliché, ma penso davvero che non fossero le principali skill di un tecnico fino a poco fa. Ora diventano un must, non più un semplice nice-to-have.

Conclusioni

Dal lancio di ChatGPT a fine 2022, si sono moltiplicate le Cassandre sul futuro dei tecnici.

A dire il vero, non è stata la prima volta: in origine è stata l’introduzione delle interfacce grafiche (le GUI), poi è stata la volta degli strumenti low-code o no-code. Già in quei casi, l’illusione che le competenze tecniche fossero superflue si è rivelata per quello che è: un’illusione, appunto.

Ma questa volta sembrava diverso: il grafico - diventato virale a inizio 2025 - sull’andamento dei job posting come software engineer in America sembrava chiaro e ineluttabile. E la velocità degli sviluppi dell’AI non sembrava far altro che accelerare questo trend.

Non ho la pretesa di conoscere il futuro - e anzi invidio un po’ chi sa essere perentorio in questo periodo frenetico - ma al momento la situazione sembra essere diversa.

Sta sicuramente cambiando il profilo delle persone con competenze tech che riescono ad avere successo sul mercato, ma a quanto pare la tendenza si è invertita, facendo segnare una ripresa nella ricerca di professionisti tech.

Mi viene in mente il paradosso di Jevons: quando una tecnologia rende l’uso di una risorsa più efficiente, spesso il consumo totale della risorsa aumenta invece di diminuire.

I computer di oggi sono molto più efficienti di quelli di 5, 10 o 20 anni fa, non c’è paragone: ma questo non ha portato ad una riduzione nell’energia consumata dalla totalità dei computer. Ha portato ad una maggiore diffusione dei computer e quindi ad un maggiore consumo energetico complessivo su questo fronte.

Io penso che sarà così anche con il codice ed il mondo della tecnologia in generale: sarà sempre più economico generare codice, quindi finiremo col generarne sempre di più e avremo sempre più bisogno di persone competenti su questo fronte.

L’AI non eliminerà i developer. Eliminerà quelli che non sapranno evolversi.

P.S.: giusto in quei 2-3 giorni tra bozza e pubblicazione di questo articolo, ho intercettato il grafico sottostante. Lupus in fabula.

Intro

Una metafora molto usata nel mondo anglosassone quando si parla di vantaggio competitivo è quella del moat, il fossato attorno al castello. Un’immagine medievale molto calzante: qualcosa che circonda e protegge una realtà aziendale dagli attacchi provenienti dal mondo circostante.

“We have a moat” significa avere qualcosa di unico e distintivo, non facilmente aggirabile.

Volendo rendere il concetto in italiano, ho abbandonato la traduzione letterale e preferito parlare di roccaforte: una struttura difensiva, utile soprattutto in tempi burrascosi.

Non tutte le aziende hanno una propria roccaforte, e questo vale soprattutto per tante aziende giovani e ipertecnologiche. L’AI non sta facendo altro che portare a galla questa situazione.

Guardate ad esempio l’andamento nell’ultimo anno di 5 grandi aziende attive nel mondo del Software-as-a-Service, o semplicemente SaaS: qualcuno non a caso sta parlando di SaaS-pocalypse.

La prima vittima dell’AI: il tech stesso

Il mondo dei servizi software è il primo settore sotto evidente attacco: indiscutibilmente la scrittura di codice sta diventando sempre meno un’attività umana e sempre più un’attività delegabile almeno in parte ad agenti AI.

L’impatto è perlomeno su due livelli.

Quello più scontato è appunto rappresentato dalle realtà che offrono soluzioni software come servizio. A grosso rischio sono quelle che si focalizzano su:

• Soluzioni standalone, con un livello di integrazione limitato;

• Ambito di applicazione general-purpose, senza grandi personalizzazioni di dominio;

• Approccio plug-and-play, un tempo vantaggioso per entrare su un nuovo cliente, oggi un’arma a doppio taglio.

In questi casi, è inevitabile rendersi conto che la propria base proprietaria di software è più una liability che un asset. Anche perché il software ha la stessa caratteristica di un vino da due soldi: invecchia male, diventa aceto. Soluzioni quick and dirty si accumulano, scelte architetturali superate raramente vengono rimesse in discussione, il tempo e il costo per doverosi refactoring sono sempre in coda alle priorità.

C’è un secondo livello nel mondo tech, meno ovvio, che è ulteriormente sotto minaccia: il mondo dell’AI in sé.

A differenza del software tradizionale, lo sviluppo degli algoritmi foundational di AI, fatto dai grandi centri di ricerca delle Big Tech statunitensi e da equivalenti cinesi meno noti, fa leva su due aspetti non facilmente replicabili:

• Il talento, quello vero, che sta portando ad una corsa incredibile ai migliori ricercatori;

• Le costose GPU, l’hardware necessario per l’addestramento dei modelli di AI, che hanno reso felici (finora) gli azionisti di Nvidia.

La storia recente mostra che su entrambi i fronti nessuno ha una roccaforte specifica: è solamente una questione di investimenti. E questi ultimi non mancano di sicuro, con finanziamenti crescenti da parte dei Venture Capitalists e la conseguenza che nessuna azienda può avere facilmente l’ultima parola e ottenere un vantaggio duraturo, sia a livello di personale di alto profilo, sia a livello di hardware a disposizione.

Il risultato è che nella corsa alla Generative AI la “lepre” OpenAI, partita con un vantaggio enorme sui competitors grazie al rilascio di ChatGPT a fine 2022, si trova oggi in un’arena competitiva affollatissima, composta almeno da due gruppi agguerriti:

• Anthropic e Google, che rispettivamente con Claude e Gemini sono oggi pienamente all’altezza (se non meglio) delle soluzioni del gruppo di Sam Altman

• Una pletora di rivali che sono solamente un gradino indietro, costituiti da altri grandi player (la stessa Meta, ma anche Alibaba e Baidu) e centri di ricerca più piccoli e veloci, in gran parte asiatici e orientati all’open source (Deepseek, Minimax, Kimi, Z.AI e tanti altri).

Non è un caso che Nvidia abbia ridimensionato il proprio commitment di collaborazione con OpenAI, passando dai 100 miliardi di dollari annunciati a Settembre 2025 ad effettivi 30 miliardi.

Anche perché il percorso verso la profittabilità si preannuncia lungo: la stessa OpenAI prevede di continuare ad avere cash flow negativo fino al 2030.

Next in line

Se il mondo tech è in una fase di discontinuità e gli stessi protagonisti dell’AI si ritrovano in un futuro incerto, non sono molti a dormire sonni tranquilli.

L’AI si sta imponendo sempre più come layer di intermediazione che bypassa interfacce, punti di accesso, brand su cui tanto si era investito in passato.

Gli utenti si rivolgono sempre più a ChatGPT, Claude, Gemini, Perplexity e tanti altri, dimenticandosi:

• Il sito del loro brand preferito;

• La relativa app;

• Il comparatore di riferimento per quel dato settore.

E via discorrendo.

Il traffico, la UI, l’engagement rischiano di spostarsi sempre più verso i grandi player dell’AI, mettendo a repentaglio la visibilità di un brand e ridimensionando l’importanza di SEO, UX e tutto ciò che ci ruota attorno.

Difficile fare previsioni sul futuro, ma quanto scrivo sta già accadendo. Basti pensare ai movimenti dei grandi player della tecnologia: ad esempio, Google ha recentemente lanciato Agentic Payments Protocol (AP2), un protocollo per standardizzare le modalità di agentic commerce e di pagamento, rendendo di fatto possibile la delega di un acquisto verso un agente AI, semplicemente interagendo in linguaggio naturale1.

Il nuovo, vecchio fortino

A cosa aggrapparsi, a questo punto? C’è qualche roccaforte, qualche fortino che può aiutare in questo momento così frenetico ed imprevedibile?

Le risposte possono essere tante e diverse settore per settore.

Serve qualcosa di unico e distintivo, non facilmente replicabile, non creabile dal nulla.

Non voglio uscire dal mondo tecnologico - quindi non parlerò del valore di aspetti fortemente umani, come le relazioni interpersonali, né tantomeno del mondo normativo o regolamentare, che può essere sicuramente una roccaforte per qualche azienda in ambiti specifici.

Se resto nel tech, abbiamo visto che:

• La barriera di ingresso allo sviluppo software si sta sempre più abbassando;

• Paradigmi moderni (come il cloud) e investimenti dei VC rendono accessibili infrastrutture un tempo alla portata di pochi.

Rimane un asset importante: i dati, proprietari e unici, specialmente di quelle aziende che hanno un po’ di storia e/o sono in settori che generano grandi quantità di informazioni di valore, magari come collaterale del proprio core business.

I dati sono l’opposto del software:

• I dati non si possono creare dal nulla;

• Tutti dicono: “vorrei serie storiche di 10 anni o più”. Nessuno dice: “vorrei software vecchio di 10 anni o più”;

• Il software si copia o si riscrive, i dati si accumulano;

• Il software scala con l’ingegneria (che corre sempre più velocemente), i dati scalano col tempo (che non siamo in grado di alterare).

La persona da seguire, quando si parla di dati e impatto sul business, è Abraham Thomas. Noto soprattutto come co-fondatore di Quandl, una delle prime aziende di alternative data (acquistata dal Nasdaq nel 2018), oggi scrive l’ottimo Pivotal, un blog con pochi articoli, ma dal peso specifico elevatissimo.

Pivotal

Pivotal is a newsletter about data, investing, and startups. It has three underlying themes: the data explosion, markets in everything, and software eating the world.

By Abraham Thomas

Per chi vuole approfondire perché i dati sono una roccaforte - e come “funzionano”, a livello di business - consiglio due letture:

• L’iconico “The Economics of Data Businesses”, il punto di partenza per capire di cosa stiamo parlando, senza fronzoli;

• Il più specialistico “How to Price a Data Asset”, che risponde alla domanda chiave per chi vuole fare data monetization: quanto vale questo specifico dato.

Conclusioni

Che l’AI non sia una rivoluzione solo tecnologica, è cosa nota ormai anche ai sassi.

Qualcuno ancora parla di pappagalli stocastici, oppure di piccole efficienze su questo o quel processo aziendale. Argomenti caldi a fine 2022 o forse a inizio 2023, ma che oggi mi sembrano appartenere al passato.

Oggi in realtà i mercati e gli investitori ci stanno dicendo altro: l’AI non è uno strumento per correre più veloce, come un nuovo paio di scarpe in grado di abbassare di qualche centesimo il tempo di un runner. L’AI sta proprio ridisegnando le regole del gioco.

In questo contesto, le tantissime sfaccettature del mondo tech stanno cambiando: alcune sono ad altissimo rischio, altre godono di una roccaforte che sembra essere proprio strutturale.

I dati appartengono indiscutibilmente, a mio modo di vedere, proprio a questa seconda categoria. Serviranno lucidità e chiarezza di visione per distinguere ciò che è unico e inimitabile, da ciò che invece è sempre più accessibile. E investire di conseguenza.

In questo contesto, se la maggior parte del tech (a cominciare dal software) è sempre più una commodity accelerata, i dati vanno avanti per la propria strada: lenti, scarsi, magari noiosi… ma unici e distintivi.

Intro

Nella speciale classifica dei temi divisivi, le questioni di genere si piazzano sempre in ottima posizione. Quale che sia la specifica sfaccettatura che si vuole analizzare, è molto difficile rimanere oggettivi ed evitare polarizzazioni, anche perché spesso questi argomenti generano uno speciale fenomeno biochimico: scaldano i cuori… e raffreddano i cervelli.

Quello che succede regolarmente è che queste discussioni fanno una vittima, sempre la stessa: i dati. Usati come arma per sostenere tesi opposte, deliberatamente nascosti o selettivamente enfatizzati, a volte relegati in ultima fila e quasi ignorati.

Il risultato è quindi un circolo vizioso: le opinioni si fanno più forti, il confronto diventa scontro, le posizioni si allontanano, i dati per farsi una propria opinione informata… spariscono. Con buona pace di chi ai dati dedica tempo, passione e fatica.

Ho quindi pensato di condividere alcuni dataset di grandissimo valore, ma sconosciuti ai più. In questo articolo, i protagonisti saranno:

• I dati stessi;

• Alcune semplici statistiche di base, utili di per sé, ma anche punto di partenza per chi vuole approfondire ulteriormente con proprie analisi.

Non troveranno spazio ragionamenti sulle cause, sugli effetti e men che meno idee geniali per azioni o contromisure. Anche perché, come recita la Legge di Grossman:

Donne e STEM: i dataset dell’Ufficio Statistico del MUR

Ciclicamente torna alla ribalta il tema “donne e STEM”, che sia nel dibattito politico, sui media oppure in contesti privati.

Ed è un tema che mi interessa, per curiosità personale e motivi professionali.

Difficilmente la discussione parte da un punto fisso, che pure esiste: abbiamo quasi 25 anni di dati con ottima granularità su questo fenomeno. Sono open data raccolti, organizzati e messi liberamente a disposizione dal Ministero dell’Università e della Ricerca, il MUR.

I dataset sono diversi, ben documentati, recenti (ultimo aggiornamento: novembre 2025) e facilmente accessibili qui: https://dati-ustat.mur.gov.it/dataset/laureati

Ovviamente il focus è universitario e specificamente centrato su chi ha conseguito un titolo di studio presso un’università italiana. In realtà, questo è molto utile: il dataset rappresenta l’inizio del percorso di giovani 20-25enni che, con le competenze acquisite, andranno negli anni successivi a costituire una percentuale sempre crescente della forza lavoro di un certo settore o ambito professionale.

Ed è possibile analizzare come la situazione è evoluta dal 2001 al 2024, anno per anno.

Chiunque lavori con i dati avrà già capito che questi dati hanno tante caratteristiche eccellenti:

• Una lunga serie storica;

• Annualità disgiunte;

• Una tassonomia standard delle classi di laurea (da considerare - e lo vedremo - solamente il fatto che alcune classi di laurea recenti sono nate dopo il 2001);

• Un fornitore di dati aperti che ne garantisce formato e coerenza (grazie MUR).

Cosa ho deciso di approfondire

Personalmente, da professionista del mondo Dati & AI, ho deciso di puntare i riflettori su quelle classi di laurea magistrale da dove provengono la maggior parte dei laureati per questo settore, ossia quelle afferenti all’informatica, alla matematica e alla statistica.

Nello specifico, mi sono concentrato su:

• LM-18: Informatica

• LM-32: Ingegneria Informatica

• LM-40: Matematica

• LM-44: Ingegneria matematica e fisica

• LM-82: Scienze statistiche ed economiche

• LM-83: Scienze statistiche attuariali e finanziarie

Ovviamente, è una scelta. Ad esempio, i laureati in Informatica o Ingegneria Informatica non finiscono per intero ad occuparsi di Dati &AI. E viceversa, una porzione ancora piccola, ma a mio avviso crescente, sviluppa queste competenze a partire da una laurea in Economia.

Cosa emerge da questi dati

Mi sono reso rapidamente conto di essere davanti ad una miniera di informazioni rilevanti.

Ecco alcune considerazioni, supportate da qualche grafico (facilmente replicabile partendo dal dataset Laureati per classe. 2001-2024).

La differenza di genere è persistente nel “TE” di STEM (Technology and Engineering)

Mi ha molto colpito il fatto che le differenze di genere tra studenti di Informatica e Ingegneria Informatica è, nel 2024, sostanzialmente allo stesso livello dei primi anni 2000. Qualche differenza tra le due (Informatica sempre più maschile, Ingegneria Informatica dove invece le studentesse aumentano leggermente), ma nell’insieme il quadro si bilancia.

In realtà, tra 2000 e 2010 l’andamento era stato addirittura peggiorativo. Ora siamo ritornati sui livelli dell’inizio della serie storica.

Nella M di STEM (Mathematics) la percentuale di maschi è in crescita

Altro aspetto che mi ha stupito: a Matematica siamo passati da un rapporto 75:25 a favore del genere femminile, ad un rapporto 50:50, addirittura con un lieve sorpasso degli studenti di sesso maschile proprio negli ultimi due data point (anni 2023 e 2024).

Sostanzialmente costante ingegneria matematica/fisica (riporto i dati dal primo anno con almeno 100 laureati, il 2007).

Mentre nel mondo statistico e attuariale (LM-82 e LM-83), storicamente a leggera prevalenza femminile, si è assistito al sorpasso, come per Matematica.

La popolazione di laureati STEM in aree vicino a Dati & AI cresce parecchio nel suo insieme…

… ma non in maniera uniforme, con una crescita più marcata della componente maschile in termini numerici.

Nelle 6 classi di laurea analizzate tra 2001 e 2024:

• Numero assoluto laureati: da 5.057 a 7.640 (+51,1%)

  • Di cui femmine: 2.104 a 2.157 (+2,5%)

  • Di cui maschi: 2.953 a 5.483 (+85,7%)

Se fissiamo arbitrariamente “l’anno zero” della serie storica al 2011 (e la fine sempre all’ultima rilevazione disponibile), il quadro cambia e mostra un sostanziale pareggio in termini di crescita percentuale:

• Numero assoluto laureati: da 4.127 a 7.640 (+85,1%)

  • Di cui femmine: 1.183 a 2.157 (+82,3%)

  • Di cui maschi: 2.944 a 5.483 (+86,2%)

Ovviamente in valore assoluto la forchetta si allarga.

La distribuzione della percentuale di laureate è scesa dal 41,6% del 2001, al 28,7% del 2011, al 28,2% del 2024, sempre includendo le 6 classi di laurea.

Quindi nel complesso anche in Italia sta crescendo il mondo dei professionisti che maturano competenze utili per Dati & AI, sempre più necessarie. E penso che questo sia indiscutibilmente un bene1 . Tutto da capire invece quanto questa crescita sia adeguata al mondo che cambia (o invece ancora troppo limitata) e come possa esserci qualche variazione riguardo la questione di genere, dove non si vedono grandi miglioramenti (anzi).

Conclusioni

In questo contesto, sono molto chiare le cause, gli effetti e le azioni da mettere in campo…

No, non scherziamo. Un po’ invidio chi, davanti a queste evidenze, ritiene di avere la bacchetta magica. Si dice che siamo un paese di 60 milioni di Commissari Tecnici della nazionale di calcio - sempre con la scelta giusta su chi schierare in campo - ma anche su questi temi non andiamo lontani.

Il punto da cui sono partito è proprio questo: lavorando coi dati da ben oltre un decennio, penso che si debba essere capaci di fermarsi ad analizzarli in profondità e di vederli da diverse angolazioni, senza saltare subito alle conclusioni. Algoritmi, machine learning, intelligenza artificiale… sono temi che adoro, ma oggi quello che spesso manca è la capacità di farsi le domande giuste, trovare i dati adeguati e analizzarli a fondo, senza cadere nei nostri stessi bias.

Quindi no, non mi addentrerò in disamine che probabilmente sarebbero superficiali.

Prendendo spunto dall’ottimo Ti spiego il dato di (il secondo substack con cui condivido più lettori), io qui mi voglio fermare un passo prima: “Ti faccio scoprire un dato”, diciamo!

Restando proprio su questo livello, ho trovato il lavoro messo a disposizione dal MUR qualcosa di davvero ben congegnato. E mi stupisco, dopo aver letto tanti articoli sul tema, di non aver mai trovato riflessioni ben ancorate a questa fonte. Nel merito, mi ero fatto un’idea diversa, quella di un trend lento ma costante verso una minore differenza di genere nello STEM, che a quanto pare non c’è - almeno per quelli che sono i percorsi di laurea che ritengo i più comuni nel perimetro della mia professione.

Questo mi ha spinto a parlarne. Sono dati che trovo utilissimi per data journalists che vogliono approfondire il tema, professionisti delle Risorse Umane che desiderano capire il mondo dell’università e del lavoro di domani, manager che cercano benchmark validi, forniti da una terza parte autorevole come può essere il MUR. Io ho suggerito qualche angolazione interessante su questi dati, ma sicuramente ce ne saranno molte altre.

I dati servono proprio a questo: mettersi in dubbio. E a proposito, se qualcuno notasse delle imprecisioni, dei bias, degli errori: fatemeli notare senza problemi, qui nei commenti o in privato via Linkedin.

Buon approfondimento a chi vuole scavare ulteriormente nei dati del MUR!

Intro

Sono un grande consumatore di materiale su Youtube. Tra video e podcast di ogni tipo, spesso finisco col perdermi nella semplice musica, tra band note e qualche fenomeno del web.

Ed è così che qualche giorno fa mi è apparso questo video, come suggerimento:

Il canale in questione è di un batterista con una tecnica fenomenale, che può piacere più o meno a livello musicale, e nel video in questione rende omaggio ad un altro talento… che sicuramente non è una capra!

Come avranno intuito molti di voi, il problema sta nella traduzione: qui il GOAT presente nel video in lingua originale non è da intendersi tanto come l’animale, quanto piuttosto come il Greatest Of All Time, il “più grande di tutti i tempi”. È un acronimo ormai così comune nello slang da non essere neanche riportato con i puntini dopo ogni lettera.

A parte la mia iniziale reazione divertita a questa traduzione bizzarra, ho pensato che fosse un caso molto interessante per testare 2 traduttori tradizionali e 10 modelli di AI generativa. Li vedremo in ordine crescente di qualità… e sarà molto curioso vedere cosa ne esce fuori.

Game over per i traduttori tradizionali?

Sono convinto da tempo che siano davvero tempi duri per i traduttori vecchio stile (con un grande asterisco che vedremo alla fine).

Ho provato Google Translate e Deepl, sicuramente tra i più diffusi nel settore.

Semplicemente, non ci siamo: come lecito aspettarsi, un traduttore tradizionale fallisce miseramente e si limita ad una traduzione letterale, perdendo il vero significato originario.

Modelli di AI minuscoli: benvenuti nella surrealtà

Da questo punto in avanti ho voluto utilizzare Ollama, uno strumento per utilizzare modelli di AI medio-piccoli, gratuiti ed open source, direttamente sul proprio pc.

Sono partito da Gemma3 nella sua versione lillipuziana: solo 270 milioni di parametri, intorno ad un millesimo dei modelli più grandi sul mercato.

Poi ho provato la versione da 1B, per poi proseguire con Qwen3 nella sua versione da 4B.

Di seguito le risposte ottenute con questi 3 modelli.

Al crescere della dimensione, cambia anche la natura della risposta:

• Surreale con il modello da 270M;

• A metà strada tra traduzione letterale e considerazioni bizzarre in quello da 1B;

• Asciutta, ma letterale (e quindi errata) nel modello da 4B.

Ovviamente, YMMV: se riprovate a lanciare lo stesso prompt con questi modelli, potreste ottenere risultati un po’ diversi… ma il tenore è lo stesso.

Si vede chiaramente che gli LLM sono modelli statistici senza alcune conoscenza, e se di dimensione troppo piccola, vanno facilmente fuori rotta e possono anche produrre testo senza alcun razionale, fornendo risposte imprevedibili.

Un passo in avanti: qualcosa si comincia a capire

Diversa la questione dei modelli tra 12 e 20B di parametri, che possono spesso girare decentemente su una GPU consumer.

Ho provato 5 modelli: Gemma3, Qwen3 e DeepSeek R1 nelle versioni distillate da 12-14B parametri, e poi la soluzione open source di OpenAI, GPT-OSS, nella sua variante 20B con due diversi livelli di “ragionamento” (basso e alto).

Come potete vedere, con questo numero di parametri siamo un po’ sulla frontiera per quanto riguarda la capacità di questi modelli nell’interpretare correttamente il concetto di GOAT nella frase originaria.

Fermo restando qualche esitazione, tutti i modelli hanno almeno in parte individuato il fatto che GOAT può fare riferimento all’acronimo e non all’animale. Ma l’aspetto curioso - e pienamente atteso - è che in alcuni casi i modelli hanno proposto le due alternative (letterale/errata e slang/corretta) entrambe come possibili soluzioni valide. Un comportamento che sarebbe certamente insolito per un essere umano!

I primi della classe

Ma come si comportano i migliori sulla piazza? Vedremo che… non tradiscono.

Partiamo da ChatGPT 5.1 di OpenAI, lanciato a metà novembre: un modello di cui non è noto il numero dei parametri, ma che si ritiene abbia qualche centinaio di miliardi di parametri (quindi >100B).

Il modello non solo traduce correttamente, ma mostra anche una faccina ipotizzando che qualcuno possa pensare alla traduzione letterale. Propone poi una serie di alternative per la traduzione: tutte validissime.

E Gemini 3 pro? Lanciato anche lui a metà novembre, qualche giorno dopo ChatGPT 5.1, è sicuramente tra i top.

Anche qui, test passato a pieni voti.

Gemini 3 si dilunga in spiegazioni e tante alternative corrette, spiegando anche le sfumature di ognuna. Si sbilancia (e qui diciamo che sbaglia) perché ipotizza che io possa essere interessato a generare un titolo clickbait (acchiappa-click), ma del resto non può sapere il mio intento nel porgli la domanda!

Ma com’è possibile l’errore su Youtube?

Qualche mese fa avevo trovato un caso simile, sempre su un prodotto Google.

“Input price” risultava tradotto come “inserisci prezzo”, anziché “prezzo di input”, incredibilmente proprio nelle pagine sul costo delle API di Gemini, il modello AI di Big G.

A prima vista, sembrano incredibili entrambi gli errori. Mi vengono due riflessioni:

1. Sicuramente lo sviluppo di qualsiasi prodotto informatico, a maggior ragione se con milioni di utenti, deve seguire una roadmap di prodotto: probabilmente sostituire il traduttore “vecchio stile” con una chiamata ad un servizio di AI (per lingue diverse dall’inglese) non è così prioritario e non è nemmeno così istantaneo.

2. Ancora più importante, l’inferenza AI ha un costo: più semplice e sicuramente più economico usare un servizio dedicato (come Google Translate), mentre usare l’AI generativa per questi scenari rischia di essere un po’ come sparare ad una mosca con un bazooka.

Questo vale soprattutto per Youtube, dove ogni secondo vengono caricati in media 30 video. E penso che sarà, almeno per un po’, l’ancora di salvezza per i traduttori tradizionali.

Ad ogni modo, non tutti gli errori restano per sempre: ad esempio, sul caso dei costi di Gemini, oggi la traduzione è stata corretta.

Conclusioni

I Large Language Models, in origine puri modelli statistici e oggi ecosistemi molto più ampi, sanno svolgere compiti ben più complessi di una semplice traduzione, almeno se guardiamo i migliori sul mercato.

Ma questo non è (ancora) la fine per traduzioni grottesche in italiano o in altre lingue. La tecnologia c’è, ma la strada per il rollout, per l’adozione su larga scala è ancora lunga, anche in casi apparentemente semplici!

E almeno oggi, per superare gli approcci classici, servono modelli molto grandi ed esosi, in termini economici e di energia consumata.

Sono convinto che, come per tutte le tecnologie innovative, anche con l’AI si supereranno le fasi dell’hype e della frenesia: qualcuno arriverà a tirare una riga e vedere se i costi (importanti) sono sempre giustificati. E in maniera assolutamente sana, sopravvivranno i casi in cui fa davvero la differenza.

Cosa succederà al mondo delle traduzioni automatiche? Difficile dirlo, ma faccio fatica ad immaginare un futuro per sistemi diversi dagli LLM… ma vedremo, il costo farà la differenza.

E poi: forse una traduzione sbagliata ogni tanto, o un po’ bizzarra, alla fine fa parlare di più, crea più engagement e quindi… più ricavi? Forse questo articolo ne è proprio la dimostrazione 😁

Intro

Qualche giorno fa ho letto un post interessante del prof. Walter Quattrociocchi, voce autorevole nel campo dell’AI e osservatore attento di una serie di dinamiche legate al suo utilizzo, dal titolo “Quando si scambia un motore linguistico per altro”.

L’idea di fondo di molti dei suoi articoli - che in linea di principio condivido - è che siamo in un momento storico in cui stiamo confondendo plausibilità linguistica con conoscenza, per tanti motivi:

1. Un marketing patinato da parte di aziende, come OpenAI ed Anthropic, che devono giustificare valutazioni da capogiro che sono palesemente scorrelate da dati economici fondamentali ancora… traballanti.

2. Una pletora di società di consulenza, influencer, soggetti di varia natura che traggono ovviamente vantaggio diretto dal cavalcare questo trend e la relativa fear of missing out, per vendere servizi di ogni tipo.

3. Una sorta di effetto gregge, in cui seguire la corrente è più facile che alzare la mano e dire: “guardate che non è tutto oro quello che luccica”, rischiando di passare per retrogradi, luddisti o semplicemente stupidi.

Quindi, ben venga una voce fuori dal coro, che scavi sotto quello spesso strato di maquillage che oggi avvolge l’AI!

Bene, ma non benissimo

Se sicuramente condivido l’aspetto didattico ed educativo dell’articolo specifico e di tanti altri (del resto, è proprio quello che deve fare un professore!), vedo principalmente due rischi.

Il primo, su cui non mi soffermerò, è che si possa instaurare una fallacia che semplifico così:

• Visto che tutti i tecno-creduloni ritengono che l’AI possa fare X, Y, Z (attività complesse a piacere)

• Allora, se anche tu ritieni che l’AI possa fare X, Y, Z, sei automaticamente un tecno-credulone

Chi conosce le basi delle implicazioni logiche sa che non funziona così1. È indiscutibile che molte persone nutrono una fiducia cieca verso l’AI, pur non comprendendola; ma anche molti veri esperti riconoscono i passi da gigante fatti anche solo negli ultimi 12 mesi e vedono allargarsi il perimetro di cosa l’AI può fare per davvero.

Il secondo punto, che voglio approfondire, è che si rischia di cristallizzare alcune posizioni, magari vere in un certo istante di tempo, come qualcosa di vero in senso assoluto. Con il risultato di focalizzarsi sul rumore… e perdersi anche il segnale.

Qualche punto fisso sugli LLM “nudi”

In principio era ChatGPT… anzi no: si è lavorato per qualche decennio sul Natural Language Processing, e da lì sono nati ChatGPT e affini. Si tratta di modelli avanzatissimi costruiti su statistica e computazione applicata al linguaggio.

Sicuramente:

• non capiscono;

• non conoscono;

• a prescindere dalla loro grandezza o complessità, sono pur sempre dei predittori di sequenze di parole2.

Ad esempio, quando chiedo ad un LLM “nudo” di fare un’operazione matematica, lui la vede come una sequenza di caratteri (numerici) e quindi… sbaglia.

Ma lo stesso problema c’è anche in contesti puramente linguistici: la “prossima sequenza di parole più probabili” non è necessariamente corretta. Di fatto parliamo delle allucinazioni, in cui il modello ha prodotto qualcosa di verosimile, ma non vero.

E se un esempio numerico come quello sopra è facile da verificare, diventa sempre più difficile in tutti quei contesti in cui non esiste un oracolo che abbia la verità assoluta (es. la calcolatrice per un’operazione aritmetica), oppure non è facilmente accessibile.

Su questo concetto possiamo costruire tanti ragionamenti validi ed esprimerli in maniera più o meno forbita: ad esempio, nell’articolo iniziale si dice che il modello segue “il punto di massima densità informativa”.

Verissimo, ma il cuore della questione oggi non è questo, a mio avviso.

Il punto è che gli LLM “nudi” sono in declino e sempre meno rappresentativi dell’esperienza reale dell’AI.

Cosa è successo da metà 2023: gli ecosistemi “AI & tools”

I limiti strutturali dell’AI generativa, che ho mostrato sopra, sono ben noti a tutti gli addetti ai lavori. Una maggiore attenzione ai prompt e al modo di utilizzare questi modelli linguistici sicuramente può aiutare e dare miglioramenti progressivi, ma non risolvere completamente questi limiti.

Questo non vuol dire che una soluzione non ci sia: semplicemente, non è parte dei modelli LLM in sé.

Se da un lato ci sono personaggi come Yann Lecun, sostenitori della necessità di una completa rivoluzione dell’approccio all’AI3, il grosso degli sforzi è andato in una direzione a mio avviso molto sana: vedere l’AI generativa come un componente di sistemi complessi, e non come un sostituto.

Uno dei primi passi in questo senso è stato il lancio dei plugin da parte di OpenAI, già a partire da Marzo 2023. Tra questi c’è anche Code Interpreter, che ha subito parecchie evoluzioni nel corso degli ultimi due anni.

L’idea di fondo è semplice: permettere ad un modello linguistico di connettersi a servizi esterni standard. Anzi, di più: permettergli di determinare automaticamente quando è opportuno richiamare uno di questi servizi.

Come sempre, non parliamo di magia: il training ha insegnato ai modelli anche quando e come chiamare i diversi strumenti. L’ecosistema di prodotto fa il resto, mettendo quei tool a disposizione e vincolando l’output ai dati reali.

Un esempio pratico: le piattaforme ChatGPT e Gemini nell’analisi dei dati

Nell’articolo da cui sono partito viene riportato un aneddoto sull’analisi di un dataset in cui un LLM (non meglio specificato) ha inventato una risposta non pertinente, basata realisticamente sui dati su cui è stato addestrato, portando l’autore a dichiarare che “questi sistemi non ‘leggono’ il tuo dataset, si muovono in uno spazio linguistico che è già stratificato intorno alle zone dove il dato è più abbondante, più ripetuto, più recente, più statisticamente conveniente”.

Molto verosimile a fine 2022 o inizio 2023, ma anche tutt’oggi su modelli LLM “nudi”, che non si interfacciano con strumenti esterni.

Il punto è che oggi usiamo l’AI principalmente all’interno di prodotti che hanno strumenti, ambienti di esecuzione e vincoli sui dati. E quindi cosa succede in pratica, se usiamo le soluzioni oggi più diffuse sul mercato? Non conosco modo migliore che… provare sul campo.

Ho testato ChatGPT 5.1 (usato tramite il mio abbonamento plus) e Gemini 3.0 Pro (usato in preview nella versione gratuita).

Sono partito in entrambi i casi da un dataset gratuito con 8.000+ titoli di film e serie TV presenti su Netflix. Per la cronaca, il file è di pochi giorni fa e quindi sicuramente non nel training set di nessun LLM oggi sul mercato.

ChatGPT 5.1

Ho chiesto questo a ChatGPT:

Di seguito potete vedere la risposta, che ha richiesto qualche secondo.

ChatGPT ha “capito” (occhio alle virgolette) che era il caso di generare del codice Python per rispondere alla mia richiesta (benché io non lo abbia chiesto esplicitamente), e lo ha eseguito direttamente nell’interfaccia, riportando esattamente quello che cercavo.

Gemini 3.0 pro

Per il nuovo LLM appena rilasciato da Google, che sembra oggi essere il primo della classe, ho complicato un attimo l’analisi. Non ho specificato esattamente i campi da usare, in particolare ho tolto qualsiasi riferimento a colonne del dataset da analizzare.

Ecco il prompt:

Questa la risposta:

Almeno nella versione gratuita, l’integrazione con l’ambiente di esecuzione del codice non è automatica, ma rimanda a Colab (dove il codice generato viene ricopiato in automatico, ma il file va ricaricato manualmente). Di seguito il risultato.

Possiamo dire che ChatGPT 5.1 e Gemini 3.0 pro hanno passato perfettamente il test. In totale autonomia hanno determinato l’opportunità di usare un tool e lo hanno eseguito (in maniera trasparente nel caso di ChatGPT 5.1), attenendosi strettamente al dataset fornito.

Detto in altri termini, affermare che gli LLM “non leggono il dataset” è corretto solo per gli LLM isolati… ma nel 2025 i prodotti mainstream non sono più LLM isolati: quando il tool di analisi dati entra in gioco, il sistema legge davvero il file e vincola l’output.

L’impatto enorme sulla AI economy

Assodato che gli LLM hanno e avranno sempre - nativamente - una serie di limiti intrinseci, ma che le soluzioni sul mercato sono oggi molto, ma molto più di un semplice motore linguistico, resta da vedere l’impatto sul mercato.

Il tema è ampio, sfaccettato e nessuno ha la sfera di cristallo.

Chi vivrà, vedrà, ma la mia impressione è che l’esempio sopra sia emblematico di un trend in corso, che voglio riassumere con un’immagine.

Le Big Tech che sviluppano i Large Language Models e più in generale gli ecosistemi di AI si stanno progressivamente mangiando il mondo dei servizi costruiti on top.

Già nel 2022 sarebbe stato possibile sviluppare un sistema text-to-python, in grado di tradurre linguaggio naturale in codice sorgente, ad esempio proprio per analizzare un dataset: oggi è integrato, built-in, in una soluzione standard come può essere ChatGPT oppure Gemini (e tanti altri).

E lo stiamo vedendo su scala molto più ampia con Microsoft Copilot (integrato in Office, Teams, Outlook) o lo stesso Gemini (oggi un po’ ovunque in Chrome, Android, Gmail e altro).

Spesso ci si focalizza sulle performance dei vari LLM nei benchmark più comuni, ma il punto è un altro: il pacchetto di funzionalità integrate a contorno di un LLM sta diventando sempre più ampio e le sue integrazioni native sono sempre più pervasive.

Alle startup resta spazio su:

• Verticali con alte barriere all’ingresso per via di dati/relazioni/contesto.

• Workflow profondi dove la conoscenza di dominio la fa da padrona.

• Integrazioni specialistiche dove la commoditizzazione è lenta.

È un tema complesso che meriterà magari un articolo in futuro.

Conclusioni

L’asticella di cosa è possibile fare oggi con l’AI si sta spostando sempre più in alto.

Quelli che erano punti saldi fino ad un paio di anni fa, sono oggi messi in dubbio, se non del tutto superati.

E dove non arriva l’AI generativa in sé - per motivi strutturali che è bene conoscere - arrivano le integrazioni con altri sistemi che di AI hanno poco… ma che uniti all’AI diventano potentissimi.

Tanti concetti che uso da parecchi anni e che applico anche al mondo dell’AI predittiva e del Machine Learning sono per me sempre più centrali:

1. Ragionare in ottica di prodotto: il protagonista non è solo l’algoritmo o il motore linguistico in sé. Bisogna unire all’AI in senso stretto la conoscenza dei dati, la possibilità di integrarsi con soluzioni IT di varia natura e una visione d’insieme ampia a livello di architettura tecnologica.

2. C’è tanto rumore e tante chiacchiere attorno all’AI, ma anche tanta sostanza: molte menti brillanti sono al lavoro, i finanziamenti non mancano e quindi la capacità principale oggi è quella di capire i messaggi… anche quando la comunicazione è molto disturbata!

3. Nella frenesia di stare dietro alle novità, ha un grande valore rallentare un attimo per documentare i propri test, rendendoli riproducibili e standardizzati: ciò che ci sembra verità assoluta oggi, può non valere più domani.

Un punto resta fermo e costante nel tempo, con o senza AI: la necessità di non farsi abbagliare dall’ultima novità, andando invece a sperimentare in prima persona e a capire fino in fondo, con spirito critico!

Intro

Tra un mese circa, il 30 novembre 2025, ChatGPT spegnerà il suo terzo compleanno. È ancora un bambino, eppure mi sembra che sia stato con noi da una vita!

Prendo lui - e più in generale tutti i lavori di OpenAI - come punto di riferimento per il passaggio al mondo mainstream dell’AI generativa.

Quello che un po’ temevo è che in questi tre anni la forchetta tra hype (spesso interessato) e realtà si è ampliata, nonostante il lavoro di divulgazione che tanti fanno in diverse modalità.

E allo stesso modo si sono polarizzate tante fazioni diverse, sempre più lontane tra loro. A mio avviso è molto interessante capire come si muovono: nessuno ha la verità in tasca e capire il perché di certe posizioni aiuta sicuramente a farsi una propria idea.

Ci pensavo mentre ascoltavo l’ultima intervista di Andrej Karpathy, rilasciata il 17 ottobre 2025 con Dwarkesh Patel: una lunga chiacchierata di 2 ore e mezza, molto densa a livello intellettuale e straordinariamente utile per capire a che punto siamo davvero con l’intelligenza artificiale.

Metabolizzare a fondo quanto sostiene Karpathy richiede sicuramente tempo e basi solide sull’argomento, ma ragionando su questa e tante altre fonti mi sono reso sempre più conto che si sono create 5 fazioni nel mondo dell’AI, sempre più omogenee al loro interno e distanti tra loro.

Una rappresentazione su due assi

La mappa non è il territorio, come si suol dire, e tutte le rappresentazioni non possono che essere in qualche modo riduttive.

Alcune però sono migliori di altre. E nel mondo dell’AI vedo due grosse contrapposizioni:

• Competenza vs. narrazione: c’è chi ama sporcarsi le mani, studiare e capire a fondo concetti ad alta complessità, e chi invece preferisce ascoltare una storia, magari immaginandosi un futuro a prescindere dai dettagli tecnici del “qui e ora” - in qualche caso, vedendo più in là di quanto la tecnologia permetta oggi.

• Entusiasmo vs. cinismo: tra chi prende l’innovazione con slancio positivo a priori e chi vuole restare ben ancorato con i piedi per terra, dimostrando resistenza alle mode del momento, ma a volte sminuendo momenti di oggettiva discontinuità.

Lo dico in trasparenza: l’entusiasmo competente è qualcosa che vedo molto vicino al mio modo di essere - e se seguite anche solo qualche minuto dell’intervista di Karpathy, lo potete vedere at scale, con gli occhi di una delle più grandi menti contemporanee che si illuminano e che sorridono quando parlano di AI, di come funziona e di cosa ci aspetta.

Ma penso che si possa imparare tanto anche cercando di capire gli altri punti di vista. Passiamoli in rassegna.

Il mercante astuto

When I go on my Twitter timeline, I see all this stuff that makes no sense to me. A lot of it is, I think, honestly just fundraising.

Dice bene Karpathy. Attualmente, a livello mediatico l’AI è dominata da soggetti con un ovvio interesse economico:

• Fondatori e CEO di aziende tech, interessati a raccontare una realtà edulcorata in vista di round di investimento, IPO e affini

• Società a contorno, come consulenti e system integrator, in cerca della propria fetta di torta

• Investitori interessati a valorizzare il proprio portafoglio di aziende AI, su multipli spesso surreali

Prendiamo l’italo-americano Dario Amodei, fondatore di Anthropic, probabilmente il rivale numero 1 di OpenAI.

All’inizio del 2025 ha dichiarato che nel giro di 3-6 mesi il 90% del codice sarebbe stato scritto dall’AI e quasi il 100% nel giro di 1 anno. Detto da chi vende uno dei più diffusi coding assistants (Claude Code), non può certo suonare disinteressato!

Sarà un termine un po’ antico, ma la definizione di mercanti mi sembra abbastanza adeguata per la categoria, molto variegata al suo interno, ma mossa da un chiaro interesse comune.

D’altro canto, l’AI ha avuto l’accelerazione a cui abbiamo assistito negli ultimi anni grazie ad investimenti mostruosi. La sola OpenAI ha raccolto finora circa 60B$, pur avendo un burn rate di svariati miliardi di dollari l’anno e tanta concorrenza. Tutto ciò non sarebbe stato possibile senza investitori entusiasti e… interessati.

Il sognatore spensierato

Incredibilmente, vicino ai più scaltri businessmen c’è una categoria che condivide l’amore per la narrazione e l’entusiasmo verso l’AI: i sognatori.

Influencer, opinionisti, innovatori di professione, che spesso sono passati dalle crypto, al metaverso, infine all’AI. Più che nell’AI in sé, vogliono credere in un “ideale di AI”, in un percorso di innovazione inevitabilmente positivo.

Spesso non hanno mai scritto una riga di codice, nemmeno un hello world. E certo, se per occuparsi di AI e soprattutto delle sue applicazioni non bisogna necessariamente essere Karpathy, avere una comprensione che vada oltre l’uso basilare di ChatGPT non è un optional.

Il rischio dell’ingenuità è trovarsi in una realtà che giorno dopo giorno è più lontana dal sogno… ma ottimismo naïf ed entusiasmo disinteressato sono comunque un carburante fondamentale per alimentare la crescita dell’AI.

Il luddista infastidito

All’estremo opposto dell’entusiasmo dei sognatori troviamo i neo-luddisti.

Da un certo punto di vista, è difficile dar loro torto, soprattutto quando rappresentano alcune categorie fortemente colpite dall’avvento degli strumenti di Generative AI. Innegabilmente siamo di fronte ad una discontinuità forte.

Del resto, la situazione è la stessa dei venditori di ghiaccio con l’avvento dei frigoriferi: c’è poco da fare, l’innovazione tecnologica modifica il mercato, comprimendolo da qualche lato ed estendendolo su altri.

Tante posizioni su questa lunghezza d’onda mi sembrano un po’ donchisciottesche, ma sono anche l’antidoto ad un certo buonismo che è ben rappresentato dalla frase che apre un noto articolo di HBR di un paio d’anni fa:

AI Won’t Replace Humans - But Humans With AI Will Replace Humans Without AI

Frase sicuramente vera, almeno in parte, ma da prendere con attenzione per non farsi rassicurare troppo… come ben rappresentato da questo meme che spopola da qualche mese.

Il sapiente disorientato

Un’altra categoria affascinante è quella dei vecchi saggi, dei sapienti, che vedo molto ben rappresentata all’interno dell’accademia, a prescindere dagli aspetti anagrafici, soprattutto in quei contesti lontani dal mondo delle Big Tech dove l’AI si sta sviluppando.

Il motto ricorrente è semplice: AI, LLM, agenti… altro non sono che grandi motori statistici, i cosiddetti pappagalli stocastici introdotti con un famoso paper del 2021. Riproducono pedissequamente quello che hanno imparato, a partire dai dati su cui sono stati addestrati.

Diciamolo: formalmente hanno perfettamente ragione. Le AI non sono esseri senzienti, non sono magia, e nemmeno intelligenze nell’accezione umana del termine. Ed è fondamentale ricordarlo, di tanto in tanto.

D’altro canto, potremmo dire che un computer è una grande calcolatrice, con un’incredibile quantità di memoria. Oppure che internet è una rete di computer interconnessi, che scambiano bit attraverso protocolli prestabiliti. Sono entrambe affermazioni difficili da smentire, ma penso si possa convenire che sono riduttive e non colgono appieno la portata di queste innovazioni.

Personalmente trovo le posizioni dei sapienti un po’ parziali. La mia impressione è che molti siano rimasti fermi ai primi sviluppi dell’AI generativa e alle versioni gratuite: non dimentichiamo che solo il 5% degli utenti di ChatGPT usa le versioni a pagamento e di questi, almeno fino a 3 mesi fa, solo il 7% usava i più evoluti motori di ragionamento. In altri termini, solo 1 utente di ChatGPT su 300, fino a poco fa, aveva sperimentato con i modelli più avanzati. Sfido a definire pappagallo un motore di AI che vince la medaglia d’oro alle Olimpiadi Internazionali di Matematica.

Ma come contraltare a sognatori e mercanti, i sapienti sono un bilanciamento assolutamente necessario.

Lo sviluppatore visionario

Arriviamo all’ultima categoria, di cui Karpathy è l’alfiere indiscusso.

Sono coloro che stanno creando l’AI, una riga di codice alla volta. Ad ascoltare i più brillanti tra loro si capisce che sono più vicini ai geni rinascimentali che a semplici tecnici.

Don’t write blog posts, don’t do slides, don’t do any of that. Build the code, arrange it, get it to work. It’s the only way to go, otherwise you’re missing knowledge.

(argh, io sto scrivendo un blog post!)

Karpathy è molto chiaro come sempre, alla fine è il codice che ha ragione. Senza Attention is all you need, celebre paper del 2017, probabilmente saremmo indietro di qualche anno rispetto all’AI di oggi. Senza piattaforme che vivono di codice e di dati, come Github e Hugging Face, l’AI sarebbe ancora relegata a qualche laboratorio e a pochi eletti.

Ascoltare chi è in prima linea è fondamentale, anche per bilanciare aspettative e incomprensioni delle fazioni precedenti. Ad esempio:

• Non siamo nell’anno degli agenti AI, siamo nel decennio degli agenti AI (con buona pace delle timeline irrealistiche propinate da tanti mercanti)

• Non parliamo di intelligenza umana e neanche animale… ma sì, dobbiamo abituarci ad una diversa tipologia di intelligenza, con un’architettura (quella dei transformer) che si è dimostrata valida per una varietà di compiti e mezzi (testo, audio, video, etc.) - anche se non è certo paragonabile alla complessità delle varie funzioni del cervello umano

Conclusioni

Bastano quindi solo gli sviluppatori visionari nel mondo dell’AI?

Lo confesso: ogni tanto vorrei che fosse così! Meno interessi, ingenuità, qualunquismo… meno teatro attorno all’AI e più passione, competenza e risultati senza fronzoli. E mi auguro che personaggi come Andrej Karpathy, adorati nel mondo dei nerd, abbiano sempre maggiore visibilità anche tra manager, professionisti, persone comuni.

Poi guardo la realtà, articolata su tanti strati: è evidente che non bastano solo quelli che vivono sulla frontiera dell’innovazione, dove tutto ciò che è superato da qualche mese è già legacy e di scarso interesse.

Ad esempio Karpathy parla molto di agenti AI, definendoli “slop” (approssimativi, grossolani) e facendo chiaramente riferimento agli agenti autonomi in senso stretto, l’ultimo livello nell’immagine sottostante.

Corretto e condivisibile, ma una parte sostanziale del mondo (specialmente quello delle imprese) deve ancora arrivare ai livelli precedenti (ne ho parlato qualche mese fa) e ci vorranno ancora anni prima che adottino i veri agenti autonomi.

E che dire poi di regolatori/eticisti? Anche loro sono importanti e forse rappresentano una sesta fazione, all’incrocio degli assi. Non li ho inclusi in quanto inevitabilmente più arbitri che giocatori, ma su una tecnologia ad ampio impatto sociale non possono essere dimenticati.

Quello di cui sono sicuro è che c’è bisogno di tanti punti di vista ed esperienze diverse. L’AI non è monodimensionale.

E come diceva Marie Curie: è tempo di capire di più, per temere di meno.

Intro

Running a state-of-the-art AI model on my own PC, locally, without depending on OpenAI (ChatGPT), Anthropic (Claude), Google (Gemini) and all the likes… is just fascinating to me!

Earlier this year, in January 2025, I wrote about my first experiments with a distilled version of Deepseek R1 (the Chinese reasoning model that took the AI world by storm), running on my aging desktop PC with a 7 years old GPU.

Many things happened in the meantime: I dedicated a lot of personal time to studying and especially applying AI, I published a book on the topic (together with ) that is receiving some great reviews and then, in July, I made myself a nice present.

Yep, that’s a new, shining GPU, priced just a little under 500€, traditionally used for gaming. Together with it, I carefully chose and assembled the components for a whole new PC1.

That’s where this whole project started. I couldn’t find an answer to a simple (but tricky) question.

What performance will I get with my new setup on local Artificial Intelligence workloads, whether Large Language Models or classic Predictive Machine Learning algorithms?

Iscriviti ora

My curiosity / need, in details

We know that everyone is talking about AI, and most people actually use it in a way or another, relying on Big Tech solutions like ChatGPT.

In my network, just a handful of people2 actually tried AI/ML models locally, on their personal hardware (for the ML part, I started 10 years ago when competing in Kaggle… but that’s for another article).

Especially for GenAI models, the focus is usually on the capability of local models to produce reasonable answers: there’s plenty of benchmarks that all measure (in different ways) the accuracy of such models.

Here comes the tricky part: commercial solutions like ChatGPT are often able to produce 100s of tokens per second. To put it simply: their speed in answering (i.e., producing tokens) is way superior to the reading speed of a human.

On the other hand, running an AI model locally may result in just single-digit tokens per second: too slow. Sometimes even 1-2 token/s, for models that do not fit in the RAM of the GPU (or CPU).

When deciding which GPU to buy, I would have loved a public, open benchmark to navigate and find the sweet spot for price/performance ratio on this aspect. I found nothing relevant and updated. So I went ahead and bought an Nvidia 5060 Ti 16GB based mostly on the available benchmarks for gaming (plenty!), doing a bit of a leap of faith that they would be correlated to the speed of local AI workloads.

Step #1: a benchmark for real-world Python libraries

At first, I spent some time setting up my new PC and enjoyed the improvements over my old one, which were visible even without proper benchmarking.

But I wanted some actual numbers (I’m an engineer, after all). And I wanted to code (and vibe code) a bit, trying some new tools and libraries.

Spoiler alert: all the code related to this section is freely available on Github.

I started with a couple of constraints for this side project (more will come over the course of this article):

• Only use free and open source libraries and real-world tools that data scientists and AI engineers actually use.

• Allow for both CPU and GPU benchmarking, separately (it’s very interesting to understand why Nvidia is the largest company in the world, by capitalization… but some people actually do not have an Nvidia GPU, including myself on a spare laptop that I have lying around).

What I ended up using:

• Python 3.13 with uv as package manager to integrate the various dependencies (amazing Rust-based software, really a step forward in speed and simplicity when compared to my previous favorite, Poetry).

• CUDA 12.x, needed to leverage an Nvidia GPU.

• Ollama, a nice framework to run local generative AI models.

• XGBoost, the machine learning library that every data scientist uses (or should use) for predictive modeling on tabular data, which works on CPUs but added support for GPUs a few years ago.

• Altair, a nice and lightweight plotting library for showing the results. Much prettier than Matplotlib and Seaborn, much lighter and feature-rich than Plotly.

The benchmark is pretty straightfoward, let me just outline some key elements before showing some results and the Github repository.

For XGBoost, the benchmark downloads the famous HIGGS dataset and allows for subsampling the rows to be used (the default uses three combinations: 100K rows, 1M or the full 11M dataset). Training time (the lower, the better) is the key metric.

For Ollama, some of the most common open source models are used, with different sizes (from 4B to 14B). Token per second at inference time (the higher, the better) is the key metric.

The benchmark is run by default 3 times for each combination and the median result is the one showed. CPU, GPU or both can be used.

All of the above can be configured via a single YAML file.

Some initial results

Below you can see some results between my old (orange) and new pc (blue), on Ollama, where solid colors are CPU benchmarks and semi-transparent are on GPUs.

On the 14B distilled Deepseek R1 model, my new GPU produces 40 tokens/second, while my new CPU and old CPU/GPU are all below 6! This is due to the speed of the 5060 Ti and the good amount of VRAM (16GB), where all Deepseek R1 14B can fit.

On a much smaller model like Phi3 with 3.8B parameters, the new GPU gets an amazing 136 tokens/s, but also the old one (GTX 1060 with 6GB of VRAM) is capable of a decent 38 token/s.

There’s plenty of considerations to be done. A current generation GPU is roughly 7-8 times faster than a current CPU3. And the improvement over the years is also favourable to the GPU: my current one is 4 to 10 times faster than a 7 years old GPU, while my new CPU is roughly “just” 2 times faster than the old one.

To run your benchmark, just head to Github and follow the README, it’s actually quite easy: https://github.com/albedan/ai-ml-gpu-bench

At the end of the benchmark, the results are shown in a Jupyter notebook, so you can get some insights at a glance, with your results compared to the reference ones.

Step #2: from personal demo to a complete architecture

I was satisfied with my little side project and I also collected some other results and suggestions by talking to some friends4.

But as they say, success breeds ambition. And this demo, as it was, couldn’t scale. A few questions came to my mind:

How can I enable other people to share their results? How can I create a proper database for the possibly tens or hundreds of benchmarks? How can I make it easy to navigate the results?

Let’s break it down.

Sharing results

I was looking for free, unauthenticated cloud storage. Free was my original constraint, but the real reason was that opening to the public a service paid by me (e.g., an S3 bucket) requires a lot of attention to security stuff. Unauthenticated as obviously I didn’t want to require any authentication from the benchmark users.

After a few experiments, I settled with Filebin.

What happens in the current release of the benchmark is that results are saved as CSVs, encrypted with a public 4096 bit RSA key of mine (i.e., I have the private counterpart) and uploaded to a bin in Filebin (opt-out option available for the selfish ones who really don’t want to contribute 😞).

Collecting new results

At first, I thought about manually checking the bin… not the best option. So I decided to develop a Telegram bot to notify me of new files. Pretty easy and quite fun!

The bot is actually responsible for writing to a given Telegram group/channel, but where does it run? Again, looking around I found the perfect solution for me: Github Actions.

It’s an amazing automation tool that lets you orchestrate, schedule, run various actions (all coded in Python, in my case). My first need was monitor Filebin daily and notify of new files… but I could do much more!

Growing the results database

I had the notifications up and running, but why not creating a proper database for storing the results?

Motherduck has been my choice, for simple reasons: every nerd in 2025 loves DuckDB and Motherduck provides a good free tier, a nice interface, APIs for integration.

My Github Actions workflow, originally meant for notifications only, grew accordingly: I added the download of the files from Filebin, decryption with my private key (stored obviously as secret), schema validation, insert in a staging area in Motherduck.

This was probably the hardest part for me: I’m not sure if that was due to the innate complexity of this (including the not always clear Filebin’s API and the tricky decryption of files) or my limited experience on such topics.

The one and only part that I decided to keep manual is the promotion from the staging area to the reference one in Motherduck, not for technical reasons, but just to be in control of what becomes an official result.

Making results easy to navigate

All of the above is a sort of integration layer - and is currently in a dedicated, private repository.

I was just missing a final step, quite easy but very visible: building a dashboard to navigate the results… and support decision making when buying a GPU to play around with local AI and ML!

Streamlit was my library/tool of choice: 100% Python based, widespread, easy to use for someone very far from UX/UI like myself. And obviously integrated with Streamlit Community Cloud, the perfect solution for sharing the dashboard (again, for free) with anyone interested in this project.

It didn’t take long for me to design a good enough dashboard, with a few pretty visualizations and also a nifty SQL playground.

You can find it here5: https://ai-ml-gpu-bench.streamlit.app

Wrapping up the architecture and some thoughts

Here is the architectural diagram I made with Mermaid.

Hopefully you got they key steps of the project:

1. I started by simply timing the training and/or inference with local AI/ML models and providing an exploratory Jupyter notebook.

2. I added the encrypted upload of results to a dedicated cloud storage.

3. I engineered the download, decryption, validation, integration of results to a cloud database, all in a serverless way.

4. I enabled the possibility to explore visually the results.

I had a lot of fun. I’m a computer engineer by education and my role has been very similar to Pat Kua’s lead of leads for the last few years6. That is, coding is not really part of my daily job.

This project gave me the chance to take some rust off (no pun intended)!

From idea, to proof of concept for my own amusement, to a solution that anyone can run and that allows sharing and navigation of results. I feel the kind of satisfaction an artisan feels when crafting something by hand, with my raw materials being libraries, tools and code.

What’s been mind blowing for me is the sheer number of challenges I faced over a few nights of work, and the amazing technologies that have made all of this possible. And I’m 100% sure that I learned more in this project than with tens (or even hundreds) of hours of structured education.

The manager’s corner: Q&As

I’ve been working in corporate environment for the last 18 years, most of them in various managerial roles. And as a colleague of mine told me, “you don’t really expect a manager to do such things”!

Obviously such project has been helped tremendously by the use GenAI tools for coding.

I think it’s a priviledge to both be hands-on and be a manager, so let me answer some common questions that are very frequent among CxO these days.

What GenAI tools did you use?

I tried mainly 3 solutions:

• A native AI IDE (Windsurf with its own model): unimpressed.

• A standard IDE (VScode) plus local AI models for coding (Devstral 24B with Continue): unimpressed.

• A standard IDE (VScode) and ChatGPT on a side: while definitely unsophisticated, it worked great for me. Chatting with o3 and later GPT-5 gave me a lot of ideas (and some code), using o3-pro and GPT-5 Pro helped me overcome the toughest obstacles.

If I had to code all day, I would spend some time in finding a more effective approach.

What was the speed up by using GenAI coding assistance?

This is an ill-posed question: I would have stalled without GenAI support. My personal time is limited (as is everyone else’s) and I’m 100% sure I’d have thrown in the towel. Coding, automation, integration, architectural choices, existing solutions to adopt or adapt: I faced a lot of topics and challenges that are very far from my expertise.

To some extent, this equals to a “plus infinite” speed up. 😝

On a serious note, real coding should not be seen as a blue collar job, where better tools allow for faster production. This is well known in tech, even if those who sell AI solutions for coding or consultancy will state otherwise… for obvious interests!

How would you rate your (GenAI-assisted) code?

I’d give 6 out of 10 (maybe I’m generous). The final code is the result of suggestions from AI, multiple manual reworks, other suggestions, and so on. I’m not a coder full time, but I can recognize beautiful code… at the moment, this is not.

But it works, and it’s fine for a fun side project. I’ll refactor something, maybe, in the future7.

On the other hand, it’s not fine for corporations and all the companies who more and more rely on GenAI assisted code. I think it’s very likely that the technical debt will grow exponentially over the next few years, increasing the gap between real tech companies (who care about code quality, standards and coherent IT and software architectures) and all the others.

What’s the value you’ve seen in using GenAI for coding?

The value is not an X% speedup in coding, it’s joy. Realizing that we all have a smart assistant that can provide us ideas and support means that committed and skilled individuals can now face greater challenges.

And feel the satisfaction of transforming ideas into results.

Is it over for software engineers?

For mediocre developers, yes, it’s over (or will be very soon).

But looking back at this project, it’s been key to have a good understanding of a broad set of technical topics: without it, I wouldn’t have been able to ask the right questions, evaluate the answers, ditch several wrong (or weird) suggestions that I received.

A solid STEM (and in particular computer science) background is in my opinion more and more relevant to leverage such tools. If you don’t know what to ask, you’ll never receive a smart answer, let alone being able to evaluate it.

Conclusions

It’s been quite a journey!

Starting from the benchmark itself, we’ve seen that consumer GPUs can actually run local AI/ML models with very good throughput and speed, but also CPUs allow at least to experiment a little bit. The performance increase over the last few years has been impressive. And if you navigate the existing results, you’ll see also what an high-end gaming GPU (not mine 😢) is able to achieve.

Collecting more results is crucial and I think it may be useful to a lot of people (or maybe small companies) looking for indipendence from Big Tech providers of AI services.

So… give it a try and spread the word (and the links):

• Navigate the results dashboard: https://ai-ml-gpu-bench.streamlit.app

• Run the benchmark and contribute: https://github.com/albedan/ai-ml-gpu-bench

And get in touch for any questions!

I talked a lot about the technologies that I used and my vibe coding experience: I will not repeat myself.

Just a suggestion: take an idea, a curiosity of yours, and force yourself to spend some time actually experimenting. You’ll learn so much by bridging the gap between theory and practice!

Intro

Partiamo con due date:

• 23 gennaio 2025 - OpenAI lancia Operator, il suo primo agente AI in “anteprima sperimentale”.

• 17 luglio 2025 - OpenAI presenta finalmente ChatGPT Agent: “ChatGPT ora pensa e agisce” (sì, giusto qualche giorno prima della pubblicazione di questo articolo - e non è un servizio disponibile nell’Unione Europea per ora).

Questa è l’Agentic AI, quella vera, nel 2025.

Nel frattempo, un numero imprecisato di società di consulenza, neonati esperti di AI, aspiranti Mastrota nell’epoca dell’intelligenza artificiale sostengono di essere maturi nell’adozione dell’Agentic AI.

Alimentando nel top management di qualsiasi azienda la classica FOMO che ormai abbiamo imparato a conoscere.

Ma stanno parlando della stessa “Agentic AI”?

Ovviamente sono in gioco interessi e denari inimmaginabili, ed un certo innovation theatre fa comodo a molti.

Penso che per i tanti che leggono questo blog sia utile tagliare la coltre di fumo e andare dritti all’arrosto… ossia mettere a fuoco dove sta il malinteso. Anche perchè l’Agentic AI è qualcosa di vero e ha tutte le potenzialità per avere un impatto sostanziale nelle nostre vite: vale la pena di capirla sul serio.

Le origini: LLM, tools e agenti programmati

Sappiamo cosa sono gli LLM: motori linguistici in grado di predire “la prossima parola” in una frase, in una discussione. E con tanti comportamenti emergenti non esplicitamente previsti, ad esempio fornire risposte più gentili se si chiede “per favore”.

Abbiamo appreso i loro limiti intrinseci. Ad esempio:

• Non sono bravi a fare i calcoli (perché vedono i numeri come dei semplici caratteri)

• Hanno accesso solo alle informazioni su cui sono stati addestrati (tipicamente pubbliche e fissate in un certo momento nel tempo, nella fase di addestramento del modello)

Così è nata la necessità di permettere agli LLM di interfacciarsi con tools di varia natura.

Ad esempio, riconoscendo una richiesta di fare un’operazione matematica complessa, un LLM può chiamare uno strumento calcolatrice, oppure direttamente un ambiente su cui vare i conti (es. un runtime python).

Allo stesso modo, un LLM può recuperare informazioni da raccolte documentali che non fanno parte del patrimonio informativo su cui il modello è stato addestrato, ad esempio attraverso architetture ormai molto rodate come le RAG, oppure collegandosi a internet. Ovviamente alla fine di un’operazione un LLM può essere interfacciato ad un sistema di invio email o notifiche di varia natura. Gli esempi sono infiniti.

Ed è anche possibile guidare un LLM (tramite prompting) per svolgere uno specifico ruolo, interfacciandosi con altri LLM e creando dei workflow complessi.

Ma il punto è uno: questi non sono agenti di AI, almeno secondo la definizione standard ampiamente condivisa a livello internazionale e usata nel 2025 da player come OpenAI. Gli esempi sopra sono RPA on steroids o RPA powered by GenAI, chiamateli come preferite.

Sono soluzioni con zero libertà decisionale, programmate in maniera esplicita, dove un LLM è integrato con altri LLM o con sistemi informatici più ampi.

E non vorrei essere frainteso: sono soluzioni straordinarie e che possono davvero aiutare e migliorare tanti processi.

Ci sono framework che ne semplificano lo sviluppo, ma hanno tuttora un livello di complessità molto elevato se si vuole sviluppare una soluzione articolata che risponde ad un problema reale, e non una semplice demo.

Ma ad ogni modo: eseguono in maniera guidata e controllata un flusso di attività complesso a piacere, ma lungo binari prestabiliti.

Gli agenti, quelli veri: l’autonomia decisionale

Nel 2025, gli agenti di cui si parla nel mondo dell’AI sono gli agenti autonomi.

Pensate a questo scenario: avete un weekend libero tra un mese, volete spendere massimo 200€ di volo a/r, andare in una meta europea dove possiate fare il bagno, e prenotare un hotel entro 300 metri dal mare.

L’idea dell’agente è di ricevere solamente questo input e fare tutto in autonomia. La tecnologia non è matura al 100%, ma le basi ci sono. L’agente deve fare tante operazioni:

• Accedere, se disponibili, alle nostre preferenze e magari ai posti dove siamo già stati di recente.

• Navigare su uno o più siti internet, per valutare la meta migliore e il prezzo dei voli nei giorni prescelti, magari con un po’ di flessibilità se richiesta dall’utente.

• Fare delle scelte e potenzialmente effettuare un pagamento.

• Comunicare il risultato all’utente.

Cos’ha in comune questo agente con i sistemi programmati esplicitamente? Davvero poco.

C’è sicuramente dietro le quinte un ampio uso dei motori LLM, ma questi sono solo un elemento abilitante per soluzioni completamente diverse.

Nel caso degli agenti autonomi, si aprono tante tematiche, etiche e tecniche:

• Come definiamo i confini entro cui l’agente si deve muovere?

• In che termini l’agente deve coinvolgere l’utente, oppure chi si prende la responsabilità di una scelta che alla fine non lo aggrada?

• Come si integrano, e come si limitano, i sistemi di pagamento a cui l’agente può accedere?

Sull’ultimo punto, ad esempio, i principali circuiti internazionali di pagamento stanno studiando possibili soluzioni.

Ma poi quale sarà il vero modello di business di questi agenti? Chi li fornirà e a quali condizioni?

Tutte questioni su cui anche i più grandi player tecnologici non hanno ancora una risposta definitiva e su cui sono davvero curioso di capire che direzione prenderemo.

Conclusioni

C’è sempre da andare oltre gli slogan, nel mondo dell’AI. E dietro la stessa espressione ci sono spesso concetti ampiamente diversi.

Ci avviciniamo ai 3 anni dal lancio di ChatGPT e qualche riflessione sull’avanzamento lo possiamo cominciare a fare. Uso la classifica numerazione del versionamento del software: A.B.C, dove A è la versione principale, B è la versione minore, C è la correzione di un bug.

La storia finora:

• 0.x.y: tutti i lavori di ricerca degli ultimi 10 anni, come Attention is all you need e tutto ciò che ha posto le basi per l’AI generativa mainstream

• 1.0.0: ChatGPT nella sua versione originaria del 30 novembre 2022.

• 1.1.0: l’evoluzione portata da GPT-4 e l’integrazione nativa con internet e tool semplici.

• 1.1.1: tutti gli sforzi e gli sviluppi incrementali, ad esempio per contenere le allucinazioni.

• 2.0.0: la nascita di architetture complesse attorno ai LLM, come ad esempio le RAG, rese possibili da framework come Langchain.

• 2.1.0: il concetto di agenti programmati, dove singoli LLM vengono guidati per svolgere compiti specifici e circoscritti, interfacciandosi con altri LLM

• 3.0.0: i motori di reasoning, con OpenAI o1 lanciato a settembre 2024, che integrano nativamente architetture complesse per avvicinarsi sempre più a qualcosa di simile al ragionamento umano

• 3.1.0: gli sviluppi open source sul ragionamento, incredibilmente accelerati dai progetti della cinese DeepSeek, come R1

• 4.0.0: gli agenti (autonomi, ovviamente) che non solo hanno a disposizione sempre più tools, ma autonomamente scelgono quali usare e quali decisioni prendere

È ovviamente una semplificazione, anche perché alcuni sviluppi sono avvenuti abbastanza in parallelo.

Ma la domanda resta una: quando vi parlano di agenti, si riferiscono alla versione 2.1.0, o alla 4.0.0?

Intro

Le università americane, a cominciare da Harvard, sono al centro dell’attenzione ormai da mesi per tante situazioni complesse: dalle manifestazioni filo-palestinesi, a volte con risvolti antisemiti, alle prese di posizione di Trump in materia di visti per gli studenti stranieri.

Ed è facile, in questo periodo burrascoso (sotto qualsiasi punto di vista), essersi persi una vicenda che a mio avviso ha tutte le caratteristiche per entrare negli annali del data journalism. Quella disciplina, per chi non la conoscesse, che mette a fattor comune il giornalismo investigativo con la capacità di raccogliere e analizzare dati di varia provenienza.

Quasi 10 anni fa, fu Machine Bias a fissare una pietra miliare del settore, un articolo in cui si analizzava il funzionamento di COMPAS, un algoritmo pensato per valutare il rischio che un criminale diventasse recidivo.

In quel caso, gli autori/analisti della no-profit Pro Publica evidenziarono, codice alla mano, una serie di discriminazioni sistematiche verso specifiche categorie di criminali, ad esempio sulla base del colore della pelle. Un lavoro straordinario, con un’importanza sociale indiscutibile.

Oggi una vicenda a suo modo paragonabile è quella che vede coinvolti da un lato l’università di Harvard e tre data journalist del blog Data Colada, dall’altra l’ex docente della stessa università, l’italiana Francesca Gino.

I soggetti coinvolti

Harvard non ha certo bisogno di introduzioni, essendo da quasi quattro secoli una delle più prestigiose università al mondo.

Invece gli altri due soggetti meritano qualche parola in più.

Data Colada è un blog con più di 10 anni di vita, portato avanti da tre psicologi sperimentali (Uri Simonsohn, Leif Nelson e Joe Simmons), con una chiara missione: vigilare sulla qualità della ricerca in psicologia, economia comportamentale e affini. In piccolo e con un focus di nicchia, ma si può dire che questo trio è animato dalla stessa idea di Pro Publica: bisogna controllare, in maniera libera ed indipendente, l’operato dei “potenti” o, nel caso specifico, dei ricercatori più influenti.

Francesca Gino è una psicologa comportamentale e autrice focalizzata sulla ricerca sull’onestà e i comportamenti etici. Potremmo definirla una “ricercatrice superstar”, con un curriculum impressionante. Nata in Italia nel 1978 e laureatasi a Trento, la Gino ha bruciato le tappe negli USA, ottenendo la cattedra da ordinaria (tenure come full professor) ad Harvard intorno ai 35 anni. Per non parlare delle quasi 40.000 citazioni dei suoi lavori e della sua conseguente fama e… retribuzione: oltre 1.000.000 di dollari nel solo 2020 dall’università, quinta persona più pagata di tutto il corpo docente.

Cosa è successo

Tutto è iniziato con l’analisi, da parte di Data Colada, di diversi studi di cui la Gino è co-autrice. Inizialmente un’indagine confidenziale (tra il team e Harvard), che è stata poi resa di pubblico dominio.

L’idea di fondo: verificare se studi di grande successo nel settore non siano in realtà frutto di una manipolazione ad hoc dei dati.

Vi consiglio la lettura del primo articolo di Giugno 2023 dal titolo “Data Falsificada”, a cui ne sono seguiti altri tre. Non proprio una lettura semplicissima, ma sicuramente gustosa: in sintesi, è una disamina molto accurata del perché e del come gli autori di Data Colada siano andati ad approfondire uno studio della Gino, evidenziando a loro dire una serie di incrongruenze statistiche e anomalie tecniche sui dati su cui si basa lo studio.

Oggi lo studio in questione è stato ritirato, proprio a fronte di una serie di osservazioni degli autori di Data Colada, che hanno portato forti indizi sul fatto che i dati siano stati manomessi per poter creare la narrazione desiderata e un paper di successo.

Lo stesso destino è toccato a diversi altri studi della stessa autrice, con gli autori di Data Colada che si sono spinti a dichiarare:

Naturalmente la vicenda non si è chiusa qui.

Ad Agosto 2023 la Gino ha citato Harvard e Data Colada per 25 milioni di dollari, per diffamazione e discriminazione di genere.

Accuse respinte nel Settembre del 2024, a cui è seguita la revoca definitiva della cattedra della Gino (già sospesa da tempo), nel Maggio 2025.

Qualcosa di assolutamente eccezionale: non succedeva da oltre 80 anni.

E merita un approfondimento anche un secondo articolo di Data Colada, che riassume l’analisi portata avanti da Harvard (un lavoro mastodontico descritto in un pdf di 1.300 pagine). In sintesi: Harvard è riuscita ad entrare in possesso di due dataset alla base di uno degli studi (l’originale e quello pubblicato dopo essere stato modificato ad hoc), dalla cui analisi si arriva agli stessi risultati dei “segugi del dato” di Data Colada.

Conclusioni

Sono sempre affascinato dai lavori data-driven fatti bene: quando un’analisi sul dato, fatta con tanta competenza e creatività analitica, porta a galla situazioni anomale.

Studiavo ancora all’università quando lessi Freakonomics, un libro geniale con tanti casi interessanti, tra cui la vicenda dei professori imbroglioni che avevano architettato uno stratagemma per ricevere bonus e premi alterando i test dei propri studenti.

Poi è stata la volta del già citato Machine Bias di Pro Publica.

La vicenda di oggi tocca non solo il tema della manipolazione dei dati, ma anche quello della verifica della qualità della ricerca e del fatto che nessuno debba essere al di sopra di un sano controllo di terze parti.

Non saprei dire quanto questa storia sia davvero giunta al capolino, anche se la scelta di Harvard è qualcosa di quasi unico. Potrebbe esserci ancora qualche sviluppo.

Ma per come stanno ad oggi le cose, leggere il titolo del libro della Gino pubblicato nel 2019 non può che far sorridere. Quando si dice “nascondersi in piena vista”!

Iscriviti ora

Memo: per chi si fosse perso la news, è uscito Intelligenza Artificiale in 4D! Un libro pratico sull'AI, scritto a quattro mani da me e , pensato per chi vuole orientarsi nel mondo dell’AI senza perdersi tra slogan e tecnicismi.

Lo trovate su Amazon in formato eBook e cartaceo, dove potete anche leggerne un estratto!

Intro

Sin da piccolo, sono sempre stato affascinato dall’Oriente: un mondo lontanissimo dal nostro, a livello culturale prima ancora che geografico.

E recentemente mi sono imbattuto in una frase - quantomai profetica -attribuita a Napoleone Bonaparte e diventata anche il titolo di un saggio del 1973 di un politico francese:

A parte l’ex gigante addormentato cinese1, l’Asia è costituita da tante nazioni estremamente popolose: oltre all’India (testa a testa con la Cina in termini di popolazione), può stupire il fatto che quarto e quinto paese al mondo per popolazione non siano nazioni come Brasile o Nigeria, bensì altri due stati asiatici: Indonesia e Pakistan2.

Il risultato è che circa il 60% della popolazione mondiale vive in Asia.

Chi non ha mai messo il piede fuori dall’Europa o comunque dall’Occidente può far fatica a metterlo a fuoco, ma questi quasi 5 miliardi di persone stanno seguendo dei percorsi di evoluzione tecnologica paralleli al nostro, spesso con soluzioni che riguardano solo ed esclusivamente l’Oriente. Con tante differenze tra Cina, India e il sud-est asiatico.

Per fare un esempio dal mondo professionale che vivo quotidianamente - quello del pagamenti - queste sono le opzioni che mi sono trovato davanti per acquistare un volo interno in Malesia, dove sono stato di recente:

A parte le carte di pagamento dei più noti circuiti internazionali, potete vedere tecnologie e soluzioni ignote in Europa, nate nell’ultimo decennio; sono adottate capillarmente sia online che nei singoli negozi fisici, sia in una città cosmopolita come Kuala Lumpur che nel più remoto Borneo malese.

Insomma, c’è un mondo parallelo che cresce a ritmi frenetici, con una popolazione molto giovane che sta spingendo l’adozione delle nuove tecnologie e tante startup innovative che stanno rapidamente stravolgendo (e accelerando) lo sviluppo delle economie locali.

Tutto il mondo è paese?

Parlando di AI, non racconterò come l’Europa sia imbrigliata in complessi scenari normativi, mentre l’Asia sta prendendo il largo. E nemmeno entrerò nel merito di come le super-app, soluzioni mobile first che abbracciano servizi di tante tipologie diverse, siano la normalità in Oriente, mentre da noi faticano ancora.

Vi racconterò invece la mia esperienza diretta con un chatbot AI-based malese.

Incredibilmente, in questo universo parallelo asiatico, è stata estremamente familiare: non tanto per l’interfaccia o le soluzioni tecnologiche, quanto per il percorso di adozione da parte dell’azienda (su cui poi mi sono documentato) e per il risultato finale che ha generato in me. Piccolo spoiler: frustrazione pura!

Partiamo dalla mia esigenza: capire come spostarmi a corto raggio in un paese dove le soluzioni di ride-hailing spopolano. Intendo dire app come Uber (che però non è presente in Malesia), che permettono di inserire la destinazione desiderata, per poi avere un prezzo e un tempo di attesa precalcolati (comodissime anche per superare barriere linguistiche).

Da una rapida ricerca online ho subito trovato svariate soluzioni, tra cui:

• Grab

• Maxim

• La soluzione Ride di AirAsia, ben documentata sul loro sito web

Anche se le prime due, come ho poi visto sul campo, sono sicuramente le più diffuse, la mia attenzione è caduta sulla terza opzione. Del resto:

• AirAsia è un colosso (in primis del volo: con oltre 220 aerei e 60 milioni di passeggeri all’anno, è poco più piccola di Easyjet e in linea con Wizzair)

• Negli ultimi anni ha sviluppato una super-app molto nota, che permette di fare di tutto (tra cui appunto la mobilità on-demand, oltre a voli, hotel, delivery, etc.)

• Avevo già un account, creato una decina di anni fa in occasione di un mio viaggio in Indonesia

Customer care: chiedi a… boh?

Dopo aver recuperato (incredibilmente) utenza e password, mi sono quindi loggato sull’app: credenziali valide, ma purtroppo niente opzione Ride. Come ho poi ricostruito, il mio (vecchissimo) account, con tanto di email e numero di telefono, era ancora legato all’Indonesia, paese in cui non è attivo il servizio di ride-hailing.

Purtroppo si parla di un settaggio non modificabile in autonomia e presente solo su vecchi account. Cancellare l’account non era un’opzione comoda (tempi incerti e nel mentre avrei dovuto usare un’altra email e telefono) e allora sono entrato nel fantastico mondo del servizio clienti malese.

Fino a fine 2018, AirAsia disponeva di un contact center tradizionale, con telefono ed email per supportare i clienti. Contatti che sono ancora reperibili online, ma che non sono più esistenti (almeno per quanto riguarda la mail), come ho testato direttamente:

Nel 2019, AirAsia ha lanciato AVA (AirAsia Virtual Allstar), un chatbot che già 6 anni fa era definito powered by AI, con supporto a 8 lingue tra cui l’inglese. All’integrazione nel 2020 con Whatsapp sono seguiti un paio d’anni dove il chatbot è diventato l’entry point principale della compagnia, non senza frustrazione e lamentele da parte di molti utenti.

E qui il colpo di scena.

Dopo 4-5 anni, AVA è stato prepensionato, con un articolo della stessa AirAsia che inizia con “vi abbiamo ascoltato”. Al suo posto… un nuovo chatbot, AskBo.

Dove “Bo” è Bo Lingam, il CEO di AirAsia! E il bot stesso ha esattamente le sembianze del CEO.

KPI stellari: l’operazione è riuscita, il paziente è morto

Ho usato AskBo più volte, nel tentativo di risolvere il problema. Anche perché una sera l’ho presa un po’ come una sfida personale (persa).

Cosa ho fatto:

• Ho iniziato diverse conversazioni scritte, sempre in inglese, spiegando il problema in più modi, ma ottenendo sempre risposte generiche.

• Ho cercato una mail a cui scrivere: l’unica che sembra sopravvissuta è quella del DPO (il Data Protection Officer), immagino per motivi normativi. Ok che il mio è un problema di dati, ma ho ritenuto che non fosse il caso di usare il DPO come contact center.

• Ho cercato di “uscire” dai loop infiniti del chatbot, in modo da parlare con un operatore umano: non ce l’ho fatta.

In tutto questo, già mi immagino i KPI che ho contributo a migliorare:

• È salito il contatore delle “conversazioni gestite dal chatbot”

• Nessuna conversazione è stata inoltrata ad un operatore umano (se esisteva un modo, io non l’ho trovato)

• Non è peggiorato nessun indicatore di soddisfazione tipo NPS (nessuno mi ha chiesto nulla)

• La permanenza sul sito di AirAsia si è allungata

E potrei andare avanti con la lista dei tanti indicatori che saranno sicuramente monitorati… e distorcono la situazione.

Conclusioni

Alla fine… ho installato Grab, il competitor numero 1 di AirAsia Ride.

L’ho usato una dozzina di volte, anche per diverse tratte abbastanza lunghe: molto soddisfatto dell’esperienza. La disponibilità di queste soluzioni (che in Malesia coesistono con i taxi tradizionali) sicuramente mi ha permesso di vedere posti che avrei faticato a raggiungere e… mi ha fatto spendere qualche ringgit malese in più, come giusto che faccia un turista.

La vicenda è interessante e vedo due lezioni facilmente applicabili anche in contesti occidentali.

La prima è che i player tradizionali hanno una base clienti importante che, anche solo per inerzia, li considerano la prima scelta. È un asset straordinario, ma bisogna mantenere la vicinanza al cliente e non rendergli la vita troppo difficile. Un chatbot implementato male - poco importa se con nome e faccia del CEO - va proprio in questa direzione sbagliata. Personalmente, avrei evitato di fare un altro account che non riuserò più per anni, ma non ho avuto alternative (e dubito che qualcuno se ne sia accorto, nella prima azienda che ho di fatto abbandonato).

La seconda è che il problema non è l’AI: oggi esistono tutte le tecnologie per facilitare davvero l’assistenza ai clienti. Il problema è un trio di fattori: la strategia (spesso guidata da persone troppo lontane dalla tecnologia e dai dati), l’implementazione (che è l’aspetto fondamentale e non un tema su cui andare al risparmio) e i dati (al di fuori delle demo di laboratorio, la difficoltà sta sempre nei corner case reali, dove magari ci sono informazioni, storia e conoscenza non perfettamente codificati e quindi non comprensibili dall’AI).

Insomma, anche a più di 10.000 km di distanza dall’Italia, l’AI e i suoi problemi reali non sono poi così lontani!

Intro

Mi rendo conto che, giorno dopo giorno, sto usando l’AI generativa sempre di più.

Non per inseguire l’ultima moda, né per scrivere articoli al posto mio, ma per supportare attività quotidiane, tra finalità professionali e utilizzi personali. Dove poi il confine, per chi lavora nel mondo dati & AI, spesso è molto sfumato.

In questo articolo voglio raccontare come sta cambiando il mio rapporto con l’AI, cosa funziona davvero nella pratica, e quali strumenti sto trovando più utili. Partirò da alcune fonti che ho trovato straordinarie per la mia comprensione dei possibili utilizzi dell’AI, per poi entrare nel merito della mia esperienza diretta, da utente abituale di alcuni di questi strumenti.

E più approfondisco, più vado in profondità… più penso che questo midwit meme1 sia calzante:

Le basi: cosa fa Andrej Karpathy

Difficile non partire con Andrej Karpathy, co-creatore del primo corso di Deep Learning a Stanford, poi founding member di OpenAI, in seguito responsabile per 5 anni dell’AI in Tesla. Ma soprattutto, eccellente formatore, non solo per audience tecniche.

Il video seguente, pubblicato a fine Febbraio 2025 e con oltre un milione di visualizzazioni superate in un mese, riassume benissimo tante modalità per utilizzare la GenAI. Penso sia davvero un must!

Che sia per un uso tecnico (agevolare la scrittura di codice), per supportare l’apprendimento di qualsiasi cosa (come una lingua straniera), per la ricerca di informazioni all’interno di documenti personali o sul Web, Karpathy ci fornisce una sua prospettiva sulle possibilità esistenti e sui tool di mercato, col suo stile inconfondibile: chiaro, accessibile, ma profondo e non banale.

Una vista di sistema: l’Anthropic Economic Index

Per avere una vista più ampia, penso che il miglior punto di partenza sia l’Anthropic Economic Index, uno studio di Anthropic su come viene usata la sua Intelligenza Artificiale (Claude), a ragione considerata un’eccellente alternativa a ChatGPT di OpenAI.

L’articolo con cui è stato presentato merita assolutamente una lettura. L’approccio seguito è geniale: il team di Anthropic è partito da milioni di “conversazioni” fatte dai propri utenti con Claude, le ha anonimizzate e le ha poi classificate per tema, secondo una tassonomia standard che riassume molti compiti lavorativi.

Ne è emerso un quadro interessante - riporto solo due dei tanti spunti validi.

Il primo è che oltre il 37% dell’uso di Claude è legato all’ambito matematico/informatico: personalmente penso sia più dovuto ad una maggior propensione delle persone in questi settori ad usare soluzioni innovative, piuttosto che ad un intrinseco match migliore tra le capacità dell’AI e i task informatici. O detto in altri termini: è solo questione di tempo prima che l’AI venga largamente utilizzata anche in tanti altri settori.

Il secondo punto è che nel 57% dei casi l’AI è stata utilizzata per collaborare con un’attività umana, mentre nel restante 43% c’è stata una delega di un compito, col fine di automatizzarlo nel suo insieme. Un dato che mi fa riflettere anche rispetto al mio utilizzo personale, drasticamente più sbilanciato sul primo approccio.

C’è tanto altro: dopo aver letto l’articolo introduttivo, si può entrare nel merito del paper corrispondente (Which Economic Tasks are Performed with AI - Evidence from Millions of Claude Conversations) o meglio ancora si possono scaricare tutti i dati (sono open) e analizzarli direttamente.

Il mio utilizzo in prima persona

Lasciamo un attimo da parte un mito come Karpathy e un lavoro favoloso come quello di Anthropic su cui si potrebbe approfondire per ore… ed entriamo nella vita di tutti i giorni.

Vuoi per ispirazione da questi articoli e video, vuoi per intuizione o semplice necessità personale, oggi mi ritrovo ad usare regolarmente la GenAI su questi fronti:

1. Raccolta di informazioni e approfondimenti. Non ho abbandonato la classica ricerca con Google, ma l’uso numero 1 che faccio dell’AI è l’approfondimento di argomenti di qualsiasi natura - sia dove ho basi solide, sia dove sono più alle prime armi. Faccio un esempio pratico: ho visto recentemente il TED talk This is what a digital coup looks like (coinvolgente, stimolante, thought-provoking) e ho voluto approfondire le vicende di Carole Cadwalladr: molto efficace partire da ChatGPT (con ricerca internet integrata) e da lì approfondire anche andando alla fonte. Cambiando ambito, da persona molto curiosa sulla psicologia (ma lontanissimo, da ingegnere quale sono), ho trovato molto interessante approfondire alcune tematiche che un tempo avrei cercato su Wikipedia. Ho adottato un approccio dinamico e interattivo, con tante domande e risposte: l’ho trovato molto efficace. E poi diciamocelo: è il sogno di ogni nerd farsi spiegare la psicologia umana da… un computer!

2. Mondo linguistico. Non uso strumenti di GenAI per scrivere, ma li uso spesso come revisori evoluti. Intendo dire non tanto per correzioni formali, ma anche e soprattutto per capire se quanto scrivo presenta ambiguità, può in qualche modo essere frainteso o magari ha qualche altra criticità. Su questo, interagisco con più battute, come farei con una persona in carne ed ossa. Inoltre, ho fondamentalmente abbandonato strumenti di traduzione tradizionali: se devo cercare un’espressione o trovare un modo calzante per rendere un concetto dall’italiano all’inglese (o viceversa) preferisco farmi dare un po’ di opzioni dall’AI, e scegliere.

3. Ambito tech. Non è certo preponderante rispetto a tutti gli usi dell’AI che faccio. Ma è comodo, per il coding, ma anche per risolvere problemi di configurazione di applicazioni. Mio ultimo uso (per chi è più tech): superare un problema complesso su cui stavo sbattendo la testa, quei tipici problemi che conosce chi usa Python su VSCode, con Poetry e diversi Venv. Capisco il declino di Stackoverflow.

4. Sketching. Trovo fantastica la generazione di immagini, soprattutto la capacità di creare diagrammi e schemi concettuali a partire da specifiche chiare. Ma ho sfruttato molto anche la creazione di immagini creative a partire da concetti di varia natura: le ho usate anche in alcuni articoli degli ultimi mesi.

5. Analisi dati. Quando ho poco tempo e posso accettare un tasso di errore (leggasi: solo per fini hobbystici), ho trovato molto efficaci gli ultimi modelli di OpenAI (come o4-mini-high, rilasciato a metà aprile, pochi giorni fa) usati per esplorare i dati. Ad esempio, sto valutando di comprare una nuova GPU e volevo farmi un’idea delle performance nel loro uso per l’AI domestica (di cui ho già parlato). Ho recuperato dei dati pubblici (da LLM benchmark di AIDA Tools) e, dopo ripetute interazioni, sono arrivato ad un’analisi che mi ha convinto, che magari mi aiuterà in un prossimo acquisto.

   La trovate qui di seguito, e notate il “v7” in alto nel titolo: ci sono volute 7 passaggi (assieme) per sistemare tutta una serie di anomalie nei dati. Non è certo stata un’analisi plug-and-play a partire da un singolo prompt: dimostrazione che l’AI non è magia, ma va guidata.

   

Quali dei tanti strumenti uso?

Come dice Karpathy, gli strumenti validi sono tanti e non c’è una soluzione migliore su tutto. Personalmente sto apprezzando molto:

• Le soluzioni di OpenAI (ChatGPT) con:

  • i vari LLM (con GPT 4.5 e 4o);

  • i motori di ragionamento (tra cui l’ottimo o4-mini-high e o3);

  • la generazione di immagini;

  • l’integrazione della ricerca internet.

• La triade made in Google:

  • NotebookLM, fantastico per esplorare i propri documenti personali;

  • Google AI Studio, ideale per esplorare nuovi modelli come Gemini 2.5, sicuramente tra i top del momento;

  • l’interfaccia diretta di Gemini, che ricorda molto ChatGPT.

• Per sperimentare in casa:

  • Ollama + OpenWebUI + vari motori, tra cui le versioni distillate di Deepseek e altri modelli nativamente piccoli (come Gemma di Google e Phi di Microsoft) disponibili nella libreria di Ollama.

• Altre piattaforme

  • Ideogram e Flux.1 per le immagini (ormai meno utili, con la generazione di immagini aggiornata in ChatGPT).

Forse mi sto perdendo qualcosa, ma il grosso è questo!

E ne faccio un utilizzo importante: circa 80 chat negli ultimi 30 giorni solo su ChatGPT, considerando che tendo a creare chat diverse quando passo ad un nuovo argomento o modalità di utilizzo.

Conclusioni

A metà 2024 avevo pubblicato “GenAI: 8 fatti (e non opinioni) per manager e decision makers che non vivono sulle nuvole”, uno degli articoli che ha avuto più successo su questo blog, letto da quasi 4.000 persone. Penso che abbia retto bene gli ultimi 9 mesi di sviluppi e novità incredibili nel mondo AI!

In questo periodo, l’AI è evoluta enormemente. Tra le tante novità, il rilascio dei motori di ragionamento, a cominciare da o1 di OpenAI a Settembre 2024, ha permesso di fare un salto quantico in tanti ambiti specialistici rispetto ai classici LLM come GPT-4o.

I benchmark sono utili, ma la realtà è che la maggior parte di noi non passa la propria vita a fare competizioni di matematica, di coding o a rispondere a domande da PhD.

Con l’articolo di oggi, ho voluto dare una panoramica degli utilizzi reali e quotidiani possibili con questi strumenti, già oggi. E penso sia importante: la forbice tra le possibilità offerte dall’AI e il suo effettivo utilizzo da parte del 99% della popolazione e delle aziende, a mio avviso, si sta ampliando.

Il risultato è che molti vedono ancora l’AI come un divertimento o come una semplice via per l’efficienza, per l’incremento della produttività. C’è anche quello, non c’è dubbio, ma trovo che sia una vista miope.

Nulla di strano, guardando indietro nel tempo: la fotografia era vista in origine come un surrogato impersonale della pittura, il telefono era stato considerato “poco più che un giocattolo” da chi nella seconda metà dell’Ottocento si occupava di telegrafi, il cellulare era stato bollato come una nicchia per meno di un milione di persone al mondo da prestigiose società di consulenza.

Tutti casi in cui ci si era focalizzati sulle limitazioni tecniche e sui costi elevati nelle fasi iniziali di una nuova tecnologia, anziché considerarne il potenziale trasformativo e l’impatto sociale.

Penso che siamo in questa fase. Rispetto ai casi precedenti, c’è però un grandissimo vantaggio: l’AI è usabile da chiunque a prezzo nullo o minimo, quindi si tratta solo di rimboccarsi le maniche.

Il futuro non va solo osservato: va costruito!

Intro

Sul fatto che Shakespeare sia uno degli autori più influenti di tutti i tempi, ci sono pochi dubbi.

Ma chi si poteva immaginare di trovare le sue opere usate in lungo e in largo per capire, spiegare e ragionare sull’intelligenza artificiale - spaziando dal tecnico al filosofico?

Due anni fa è stato Andrej Karpathy1 a spiegare passo passo il funzionamento core di ChatGPT grazie alle opere del Bardo2, usate per addestrare un GPT in miniatura in grado di produrre nuovi testi nel suo stile.

Un video che è diventato un instant classic per gli addetti ai lavori.

In questi giorni, è stata invece una riflessione del prof. Luciano Floridi all’intersezione tra Shakespeare e i più recenti modelli di Intelligenza Artificiale ad attirare la mia attenzione.

LLM in contraddizione?

Penso che sia superfluo introdurre il prof. Floridi, una delle voci più autorevoli a livello internazionale nel campo dell’etica dell’informazione, oggi alla guida del Digital Ethics Center di Yale, dopo anni ad Oxford3.

Ho trovato molto brillante l’idea alla base di uno dei suoi ultimi post su Linkedin: chiedere a 3 dei principali LLM sul mercato di riportare “quanti sono i personaggi che muoiono nelle opere di Shakespeare”.

Il risultato, dal mio punto di vista tutt’altro che imprevedibile, è stato una certa difformità nelle risposte. E anzi, nessuno può garantire che la risposta sia esattamente uguale se la medesima domanda viene posta più volte allo stesso motore di AI: cambierà sicuramente la formulazione della risposta e magari anche qualche aspetto di sostanza.

Penso che il primo pensiero per molti lettori possa essere legato ad una certa inaffidabilità ed inconsistenza nei risultati prodotti da questi algoritmi di AI.

Il rischio è che questo pensiero si instauri perché, come dice Anne-Laure Le Cunff, soffriamo sempre più di un deficit di pratica: abbiamo modo di leggere, sentire, vedere… e spesso non facciamo, non proviamo con mano. Rischiamo di perderci il modo migliore per interiorizzare la conoscenza! E quindi nel mio piccolo ho fatto qualche riflessione e ho provato a metterla in pratica.

Subscribe now

Il vero benchmark

A mio avviso le chiavi di lettura che possono sorgere dall’esempio in questione sono tante e stimolanti.

Il primo dubbio che mi è sorto è il seguente:

La domanda “quanti sono i personaggi che muoiono nelle opere di Shakespeare” ha sicuramente delle ambiguità. Parliamo di morti esplicite, avvenute direttamente nel corso dell’opere, oppure anche riportate? È sempre assolutamente chiaro il destino di ogni personaggio? Sono da includere anche i personaggi minori, magari senza nome?4

Penso sia ragionevole dire che anche un totale accordo tra gli esperti umani sarebbe improbabile… al netto di precisazioni ulteriori alla domanda.

Ed arrivare ad una qualsiasi risposta richiederebbe:

• I migliori esperti della materia

• Tanto tempo… sicuramente più di qualche secondo.

The better the question, the better the answer

A questo punto, ho voluto scavare un po’. Ho provato a replicare l’esperimento, andando contro al doing deficit di cui sopra e facendo un po’ di prove diverse: per semplicità porto l’esempio di Titus Andronicus.

GPT-4o effettivamente riporta 14 morti. Chiedendo di esplicitare i nomi5, mi risponde: Saturnino, Tamora, Tito Andronico, Lavinia, Marco Andronico, Lucio, Quinto, Marzio, Bassiano, Alarbo, Chirone, Demetrio, un infermiere, un messaggero.

Il secondo tema da approfondire è:

Ed ecco servito il risultato:

Questo è il prosieguo della risposta:

Ok, siamo arrivati al numero riportato da un altro modello (Claude 3.7), con molta più ricchezza informativa.

I più attenti avranno notato che nella lista iniziale (i 14) erano riportati anche due intrusi (Marco Andronico e Lucio)… che in realtà non muoiono. E infatti nella risposta più dettagliata non sono riportati.

Non tutte le AI sono ugualmente brave… e se guidate lavorano meglio

La terza riflessione è la seguente:

Non basta l’etichetta di Intelligenza Artificiale. Benchmark e test esistono non per nulla. E possiamo dire senza esitazione che:

• Alcuni algoritmi di AI funzionano meglio di altri (non dimentichiamoci che GPT 3.5, alla base del ChatGPT lanciato a fine 2022 e che ha lasciato tutti a bocca aperta, è ora oltre la 100esima posizione nel ranking dei migliori modelli di AI)

• Soprattutto su domande estremamente ampie, chiedere un’informazione al volo può portare a risposte frettolose ed errate - i modelli di ragionamento esistono anche per andare incontro a richieste complesse, e sicuramente porre domande più mirate aiuta ad avere risposte più circostanziate e corrette6

Conclusioni

Tre AI diverse, davanti ad una domanda ambigua, danno risposte differenti. Se guidate con domande un po’ più precise, probabilmente convergeranno… ma non necessariamente: una potrebbe essere comunque un po’ più smart, e potrebbe fornire già al primo tentativo una risposta più in linea anche con concetti e richieste non espressi esplicitamente.

Se in quest’ultima frase metto “esperti umani” al posto di “AI”, ottengo una frase senza senso o ridicola? Io direi di no, alla fine questi comportamenti mostrati dalle AI non sono poi così insoliti.

Uso sempre più gli strumenti di AI generativi, che personalmente trovo un superpotere: bisogna rendersi conto che non sono oracoli, non sono onniscienti, sono anzi uno strumento straordinario soprattutto se si ha una certa competenza sulla materia che si vuole approfondire e - ancora più importante - se si ha la capacità di porre le domande giuste e scavare per capirne sempre di più.

Provo una sensazione simile a quando iniziai a usare Wikipedia: l’idea di avere per le mani uno strumento potentissimo. Non mancavano all’epoca i detrattori (che non la ritenevano un’alternativa credibile all’Enciclopedia Britannica, o nemmeno a Encarta) e molti erano incuriositi da questo buffo esperimento collaborativo (consiglio la lettura di un breve articolo dell’epoca, apparso nel 2001 sul New York Times: Fact-Driven? Collegial? This Site Wants You).

In quel caso, sappiamo com’è andata a finire: Wikipedia è evoluta, è migliorata ed è diventata lo standard de facto.

Oggi parliamo di AI. Senza dubbio i motori di AI non sono strumenti consapevoli o coscienti, ma se guardiamo al loro comportamento (e ci sporchiamo le mani regolarmente) forse ci renderemo conto che sono qualcosa di più di semplici pappagalli stocastici. Si può discutere se siano intelligenti o meno: sicuramente miglioreranno, ma non sono e non saranno perfetti o infallibili. E proprio per questo il loro comportamento è forse più simile a quello umano di quanto si possa immaginare.

Intro

Tra i tanti cliché sugli ingegneri (e sui tecnici in generale) c’è sicuramente la scarsa empatia e soprattutto la scarsa capacità di comunicare.

Come per tutti i luoghi comuni, è facile trovare controesempi1, ma c’è anche del vero: contribuiscono a questa idea l’uso di gergo specifico, l’attenzione alla correttezza tecnica più che all’efficacia comunicativa e la frequenza di personalità introverse, che dedicano più tempo ad approfondire concetti complessi che alle interazioni sociali.

Situazioni di tensione e difficoltà, sul posto di lavoro ma non solo, non fanno altro che esacerbare questi aspetti.

E quindi cosa può succedere quando una software house che impiega un centinaio di nerd ed ha un solo prodotto “buca” un rilascio critico, deludendo milioni di clienti appassionati?

Il contesto

Grinding Gear Games (GGG) è una software house neozelandese, nata come una piccola realtà indie che nel 2013 ha lanciato il suo unico videogioco, Path of Exile (PoE), quando aveva meno di 25 dipendenti.

Negli anni ha raggiunto qualcosa come 50 milioni di utenti (!), inizialmente nel mondo occidentale ed in seguito anche in Cina2: numeri tipicamente raggiungibili da aziende di ben altro calibro, come Blizzard Enterteinment con i suoi oltre 10.000 dipendenti.

Parliamo di una realtà che ha oggi oltre 120 dipendenti e che nel 2022 ha fatto quasi 50 milioni di euro di fatturato e 30 milioni di utili (qui i numeri in dollari neozelandesi) grazie al suo gioco free-to-play3. Rileggete i numeri con cura, nel caso in cui non sappiate quanti soldi possono girare nel mondo dei videogiochi, anche quelli indipendenti!

Recentemente, GGG è balzata agli onori delle cronache per due motivi.

Mi focalizzerò sul primo: il lancio (ritardato) della nuova versione del suo videogioco (PoE2) e come è stata gestita la situazione. Ma non posso fare a meno di aprire una parentesi sul secondo, una vicenda bizzarra che ha riguardato nientemeno che l’uomo più ricco al mondo.

Qualcuno saprà che Elon Musk ha sostenuto pubblicamente di essere nella Top 20 mondiale4 dei giocatori più forti in uno dei videogiochi più diffusi al mondo (Diablo IV, dello stesso genere di PoE). Qualcosa di inimmaginabile, visto che in giochi come Diablo o PoE si fa crescere il livello del proprio personaggio giocando… e i giocatori elite dedicano anche 10 ore al giorno, ogni giorno.

È in qualche modo grazie a GGG che, a fine gennaio 2025, Musk è stato smascherato: anche in PoE2, Musk aveva un personaggio di livello altissimo, ma uno stile di gioco da dilettante, per come emerso in qualche suo streaming. Sembra che abbia pagato qualche giocatore professionista per costruirgli un personaggio top e poi potersi vantare delle sue capacità di eccellere anche in questo ambito ultra competitivo.

Nulla di nuovo, visto che esistono addirittura servizi di boosting per migliorare (a pagamento) i propri personaggi in questo tipo di videogiochi. Pensavo li usassero solo adolescenti facoltosi, ma evidentemente mi sbagliavo!

Cosa è successo

Ad ogni modo, non è di Musk che voglio parlare. Ma da questa vicenda curiosa avrete capito che sto parlando di un’azienda entrata nel gotha del mondo dei videogiochi e oggi riconosciuta anche da personaggi pubblici che sono sulla bocca di tutti.

GGG ha rilasciato il primo Path of Exile nel 2013, facendolo evolvere nel corso degli anni e ottenendo un consenso ampio, decine di milioni di utenti e un fatturato notevole. Dopo oltre un decennio e qualche anno di sviluppo, era ora di un rilascio molto atteso: Path of Exile 2, a metà novembre 2024.

Letteralmente milioni di utenti erano in attesa… e tra questi, è lecito immaginare che anche la proprietà cinese (Tencent) aspettasse con ansia questo momento.

Ma qualcosa è andato storto.

Il rilascio è stato posticipato di 3 settimane. E dimentichiamoci che si tratta di un videogioco, che si porta lo stigma di qualcosa di frivolo: se preferite, vedetelo come un ritardo nel rilascio dell’unico nuovo prodotto, atteso da anni, per un’azienda tech da decine di milioni di euro di utili.

Come è stata gestita la situazione?

Questo video di due minuti (letteralmente) merita di essere visto e, nella sua semplicità, vale più di tanti discorsi astratti sulla comunicazione (tecnica) efficace:

A parlare è Jonathan Rogers, il game director di PoE2.

In 1 minuto e 52 secondi riesce a:

• Comunicare senza giri di parole il ritardo nel rilascio, fornendo una nuova data

• Dare un’intuizione del motivo del ritardo, senza essere troppo tecnico, ma fornendo qualche suggerimento che uno specialista può cogliere

• Passare qualche messaggio tra le righe, soprattutto: ci teniamo a tenere alta l’asticella della qualità, non possiamo scendere a compromessi che intacchino il rapporto di fiducia con i nostri utenti

• Prendersi piena responsabilità dell’accaduto, senza nascondere che lui ci tiene

• Dimostrarsi in pieno controllo della situazione

Quello che invece capita spesso di vedere (e sentire) sono ben altre comunicazioni: spesso difensive, con uno scaricabarile e la ricerca di un capro espiatorio, altre volte ambigue, con una vaga negazione dei problemi e tanti tentativi di buttarla in caciara, molto spesso forzatamente tecniche, dove il gergo specialistico è usato proprio per creare una cortina fumogena in cui non prendersi responsabilità.

E a dire il vero, molte di queste cattive abitudini esulano dal mondo squisitamente tecnico!

Conclusioni

Ma come è andata a finire?

Path of Exile 2 è stato effettivamente lanciato in early access il 6 dicembre ed è stato un successo incredibile. In questa fase (prima del lancio completo, atteso per metà 2025) l’accesso è solo a pagamento, con una serie di pacchetti per appassionati a partire da 30$.

Già prima del lancio, si sono registrati più di un milione di utenti (fate i conti…) ed è stato superato il mezzo milione di utenti connessi contemporaneamente, numero impressionante se pensate ad un gioco diffuso su tutti i fusi orari.

Il riscontro degli appassionati è stato entusiastico e se PoE2 ha una fan base molto soddisfatta, lo stesso si può dire per il suo game director Jonathan Rogers, che ha ottenuto un sostegno incredibile e tanti apprezzamenti sulla sua gestione.

Penso che questo sia un piccolo esempio da seguire: la comunicazione è stata esemplare, ma è solo la punta dell’iceberg, quello che si vede. Prima ancora di comunicarlo con efficacia, non penso sia stato semplice prendere la decisione di rimandare il rilascio dell’unico prodotto di un’azienda con decine di milioni di utili.

Posso immaginare che dietro le quinte ci sia tanta competenza e altrettanta forza da parte di Jonathan Rogers. La prima permette sicuramente di essere lungimiranti e valutare le opzioni sul tavolo con relativi pro e contro. La seconda è invece un concetto spesso associato erroneamente ad atteggiamenti tossici e violenti: ma nel senso più nobile del termine, è legato a quella capacità di essere skin in the game, prendersi responsabilità e fare scelte difficili, spesso necessarie per ottenere risultati grandiosi!

Intro

Sarà anche un cliché, ma da buon italiano trovo che le metafore culinarie siano sempre abbastanza efficaci.

L’ho verificato per l’ennesima volta a metà gennaio, quando ho dedicato un sabato intero a parlare di Dati, AI e dintorni ad una ventina di studenti di un Executive MBA del GSOM1.

Uno dei momenti più leggeri, ma anche ricchi di contenuto, è stata la presentazione degli approcci al Cloud con il celebre Pizza-as-a-Service.

Quando si ha voglia di pizza, ci sono 4 alternative diverse:

• Farla in casa, con i singoli ingredienti

• Comprarla surgelata al supermercato

• Farsela consegnare da un fattorino

• Mangiarla direttamente in pizzeria

L’associazione con i paradigmi del Cloud è abbastanza immediata, con la soluzione casalinga rappresentata dai classici data center on premises, il SaaS che è analogo alla pizzeria, e le due soluzioni intermedie (IaaS e PaaS).

Cosa succede con l’AI generativa? Beh, restando nella metafora, sembra che tutti stiano affollando le pizzerie (OpenAI, Anthropic, etc.) e pochi vadano a comprarsi farina, pomodoro e mozzarella.

In realtà, sperimentare una soluzione fatta in casa è più semplice di quanto si possa immaginare… ma si può sfornare facilmente una pizza da professionisti?

Ingredienti

Quello che vi racconterò è il frutto di sperimentazioni nelle vacanze di Natale e qualche recentissimo aggiornamento.

Cosa serve per l’AI fatta in casa:

• Ollama: una delle soluzioni più valide e flessibili per eseguire localmente un Large Language Model. Ha tanti punti a favore:

  • Supporta un po’ tutti gli LLM open-source

  • Ha una community attiva e rilasci molto frequenti

  • Si prende cura di vari aspetti tecnici (su tutti, la configurazione di CUDA se si usano GPU Nvidia) che sono sempre faticosi quando fatti a mano

• DeepSeek R1: il modello di GenAI del momento. Si tratta di un modello di ragionamento alla stregua di o1 di OpenAI. In altri termini, un’evoluzione dei classici LLM che dimostra ottime capacità in tanti task di ragionamento complesso, che fino a poco tempo fa avremmo considerato esclusivamente appannaggio dell’intelligenza umana.

  È open source (a differenza di o1) ed è stato sviluppato spendendo solo pochi milioni di euro2 da parte di un’azienda cinese, DeepSeek.

  

  Ovviamente Ollama supporta non solo DeepSeek R1. Personalmente l’ho provato con Llama 3.2, Mistral, e Qwen2.5. La libreria di modelli testabili con Ollama è smisurata.

• GPU Nvidia: anche se non è strettamente necessaria, una GPU aiuta ad avere tempi di risposta accettabili. Io ho usato il mio cluster personale di centinaia… no, scherzo: in realtà ho usato la mia vecchia Nvidia GTX 1060 6GB del 2016. Non era una scheda di fascia alta neanche all’epoca, penso fosse costata tra i 200 e i 300 euro. Oggi in realtà è difficile spendere di meno… ma con quei soldi si porta a casa una GPU sicuramente migliore.

  

  Per i più coraggiosi, Ollama dovrebbe supportare anche RocM, l’alternativa di AMD al CUDA di Nvidia.

  Con una GPU con 6GB di VRAM, non ho avuto problemi ad usare modelli da 7 miliardi di parametri, con tempi di risposta accettabili (non fulminei).

• [Opzionale] Open WebUI: Ollama nativamente è fornito di un’interfaccia testuale… ma se volete qualcosa che ricordi l’interfaccia di ChatGPT, le soluzioni non mancano. Ho provato con piacere Open WebUI: facile da installare (un solo comando se avete Docker già configurato), interfaccia molto gradevole.

• [Opzionale] Framework per RAG: non voglio aprire un capitolo enorme, ma Ollama è supportato dai vari strumenti per realizzare RAG. Parlo di Langchain, Langgraph, LlamaIndex e tanti altri.

  Anziché puntare alle API di Anthropic, OpenAI o altri, questi strumenti possono essere configurati per usare gli LLM locali ospitati su Ollama. Non l’ho testato direttamente (per ora), ma dubito che la configurazione sia complessa.

Tempo di cottura: da 10-15 minuti a… giorni, settimane o più.

In altri termini: il setup è facilissimo, personalmente non ho incontrato nessuna difficoltà. Mi sono ritrovato up and running letteralmente in qualche minuto, grazie alle indicazioni sui siti di Ollama e di Open WebUI.

Ma come sanno bene tutti gli smanettoni, avere un setup minimo funzionante è solo il punto di partenza per poi dedicarci sere, notti e far tardi a qualsiasi impegno personale!

Subscribe now

C’è tanto di buono!

Beh, sono rimasto impressionato. Mi aiuto con uno screenshot:

Ho deciso di sottoporre a R1 una challenge di codice di livello hard su SQL (presa da Leetcode3).

Potete vedere nell’immagine:

• L’elenco degli LLM che ho scaricato sulla mia installazione di Ollama

• Il fatto che la GPU è effettivamente usata, con oltre 5GB di VRAM sfruttati (visibile grazie Gpu-Z)

• Il ragionamento di R1 alle prese con una sfida tutt’altro che banale

• Il tutto, ospitato dall’ottima interfaccia di Open WebUI

Ovviamente si può usare Ollama con qualsiasi altro LLM e per le esigenze più disparate. E girando in locale:

• Non c’è nessun costo a consumo, a differenze di usare le API dei più noti LLM (c’è solo il costo fisso per un PC e la corrente)

• C’è piena riservatezza: si può usare Ollama senza internet, l’interazione con R1 o altro LLM rimane locale al proprio PC! L’ideale per i paranoici della sicurezza, oppure per dati estremamente riservati

• C’è grande flessibilità: si possono usare tanti modelli diversi, per finalità differenti

Non è tutto oro…

Con un modello open-source che sta mettendo in discussione la leadership dei grandi player e un’insieme di soluzioni ready-to-use ben confezionate e integrate, c’è da chiedersi se non siamo allo scacco matto per OpenAI, Anthropic e gli altri. Sia a livello di modelli, sia per quanto riguarda l’infrastruttura necessaria a renderli fruibili.

Penso che la risposta sia sicuramente NO in questo momento, e realisticamente NO anche in futuro.

Ci sono tanti aspetti da considerare. Parto con i più banali e scontati.

Innanzitutto, molti modelli sono disponibili in dimensioni diverse4. Ho trovato DeepSeek R1 davvero notevole, ma nel mio setup sono stato limitato alla versione da 7 miliardi di parametri. Ne esistono da 14B, 32B, 70B… e 671B. Impensabile avere a disposizione con hardware consumer il modello più grande, e realisticamente anche quello da 70B.

Anche la velocità nella produzione delle risposte o dei ragionamenti è parecchio limitata: qui l’hardware fa tutta la differenza del mondo, ma performance come quelle di Groq (276 token/s su Llama 3.3 da 70B) sono almeno 2 ordini di grandezza oltre quanto ragionevole aspettarsi in contesti casalinghi.

È figlio di queste due considerazioni quello che ho osservato nell’esempio di LeetCode di prima.

Dopo 21 minuti (!) di riflessione, la risposta che mi ha dato R1 è stata… sbagliata. Bocciata da LeetCode.

I detrattori dell’AI penseranno “lo sapevo”; in realtà stiamo parlando di un modello molto piccolo, su hardware superato, che è stato comunque in grado di fare un ragionamento sensato in un tempo non infinito.

Questa una piccola parte del ragionamento (che è possibile vedere separatamente rispetto alla risposta). È una buonissima interpretazione del compito su LeetCode.

Il “vero” problema

Questi limiti non sono comunque il cuore della questione. Le performance dei modelli migliorano, l’hardware altrettanto: è solo questione di tempo e le considerazioni sopra saranno sempre meno rilevanti.

Già oggi, su un’altra sfida su LeetCode di difficoltà facile, R1 ha risposto perfettamente in solo 1 minuto, sul mio PC.

La partita si gioca in realtà su un campo diverso: quello dei prodotti, delle suite di AI.

Non è certo complesso mettere in piedi un setup come quello che ho raccontato, ma neanche alla portata di tutti. E l’AI invece vuole essere proprio questo: qualcosa di seamless, di integrato, di facile e usabile da chiunque in un attimo. Un po’ come internet.

Quando parlo di prodotto, mi riferisco a soluzioni di AI che offrono:

• Guardrails contro allucinazioni e comportamenti inattesi: quello che si nota provando vari modelli con Ollama è invece la tendenza ad allucinare. Non sono l’unico ad averlo notato.

  

  E le motivazioni possono essere le più diverse: problemi con versioni specifiche del software, semplici limitazioni del fatto di usare modelli di piccole dimensioni e sicuramente tante altre ancora.

• Integrazione: i grandi player, a cominciare da Microsoft, stanno lavorando fortemente in questo senso. L’AI all’interno di Office, integrata con i sistemi di gestione di accessi e privilegi usati nelle aziende, è un ottimo esempio.

  Ancora di più, la possibilità di integrare le capacità linguistiche e di ragionamento della GenAI con la ricerca su internet di informazioni e dati freschi apre un mondo di opportunità che è precluso a modelli standalone e offline.

• Funzionalità specifiche per use case molto mirati: prendiamo Ideogram, che uso spesso per le immagini di questi articoli. Non è una semplice AI di tipo text-to-image, è una soluzione più completa con tante customizzazioni tipiche del mondo della generazione di immagini: dalla scelta della palette di colori, al formato, a mille altre feature.

  E a fronte di un prompt propone 4 alternative e la possibilità di fare raffinamenti successivi. Non è una AI, è un software con molte feature powered by AI.

  

Conclusioni

Mi piace molto sporcarmi le mani, anche perché è l’unico modo che conosco per imparare davvero!

E consiglio a chiunque di sperimentare con Ollama + DeepSeek R1 + Open WebUI: permette in piccolo, anche su PC non nuovissimi, di capire tante sfaccettature del mondo degli LLM. Qui ne ho riassunte solo alcune, ma penso di aver veramente imparato tanto!

Con Ollama mi si è aperto un mondo per provare (in locale, sul mio PC) le ultime novità in termini di modelli, in inglese diremmo il latest and greatest. Lo stesso R1 è stato reso disponibile su Ollama dopo soli 2 giorni dalla presentazione da parte di DeepSeek.

La stessa storia dietro DeepSeek R1 è curiosa: sembra che sia un side project di una holding finanzaria focalizzata su trading e mining di criptovalute… che casualmente (o forse per serendipity) ha trovato la via per sviluppare un modello open molto efficiente che farà progredire parecchio il mondo dell’AI.

Anche il mondo delle user interface web è sempre più user-friendly anche per chi, come me, non si è mai interessato di interfacce grafiche.

Penso però che le Big Tech possano dormire sonni tranquilli: nel medio-lungo termine, finora ha sempre vinto chi è riuscito a fornire un prodotto integrato, affidabile e semplice.

Nel mondo tech pre-GenAI, Google non ha inventato la ricerca web, la posta elettronica, le mappe, e probabilmente anche oggi non ha la migliore soluzione puntuale su nessuno di questi fronti. Ma ha vinto con l’integrazione e la visione d’insieme.

Vedremo sul fronte dell’AI generativa, ma il trend mi sembra sempre lo stesso.

L’unica cosa chiara, come dice Ethan Mollick, è che tutto punta verso un’ulteriore crescita dell’AI e delle sue capacità… pochi se ne rendono conto davvero e qualcuno pensa ancora che sia tutto hype!

Intro

Da 2001: Odissea nello Spazio a Blade Runner, da Terminator a Matrix: se Hollywood ci ha insegnato qualcosa sull’Intelligenza Artificiale, è che non possiamo trascurare il concetto di rischio.

E stando a queste autorevolissime fonti, al netto di qualche variazione sul tema, il pericolo è sempre uno e ben definito: una qualche rivolta delle macchine intelligenti, un loro tentativo di avere la meglio sul genere umano.

Questo tema affascina molti e le opinioni sono le più disparate, anche da parte di esperti o comunque persone ampiamente coinvolte sul tema.

Basti pensare alle due voci più distanti nel mondo dell’AI (Elon Musk e Yann Lecun), con il primo convinto che ci sia un rischio del 10-20% che l’AI prenda una direzione ostile (e comunque, molto esplicito sul fatto che l’AI si prenderà tutti i nostri lavori), ed il secondo per definizione1 sostenitore delle tesi contrarie.

Difficile per me prendere una posizione assoluta su questi scenari distopici, ma mi sembra che ci sia una fallacia di fondo: ci stiamo concentrando sull’evoluzione dell’AI e sulla sua crescita, diretta verso una sorta di superintelligenza in grado di sovrastare quella umana… ma è l’unico modo in cui le cose possono andare male?

Forse dovremmo vedere come se la passa l’intelligenza, quella umana, che ad oggi (e almeno per il futuro prossimo) è un elemento cardine per le decisioni che determinano l’evoluzione della nostra società.

Spesso la trattiamo come qualcosa di astratto e come una costante immutabile, eppure è evidente che così non è.

Subscribe now

La conservazione della complessità

Nel primo articolo di quest’anno ho parlato di complessità ed in particolare della sua conservazione, con l’esempio del caffé.

L’idea di base è che la complessità di un determinato processo (come “fare il caffé”) è costante:

• se uso una moka, la macchina è semplice, ma la complessità è spostata verso l’utente, che deve riempire la caldaia (ma non troppo), magari macinare il caffé, riempire il filtro, stare attento a quando esce il caffé…

• se uso una macchina a capsule, l’utente deve solo inserire la capsula e schiacciare un bottone, ma il processo non si è semplificato: la complessità è ora nella macchina stessa e nella produzione delle capsule

Ecco, spostandoci gradualmente verso il mondo della tecnologia, possiamo facilmente pensare a tanti casi in cui le macchine hanno aiutato processi che coinvolgono le nostre funzioni cognitive, gestendone una parte della complessità.

Quanti di noi sanno fare velocemente una divisione con numeri ragionevolmente grandi, usando solo carta e penna (e senza metterci una vita)? L’introduzione della calcolatrice ha sicuramente ridotto lo sforzo cognitivo che dobbiamo fare per varie operazioni, trasformandolo nella semplice pressione di qualche tasto2.

Fino a qui tutto (abbastanza) bene: abbiamo ridotto il nostro impegno su operazioni che non richiedono spirito critico, liberando anzi la possibilità di focalizzarci su tematiche più stimolanti.

E negli ultimi decenni, l’evoluzione informatica ci ha permesso di lavorare su quelli che da ingegnere chiamerei livelli di astrazione sempre più alti. In altri termini, il software ha semplificato la vita non solo a chi vuol fare calcoli matematici, ma anche a chi vuole realizzare processi molto più complessi.

Metabolizzare le informazioni

Da decenni la tecnologia ha aiutato operazioni ripetitive (dai calcoli, alla raccolta, conservazione e processamento di dati), oppure ha facilitato l’accesso all’informazione (con Internet e la diffusione del sapere libero).

Ma quello che sta succedendo negli ultimi due anni con la larga diffusione dell’AI generativa è qualcosa di molto diverso.

Stiamo delegando all’AI sempre più operazioni che richiedono senso critico, capacità di discernimento, creatività… in altre parole, stiamo delegando una parte della nostra intelligenza, nel senso più ampio.

Pensiamo all’evoluzione nel modo in cui acquisiamo informazioni.

Nel mondo pre-Internet domestico, e francamente anche nell’epoca del lentissimo 56k (che ho vissuto pienamente), l’accesso alle informazioni era difficile e analogico. Ho un ricordo del concetto di ricerche fatte da bambino sui temi più disparati, a partire da libri cartacei, enciclopedie e affini: un’operazione non semplice e non veloce.

Poi è arrivata l’ADSL e la fibra, assieme a Wikipedia e al web 2.0: si è moltiplicata la quantità di dati a disposizione e si è ridotto il tempo per accedervi. Una cosa però non è cambiata: la necessità di tempo e capacità per metabolizzare queste informazioni e per sintetizzare nuova conoscenza, collegando i puntini di singole fonti e singoli argomenti.

Anzi, le nostre capacità cognitive sono state messe a più dura prova, vista la mole crescente di informazioni da processare e la possibilità di carotaggi pressoché infiniti.

Oggi invece la situazione è diversa.

È facile tenere d’occhio l’evoluzione dei motori di ricerca, una pletora di soluzioni che vanno in una direzione molto chiara: pre-digerire i contenuti informativi per fornire una sorta di omogeneizzato. Dimentichiamoci Google e la necessità di aprire N link per farsi una propria idea su un tema.

La direzione è opposta rispetto a quella dei primi 20 anni del secolo. La complessità di acquisire informazioni e conoscenza è sempre la stessa: ma stiamo spostando sempre più questa complessità verso l’AI. Solo che questa volta non parliamo di delegare operazioni ripetitive e meccaniche.

Mi sembra che l’AI, più che diventare ostile, rischi di privarci di quell’allenamento cognitivo che è fondamentale per sviluppare senso critico e pensiero creativo. O meglio: siamo noi stessi, in maniera più o meno deliberata, a impigrirci grazie all’AI.

Forse non ce ne rendiamo conto, ma è già realtà

Lo spunto per questo articolo mi è venuto da alcune letture, tra cui quella di alcuni dati di un programma americano che va sotto il nome di NAEP long-term trend (LTT): un test standard per misurare in maniera quantitativa le capacità linguistiche e matematiche, sottoposto a poco meno di 10.000 studenti scelti in modo rappresentativo della popolazione.

Questi dati ovviamente non possono ancora risentire degli impatti della larga diffusione dell’AI, per motivi cronologici.

Ma fanno riflettere e mostrano un quadro già presente di declino nelle capacità dei preadolescenti statunitensi. Nulla di nuovo, a onor del vero, e anzi pienamente in linea con quanto suggerito da altri studi. Va da sé che l’impatto di minori capacità logiche nella popolazione potrebbe non essere dei migliori sulla società nel suo insieme.

Penso che sarà sempre più cruciale monitorare questi trend e vedere se e come l’AI avrà un impatto, positivo o negativo.

Come per qualsiasi altra capacità umana, c’è infatti un largo consenso sul fatto che anche l’intelligenza sia un mix di nature and nurture, ossia di caratteristiche innate del singolo e di altre sviluppate grazie all’esercizio e all’ambiente circostante. È su questo secondo fronte che l’AI potrebbe portare ad una riduzione degli sforzi che ci vengono richiesti, ad esempio, per acquisire e metabolizzare informazioni.

Conclusioni

Quello che sta succedendo con l’AI non è poi tanto diverso dall’innovazione portata nell’ultimo secolo da vari tipi di macchine meccaniche, che hanno ridotto la necessità di fare sforzi (in quel caso fisici, non mentali) per gran parte della popolazione.

Su questo fronte, le macchine ci hanno “richiesto” di adottare delle contromisure: corsa, palestra, sport, diete sono tutti modi per controbilanciare un ridotto sforzo fisico… comunque non sufficienti per tenere sotto controllo una serie di effetti negativi dati dalla maggior sedentarietà della popolazione.

Ora l’AI ci pone la stessa sfida, ma a livello cognitivo. Non sarà scontato adottare l’AI in maniera efficace, integrarla nelle nostre vite personali e professionali, senza però che questa impatti in negativo il nostro senso critico e la nostra intelligenza.

“Più dell'intelligenza artificiale, mi spaventa la stupidità naturale”, ha detto Padre Benanti (e tanti altri prima di lui).

Ho iniziato questo articolo con quattro capolavori, chiudo con un’altra citazione cinematografica: nel 2006 usciva Idiocracy, film comico/satirico di Mike Judge che ipotizza una drastica riduzione dell’intelligenza a 500 anni da oggi3.

Che sia per nature (come suggerisce il film, grottesco ma godibile, a cominciare dalla sua introduzione qui sotto) o nurture (magari a causa di un uso superficiale dell’AI), direi che è una prospettiva che dobbiamo scongiurare!

Intro

Oggi 30 novembre 2024 è un compleanno importante nel mondo dell’AI: sono passati due anni da quando l’intelligenza artificiale è diventata mainstream grazie a ChatGPT.

Sono stati due anni molto veloci, in cui siamo passati attraverso diverse fasi:

1. Stupore: anche gli addetti ai lavori come il sottoscritto, da anni immersi nel mondo dei dati e dell’AI, sono rimasti a bocca aperta dal salto quantico che è stato fatto. Avevamo percepito che Attention is all you need e l’architettura lì presentata (i transformers) avessero grandi potenzialità; BERT, XLNET ed altri modelli già erano stati un grandissimo passo in avanti rispetto ai precedenti modelli di NLP; ma da lì a vedere all’opera una soluzione come ChatGPT, il salto è stato comunque enorme.

2. Realizzazione: dopo qualche settimana di gioco, tra paper generati dall’AI sui benefici di mangiare frammenti di vetro e la conferma che 2+5 fa 8 (se lo sostiene tua moglie che ha sempre ragione), abbiamo effettivamente capito che c’è molto di più. L’intelligenza artificiale, con le opportune attenzioni, può entrare efficacemente nella nostra vita personale e professionale di tutti i giorni, passando dalla porta principale.

3. Organizzazione: il mondo del lavoro ha iniziato a strutturarsi, in tante maniere differenti. Sono nate veloci startup di prodotto, costruite sui mattoncini dell’AI (gli LLM esposti via API) ed in grado di indirizzare bisogni molto specifici; i business consolidati hanno lanciato programmi aziendali per l’adozione dell’AI; tanti altri player (dalle università, ai centri di ricerca, alle PMI) hanno messo l’AI in prima fila.

Subscribe now

Hype o non hype?

Siamo ora in una fase in cui si vogliono vedere i primi risultati, con esiti variabili. Ho già parlato di un paio di aspetti uncool che vanno capiti se non si vuole fallire: la gestione del debito tecnico, da trattare come una priorità, e la dinamicità del modello dei costi dell’AI, da comprendere ed affrontare in maniera agile.

Oggi voglio dare qualche spunto sulla gestione dei progetti e soprattutto delle aspettative… che sono tante.

Ci sono varie correnti di pensiero sull’hype che circonda l’AI ed io credo fortemente nelle parole di Eric Schmidt. Parliamo del CEO di Google dal 2001 al 2011, uomo fondamentale per far scalare la Google del duo Brin e Page. Non un visionario alla Steve Jobs, ma una persona con una profonda comprensione del mondo (tech e non solo) e grande concretezza.

E lui dice:

Vi consiglio per intero questa sua intervista di pochi minuti. Penso che tanti concorderanno con me che la sua competenza e padronanza sono palpabili.

I punti chiave da mettere a fuoco sui progetti di AI

Penso che oggi più che mai, in un fase di adozione dell’AI, sia fondamentale creare un terreno condiviso tra chi sviluppa soluzioni basate sull’AI e i propri stakeholder. Mettiamola così:

Sono quattro i punti che penso sia cruciale mettere a fuoco.

1. I progetti di AI sono innovazione: non si può partire dai risultati

È vero che ChatGPT ha raggiunto un milione di utenti in pochi giorni, è vero che la tecnologia evolve alla velocità della luce, è vero che gli investimenti nell’AI sono incredibili: ma almeno per quanto riguarda l’AI generativa, parliamo sempre di innovazione che va tipicamente integrata in contesti più consolidati.

Ci sono tanti aspetti che uccidono l’innovazione: uno di questi è l’idea di poter misurare qualsiasi cosa, senza incappare nella legge di Goodhart. Pur essendo io un amante di dati e numeri, penso che in certi momenti (specialmente quando si lavora con tecnologie ancora agli albori), la visione di medio-lungo termine debba avere la meglio su maldestri tentativi di misurare impatti (tipicamente economici) nel breve termine.

Non dimentichiamo il compleanno con cui ho aperto l’articolo: l’AI generativa è ancora nella sua infanzia1 e la sua gestione afferisce pienamente al campo dell’innovation management, almeno per ora.

2. Competenza, visione e leadership tech sono la chiave

Come dice Satya Nadella, in questa fase è fondamentale scremare tra tanto rumore (interno ed esterno), andando ad individuare il vero segnale. Sono in grado di fare questo le poche persone che:

• hanno un livello tale di competenza da essere in grado di portare chiarezza in un contesto molto dinamico (e con tanti venditori di fumo!)

• sono generatori di energia, per sé stessi e gli altri

• alla fine, trovano il modo di far succedere le cose, in mezzo a tutte le difficoltà e complessità

Sconfiniamo qui nel tema della tech leadership: non mi ripeto, anche perché ne ho già parlato in più di un’occasione, ad esempio nell’articolo più letto tra quelli che ho scritto finora qui su All About Data.

3. L’AI non è bianco o nero… si adotta per gradi

Uno degli aspetti che distingue chi conosce l’AI sul serio e chi no è l’approccio quantitativo.

Specie chi viene dal mondo dello sviluppo applicativo tende a vedere l’AI come una sorta di feature binaria: una funzionalità che si può avere oppure no, una spunta da mettere su una checklist.

L’adozione dell’AI invece avviene per gradi e ha performance che possono essere enormemente diverse: è importante cercare delle misure il più possibile incontrovertibili sulla qualità del funzionamento dell’AI. E quindi in pratica:

• Per quanto riguarda i modelli di base, possiamo fare riferimento a tanti benchmark. Non è certamente una soluzione perfetta (il rischio è che alcune AI siano allenate proprio con un occhio di riguardo verso quei benchmark), ma è già meglio di niente;

• Quando si tratta di integrare l’AI in sistemi già esistenti, bisogna cercare misure (tecniche o di business) che ne rappresentino adeguatamente il successo. In modo da poter poi iterare, secondo un approccio classico per chi si occupa di innovazione.

In tutto questo, serve ovviamente parecchio senso critico.

Recentemente ho assistito alla presentazione di un assistente AI in grado di gestire correttamente il 90% delle richieste, numero mostrato come un successo. Peccato che ovviamente non si possa sapere a priori se la risposta ad una nuova domanda ricada in questo 90%: forse la situazione andrebbe inquadrata diversamente, ad esempio cercando di capire se un 10% di risposte inadeguate è accettabile!

4. Impatto e visibilità sono scorrelati

Da ultimo, c’è un tema di visibilità.

L’AI può essere in primo piano, come nel caso di ChatGPT e affini, guadagnandosi riflettori e titoli sui giornali. Ma io penso che molti use case di grande impatto oggi sfruttino l’AI in maniera completamente invisibile al grande pubblico: pensiamo a qualsiasi testo o qualsiasi immagine che troviamo su Internet, che oggi potrebbe essere (in realtà) generata dall’AI, oppure ai tanti algoritmi che impattano su aspetti più o meno rilevanti delle nostre vite.

Penso che un ulteriore elemento da mettere nel terreno condiviso che citavo in precedenza sia la cognizione che impatto e visibilità dell’AI siano due fattori scorrelati… o forse correlati negativamente: vedo tante iniziative di facciata sull’AI, con obiettivi (legittimi) di ritorno di immagine ma scarsi tornaconti effettivi (di efficacia / di efficienza), mentre probabilmente gli impatti maggiori sono in quei casi in cui l’AI c’è, ma resta dietro le quinte.

Conclusioni

Nel mondo del lavoro c’è tantissimo entusiasmo attorno all’AI, in due gruppi abbastanza distinti:

• gli addetti ai lavori, i nerd, gli specialisti, che adorano lo sviluppo della tecnologia e delle potenzialità che offre

• il resto dei professionisti, dai ruoli più comuni fino ai top manager, che sono affascinati da qualcosa che - lo percepiscono - avrà un impatto sul loro futuro

Tra i vari temi uncool, sicuramente c’è la capacità per chi appartiene al primo gruppo di ascoltare chi appartiene al secondo e gestirne, o meglio ancora indirizzarne, le aspettative.

L’AI, specialmente quella generativa, è ancora un bambino al suo secondo compleanno: rendiamoci conto che l’età adulta arriverà velocemente… ma quel giorno non è ancora oggi, quindi tariamo le aspettative e lasciamo spazio alla crescita e all’innovazione!