Quanto tempo si guadagna davvero?

Il tempo di percorrenza di un tragitto è semplicemente t=d/v, dove d è la distanza e v la velocità. Sembra ovvio che andare più veloci faccia risparmiare tempo, ed è indubbiamente vero, ma quello che l'intuizione sottovaluta è quanto poco, soprattutto quando si parte già da una velocità non bassa.

Prendiamo un tragitto di 20 km. Percorrerlo a 100 km/h richiede 12 minuti. Percorrerlo a 120 km/h (+20%) richiede 10 minuti. Che corrisponde a un guadagno di 2 minuti, su un tragitto di 12. Se invece il limite fosse 50 km/h e si passasse a 70 km/h, sempre +20 km/h, il guadagno sarebbe di quasi 7 minuti, su un tragitto che ne richiede 24. Lo stesso incremento assoluto di velocità (+20 km/h) produce un risparmio di tempo molto diverso a seconda della velocità di partenza, e diventa via via più piccolo quanto più si è già veloci.

La ragione matematica è che il tempo dipende dal reciproco della velocità (1/v), e la funzione 1/v appiattisce sempre di più il suo andamento man mano che v cresce. In pratica superare il limite di 20-30 km/h su un'autostrada dove già si viaggia veloci fa risparmiare, su un tragitto tipico, soltanto qualche minuto.

Quanto rischio si aggiunge, invece?

Qui la matematica “funziona” in un modo diverso. Lo spazio necessario per fermarsi non cresce in proporzione alla velocità, ma più velocemente. Si compone di due pezzi:

lo spazio percorso durante il tempo di reazione (prima di iniziare a frenare), che cresce in proporzione diretta alla velocità;

E lo spazio di frenata vero e proprio, che cresce con il quadrato della velocità, perché è l'energia cinetica (1/2 mv²)che i freni devono dissipare, e quella energia cresce col quadrato di v.

Concretamente, raddoppiare la velocità quadruplica lo spazio di frenata .

Sul fronte degli incidenti, i ricercatori del settore usano da decenni un modello empirico proposto dallo svedese Göran Nilsson negli anni '80 (il "Power Model"), che lega il rischio di incidente mortale al rapporto tra la nuova velocità e quella di riferimento elevato a una potenza, che cambia a seconda del tipo di strada e di incidente. In pratica un aumento della velocità media del 10% su un tratto stradale è associato, secondo questo modello, a un aumento del rischio di incidenti mortali che può arrivare al 40-50%. è una relazione fortemente amplificata rispetto al rapporto uno a uno tra “quanto più veloce vai” e “quanto più rischi”.

E le multe?

C'è un terzo fattore che nella vita reale pesa parecchio, ovvero un costo economico legato alla probabilità di essere rilevati.

Su un tratto con autovelox fisso o sistema Tutor, quella probabilità è molto più alta della probabilità di avere un incidente nello stesso tragitto.

Questo cambia il quadro soprattutto per gli eccessi moderati, in particolare proprio nella fascia dove il rischio fisico aggiuntivo è ancora contenuto (pochi km/h sopra il limite), la multa può già essere quasi certa su un tratto controllato, mentre il rischio di incidente resta, in quella stessa fascia, relativamente basso.

In Italia, poi, il costo non cresce in modo lineare, dato che oltre certe soglie di sforamento scattano decurtazione di punti e sospensione della patente, un salto discontinuo nel costo che non ha equivalente diretto nella crescita del rischio fisico. Per gli eccessi molto ampi, invece, il rischio fisico torna rapidamente a dominare il conto, multa o non multa.

Mettendo insieme i due pezzi, si ottiene che un aumento di velocità porta un guadagno di tempo che cresce lentamente e in modo decrescente (per via del reciproco 1/v), mentre porta un aumento di rischio che cresce rapidamente e in modo crescente (per via della potenza del Power Model, a seconda della gravità considerata). Sono due curve che si muovono in direzioni opposte man mano che la velocità sale. Quella del tempo risparmiato si appiattisce, quella del rischio si impenna.

Nella fascia di velocità in cui viaggiamo normalmente, il guadagno marginale di andare più veloci è piccolo, mentre il costo marginale in termini di rischio è grande e cresce. è un fatto, non una questione morale sul “rispettare le “regole” o no .

Detto questo, il Power Model è un modello statistico aggregato, calibrato originariamente su dati di incidentalità reali in Svezia e poi confermato da studi successivi, ma i suoi esponenti variano a seconda del tipo di strada (i valori 2-3-4 sono più solidi per strade extraurbane; per contesti urbani la relazione risulta meno netta) e a seconda della gravità dell'incidente considerato. Nonostante sia limitato, il messaggio robusto rimane la forma qualitativa della relazione: il rischio cresce più che proporzionalmente rispetto alla velocità, mentre il tempo risparmiato cresce meno che proporzionalmente.

Un'ultima considerazione

Tutto il ragionamento fatto finora tratta il rischio come se fosse un costo a carico di chi guida, da confrontare col proprio tempo risparmiato, un bilancio personale, in fondo. Ma buona parte di quel rischio non ricade solo su chi è al volante, ricade su chi condivide la strada in quel momento, senza aver avuto voce in capitolo sul calcolo. Un pedone, un ciclista, gli occupanti di un’altra auto non hanno scelto di scambiare qualche minuto contro una quarta potenza di rischio. Quella scelta l’ha fatta solo chi ha deciso di accelerare. Vale la pena tenerlo presente: l’asimmetria matematica di cui abbiamo parlato, poco guadagno, molto rischio in più, è già di per sé sbilanciata a sfavore di chi sceglie di correre; il fatto che parte del conto la paghino altri, che non hanno partecipato alla decisione, la rende ancora più difficile da giustificare.

Perché lo facciamo comunque?

Un’ultima riflessione che i numeri da soli non spiegano: se il guadagno reale è così modesto, perché continuiamo a inseguirlo con tanta insistenza, quasi istintivamente, ogni volta che siamo al volante?

Probabilmente perché non stiamo davvero facendo quel calcolo. Accelerare, quando si è in ritardo o sotto stress, non è quasi mai una decisione razionale ponderata sui minuti risparmiati, ma è una risposta a fenomeni più complessi: alla fretta di una vita scandita da impegni troppo fitti, all’ansia di un ritardo che si teme sproporzionato alle sue conseguenze reali, alla sensazione, spesso illusoria, di riprendere un minimo di controllo su un tempo che sentiamo sfuggirci di mano. Ed è forse per questo che nessuna statistica, per quanto convincente, basta da sola a cambiare il comportamento. Il conto costi-benefici che abbiamo fatto in questa pillola è ineccepibile sulla carta, ma raramente è quello a cui pensiamo davvero nel momento in cui schiacciamo l’acceleratore.

Seguimi per altre curiosità provenienti dal mondo della matematica, dell'informatica e della fisica! Se dopo aver letto questa pillola hai ancora dubbi o se c'è un argomento che vorresti approfondire, non esitare a scrivermi. Sono disponibile anche per sessioni di approfondimento o lezioni individuali via chiamata, su questo e molti altri argomenti!

L’interpretazione proposta dagli autori era: le stesse competenze che servono per essere bravi in un test sono anche quelle che servirebbero per giudicare se si è bravi in quel test. Chi non le possiede è quindi doppiamente svantaggiato( è incompetente e non ha gli strumenti per accorgersene). È una spiegazione psicologica plausibile, che spiega un sacco di comportamenti che vediamo tutti i giorni. Il problema è capire se sia davvero necessaria per spiegare il grafico risultante, o se il grafico esca fuori comunque, per ragioni che non hanno niente a che fare con la psicologia.

il grafico romanzato e accentuato dell’effetto Dunning-Kruger (ma utile per dare l’idea)

La curva del grafico parte alta a sinistra, chi sa pochissimo si giudica quasi bravo quanto un esperto, poi scende bruscamente, e poi risale piano fino a incrociare quasi la diagonale a destra, dove i più competenti tendono anzi a sottovalutarsi un po'.

Tuttavia, quando altri ricercatori e statistici hanno esaminato quel grafico con strumenti più fini, è emerso qualcosa di scomodo. Infatti, una forma simile al grafico in questione può comparire anche in un mondo immaginario dove nessuno ha alcun problema di autovalutazione.

La critica piu presente in letteratura è proprio questa, ovvero che il grafico nasca per un semplice fenomeno chiamato regressione verso la media.

Immagina cento persone che tirano con l'arco, e poi rifanno esattamente la stessa prova un'ora dopo, senza che nel frattempo sia realmente cambiato il loro livello, cambia solo la fortuna del momento. Chi ha fatto peggio nella prima prova è un gruppo misto: in parte persone davvero meno brave, in parte persone normalmente brave che quella volta hanno avuto sfortuna. Nella seconda prova, molto probabilmente la sfortuna della prima non si ripete (è un episodio casuale indipendente)quindi il punteggio medio di quel gruppo migliora, non perché siano diventati più bravi, ma perché la componente "sfortuna" è sparita. Questo fenomeno si chiama regressione verso la media, e capita ogni volta che confrontiamo due misure imperfette della stessa quantità. Ma perchè questo accade?

Immagina che nella popolazione l'abilità vera sia distribuita "a campana": ci sono molte più persone con abilità vicina alla media che persone estreme (pochi genî, pochi incapaci totali, mentre tanta gente nel mezzo).

Ora supponi di osservare un punteggio bassissimo. Ci sono due possibili spiegazioni: (a) la persona ha davvero un'abilità bassissima, oppure (b) ha un'abilità nella media ma quel giorno ha avuto una sfortuna enorme. Siccome nella popolazione ci sono molte più persone con abilità "nella media" che persone all'estremo, la spiegazione (b) è statisticamente più probabile della (a) ,anche se entrambe producono lo stesso identico punteggio osservato. La nostra miglior stima dell'abilità vera, quindi, è un compromesso tra il dato osservato e la consapevolezza che le persone estreme sono rare, per questo si sposta verso il centro.

Formalmente, trattando il punteggio al test (X) e l'autovalutazione (Y) come due stime indipendenti e imperfette della stessa abilità vera θ, che non osserviamo mai direttamente:

X=θ+εX​ Y=θ+εY

con εX​ e εY​ rumori indipendenti fra loro (la sfortuna al test non è la stessa cosa dell'insicurezza nell'autovalutarsi). Si dimostra che:​

E[Y∣X=x]=μ+ρ(x−μ), ρ=τ2/τ2+σ2​<1

dove μ è l'abilità media nella popolazione, τ2 quanto varia l'abilità vera tra le persone, σ2 quanto rumore c'è nella misura e ρ è la frazione dello scostamento (x−μ) che "sopravvive" dopo aver corretto per il rumore, ad esempio:

• test perfetto (σ2=0) → ρ=1, nessuna correzione, quindi ci fidiamo interamente del dato;

• test tutto rumore (τ2 trascurabile) → ρ→0, il dato non ci dice nulla, meglio prevedere semplicemente la media μ;

• nel mezzo, ρ bilancia quanto fidarsi del dato osservato contro quanto tornare verso la media a priori.

Ovviamente la formula funziona su entrambi i lati, in modo speculare.

Se x è molto basso, (x−μ) è molto negativo, ma moltiplicato per ρ<1 diventa un numero negativo più piccolo, la previsione per Y risulta quindi più alta di x: sul grafico appare come "chi ha punteggio basso si sopravvaluta". Se x è molto alto, lo stesso ragionamento fa sì che la previsione risulti più bassa di x: appare come "chi ha punteggio alto si sottovaluta".

una controprova concettuale utile è che la relazione è simmetrica tra le due variabili. Se invece condizionassimo su Y e chiedessimo E[X∣Y=y], otterremmo esattamente la stessa formula al contrario.

Questo non dimostra che il bias psicologico non esista, ma dimostra che una forma simile emerge anche in un mondo senza alcun bias, come conseguenza del fatto che nessuna misura umana è perfetta.

Prima di passare alla seconda ipotesi serve introdurre un concetto che userà tra poco: il clip. È un’operazione semplice che prende un numero e, se supera un limite massimo o minimo, lo riporta a quel limite:

clip(v, 0, 100)={0 se v<0 ; v se 0≤v≤100; 100 se v>100}​

Serve perché X e Y nel nostro modello sono percentili, che per definizione non possono essere negativi né superare 100. Ma la somma θ+ε può tranquillamente uscire da questo intervallo, se θ=5 e quel giorno il rumore è −12, si otterrebbe Y=-7 , un percentile impossibile, quindi il clip lo riporta a 0.

L’effetto del clip non è neutro dato agisce in una sola direzione, per chi sta vicino ai bordi. Chi ha θ basso può solo essere “salvato” verso l’alto (un valore negativo diventa 0, mai il contrario); quindi il clip, per chi è vicino allo zero, alza la media osservata. Simmetricamente, per chi ha θ alto, il clip può solo abbassare i valori che superano 100.

La seconda ipotesi(più personale e meno verificata) è che l’errore forse non è uguale per tutti. Questa sarebbe anche piu vicina all’effetto originale di Dunning-Kruger.

Se il rumore dell'autovalutazione non avesse la stessa ampiezza per tutti, ma diminuisse al crescere dell'abilità vera θ? Cioè chi sa pochissimo produce stime di sé molto disperse, a caso, in entrambe le direzioni, semplicemente non ha alcun punto di riferimento; chi ne sa molto è più "calibrato" e sbaglia meno, sempre in entrambe le direzioni.

Tuttavia questa ipotesi da sola non basta. Un errore che resta centrato su zero, per quanto più o meno disperso, non sposta la sua media. Che il rumore sia grande o piccolo, la sua media condizionata resta zero. Serve il clip, per rendere l'eteroschedasticità visibile. Qui emerge la differenza interessante rispetto al caso "omoschedastico" (rumore uguale per tutti):

Nel caso omoschedastico, il rumore ha la stessa ampiezza vicino a entrambi i bordi (0 e 100): il clip taglia con la stessa forza su entrambi i lati, e il suo effetto resta simmetrico tra le due code.

Nel caso eteroschedastico, il rumore è grande vicino a θ=0 e piccolo vicino a θ=100. Il clip vicino allo zero ha molto da tagliare e spinge verso l'alto, mentre vicino a 100 ha pochissimo da tagliare e lascia quasi tutto invariato. Il risultato è un'asimmetria con sovrastima marcata in basso e sottostima lieve in alto; che assomiglia più da vicino alla forma realmente osservata nei dati di Dunning-Kruger, dove il crollo a sinistra è molto più drammatico della leggera flessione a destra.

Per capire quanto pesa, in numeri, una simulazione con 20.000 persone per run, ripetuta 50 volte per verificarne la stabilità, dà questi risultati (differenza tra autovalutazione media e punteggio medio, per quartile)

L'effetto totale (7-9 punti) è dominato dalla regressione verso la media dell'ipotesi 1, presente comunque. L'ingrediente specifico dell'eteroschedasticità aggiunge solo una piccola correzione asimmetrica di circa 1.5 punti in più nel quartile basso, molto lieve in quello alto, ma reale (più grande della variabilità casuale tra simulazioni ripetute, che è di circa 0.3 punti) .

la differenza tra i grafici è molto sottile ma percepibile, ma la seconda ipotesi con clip è quella che si avvicina maggiormente a livello concettuale.

Il codice qui sotto riproduce tutti i numeri e i grafici di questa pillola: il modello di base (ipotesi 1), le quattro combinazioni omo/eteroschedastico × con/senza clip, e la verifica Monte Carlo su 50 run indipendenti.

import numpy as np

import matplotlib.pyplot as plt

mu, tau = 50, 20 # media e sd dell’abilita’ vera theta

sigma_X = 12 # rumore (costante) del test X

n_obs = 20000 # persone per singola simulazione

n_runs = 50 # numero di run Monte Carlo

def sigma_Y_eterosched(theta):

# rumore che decresce linearmente da 25 (theta=0) a 5 (theta=100)

return np.clip(25 - 0.20 * theta, 5, 25)

def one_run(rng):

theta = np.clip(rng.normal(mu, tau, n_obs), 0, 100)

X = np.clip(theta + rng.normal(0, sigma_X, n_obs), 0, 100)

def make_Y(heteroskedastic, clip):

if heteroskedastic:

sigma_Y = sigma_Y_eterosched(theta)

else:

sigma_Y = np.full(n_obs, 15.0)

Y = theta + rng.normal(0, 1, n_obs) * sigma_Y

if clip:

Y = np.clip(Y, 0, 100)

return Y

configs = {

“Omo, no clip”: make_Y(False, False),

“Omo, con clip”: make_Y(False, True),

“Etero, no clip”: make_Y(True, False),

“Etero, con clip”: make_Y(True, True),

}

q = np.percentile(X, [25, 50, 75])

bin_idx = np.digitize(X, q)

mean_X = np.array([X[bin_idx == i].mean() for i in range(4)])

result = {”X”: mean_X}

for name, Y in configs.items():

result[name] = np.array([Y[bin_idx == i].mean() for i in range(4)])

return result

keys = [”X”, “Omo, no clip”, “Omo, con clip”, “Etero, no clip”, “Etero, con clip”]

all_results = {k: [] for k in keys}

for run_id in range(n_runs):

rng = np.random.default_rng(run_id)

res = one_run(rng)

for k in keys:

all_results[k].append(res[k])

for k in keys:

all_results[k] = np.array(all_results[k]) # shape: (n_runs, 4 quartili)

print(f”Monte Carlo su {n_runs} run indipendenti, {n_obs} osservazioni ciascuno\n”)

mean_X_mc = all_results[”X”].mean(axis=0)

print(”Competenza reale (X), media sui run:”, np.round(mean_X_mc, 2))

print(”Competenza reale (X), sd tra i run: “, np.round(all_results[”X”].std(axis=0), 3))

print()

for name in keys[1:]:

mean_mc = all_results[name].mean(axis=0)

sd_mc = all_results[name].std(axis=0)

scostamento = np.round(mean_mc - mean_X_mc, 2)

print(f”{name:16s} media Y: {np.round(mean_mc,2)} sd tra run: {np.round(sd_mc,3)} (Y - X: {scostamento})”)

fig, axes = plt.subplots(2, 2, figsize=(11, 8), sharey=True, sharex=True)

labels = [”Q1 (bassa)”, “Q2”, “Q3”, “Q4 (alta)”]

x_pos = np.arange(4)

for ax, name in zip(axes.flat, keys[1:]):

for r in range(n_runs):

ax.plot(x_pos, all_results[name][r], color=”#c05621”, alpha=0.25, linewidth=1, zorder=1)

ax.plot(x_pos, all_results[”X”][r], color=”#2b6cb0”, alpha=0.25, linewidth=1, zorder=1)

ax.plot(x_pos, all_results[”X”].mean(axis=0), marker=’o’, linewidth=3, color=”#2b6cb0”,

label=”Competenza reale (X)”, zorder=3)

ax.plot(x_pos, all_results[name].mean(axis=0), marker=’o’, linewidth=3, color=”#c05621”,

label=”Autovalutazione (Y)”, zorder=3)

ax.set_title(name, fontsize=11)

ax.set_xticks(x_pos)

ax.set_xticklabels(labels, fontsize=9)

ax.grid(alpha=0.3)

ax.set_ylim(0, 100)

axes[0,0].legend(fontsize=8, loc=”upper left”)

fig.suptitle(f”Confronto delle 4 combinazioni omo/etero x clip/no-clip\n”

f”({n_runs} simulazioni Monte Carlo sovrapposte, linee sottili = singoli run, spesse = media)”,

fontsize=12)

fig.text(0.04, 0.5, “Percentile medio”, va=”center”, rotation=”vertical”, fontsize=10)

plt.tight_layout(rect=[0.03, 0, 1, 0.94])

plt.savefig(”dunning-kruger-4-configs-montecarlo.png”, dpi=150)

plt.show()5

Immaginate un insieme di creatori di contenuti che devono scegliere tra due strategie. La prima consiste nel produrre contenuti "a mano", con un costo maggiore ma distintivi, la seconda nell’usare l'AI, con un costo quasi nullo ma un output simile a quello di chiunque altro faccia la stessa scelta.

Chiamiamo x la frazione di creatori che adottano la scorciatoia (un numero tra 0 e 1) e definiamo il vantaggio marginale di adottarla come una funzione decrescente di x:

V(x) = b − k·x

dove b è il beneficio ottenuto quando pochi la usano (tempo risparmiato, maggiore produttività, visibilità aggiuntiva) e k misura quanto velocemente questo beneficio si erode quando altri fanno la stessa scelta.

Se poche persone usano l'AI, i loro contenuti si distinguono ancora e il risparmio di tempo è puro guadagno. Ma via via che x cresce, il mercato si satura di output simili tra loro, la distinguibilità collassa, la fiducia del lettore verso quel tipo di contenuto cala, e il vantaggio iniziale evapora. Quando V(x) = 0 si raggiunge un punto di equilibrio in cui nessuno ha più convenienza a cambiare strategia unilateralmente, che coincide con la definizione di equilibrio di Nash in un gioco a due strategie.

Il problema è che, con l'AI, il costo di adozione è talmente basso da spingere l'equilibrio verso x molto vicino a 1. Quasi tutti finiscono per adottare la scorciatoia, anche quando il beneficio individuale netto è ormai prossimo allo zero. È la stessa dinamica che si osserva nel caso del traffico: una scorciatoia stradale è utile finché pochi la conoscono; se tutti la imboccano, diventa più lenta della strada principale.

Oltre a ciò, se molti modelli generativi convergono verso output statisticamente simili, ogni nuovo contenuto aggiunge sempre meno informazione rispetto a quelli già letti. In altri termini, l'entropia condizionata di un contenuto rispetto a tutti quelli già visti tende a diminuire man mano che la produzione si omogeneizza. Il risultato è che, anche a parità di quantità di testo pubblicato, l'informazione realmente nuova ricevuta dal lettore cresce molto più lentamente.

A questo si aggiunge un meccanismo descritto dalla legge di Goodhart, la quale sostiene che quando un indicatore (visibilità, engagement…) diventa esso stesso l'obiettivo esplicito di ottimizzazione su larga scala, smette di essere una buona misura di ciò che originariamente rappresentava. I contenuti ottimizzati per "piacere all'algoritmo" finiscono per somigliarsi sempre di più tra loro, indebolendo proprio il segnale che l'algoritmo cercava di misurare.

Da un punto di vista più filosofico, il paradosso nasce dal fatto che una scorciatoia ha valore relativo, in quanto è utile solo finché offre un vantaggio rispetto a chi non la usa. Tuttavia, nel momento in cui la scorciatoia diventa la norma, l'equilibrio cambia lo standard collettivo rispetto a cui ci si confronta. Ma se una scorciatoia funziona solo finché è rara, allora una scorciatoia adottata da tutti smette per definizione di essere una scorciatoia. Diventa semplicemente il nuovo standard, con tutti i costi collettivi (perdita di distintività, di fiducia, di informazione reale…) e nessuno dei vantaggi individuali che l'avevano resa allettante in origine.

La conseguenza pratica è che il vantaggio competitivo si sposta verso ciò che rimane strutturalmente scarso anche quando l'AI è a disposizione di tutti. Ad esempio un’esperienza diretta o punto di vista autoriale. Perché un vantaggio disponibile a costo zero per chiunque, per costruzione, cessa presto di essere un vantaggio.

Seguimi per altre curiosità provenienti dal mondo della matematica, dell'informatica e della fisica! Se dopo aver letto questa pillola hai ancora dubbi o se c'è un argomento che vorresti approfondire, non esitare a scrivermi. Sono disponibile anche per sessioni di approfondimento o lezioni individuali via chiamata, su questo e molti altri argomenti!

Come "ragionano" i modelli più recenti

Nei primi tre articoli abbiamo visto come un LLM "di base" funzioni: calcola, un token alla volta, la parola statisticamente più plausibile, sulla base di una mappa geometrica costruita durante il training.

Ma il modello non produce mai una singola parola, bensì una distribuzione di probabilità completa su tutto il vocabolario, ottenuta applicando la funzione softmax ai punteggi grezzi (chiamati logit) calcolati dall'ultimo strato della rete:

P(token = w) = exp(z_w) / Σᵥ exp(z_v)

dove z_w è il logit associato alla parola w, e la somma a denominatore scorre su tutte le parole v del vocabolario. È questa formula a generare le percentuali di cui parlavamo nella parte 1 (90% "topo", 9% "croccantino"...).

Questo meccanismo funziona bene per scrivere una frase fluida, ma ha un limite strutturale: un Transformer ha un numero fisso di strati (diciamo L). Ogni strato è un passaggio di calcolo. Per produrre il token successivo, l'informazione attraversa L trasformazioni non lineari. Se un problema richiede più passaggi logici in sequenza di quanti ne permetta L (una moltiplicazione a più cifre, un problema scientifico…), il modello, in un solo passo, non ha profondità di calcolo sufficiente per risolverlo.

Chain of Thought

Come soluzione è stata introdotta la Chain of Thought, che aggira il limite senza cambiare l'architettura.

Il modello viene addestrato a scrivere passaggi intermedi prima di dare la risposta finale. Dato che ogni token generato rientra nel contesto per il calcolo del token successivo, ogni volta che il modello scrive un risultato intermedio, quel testo diventa un dato di fatto per il passo successivo e non va più ricalcolato. E leggere un numero già scritto non consuma il budget di L strati. La profondità di calcolo, si "spalma" nel tempo tramite un ciclo autoregressivo, che cresce ogni volta che il modello procede con un altro passaggio scritto, invece di restare bloccata nello spazio fisso dei suoi strati interni.

I modelli più recenti sfruttano questa idea con il test-time compute: al momento della domanda, il sistema non genera un'unica catena di ragionamento, ma ne campiona più di una in parallelo, sⁱ ~ P(risposta | domanda) per i = 1, ..., n, e sceglie il risultato più frequente tra le n risposte ottenute (tecnica nota come self-consistency). Più il modello esplora percorsi diversi, più la risposta finale, per la legge dei grandi numeri, converge verso quella corretta, anche quando il singolo tentativo isolato avrebbe potuto sbagliare.

Cambia anche il modo in cui questi modelli vengono addestrati, dato che non si premia più solo la risposta finale corretta (come nel RLHF classico visto nella parte 3), ma si usa il reinforcement learning per assegnare una ricompensa più alta alle catene di ragionamento che portano più spesso a risposte corrette, non solo alla risposta in sé.

Le allucinazioni

Con questo strato di ragionamento in più, ci si potrebbe aspettare che le allucinazioni del modello spariscano. Tuttavia si trasformano soltanto, e per capire perché bisogna tornare alla funzione che il modello minimizza durante il training: la cross-entropy loss.

L = − log P(token corretto | contesto)

Questa funzione penalizza il modello in proporzione a quanto bassa era la probabilità assegnata al token realmente corretto. Ma è incompleta. Non esiste, in questa formula, alcun termine che rappresenti "non lo so". Il training minimizza l'errore medio su tutta la distribuzione di addestramento, ma non c'è mai stato un segnale di gradiente che insegni esplicitamente ad astenersi quando l'informazione manca. Semplicemente perché il "non lo so" quasi non compare nei testi umani usati per l'addestramento.

Nelle zone della mappa geometrica dove gli esempi visti in training erano scarsi, la distribuzione di probabilità in uscita tende a essere meno calibrata. L'entropia della distribuzione (H = − Σ P(w) log P(w)) può restare bassa, cioè il modello resta "sicuro" anche quando la risposta più probabile è sbagliata. Con i reasoning model, un'intera catena di ragionamento può risultare internamente coerente, passo dopo passo, pur partendo da una premessa sbagliata. L'errore, in quel caso, arriva lo stesso, ma in maniera più travestita( che è peggio).

C'è infine una componente di incentivi legata al RLHF: i valutatori umani tendono a premiare le risposte sicure e articolate più di quelle caute, e il modello impara(di nuovo, per via del gradiente, non per scelta) , che sembrare sicuro paga più che essere prudente.

Una delle contromisure più diffuse è il RAG (Retrieval-Augmented Generation), in cui il sistema recupera documenti reali prima di rispondere e li inserisce nel contesto, così P(token | contesto) viene calcolata condizionandola a una fonte verificata invece che alla sola memoria interna del modello. Non elimina il problema, ma restringe di molto lo spazio in cui il modello può inventare.

Seguimi per altre curiosità provenienti dal mondo della matematica, dell'informatica e dalla fisica! Se dopo aver letto questa pillola hai ancora dubbi sul funzionamento dell'AI o se c'è un argomento che vorresti approfondire, non esitare a scrivermi. Sono disponibile anche per sessioni di approfondimento o lezioni individuali via chiamata, su questo e molti altri argomenti!

Secondo questo modello, il cervello non attribuirebbe la stessa "durata percepita" a ogni anno trascorso. Al contrario, con l'aumentare dell'età, ciascun nuovo intervallo temporale rappresenterebbe una frazione sempre più piccola dell'esperienza accumulata, risultando quindi soggettivamente più breve.

Questa interpretazione trova le proprie basi nella legge di Weber-Fechner, formulata nel XIX secolo per descrivere la relazione tra l'intensità di uno stimolo fisico e la sensazione percepita. In numerosi contesti percettivi, la risposta del sistema sensoriale è infatti approssimata da una funzione logaritmica.

Matematicamente, tale relazione può essere espressa nella forma:

P(t) = k · ln(t / t₀)

dove P(t) rappresenta il tempo percepito, t il tempo reale trascorso, t₀ una costante di riferimento e k un fattore di scala.

La caratteristica della funzione logaritmica è che essa cresce in maniera monotona, ma con derivata progressivamente decrescente. Ciò implica che incrementi identici del tempo reale corrispondono a incrementi via via minori del tempo percepito.

Consideriamo, ad esempio, due intervalli temporali della stessa durata.

Tra i 9 e i 10 anni, un anno rappresenta circa:

1/9 ≈ 11%

della vita vissuta fino a quel momento.

Tra i 50 e i 51 anni, invece, esso rappresenta soltanto:

1/50 = 2%

L'importanza relativa del secondo intervallo risulta quindi significativamente inferiore rispetto al primo. Se la percezione del tempo dipendesse prevalentemente da variazioni relative dell'esperienza accumulata, sarebbe naturale attendersi che gli anni vengano percepiti come progressivamente più brevi.

Da questa osservazione deriva anche l'idea, secondo cui intorno ai nove anni sarebbe già stata vissuta circa metà della propria vita "percepita". Va sottolineato che tale affermazione non costituisce una conseguenza matematica della funzione logaritmica. Una curva logaritmica non possiede infatti un punto universale in cui venga raggiunta metà della percezione complessiva del tempo: il risultato dipende dai parametri scelti e dall'intervallo temporale considerato. Il valore di nove anni deve quindi essere interpretato come una semplificazione qualitativa e non come un risultato dimostrato

Oltre ai modelli matematici, la psicologia cognitiva propone un'ulteriore spiegazione basata sui processi di memoria. Durante l'infanzia e l'adolescenza il cervello è esposto a un numero elevato di esperienze nuove, ciascuna delle quali richiede la formazione di nuove rappresentazioni mnestiche. Con l'avanzare dell'età, invece, la vita quotidiana tende generalmente a diventare più ripetitiva, riducendo il numero di eventi distintivi immagazzinati nella memoria episodica.

Secondo questa interpretazione, la sensazione che gli anni trascorrano più rapidamente non deriverebbe da una diversa velocità del tempo, bensì dal modo in cui il cervello organizza e ricostruisce i ricordi. Periodi caratterizzati da numerose esperienze nuove tendono infatti a essere ricordati come più lunghi, mentre periodi più monotoni possono apparire, retrospettivamente, più brevi.

Ovviamente tali modelli riguardano esclusivamente la percezione psicologica del tempo. Essi non implicano alcuna modifica del tempo fisico, che continua a essere descritto dalle leggi della fisica come una grandezza indipendente dalla percezione individuale.

Seguimi per altre curiosità provenienti dal mondo della matematica, dell’informatica e della fisica! Se dopo aver letto questa pillola hai ancora dubbi o se c’è un argomento che vorresti approfondire, non esitare a scrivermi. Sono disponibile anche per sessioni di approfondimento o lezioni individuali via chiamata, su questo e molti altri argomenti!

Seguimi anche su YouTube: www.youtube.com/@Pilloledi_Matematica

Per formalizzare questo concetto, consideriamo una successione di variabili aleatorie X1, X2,…, Xn indipendenti e identicamente distribuite. Supponiamo che ciascuna variabile sia caratterizzata da un valore atteso finito E[Xi] =μ e da una varianza finita e non nulla Var(Xi) = σ².

Definiamo la somma di queste variabili come:

Per le proprietà di linearità del valore atteso e della varianza (data l'indipendenza), avremo che la media della somma è nμ e la sua varianza è nσ²

Poiché al tendere di n all'infinito la varianza esplode, per poter studiare il comportamento limite della distribuzione è necessario operare una standardizzazione. Creiamo dunque una nuova variabile aleatoria Z_n, traslando la somma centrando la sua media sullo zero e scalando la sua varianza a uno:

dove x̄= S_n / n rappresenta la media campionaria. Il teorema centrale del limite afferma che, al crescere di n verso l'infinito, la successione delle variabili aleatorie standardizzate Z_n converge in distribuzione a una variabile aleatoria normale standard Z→N(0,1). In termini della funzione di ripartizione, ciò si esprime come:

Questa convergenza universale spiega il motivo per cui la distribuzione normale occupi un ruolo tanto centrale nella modellizzazione dei fenomeni naturali e sociali. Molteplici grandezze osservabili nella realtà, dagli errori di misurazione alle caratteristiche biometriche, dalle fluttuazioni finanziarie ai segnali nei sistemi di comunicazione, sono il risultato combinato di innumerevoli micro-perturbazioni casuali e indipendenti. Anche quando i singoli fattori non seguono una legge gaussiana, la loro aggregazione cumulativa si distribuisce secondo una curva a campana. Il teorema stabilisce inoltre una proprietà di rilievo per l'inferenza statistica: all'aumentare della numerosità campionaria n, la distribuzione della media campionaria x̄ si concentra sempre più attorno al valore vero μ, con una dispersione che decresce inversamente proporzionale alla radice quadrata di n(σ/√n)
. Questo garantisce la validità di stime e test d'ipotesi anche in assenza di informazioni dettagliate sulla distribuzione sottostante della popolazione.

Seguimi per altre curiosità provenienti dal mondo della matematica, dell’informatica e della fisica! Se dopo aver letto questa pillola hai ancora dubbi sul teorema centrale del limite o se c’è un argomento che vorresti approfondire, non esitare a scrivermi. Sono disponibile anche per sessioni di approfondimento o lezioni individuali via chiamata, su questo e molti altri argomenti! Seguimi anche su YouTube: www.youtube.com/@Pilloledi_Matematica.

Per quantificare questo concetto, Shannon introdusse innanzitutto la nozione di informazione associata a un singolo evento di probabilità p: I(x) = -log₂(p(x)).

L'informazione aumenta al diminuire della probabilità dell'evento: quanto più un evento è improbabile, tanto maggiore sarà la sorpresa associata alla sua osservazione. Inoltre, il logaritmo garantisce che eventi indipendenti abbiano informazioni additive. Se due eventi indipendenti A e B si verificano con probabilità P(A∩B) = P(A) * P(B), allora: I(A∩B) = -log₂[P(A)P(B)] = -log₂(P(A)) - log₂(P(B)) = I(A) + I(B).

Questa proprietà riflette il fatto che l'informazione ottenuta osservando due eventi indipendenti è semplicemente la somma delle informazioni fornite da ciascuno di essi. Tuttavia, nella maggior parte delle applicazioni non siamo interessati all'informazione prodotta da un singolo evento, bensì all'incertezza media associata all'intera sorgente che genera i messaggi. Sia quindi X una variabile aleatoria discreta che può assumere i valori x1, x2, ..., xn con probabilità p1, p2, ..., pn, tale che la somma di pi per i che va da 1 a n sia uguale a 1. L'entropia di Shannon è definita come il valore atteso dell'informazione:

L'entropia rappresenta il numero medio di bit necessari per descrivere il risultato prodotto dalla sorgente, assumendo una codifica ottimale.

Ogni termine -log₂(pi) misura la quantità di informazione prodotta dall'osservazione dell'evento xi, mentre il fattore pi pesa tale contributo in base alla probabilità con cui esso si verifica. L'entropia è la media pesata delle informazioni associate a tutti gli eventi possibili.

Consideriamo due casi limite. Se un evento è certo, P(x) = 1, allora H(X) = 0. In questo caso non esiste alcuna incertezza: il risultato è completamente prevedibile e l'osservazione non produce nuova informazione. All'estremo opposto, supponiamo che tutti gli n eventi siano equiprobabili, pi = 1/n. L'entropia assume il valore: log₂(n)

Questo rappresenta il massimo valore possibile dell'entropia. Quando tutti gli esiti sono ugualmente probabili, infatti, l'incertezza è massima e nessun risultato può essere previsto meglio degli altri. Una proprietà dimostrata da Shannon è quindi che 0 <= H(X) <= log₂(n), dove il limite inferiore si ottiene per una distribuzione completamente deterministica, mentre quello superiore corrisponde alla distribuzione uniforme.

La teoria dell'informazione mostra inoltre che l'entropia stabilisce un limite fondamentale alla compressione dei dati. Il primo teorema di Shannon dimostra infatti che nessun algoritmo di compressione privo di perdita può rappresentare, in media, i messaggi prodotti da una sorgente utilizzando meno di H(X) bit per simbolo.

Sebbene l'entropia di Shannon e quella di Boltzmann siano state sviluppate in contesti completamente differenti, In entrambi i casi compare una misura logaritmica della probabilità degli stati possibili: nella meccanica statistica gli stati sono microstati fisici di un sistema, mentre nella teoria dell'informazione rappresentano i possibili messaggi prodotti da una sorgente.

L'entropia misura quindi l'incertezza associata a un sistema e la quantità media di informazione necessaria per descriverne lo stato.

Seguimi per altre curiosità provenienti dal mondo della matematica, dell'informatica e della fisica! Se dopo aver letto questa pillola hai ancora dubbi sull'entropia di Shannon o se c'è un argomento che vorresti approfondire, non esitare a scrivermi. Sono disponibile anche per sessioni di approfondimento o lezioni individuali via chiamata, su questo e molti altri argomenti! Seguimi anche su YouTube: www.youtube.com/@Pilloledi_Matematica.

Per descrivere un sistema di N particelle (come un gas), dobbiamo distinguere tra due livelli di descrizione:

• Microstato: È la specifica configurazione di ogni particella nel sistema, definita dalle sue coordinate di posizione (q) e momento (p) nello spazio delle fasi.

• Macrostato: È la descrizione del sistema tramite variabili termodinamiche macroscopiche come pressione (P), volume (V) e temperatura (T).

Un singolo macrostato può essere realizzato attraverso un numero enorme di microstati differenti. Boltzmann definì W come il peso statistico o il numero di microstati compatibili con un dato macrostato.

La formula di Boltzmann

La relazione che connette l'entropia termodinamica S al numero di microstati W è espressa dall'equazione:

S = k_blnW

Dove k_b è la costante di Boltzmann (1,38* 10^-23 J/K), che funge da fattore di scala tra la scala microscopica e quella macroscopica. Il logaritmo naturale garantisce che l'entropia sia una funzione estensiva. Se consideriamo due sistemi indipendenti con W₁ e W₂ microstati, il numero totale di configurazioni del sistema composto è W_tot = W₁* W₂. Poiché S deve essere la somma delle entropie (S_tot = S₁ + S₂), la funzione logaritmica è l'unica in grado di soddisfare la relazione:

k_B ln(W₁* W₂) = k_B ln W₁ + k_B ln W₂

Perché l’entropia aumenta? La risposta risiede nel fatto che il sistema evolve spontaneamente verso il macrostato cui corrisponde il maggior numero di microstati (W_max).

Consideriamo un gas che occupa inizialmente metà di un recipiente. Esistono relativamente pochi microstati in cui le molecole sono confinate in un volume V/2. Esistono invece un numero esponenzialmente maggiore di configurazioni in cui le molecole sono distribuite uniformemente nel volume totale V. Poiché il sistema “esplora” casualmente tutti i microstati accessibili, esso finirà inesorabilmente per trovarsi in una delle configurazioni appartenenti all’insieme più numeroso.

L’aumento dell’entropia non è dunque un “imperativo” fisico che forza il sistema verso il caos, ma la manifestazione del fatto che lo stato di equilibrio è lo stato statisticamente più probabile. L’irreversibilità emerge perché la probabilità che un sistema macroscopico torni spontaneamente in uno stato a bassa entropia (come le molecole che si raggruppano da sole in metà stanza) è così infinitesimale da essere nulla su scale temporali umane.

Boltzmann gettò le basi, ma il suo approccio fu poi generalizzato da Josiah Willard Gibbs. Mentre Boltzmann si concentrava sui microstati discreti, Gibbs definì l'entropia per una distribuzione di probabilità continua sulle coordinate dello spazio delle fasi:

Dove rho ρ è la densità di probabilità dei microstati nello spazio delle fasi Γ

Seguimi per altre curiosità provenienti dal mondo della matematica, dell’informatica e dalla fisica! Se dopo aver letto questa pillola hai ancora dubbi sull’entropia o se c’è un argomento che vorresti approfondire, non esitare a scrivermi. Sono disponibile anche per sessioni di approfondimento o lezioni individuali via chiamata, su questo e molti altri argomenti!

Seguimi anche su youtube: www.youtube.com/@Pilloledi_Matematica.

Il problema del corpo nero e la soluzione di Planck

Il corpo nero è un oggetto ideale che assorbe tutta la radiazione elettromagnetica incidente. Secondo la fisica classica, l’intensità della radiazione emessa da un corpo nero dovrebbe tendere all’infinito all’aumentare della frequenza (la cosiddetta “catastrofe dell’ultravioletto”).

Nel 1900, Max Planck risolse tale paradosso ipotizzando che lo scambio di energia tra le pareti del corpo nero e il campo elettromagnetico non avvenisse in modo continuo, ma attraverso il trasferimento di pacchetti discreti di energia, denominati quanti. L’energia di un singolo quanto è espressa dalla relazione:

E = hv

dove h è la costante di Planck (6,626*10^-34 J*s) e v rappresenta la frequenza della radiazione.

L'effetto fotoelettrico e la natura corpuscolare della luce

Nel 1905, Albert Einstein estese l’ipotesi di Planck per spiegare l’effetto fotoelettrico, ovvero l’emissione di elettroni da una superficie metallica colpita da radiazione elettromagnetica. La fisica classica non riusciva a spiegare perché l’emissione dipendesse dalla frequenza della luce e non dalla sua intensità.

Einstein propose che la radiazione stessa fosse quantizzata: la luce non è solo un’onda, ma un flusso di particelle elementari energetiche, successivamente chiamate fotoni. Ciascun fotone possiede un’energia E = hv. L’estrazione di un elettrone dal metallo avviene solo se il fotone incidente possiede un’energia superiore alla funzione lavoro del materiale; aumentare l’intensità della luce significa solo aumentare il numero di fotoni, non la loro energia individuale.

La formulazione di Planck ed Einstein ha stabilito il limite di applicabilità della fisica classica, dimostrando che, su scala microscopica, la natura presenta una granularità fondamentale.

Questi pilastri teorici costituiscono la base su cui è stata successivamente edificata la meccanica quantistica.

Seguimi per altre curiosità provenienti dal mondo della matematica, dell’informatica e dalla fisica! Se dopo aver letto questa pillola hai ancora dubbi sulla teoria dei o se c’è un argomento che vorresti approfondire, non esitare a scrivermi. Sono disponibile anche per sessioni di approfondimento o lezioni individuali via chiamata, su questo e molti altri argomenti!

Seguimi anche su youtube: www.youtube.com/@Pilloledi_Matematica.

La regola del parallelogramma per la somma di vettori

Una delle operazioni fondamentali per i vettori è la somma vettoriale. Dati due vettori a e b, la loro somma a + b si può ottenere geometricamente: si disegnano i due vettori a partire dallo stesso punto, si completano i due lati di un parallelogramma, e la diagonale che parte dall'origine è il vettore risultante.

Oppure algebricamente: si sommano le componenti una a una. Se a = (3, 2) e b = (1, 3), allora a + b = (4, 5).

Moltiplicare per uno scalare

Si può anche "scalare" un vettore: moltiplicarlo per un numero reale λ significa allungarlo o accorciarlo di quel fattore, senza cambiarne la direzione (a meno che λ sia negativo, nel qual caso il verso si inverte). Quindi 2·a è un vettore doppio rispetto ad a, parallelo a esso ma più lungo.

Il prodotto scalare

C’è un’operazione che mette in relazione due vettori e restituisce un numero: il prodotto scalare. Date a = (aₓ, aᵧ) e b = (bₓ, bᵧ), il prodotto scalare è:

a · b = aₓ·bₓ + aᵧ·bᵧ

Geometricamente significa: a · b = |a| · |b| · cos(θ)

dove θ è l'angolo tra i due vettori e |a| indica il modulo (la lunghezza) di a. Questo significa che il prodotto scalare misura quanto i due vettori puntano nella stessa direzione. Se θ = 90°, cos(θ) = 0 e il prodotto scalare è zero: i vettori sono ortogonali, non hanno nessuna componente in comune. Se θ = 0°, i vettori sono perfettamente allineati e il prodotto scalare è massimo.

Questa proprietà è alla base di moltissime applicazioni: dalla fisica (il lavoro di una forza è il prodotto scalare forza·spostamento) all'intelligenza artificiale, dove la somiglianza tra parole viene misurata esattamente così. O in statistica, dove un'osservazione con più variabili è rappresentabile mediante un vettore.

Seguimi per altre curiosità provenienti dal mondo della matematica, dell’informatica e dalla fisica! Se dopo aver letto questa pillola hai ancora dubbi sul funzionamento dei vettori o se c'è un argomento che vorresti approfondire, non esitare a scrivermi. Sono disponibile anche per sessioni di approfondimento o lezioni individuali via chiamata, su questo e molti altri argomenti!

Seguimi anche su youtube: www.youtube.com/@Pilloledi_Matematica

Quando i fattori in gioco diventano troppi, o quando un'equazione è semplicemente troppo densa per essere risolta in tempi umani, i matematici compiono un gesto apparentemente folle: smettono di calcolare e iniziano a “giocare d'azzardo”. Così nasce il Metodo Monte Carlo, una delle tecniche di simulazione statistica più potenti della scienza moderna.

Il metodo è stato inventato dal matematico Ulam. Mentre era malato, costretto a letto, e per passare il tempo giocava a solitario. Da scienziato qual era, iniziò a chiedersi quale fosse la probabilità matematica di riuscire a completare perfettamente quel solitario partendo da un mazzo mescolato. Tentò di calcolare le combinazioni usando l’algebra classica, ma si rese conto che le variabili erano così monumentali da rendere il calcolo umano impraticabile. Fu allora che ebbe un’intuizione: non sarebbe stato più semplice giocare cento partite, annotare i successi e usare quella frazione come stima della probabilità?

Ulam ne parlò con John von Neumann, il padre dei moderni computer. In quel momento, a Los Alamos, gli scienziati stavano lavorando alla fisica dei neutroni per il Progetto Manhattan e la fusione nucleare presentava problemi di diffusione troppo complessi per i metodi matematici tradizionali. Von Neumann capì che i nuovi calcolatori elettronici potevano “giocare a quel solitario” milioni di volte al secondo Lo chiamarono Metodo Monte Carlo, in onore del celebre casinò del Principato di Monaco, in cui la casualità è dominante.

Il principio scentifico di tutto ciò risiede nella Legge dei Grandi Numeri. Il Metodo Monte Carlo non è un semplice “andare a tentativi”, ma è un campionamento probabilistico sistematico. Immaginiamo di voler calcolare l’area di una figura geometrica complessa e asimmetrica inscritta dentro un quadrato di cui conosciamo perfettamente le misure. Invece di integrare funzioni matematiche complesse, iniziamo a generare migliaia, poi milioni, di coordinate spaziali completamente casuali all’interno del quadrato, come se stessimo lanciando granelli di sabbia alla cieca. Monitorando quanti granelli cadono all’interno della figura geometrica rispetto al totale dei lanci, otteniamo un rapporto geometrico. All’aumentare dei lanci, per la Legge dei Grandi Numeri, la frequenza relativa di questi eventi casuali convergerà inevitabilmente verso il valore matematico reale dell’area. In termini scientifici, si trasforma un problema di calcolo integrale in un problema di stima statistica.

Oggi questo approccio ha svariate applicazioni. Ogni volta che guardiamo le previsioni meteo e leggiamo “probabilità di pioggia al 70%”, dietro quella percentuale non c’è una formula statica, ma un algoritmo Monte Carlo che ha simulato migliaia di volte l’evoluzione dei sistemi atmosferici alterando in modo casuale le variabili iniziali. Lo stesso accade nella finanza quantitativa, dove i modelli simulano milioni di possibili scenari di mercato per calcolare il rischio di un investimento.

Seguimi per altre curiosità provenienti dal mondo della matematica, dell’informatica e dalla fisica! Se dopo aver letto questa pillola hai ancora dubbi sul funzionamento del metodo Montecarlo o se c'è un argomento che vorresti approfondire, non esitare a scrivermi. Sono disponibile anche per sessioni di approfondimento o lezioni individuali via chiamata, su questo e molti altri argomenti!

Negli ultimi due articoli abbiamo visto che un Large Language Model (LLM) non è altro che un’enorme mappa geometrica, in cui le parole si attraggono o si respingono in base al loro significato. Ma come fa l’intelligenza artificiale a costruire questa mappa da zero?

Inzialmente un’IA non sa fare assolutamente nulla. Immaginala come una rete fittissima di miliardi di connessioni matematiche (chiamati parametri o pesi), che all’inizio sono impostati su numeri completamente casuali.

Se in questa fase caotica provassimo a scriverle in chat “Il gatto mangia il...”, il modello potrebbe risponderci con parole totalmente slegate come “idrogeno”, “sciare” o “sfumato”. Non c’è logica ne contesto.

Il passaggio che permette di trasformare questo “caos” in un assistente brillante si chiama Training. Vediamo come funziona.

Il Pre-training

Durante il primo passaggio di addestramento all’IA viene data in pasto una quantità di informazione gigantesca : l’intero web, libri digitalizzati, articoli di giornale, enciclopedie…

In questa fase, il computer procede con una logica che abbiamo trattato nella parte 1: la Next Token Prediction.

Il meccanismo è molto semplice:

1. L’algoritmo prende una frase reale da un libro vero, per esempio: “Nel mezzo del cammin di nostra vita”.

2. Nasconde l’ultima parola (“vita”) e prova a indovinarla basandosi solo sulle sue connessioni matematiche.

3. All’inizio, muovendosi a tentoni, l’IA sparerà a caso, magari dicendo “frigorifero”. A quel punto il sistema interviene per correggerla.

La loss function

Per raddrizzare il tiro, si usa usano uno strumento chiamato Loss Function. Ovvero una formula matematica che calcola, attraverso un singolo numero, quanto la risposta data dall’IA sia distante dalla verità. Più la risposta è assurda, più questo punteggio di errore è alto.

L’intero scopo dell’addestramento, da qui in avanti, consiste in un’unica missione: far scendere questo punteggio il più vicino possibile allo zero.

Il Gradient descent

Ridurre l’errore in una rete così complessa non è semplice. Per questo si usa la funziona matematica più importante per l’intelligenza artificiale: il Gradient descend, che lavora insieme ad un meccanismo chiamato Backpropagation (Ne avevamo già parlato nell’articolo relativo alle reti neurali, infatti, le reti neurali sono il motore dell’AI ).

Per visualizzarlo, prova a immaginare l’IA come la cabina di un’astronave, ma con miliardi di manopole e leve (i parametri). Se giri una manopola anche solo di un millimetro, la risposta finale cambia.

Quando l’IA sbaglia a indovinare una parola, la matematica fa un percorso a ritroso lungo tutta la rete neurale (sfruttando il calcolo delle derivate parziali). È come se un supervisore invisibile passasse da ogni manopola dicendo: “Ehi, per colpa tua la risposta è uscita sbagliata. Ruota di un decimo di grado verso sinistra, così la prossima volta proviamo a fare meno errori”.

Dopo svariati calcoli, il modello sviluppa il suo “intuito” e perfeziona la sua mappa geometrica. Le parole ora sono al posto giusto.

C’è però ancora un grosso problema: l’IA adesso sa come completare le frasi in modo fluido, ma non sa ancora fare l’assistente. Se le scrivessi “Mi fai un riassunto di questo testo?”, lei non ti farebbe il riassunto; molto probabilmente continuerebbe a scrivere altri titoli di testi ipotetici, perché il suo unico istinto è quello di “completare il testo”, non di dialogare.

RLHF

Per trasformare questo predatore statistico di parole in un chatbot con cui si possa davvero conversare, si passa all’ultima fase: il Fine-tuning e, soprattutto, il RLHF (Reinforcement Learning from Human Feedback - Apprendimento per rinforzo tramite feedback umano).

In questo passaggio entrano in scena gli esseri umani. Agli addestratori viene chiesto di dialogare con il modello e di valutare diverse risposte possibili, indicando qual è la più utile, la più chiara, la più educata e la più sicura.

Questi dati vengono usati per addestrare una seconda IA, chiamata “Modello di Ricompensa”, che impara a fare il giudice. Se il chatbot principale risponde in modo utile e corretto riceve un “premio” matematico; se risponde in modo sgarbato, inventa fatti o è pericoloso, riceve una penalità.

È l’equivalente digitale del dare un biscottino al cane quando si siede a comando: l’IA corregge per l’ultima volta i suoi parametri per conformarsi a ciò che noi umani riteniamo una buona, utile e sicura conversazione.

Quando oggi apri una chat, poni una domanda complessa e ricevi una risposta che sembra perfetta, ricordati che dietro le quinte non c’è una mente cosciente che sta riflettendo.

Stai assistendo al risultato di miliardi di coordinate numeriche che, grazie alla geometria e al calcolo infinitesimale, si sono allineate perfettamente dopo aver “visto” gran parte della conoscenza prodotta dall’umanità.

Seguimi per altre curiosità provenienti dal mondo della matematica, dell’informatica e dalla fisica! Se dopo aver letto questa pillola hai ancora dubbi sul funzionamento dell’ AI o se c'è un argomento che vorresti approfondire, non esitare a scrivermi. Sono disponibile anche per sessioni di approfondimento o lezioni individuali via chiamata, su questo e molti altri argomenti!

Prevedere la parola successiva basandosi solo sulla vicinanza geometrica del singolo vocabolo non basta. Se la frase è molto lunga, come fa l'IA a non perdere il filo del discorso? Come fa a capire a cosa si riferisce un pronome all'interno di un testo complesso? Il merito è dell'architettura Transformer e del Meccanismo di Attenzione (Self-Attention). Introdotti per la prima volta nel 2017 da un team di ricercatori di Google Brain

La distanza tra le parole è sempre "Uno"

Prima dei Transformer, i vecchi modelli utilizzati per l’analisi dei testi(come le reti neurali ricorrenti) leggevano i testi una parola dopo l'altra, in fila indiana. Questo creava un problema enorme: l'informazione doveva "viaggiare" passo dopo passo lungo la frase. Se una parola all'inizio della pagina era legata a una parola alla fine, l'IA doveva compiere centinaia di passaggi intermedi, finendo per "dimenticare" o diluire il contesto originario.

Il Transformer elimina questo limite con un'intuizione geometrica rivoluzionaria: la distanza computazionale tra qualsiasi coppia di parole in una frase è sempre pari a uno.

Non importa se due parole si trovano una accanto all'altra o a distanza di venti pagine: il modello le analizza tutte contemporaneamente in un unico passaggio matematico. Non c'è più un "prima" e un "dopo" nel flusso di calcolo. Per preservare l'ordine della frase (visto che leggere "il gatto mangia il topo" non è lo stesso che leggere "il topo mangia il gatto"), il Transformer aggiunge alle coordinate di ogni parola un segnale matematico chiamato Positional Encoding, una sorta di etichetta temporale. Una volta fatto questo, Il modello guarda l'intero testo nello stesso istante.

Come funziona la Self-Attention

Il meccanismo di Self-Attention simula un sistema di ricerca in un database. Quando il modello elabora un testo, assegna a ogni singola parola tre vettori diversi:

• Query : Cosa sta cercando questa parola nel testo?

• Key : Che tipo di informazioni offre questa parola alle altre?

• Value : Qual è il vero contenuto semantico della parola se viene scelta?

Immaginiamo di analizzare la frase:

“Il gatto ha rincorso il topo per tutto il giardino, ma alla fine lui è riuscito a scappare.”

Quando l’IA elabora la parola “lui”, lancia la sua Query “Sono un pronome maschile singolare, a quale soggetto della frase mi riferisco?”.

Il sistema confronta matematicamente questa Query con le Key di tutte le altre parole della frase tramite il prodotto scalare.

La Key di "giardino" risponderà: "Sono un luogo". Il prodotto scalare dà un punteggio di attenzione basso.

La Key di "gatto" risponderà: "Sono un animale maschio, soggetto principale". Il punteggio è medio-alto (il gatto è il predatore, difficile sia scappato).

La Key di "topo" risponderà: "Sono un animale maschio, oggetto dell'inseguimento". Il prodotto scalare esplode: punteggio di attenzione altissimo.

A questo punto, il modello usa questo punteggio per pesare il Value di "topo" e fonderlo con quello di "lui". Geometricamente, il vettore della parola "lui" viene "trascinato" verso il vettore di "topo", assorbendone il contesto.

Multi-Head Attention

Il significato di una parola, però, ha mille sfumature. Se l'IA si concentrasse solo su un legame, rischierebbe di perdersi altri pezzi importanti della frase. Per questo i Transformer utilizzano la Multi-Head Attention.

l modello non applica il meccanismo di attenzione una volta sola, ma lo fa decine di volte in parallelo, ognuna focalizzata su un aspetto diverso.

Ad esempio:

Una si occupa solo delle relazioni grammaticali (verbo-oggetto). Un'altra analizza i riferimenti temporali. Una terza si concentra sulle relazioni logiche.

Tutte queste risposte vengono poi sintetizzate insieme attraverso decine di strati neurali sovrapposti.

La struttura Encoder e Decoder

Tutto questo processo avviene all'interno di un'architettura che, nella sua versione originale, è divisa in due grandi blocchi: l'Encoder e il Decoder.

L'Encoder : Prende il testo in entrata, lo scompone, applica la Multi-Head Attention e crea una mappa geometrica ultra-dettagliata.

Il Decoder: Prende la mappa creata dall'Encoder e la usa per generare la risposta, un token alla volta.

I moderni chatbot basati su LLM (come GPT o Claude) sono tecnicamente dei modelli Decoder-only: sono talmente giganti e ottimizzati che riescono a fare sia la comprensione del prompt che la generazione della risposta all'interno dello stesso blocco di calcolo.

Seguimi per altre curiosità provenienti dal mondo della matematica, dell’informatica e dalla fisica! Se dopo aver letto questa pillola hai ancora dubbi sul funzionamento dell’ AI o se c'è un argomento che vorresti approfondire, non esitare a scrivermi. Sono disponibile anche per sessioni di approfondimento o lezioni individuali via chiamata, su questo e molti altri argomenti!

Quando interagiamo con un’Intelligenza Artificiale, abbiamo la sensazione di parlare con un’entità consapevole, qualcuno che “capisce” il significato delle nostre parole e formula pensieri complessi prima di risponderci. La realtà scientifica, però, è molto più meccanica e, se vogliamo, incredibilmente affascinante: al centro di un Large Language Model (LLM) non c’è una mente che comprende, ma un gigantesco ed evolutissimo calcolatore di probabilità statistiche.

La tecnica fondamentale che permette a questi modelli di generare testi coerenti si chiama Next Token Prediction (la predizione del gettone successivo). Per un’IA, infatti, il processo di scrittura non avviene mai per blocchi di frasi intere o capitoli pre-pianificati. Il modello procede un piccolissimo passo alla volta: analizza tutto il testo che ha davanti, calcola qual è il frammento di parola più logico da inserire subito dopo e, una volta scelto, lo aggiunge alla frase per poi ricominciare da capo a calcolare il pezzo successivo.

Un’IA non legge e non scrive sempre per parole intere, ma spezzetta il testo in sillabe, lettere o gruppi di caratteri. Questo le permette di gestire con estrema fluidità anche parole rare, coniugazioni complesse o neologismi.

Immaginiamo questo meccanismo in azione con un esempio molto semplice. Se digitiamo in chat la frase “Il gatto mangia il...”, l’IA non sta pensando a un gatto reale o alle sue abitudini alimentari. Quello che fa è scansionare istantaneamente l’enorme database statistico accumulato durante il suo addestramento per valutare quali elementi testuali, storicamente, sono apparsi dopo quella precisa sequenza di parole.

L’algoritmo formulerà una classifica di probabilità:

• Calcolerà che il token “topo” ha una probabilità schiacciante, ad esempio del 90%, perché è l’associazione più comune nella letteratura e nel web.

• Assegnerà un’ottima percentuale, diciamo il 9%, a una variante perfettamente plausibile come “croccantino”.

• Lascerà una probabilità microscopica, dello 0,001%, a un termine assurdo come “bullone”, che pur essendo un nome maschile non ha alcuna coerenza statistica con il contesto culinario del felino.

A questo punto interviene la scelta. L’IA non sceglie sempre e solo l’opzione al primo posto (altrimenti le sue risposte sarebbero piatte, ripetitive e identiche per chiunque), ma “pesca” all’interno di questo insieme probabilistico usando un pizzico di casualità controllata. Una volta estratto il gettone , supponiamo “topo”, la nuova frase diventa “Il gatto mangia il topo”. Il sistema ingloba questa nuova parola e riparte immediatamente da zero, calcolando la probabilità del gettone successivo, che potrebbe essere un punto fermo o la congiunzione “e”.

È proprio questa velocissima reazione a catena, ripetuta migliaia di volte al secondo, a creare l’illusione di un discorso fluido, intelligente e consapevole, quando in realtà stiamo assistendo all’apice della pura predizione statistica.

I word embeddings

Quando un LLM legge una parola, la traduce immediatamente in un vettore matematico, ovvero una lunga lista di numeri che fungono da coordinate geometriche.

Tuttavia, non parliamo di uno spazio a tre dimensioni (altezza, larghezza e profondità) come quello in cui viviamo noi. Lo spazio semantico di un’IA si estende in migliaia di dimensioni parallele. Ogni singola dimensione rappresenta una sfumatura di significato, una caratteristica o una proprietà astratta della parola (ad esempio: quanto è “animato” un oggetto, quanto è “luminoso”, se è un verbo o un nome, e così via).

Il significato è una vicinanza geometrica

Durante la fase di addestramento, l'IA analizza miliardi di testi e impara a posizionare le parole in questo spazio multidimensionale seguendo una regola fondamentale: parole che compaiono spesso in contesti simili devono avere coordinate simili.

Se prendiamo la parola "cane" e la parola "cucciolo", i loro vettori numerici saranno quasi identici. Significa che nello spazio geometrico dell'IA, questi due punti si troveranno vicinissimi.

Al contrario, la parola "microprocessore" avrà coordinate completamente diverse e si troverà in uno spazio geometrico lontanissimo da quella degli animali domestici.

L'IA non sa cosa sia un cane in carne ed ossa, ma "capisce" il concetto di cane misurando la distanza geometrica che lo separa da tutte le altre parole del mondo.

Esssendo un tema molto attuale e vasto, questo è il primo articolo di una serie riguardante il tema AI.

Seguimi per altre curiosità provenienti dal mondo della matematica, dell’informatica e dalla fisica! Se dopo aver letto questa pillola hai ancora dubbi sul funzionamento dell’ AI o se c'è un argomento che vorresti approfondire, non esitare a scrivermi. Sono disponibile anche per sessioni di approfondimento o lezioni individuali via chiamata, su questo e molti altri argomenti!

La teoria si basa sul principio statistico proposto da Thomas Bayes nel 1763. Il cervello agirebbe come uno statistico che calcola la probabilità di un evento basandosi su tre elementi:

Probabilità a priori P(A): Le nostre aspettative basate sull'esperienza precedente

Verosimiglianza P(B|A): Quanto sarebbe probabile l'indizio sensoriale che stiamo ricevendo se l'ipotesi fosse vera

Probabilità a posteriori P(A|B): Il risultato finale aggiornato.Il compromesso tra ciò che ci aspettavamo e ciò che abbiamo visto.

Un esempio paradossale è questo: Se ti aspetti di vedere un cavallo ma vedi qualcosa che somiglia a un asino, il tuo cervello bayesiano potrebbe farti concludere di aver visto un mulo (il compromesso più probabile).

A livello neurale, il cervello non elabora un singolo valore certo, ma una distanza di probabilità. Dove ogni neurone agisce come un "rivelatore di plausibilità e la nostra coscienza seleziona l'interpretazione più probabile tra le diverse possibilità. Quando guidi nella nebbia o cammini in una stanza buia, il tuo sistema nervoso mette in atto una strategia chiamata inferenza attiva. Questo processo di "prestito" dai ricordi funziona in questo modo : Immagina di trovarti alla guida in una giornata di sole, i tuoi occhi inviano segnali chiari (alta verosimiglianza). Il cervello non ha bisogno di sforzarsi: i dati sensoriali dominano la percezione. Nella nebbia, però, il segnale sensoriale è debole. Se il cervello si fidasse solo di quei pochi dati provenienti dalla verosimiglianza, vedresti solo macchie grigie informi e andresti a sbattere.

Il cervello quindi sposta il "volume" del calcolo sulle informazioni a priori (P(A)). Ad esempio sai che le strade hanno strisce bianche, che i segnali sono a una certa altezza e che gli alberi stanno ai lati. Il cervello usa queste conoscenze per "proiettare" sulla nebbia una ricostruzione di ciò che dovrebbe esserci, basata sui chilometri guidati in passato.

Tuttavia questo prestito dai ricordi è una scommessa probabilistica. L’aspetto positivo è che ti permette di frenare in tempo perché il cervello "vede" la sagoma di un'auto prima ancora che i tuoi occhi ne distinguano i contorni. L’aspetto negativo è che se la tua aspettativa è troppo forte, potresti subire un'illusione, perché il cervello ritiene più sicuro generare un falso allarme che ignorare un potenziale pericolo.

Come apprendiamo

Il cervello impara davvero solo quando le sue scommesse sono sbagliate.

Se l'aspettativa di un evento si avvera (es. senti dolore durante un prelievo che ti aspettavi fosse doloroso), il cervello rimane "rilassato" e risparmia energia. Se invece l'aspettativa viene disattesa, la corteccia prefrontale segnala un errore. In queste condizioni, la corteccia prefrontale lavora al massimo per mantenere il modello del mondo coerente. Finché la realtà coincide vagamente con il tuo modello interno, il cervello procede senza problemi. Se però appare qualcosa di totalmente inaspettato (un oggetto che non rientra nei tuoi "priors"), si verifica un'errore di predizione: il cervello subisce uno shock, e cerca di aggiornare le probabilità.

Come già accennato, questa capacità del cervello non è esente da difetti. Il cervello ha una fretta incredibile di dare senso un a ciò che lo circonda e preferisce giungere a una risposta piuttosto che stare nel dubbio. Un esempio è la Pareidolia: il cervello privilegia così tanto gli schemi familiari che ci fa vedere facce o forme note anche in oggetti inanimati.

Inoltre, dal punto di vista evolutivo il cervello preferisce generare un falso allarme piuttosto che ignorare un pericolo reale, quindi massimizza i falsi positivi.

Oltre alle illusioni , il modello bayesiano spiega anche i bias cognitivi, ovvero quegli errori sistematici di ragionamento che influenzano le nostre scelte quotidiane.

Il cervello attribuisce un peso enorme alle "informazioni a priori", influenzando le nostre decisioni sulla base di ciò che abbiamo incontrato in passato. Se un ristorante ci ha sempre soddisfatto, continueremo a sceglierlo "scommettendo" sulla sua qualità anche senza prove recenti. Spesso finiamo anche per percepire solo ciò che ci aspettiamo di vedere, ignorando ciò che realmente accade se non rientra nei nostri schemi mentali.

In sintesi, nostro cervello è un incredibile simulatore che ci permette di agire in modo rapido, ma lo fa trasformando la realtà in una stima soggettiva influenzata da paure, desideri e abitudini.

Seguimi per altre curiosità fisiche e matematiche! Se dopo aver letto questa pillola hai ancora dubbi sul funzionamento del cervello bayesiano o se c'è un argomento che vorresti approfondire, non esitare a scrivermi. Sono disponibile anche per sessioni di approfondimento o lezioni individuali via chiamata, su questo e molti altri argomenti!

Se sei su un'astronave che viaggia al 90% della velocità della luce e accendi un faro, ti aspetteresti che la luce vada più veloce per chi ti guarda da fuori. Invece no. Tutti, in qualunque condizione, misurano sempre c = 300000 km/s.

Per mantenere fissa la velocità della luce ( che è spazio diviso tempo), la natura è costretta a piegare lo spazio e il tempo. Se la velocità non può cambiare, devono cambiare le unità di misura.

La dilatazione del tempo

Tornando all’esempio del treno (questa volta immagina un treno iper veloce che va all’ 80% della velocità della luce). Tu sei seduto esattamente al centro di un vagone.

Il tuo punto di vista

Decidi di fare un esperimento: accendi una lampadina al centro del vagone. La luce viaggia verso la parete anteriore e quella posteriore. Poiché sei al centro e la luce viaggia alla stessa velocità in entrambe le direzioni, vedi la luce colpire le due pareti nello stesso identico istante. Per te, il tempo e lo spazio nel vagone sono "normali".

Il punto di vista di un amico

Il tuo amico ti guarda dalla banchina. Quando accendi la lampadina, lui vede qualcosa di diverso: Mentre la luce viaggia verso la parte anteriore del treno, la parete anteriore si sta allontanando dalla luce (perché il treno corre in avanti). Contemporaneamente, la parete posteriore sta andando incontro alla luce, quindi il tuo amico vedrà la luce colpire prima la parete posteriore e solo dopo quella anteriore.

Questo vuol dire che per l’amico il percorso della luce è più lungo, quindi il tempo misurato è maggiore.

Dato che la velocità della luce è uguale per tutti se lo spazio aumenta deve aumentare anche il tempo.

Questo significa che se potessi viaggiare quasi alla velocità della luce, potresti tornare sulla Terra dopo un anno di viaggio e scoprire che sono passati secoli.

La contrazione delle lunghezze

Come il tempo di dilata, lo spazio si accorcia. Se un’astronave lunga 100 metri si muovesse a velocità relativistiche davanti a te, la vedresti contratta, anche di moltissimo se la velocità fosse prossima a quella della luce.

Per l'astronauta a bordo, è il tempo a scorrere diversamente, ma per te che guardi da fuori, lo spazio deve contrarsi affinché la velocità della luce rimanga costante nei calcoli di entrambi. La cosa incredibile è che per l'astronauta la nave è normalissima.

Non si può superare la velocità della luce

Per capire perché la velocità della luce sia un limite invalicabile, dobbiamo guardare la formula E=mc^2: Einstein, ci insegna che massa ed energia sono la stessa cosa espressa in forme diverse. Quando dai energia a un oggetto per farlo accelerare, quella stessa energia aggiunge massa all'oggetto stesso.

Se provassi a portare un oggetto dotato di massa esattamente alla velocità della luce, la sua massa diventerebbe infinita. Dalla formula E=mc^2 capiamo che se la massa m diventa infinita, anche l'energia E necessaria per muoverla deve essere infinita. Poiché non esiste una fonte di energia infinita nell'Universo, è fisicamente impossibile spingere un oggetto dotato di massa fino a quel limite.

La simultaneità è un'illusione

Einstein ci dice che l'adesso non esiste. Se un'esplosione avviene su Marte e una sulla Terra, due persone che si muovono a velocità diverse potrebbero non essere d'accordo su quale sia avvenuta prima. E avrebbero ragione entrambi. Se l' "adesso" è soggettivo, la distinzione tra passato, presente e futuro diventa un'illusione.

Questa visione dell'universo mette in dubbio il concetto stesso di libero arbitrio, trascinando la filosofia verso il predeterminismo:

Se il "domani" esiste già in una coordinata specifica dello spazio-tempo esattamente come la città di Roma esiste a determinate coordinate geografiche, allora quel domani è già "scritto". In questa prospettiva, le cose non "accadono", semplicemente "sono". L'evento della tua laurea o di un tuo futuro viaggio non sta aspettando di essere creato dalle tue decisioni; è già lì, in attesa che la tua coscienza lo scelga mentre ti muovi lungo la tua linea d'universo.

Quando ti trovi davanti a un bivio e "decidi" di svoltare a destra, la relatività suggerisce che quel momento di decisione è solo un punto nel blocco dove la tua linea d'universo curva a destra. Poiché il blocco è statico, non avresti mai potuto svoltare a sinistra. La sensazione di agonia o incertezza della scelta sarebbe solo un effetto collaterale del fatto che la tua mente elabora le informazioni ignorando la struttura globale del tempo.

Tuttavia va anche considerato che mentre nella Relatività tutto è una traiettoria definita, nella meccanica quantistica vige il Principio di Indeterminazione di Heisenberg(tratteremo meglio questo argomento in un altro articolo): A livello subatomico, è impossibile conoscere contemporaneamente la posizione e la velocità di una particella con precisione infinita. Prima di essere osservata, una particella non "è" in un posto, ma si trova in una sovrapposizione di stati. E se le particelle che compongono i tuoi neuroni non hanno una posizione fissa finché non interagiscono, allora la "linea d'universo" della tua vita non è un binario già tracciato, ma una nebbia di possibilità.

Molti filosofi e scienziati hanno ipotizzato che il libero arbitrio possa risiedere proprio nell'atto dell'osservazione. Se la mente avesse una componente quantistica, allora quel "scegliere quello che il destino ha stabilito” sarebbe l’atto che fa collassare le probabilità in una realtà specifica.

Esiste un’ Interpretazione a Molti Mondi della meccanica quantistica (di Hugh Everett III) : Ogni volta che ti trovi davanti a un bivio, l'Universo si divide, In questa visione, il "blocco" di Einstein non è un unico pezzo di pane, ma un'infinità di blocchi paralleli . In questa visione Il tuo libero arbitrio sarebbe reale perché esplori ogni possibilità, ma la struttura totale resterebbe predeterminata: sperimenti solo un percorso, ma la realtà geometrica è descritta dall’albero delle decisioni .

Quest’ultimo discorso si limita a trattare il libero arbitrio dal punto di vista esclusivamente fisico, ma la realtà di questo concetto è ben più complessa di così. Bisognerebbe considerare molti altri fattori e discipline per avere una visione d’insieme sull’argomento.

Seguimi per altre curiosità fisiche e matematiche! Se dopo aver letto questa pillola hai ancora dubbi sulla relatività ristretta o se c'è un argomento che vorresti approfondire, non esitare a scrivermi. Sono disponibile anche per sessioni di approfondimento o lezioni individuali via chiamata, su questo e molti altri argomenti!

La derivata non è "una formula", ma è l'operatore che descrive il tasso di variazione istantaneo.

Per capire davvero la derivata, dobbiamo risolvere un paradosso geometrico: come si definisce la pendenza di una curva in un singolo punto?

Se pensiamo a una retta, la pendenza è facile da calcolare: basta prendere due punti qualsiasi e vedere quanto si sale rispetto a quanto si avanza. Ma su una curva (una parabola o il profilo di una collina), l’inclinazione cambia continuamente. Se proviamo a calcolarla in un solo punto P, ci scontriamo con un problema: per definire una direzione servono due punti, ma noi ne abbiamo solo uno.

Immaginiamo di tracciare una retta che attraversa la nostra curva in due punti: il punto P che ci interessa e un secondo punto Q, posto a una certa distanza. Questa retta è chiamata secante , perché taglia la curva in due parti.

Iniziamo a far scorrere il punto Q lungo la curva, avvicinandolo sempre di più a P. La distanza tra i due (che in matematica si chiama h) diventa sempre più piccola. Cosa succede alla nostra retta?

Mentre Q si avvicina, la secante ruota e si adatta alla forma della curva. Quando la distanza h diventa infinitamente piccola (ovvero tende a zero), i due punti quasi si sovrappongono. In quel preciso istante, la retta non "taglia" più la curva, ma la sfiora soltanto. La retta secante diventa perciò tangente. La pendenza di questa retta tangente è la nostra derivata.

Matematicamente, questo processo si traduce nel limite del rapporto incrementale:

f'(x) = lim (h -> 0) [f(x + h) - f(x)] / h

Esempi in fisica

Consideriamo un corpo in movimento: Se deriviamo la sua posizione rispetto al tempo, otteniamo la velocità (quanto rapidamente cambia lo spazio). Se deriviamo la velocità, otteniamo l'accelerazione (quanto rapidamente cambia la velocità).

Regole di calcolo

Per operare con le derivate senza dover ricorrere ogni volta alla definizione di limite, utilizziamo delle regole consolidate, ad esempio :

La derivata di una costante è zero: d/dx(c) = 0 (perché una costante non cambia mai).

La regola della potenza: d/dx(x^n) = n * x^(n-1)

Prodotto : (f * g)' = f'g + fg'. La variazione di un prodotto dipende dall'influenza alternata delle due funzioni.

Composizione: (f(g(x)))' = f'(g(x)) * g'(x).

Ci sono molte altre regole operative che non tratteremo in questa pillola.

Ottimizzazione

Le derivate sono centrali nell’ingegneria e nell’informatica per la ricerca di massimi e minimi.

Quando una funzione raggiunge il suo punto più alto(o più basso), la sua pendenza in quel punto è esattamente nulla. Risolvendo l'equazione f'(x) = 0, possiamo trovare i punti critici di un sistema.

Questo concetto è anche alla base del Deep Learning: le reti neurali "imparano" minimizzando una funzione di errore. Attraverso il calcolo delle derivate (il gradiente in questo caso), l'algoritmo capisce in quale direzione "aggiustare" i propri parametri per migliorare le prestazioni.

Seguimi per altre curiosità matematiche! Se dopo aver letto questa pillola hai ancora dubbi sulle derivate o se c'è un argomento che vorresti approfondire, non esitare a scrivermi. Sono disponibile anche per sessioni di approfondimento o lezioni individuali via chiamata, su questo e molti altri argomenti!

L’intuizione umana tende spesso a sovrastimare il significato di un risultato positivo in un test medico molto accurato. Se sappiamo che un esame è in grado di individuare correttamente i malati nel 90% dei casi e sbaglia solo raramente sui sani, siamo portati a credere che una diagnosi positiva sia quasi una certezza di malattia. Tuttavia, la realtà statistica è più complessa perché la nostra mente trascura un elemento decisivo: la rarità dell’evento, ovvero quanto la malattia sia probabile prima ancora di effettuare il test.

Per comprendere questo paradosso, basta osservare come si distribuiscono i numeri su un gruppo di 1000 persone, ipotizzando che la patologia colpisca solo l’1% della popolazione. In questo scenario, avremo solo 10 individui realmente malati a fronte di 990 sani. Un test con una sensibilità del 90% identificherà correttamente 9 di quei 10 malati; tuttavia, applicando lo stesso test alla vasta platea dei sani, anche una piccolissima percentuale di errore produrrà un numero di falsi positivi sorprendentemente alto, circa 99 persone su 990.

Il risultato finale ribalta completamente la nostra percezione iniziale: sommano i 9 malati reali e i 99 sani erroneamente diagnosticati, otteniamo un totale di 108 esiti positivi. Di conseguenza, la probabilità reale di essere malati avendo ricevuto un test positivo è di appena 9 su 108, ovvero circa l’8,3%. Ciò significa che solo una persona su dodici tra quelle risultate positive è effettivamente affetta dalla patologia. Questo fenomeno dimostra come, in presenza di eventi molto rari, i falsi positivi finiscano inevitabilmente per dominare il risultato, rendendo anche un test accurato meno definitivo di quanto il nostro istinto suggerirebbe.

La formula che spiega il teorema di Bayes

P(H∣E)=(P(E∣H)P(H)​)/P(E) dove:

• La probabilità a priori P(H) , rappresenta la probabilità assegnata all’ipotesi prima di conoscere l’evidenza E .

• La probabilità a posteriori P(H|E) , rappresenta l’aggiornamento della probabilità a priori al verificarsi dell’evidenza E .

• La verosimiglianza di E dato H, rappresenta la probabilità condizionata dell’evidenza E data l’ipotesi H.

Il teorema di Bayes rappresenta il pilastro dell’approccio soggettivista alla probabilità, poiché offre un metodo rigoroso per aggiornare il grado di fiducia che riponiamo in un’ipotesi H alla luce di una nuova evidenza E.

Attraverso questo modello, l’informazione smette di essere un dato statico e diventa un processo dinamico: ogni nuova prova osservata ci permette di ricalibrare le nostre convinzioni iniziali, trasformando la probabilità a priori in una probabilità a posteriori più accurata.

Applicazioni del teorema di Bayes: Intelligenza artificiale e scienze cognitive

Nel panorama dell’intelligenza artificiale moderna, il machine learning si configura spesso come un delicato compromesso tra il rigore formale della statistica bayesiana e la realtà della fattibilità computazionale. Sebbene l’approccio bayesiano puro rappresenti l’ideale teorico, esso risulta frequentemente unfeasible a causa della necessità di calcolare distribuzioni a posteriori su spazi di parametri ad altissima dimensionalità, un’operazione che richiederebbe risorse di calcolo quasi infinite. Per ovviare a questo ostacolo, la disciplina ha sviluppato soluzioni trattabili come il Naive Bayes, che rende il calcolo feasible introducendo la drastica semplificazione dell’indipendenza tra le variabili. Laddove invece non si vuole rinunciare alla complessità, si preferisce abbandonare il calcolo esatto in favore di approssimazioni, come le simulazioni Markov Chain Monte Carlo, capaci di stimare l’incertezza senza dover risolvere integralmente equazioni impossibili.

Questo dinamismo tra aspettativa e realtà non appartiene solo alle macchine, poiché sempre più studi di psicologia e scienze cognitive suggeriscono che il cervello umano funzioni “in modo bayesiano”. La nostra mente non percepisce il mondo in modo neutro, ma agisce sovrapponendo le aspettative pregresse, ovvero i nostri prior, alle percezioni sensoriali che fungono da evidenza. In questo processo, le nostre credenze vengono aggiornate in un ciclo continuo di apprendimento. Tuttavia, emerge qui una differenza cruciale rispetto ai sistemi artificiali: l’errore umano non risiede quasi mai nel meccanismo di calcolo in sé, quanto piuttosto nella formulazione dei prior. Gli esseri umani tendono infatti a basarsi su presupposti errati o distorti, dando origine a quei bias cognitivi che rendono il nostro ragionamento affascinante, ma spesso lontano dalla logica perfetta.

Seguimi per altre curiosità matematiche! Se dopo aver letto questa pillola hai ancora dubbi sul teorema di Bayes o se c'è un argomento che vorresti approfondire, non esitare a scrivermi. Sono disponibile anche per sessioni di approfondimento o lezioni individuali via chiamata, su questo e molti altri argomenti!

Una rete neurale è un algoritmo di machine learning che rappresenta il fulcro dell’intelligenza artificiale. Grazie a questa tecnologia, è stato possibile compiere passi da gigante in ambiti come l'NLP (elaborazione del linguaggio naturale), il riconoscimento vocale e numerose altre applicazioni che utilizziamo quotidianamente.

Come funzionano le reti neurali

L’ispirazione architettonica deriva dai neuroni biologici del cervello umano, che comunicano tra loro attraverso segnali elettrici.

Matematicamente, una rete neurale apprende una funzione f(X) mappando un vettore di input X=(x1,x2,…. Xn) per prevedere una risposta Y. Ciò che distingue le reti neurali dagli altri algoritmi di machine learning tradizionali è la loro struttura a strati e la capacità di eseguire trasformazioni non lineari.

Una rete neurale è composta da : livello di input, strati nascosti e livello di output.

• Il livello di input contiene i dati in ingresso da elaborare.

• Negli strati nascosti i neuroni artificiali manipolano i dati tramite pesi (che determinano l'importanza di ogni segnale) e funzioni di attivazione (che stabiliscono se un'informazione è abbastanza rilevante da essere trasmessa allo strato successivo).

• Il livello di output restituisce la previsione finale

Training delle reti neurali

Come ogni algoritmo di machine learning, una rete neurale richiede un addestramento (training) rigoroso per essere efficace. La sua potenza risiede nella capacità di apprendere autonomamente i pesi e i bias ottimali: confrontando la propria previsione con il valore reale Y, la rete misura l’entità dello sbaglio attraverso una funzione di perdita.

Il processo di training si articola in quattro fasi cicliche:

Forward Pass: i dati di input attraversano la rete. In questa fase vengono calcolate le combinazioni lineari tra dati e pesi, generando una previsione iniziale

Calcolo dell’errore: la funzione di perdita quantifica lo scarto tra la previsione ottenuta e il valore reale.

Backpropagation: l’errore viene propagato a ritroso attraverso i vari strati. L’algoritmo calcola con precisione quanto ogni singolo peso e bias abbia contribuito all’errore complessivo.

Aggiornamento dei parametri: i pesi e i bias vengono regolati per minimizzare l’errore nel passaggio successivo.

Questi passaggi vengono ripetuti migliaia di volte sull’intero set di dati. Ogni iterazione permette alla rete di “adattare” i propri parametri interni, affinando le previsioni fino a convergere verso una configurazione che riduca al minimo gli errori e garantisca un’ottima capacità di generalizzazione su dati mai visti prima.

Tuttavia un’eccessiva complessità del modello o un numero sproporzionato di parametri possono portare all’overfitting. Per questo motivo, il bilanciamento tra bias e varianza rimane un nodo cruciale per il successo del modello.

Particolari tipi di reti neurali

Reti neurali convoluzionali(CNN): Sono reti progettate per dati a griglia, quindi eccellono nel riconoscimento delle immagini.

Transformer: Grazie alla loro capacità di comprendere le relazioni a lungo raggio all'interno di un testo, i transformer sono specializzati nell’elaborazione del linguaggio naturale (NLP) e hanno alimentato modelli all’avanguardia come GPT.

Applicazioni delle reti neurali

Le reti neurali catturano strutture non lineari che i modelli statistici classici non riescono a cogliere. Con capacità sufficiente, obiettivi solidi e regolarizzazione contro l’overfitting, passano dall’essere semplici modelli strutture avanzate per l’ elaborazione del linguaggio naturale, riconoscimento vocale, previsione e altro ancora.

Seguimi per altre curiosità matematiche! E non esitare a scrivermi per qualsiasi dubbio riguardante le reti neurali, il machine learning, o se c’è qualche argomento che vorresti trattare nelle prossime pillole.

Il logaritmo è un operatore matematico che risponde alla domanda: “A quale esponente devo elevare la base per ottenere quel numero”?

A primo impatto questa frase può confondere, ma diventa tutto più chiaro confrontando il logaritmo con una potenza corrispondente.

logb(a) = x → b^x= a

Esempio:

log2(8)=3 perchè 2^3= 8

dove b = 2, a = 8 e x = 3

Condizioni di esistenza

a > 0

b > 0 e b diverso da 1

Da cui nascono due tipi di funzione logaritmica:

crescente se b>1

decrescente se 0<b<1

Proprietà fondamentali

Per ogni base n > 0 e n ≠ 1:

logn(ab) = logn(a) + logn(b)

logn(a/b) = logn(a) - logn(b)

logn(a^k) = k(logn(a))

Logaritmi particolari

Ci sono due particolari tipi di logaritmi, caratterizzati da una particolare scelta della base: Il logaritmo naturale e il logaritmo decimale.

Il logaritmo naturale(ln) prende come base il numero di nepero (e) , una costante di fondamentale importanza in matematica.

L’altro è il logaritmo decimale in cui si prende come base 10. Questo logaritmo si rappresenta con log, senza specificarne la base.

Seguimi per altre curiosità matematiche! E non esitare a scrivermi per qualsiasi dubbio riguardante i logaritmi, o se c’è qualche argomento che vorresti trattare nelle prossime pillole.