2Cos'è un LLM, in parole semplici

Quando scrivi un messaggio sul telefono, la tastiera ti suggerisce la parola successiva: scrivi «ci vediamo» e propone «domani». Un modello linguistico fa la stessa cosa, ma è enormemente più capace: ha imparato da una quantità immensa di testi e riesce a continuare non solo una frase, ma una lettera, un riassunto, un programma.

Tutto quello che farai con CrewAI si appoggia su questo motore. Capire come funziona, anche solo a grandi linee, ti fa capire perché gli assistenti a volte sono brillanti e a volte sbagliano in modo sorprendente, e perché si paga «a pezzetti di testo».

Una macchina che continua il testo#

Un LLMLLM: Large Language Model, grande modello linguistico: un programma addestrato su enormi quantità di testo che, data una frase, prevede le parole che seguono. È il motore di ChatGPT, Claude, Gemini. glossario (dall'inglese Large Language Model, grande modello linguistico) è un programma che, dato un testo, calcola quale pezzo di testo è più probabile che venga dopo. Poi lo aggiunge e ricomincia. Non ha una tabella di fatti da consultare: ha imparato come si susseguono le parole in un'enorme quantità di frasi, e da quelle regolarità ricava risposte che spesso sono giuste.

Il file (o il servizio) che contiene un LLM già pronto si chiama ModelloModello: Il file (o il servizio online) che contiene un LLM già addestrato. Ogni modello ha un nome, per esempio gpt-4o o qwen2.5:7b. glossario. Ogni modello ha un nome: nel corso userai per esempio gpt-4.1-mini, un modello online dell'azienda OpenAI, oppure qwen2.5:7b, un modello gratuito che può girare sul tuo computer.

Una conseguenza importante: il modello conosce il mondo solo fino al momento in cui è stato addestrato. Se gli chiedi il risultato di una partita di ieri, non può saperlo da solo. Vedremo nel prossimo capitolo come si supera questo limite.

I token: i pezzetti del testo#

Un modello non legge lettera per lettera né parola per parola. Legge TokenToken: Il pezzetto di testo con cui ragiona un modello: una parola corta, un pezzo di parola o un segno di punteggiatura. Secondo le stime di OpenAI, in inglese un token vale in media circa ¾ di parola. I servizi a pagamento contano (e fanno pagare) i token. glossario: pezzetti di testo che possono essere una parola corta, un pezzo di parola, uno spazio con una parola, un segno di punteggiatura. Ogni modello ha il suo modo di tagliare il testo.

Ecco come uno dei sistemi di taglio usati da OpenAI (si chiama o200k_base) divide alcune frasi. Il risultato è vero, ottenuto con il programma ufficiale tiktoken; il puntino · indica uno spazio che fa parte del token.

Nota due cose. La frase italiana sul gatto, più corta di quella inglese, richiede un token in più: i testi con cui sono addestrati i modelli sono in gran parte in inglese, quindi le parole inglesi comuni restano spesso intere, mentre quelle italiane vengono tagliate più spesso. E una parola rara e lunga diventa molti pezzi.

Perché ti interessa? Per due motivi pratici. Primo, i servizi online fanno pagare a token, sia quelli che mandi sia quelli che ricevi. Secondo, i limiti dei modelli (quanto testo possono leggere, quanto possono scrivere) si misurano in token, non in parole.

Il prompt: cosa gli chiedi#

Il testo che dai al modello si chiama PromptPrompt: Il testo che dai in ingresso a un modello: domanda, istruzioni, esempi. La qualità della risposta dipende molto dalla chiarezza del prompt. glossario. Può essere una domanda, un'istruzione, un documento da riassumere con la richiesta di riassumerlo, qualche esempio di come vuoi la risposta. Il modello non ha altro da cui partire: se il prompt è vago, la risposta sarà generica.

Il secondo prompt dice chi scrive a chi, con quale tono, quanto deve essere lungo il testo e quali informazioni contenere. È quasi sempre questa la differenza tra una risposta da buttare e una da usare. Tienilo a mente: in CrewAI passerai molto tempo a scrivere testi che descrivono il ruolo di un assistente e il risultato che ti aspetti, e quei testi finiscono proprio dentro il prompt.

Il ciclo, un token alla volta#

Mettiamo insieme i pezzi. Ecco cosa succede quando un modello riceve il prompt «La capitale d'Italia è».

1. Il prompt viene diviso in token (qui sono 6).
2. Il modello calcola, per ogni token che conosce, quanto è probabile che venga subito dopo. «·Roma» è molto probabile; «·una» (come in «è una città…») è possibile; «·blu» è quasi impossibile.
3. Ne sceglie uno, di solito tra i più probabili.
4. Il token scelto si aggiunge in fondo al testo e il giro ricomincia con il testo allungato: ora il modello calcola cosa viene dopo «La capitale d'Italia è Roma».
5. Quando sceglie un token speciale che significa «fine», la risposta è completa e torna a te.

Questo spiega un fatto che forse hai già notato: la stessa domanda può dare risposte diverse. Il modello non sceglie sempre il token più probabile in assoluto, ma pesca tra quelli probabili, e una scelta diversa all'inizio porta la frase su una strada diversa. Spiega anche perché una risposta lunga richiede più tempo: ogni token è un giro in più.

La finestra di contesto: quanto tiene a mente#

Un modello può considerare solo una certa quantità di testo alla volta. Questa quantità si chiama finestra di contestoFinestra di contesto: Quanti token un modello riesce a considerare tutti insieme in una volta (prompt + risposta). Oltre quel limite, il testo più vecchio va tagliato o riassunto. glossario e si misura in token: comprende il prompt e la risposta che sta scrivendo. Cambia molto da un modello all'altro ed è indicata nella scheda che ogni azienda pubblica per i suoi modelli.

C'è un punto che sorprende quasi tutti: il modello non ricorda nulla tra una richiesta e l'altra. Ogni volta riparte da zero e vede solo il testo che riceve in quel momento. Quando in una chat sembra che ricordi quello che hai scritto prima, è perché il programma della chat gli rimanda ogni volta l'intera conversazione. Se la conversazione diventa più lunga della finestra di contesto, le parti più vecchie vanno tagliate o riassunte, e il modello «dimentica».

Perché a volte inventa#

Un modello costruisce frasi plausibili, non controlla se sono vere. Di solito le due cose coincidono, perché nei testi che ha letto le frasi vere sono molto più comuni di quelle false. Ma quando l'informazione è rara, recente o semplicemente non esiste, il modello continua a produrre il testo più plausibile, e il testo più plausibile può essere falso. Questo si chiama AllucinazioneAllucinazione: Quando un modello scrive con sicurezza una cosa falsa o inventata. Succede perché il modello genera testo plausibile, non verifica fatti. glossario.

Un esempio illustrativo: se chiedi «Parlami del pittore aretino Gualtiero Menchi, attivo nell'Ottocento» (un nome inventato per questo corso), un modello può rispondere con date di nascita, opere e musei credibili, tutti inventati. Non mente di proposito: completa il testo nel modo più probabile per una biografia di un pittore dell'Ottocento.

Chatbot, provider e API#

Di solito incontri un modello dentro un ChatbotChatbot: Programma con cui si conversa per messaggi. Risponde, ma di norma non agisce da solo nel mondo esterno. glossario, cioè un programma con cui si conversa per messaggi: ChatGPT, Claude, Gemini. Il chatbot è la «vetrina»: una pagina con una casella di testo che, dietro le quinte, manda i tuoi messaggi a un modello e ti mostra la risposta.

L'azienda o il servizio che mette a disposizione il modello si chiama ProviderProvider: L'azienda o il servizio che offre il modello: OpenAI, Anthropic, Google, oppure Ollama sul tuo computer. In CrewAI si scrive come prefisso: openai/gpt-4o. glossario. OpenAI, Anthropic e Google sono provider di modelli online; esistono anche programmi gratuiti che fanno girare un modello direttamente sul tuo computer, e li vedremo nel capitolo 7.

I tuoi programmi, invece, non usano la pagina del chatbot: parlano con il provider attraverso un'APIAPI: Application Programming Interface: una "porta" con regole precise attraverso cui un programma chiede un servizio a un altro. I modelli online si usano via API. glossario. Un'API è come lo sportello di un ufficio: c'è un modulo con campi precisi da compilare (quale modello, quale prompt), lo consegni, e ricevi una risposta in un formato preciso. Non vedi cosa succede dietro lo sportello, e non ti serve saperlo.

Per usare l'API di un provider online bisogna farsi riconoscere, così il provider sa a chi addebitare i token consumati. Come si fa, e come si evita di spendere, lo vedremo nel capitolo 7. Per ora basta ricordare la catena: il tuo programma scrive un prompt, lo manda via API al provider, il modello genera la risposta token per token, la risposta torna al programma.

Un modello, da solo, può solo scrivere testo. Nel prossimo capitolo vedi come si passa da un chatbot che risponde a un agente che agisce: cerca, legge, controlla e riprova.

Corso indipendente, non affiliato a CrewAI Inc. Contenuti verificati su CrewAI 1.15.21 il 15 settembre 2026.