ANGOLO 1729 · APPROFONDIMENTI
Dentro l’intelligenza artificiale, oltre la superficie.
Modelli, agenti, memoria, retrieval, sicurezza, valutazione e deployment. Una serie di approfondimento per capire non solo che cosa fa l’IA, ma come viene progettata, misurata e resa affidabile nei sistemi reali.
Come seguire il percorso
Questa serie parte da concetti già familiari e scende di un livello: dentro le architetture, le metriche, i compromessi e i meccanismi che rendono concreti i sistemi di IA. Gli articoli possono essere letti in sequenza, ma ciascuno è pensato anche come approfondimento autonomo.
Per iniziare — è utile avere familiarità con i concetti di base di modelli linguistici, RAG e agenti.
Per approfondire — entrano in gioco probabilità, metriche, retrieval, state management, sicurezza, quantizzazione e fine-tuning, sempre con esempi e schemi esplicativi.
Gli approfondimenti
Una serie dedicata ai meccanismi, alle metriche e alle scelte progettuali dell’intelligenza artificiale contemporanea.
-
07 – Come si valuta un agente
Task completion, affidabilità, costo, latenza ed error recovery: valutare un agente significa misurare un processo, non soltanto una risposta.
-
08 – Prompt injection: quando i dati diventano istruzioni
Prompt injection diretta e indiretta, tool abuse, data exfiltration e mitigazioni: perché nei sistemi LLM i dati non affidabili possono diventare istruzioni.
-
09 – LLM in produzione: latenza, costo e throughput
Caching, batching, rate limit, fallback, routing e osservabilità: in produzione un LLM va ottimizzato come sistema, non solo come modello.
-
10 – Quantizzazione: cosa si perde davvero comprimendo un modello
FP16, INT8 e INT4: la quantizzazione riduce memoria e costi, ma introduce errore numerico. Il punto è capire quanto si perde davvero sul proprio task.
-
11 – LoRA e QLoRA: adattare un modello senza riaddestrarlo da zero
LoRA e QLoRA riducono drasticamente i parametri da addestrare. Ecco perché funzionano e quando convengono rispetto a RAG e prompt engineering.
-
12 – Piccoli modelli o grandi modelli?
Piccoli modelli specializzati o grandi frontier model? La scelta dipende da qualità, costo, privacy, latenza e deployment, non dalla dimensione in sé.
Un percorso che continua
Dentro l’IA nasce come secondo livello di lettura: dopo aver capito i concetti fondamentali, qui proviamo a vedere che cosa accade davvero quando quei concetti diventano sistemi. Nuovi articoli potranno aggiungersi nel tempo seguendo l’evoluzione di modelli, agenti e infrastrutture.
DALLA MIA BIBLIOTECA
Una selezione più tecnica per approfondire modelli, apprendimento, LLM e progettazione di sistemi di intelligenza artificiale.