Le cinque lezioni
Cinque lezioni, ognuna con un laboratorio e un mini-test. Il codice è tutto in pagina.
Che cosa vuol dire sovrano
Le quattro domande della sovranità, il CLOUD Act e l'articolo 48 del GDPR, la scala dei cinque livelli dall'API globale al computer scollegato, e i tre colori per decidere quali documenti restano in casa.
Il modello in casa
Pesi aperti e licenze dei modelli Mistral, la quantizzazione e la memoria che serve, llama.cpp, Ollama e vLLM. Ministral 3 8B acceso sul tuo computer, con la velocità misurata.
L'agente in cento righe
Modello, strumenti e ciclo: un agente in cento righe di Python, senza librerie. Il recinto contro la prompt injection, il cancello prima di scrivere, il registro di ogni azione.
Il registro e il cancello
L'agente fatto girare decine di volte su due modelli. Note dichiarate e mai scritte, conti giusti ricopiati sbagliati, e la versione divisa in cui il modello legge e il codice calcola e scrive.
Scegliere l'architettura e restare in regola
Quanto costa davvero, che cosa chiedono AI Act e GDPR, dieci domande da fare a chi si dice sovrano, tre architetture tipo e la scheda da portare a chi decide.
Descrizione
Quasi tutti usano l'AI incollando documenti in una chat che gira sui server di qualcun altro. Per un listino va bene. Per i contratti dei clienti, le cartelle dei pazienti o i progetti sotto riservatezza è una decisione che qualcuno dovrebbe aver preso, e di solito nessuno l'ha presa.
Questo corso parte da quella decisione e arriva al codice: la sovereign AI intesa come una scelta di gestione, documento per documento, e un modello aperto di Mistral che sul tuo computer diventa un agente.
L'agente l'ho fatto girare decine di volte su due modelli e ho contato che cosa succedeva. I numeri sono nella quarta lezione, e dicono dove un agente sbaglia anche quando sembra che abbia fatto tutto bene.
Il filo è quello del metodo Divide et Delega: il modello legge e decide, i conti li fa il codice, e la firma resta a una persona.
Cosa imparerai
- Le quattro domande che dicono quanto controllo hai su un sistema di AI
- Perché un server in Europa non basta, con il CLOUD Act sotto mano
- Dividere i documenti in tre colori e scegliere il livello per ognuno
- Leggere la licenza di un modello e scegliere la taglia per la tua memoria
- Far girare Ministral 3 8B in locale con llama.cpp
- Scrivere un agente con strumenti, recinto, cancello e registro
- Misurare quanto sbaglia un agente invece di fidarti della sua risposta
- Dividere il lavoro fra modello e codice perché i conti tornino
- Fare i conti dei costi e scegliere un'architettura, anche mista
Dettagli del corso
Strumenti e requisiti
La prima e l'ultima lezione si seguono senza computer; la seconda, la terza e la quarta su un Mac o un PC. Python 3 sul Mac c'è già, e il codice usa solo la libreria standard: niente da installare oltre al motore del modello. Niente da comprare, nessun account.
Da leggere prima, o dopo
Le due voci della wiki
Sovereign AI spiega il concetto senza codice, ed è la pagina da mandare a chi deve decidere. Mistral AI racconta l'azienda, i modelli con le loro licenze, Vibe e i prezzi dell'API.
Se non programmi
Il minicorso La tua AI sovrana fa la stessa strada senza codice, in tre lezioni: i tre colori dei documenti, Vibe di Mistral con le impostazioni giuste, e Ministral 3 sul tuo computer con un'app, con le misure di quello che sbaglia.
Dopo il primo agente
Il corso Gen AI per l'automazione dei processi collega più passi in una catena e insegna a controllarla. Il minicorso Mappare e automatizzare i processi aiuta a scegliere il processo da cui partire.
Un agente sovrano dentro la tua azienda?
Questo corso lo porto anche in azienda: si parte dai vostri documenti e dai vostri processi, e alla fine l'agente gira sulle vostre macchine.