Le cinque lezioni
Si parte da una domanda di gestione (che cosa deve restare in casa) e si arriva a un agente che gira sul tuo computer, legge i tuoi documenti e scrive solo dopo che hai detto sì. Ogni lezione ha un laboratorio e un mini-test. Il codice è tutto in pagina, è stato eseguito, e non chiede di installare librerie.
Che cosa vuol dire sovrano
Le quattro domande della sovranità, il CLOUD Act e l'articolo 48 del GDPR, la scala dei cinque livelli dall'API globale al computer scollegato, e i tre colori per decidere quali documenti restano in casa.
Il modello in casa
Pesi aperti e licenze dei modelli Mistral, la quantizzazione e la memoria che serve, llama.cpp, Ollama e vLLM. Ministral 3 8B acceso sul tuo computer, con la velocità misurata.
L'agente in cento righe
Modello, strumenti e ciclo: un agente in cento righe di Python, senza librerie. Il recinto contro la prompt injection, il cancello prima di scrivere, il registro di ogni azione.
Il registro e il cancello
L'agente fatto girare decine di volte su due modelli. Note dichiarate e mai scritte, conti giusti ricopiati sbagliati, e la versione divisa in cui il modello legge e il codice calcola e scrive.
Scegliere l'architettura e restare in regola
Quanto costa davvero, che cosa chiedono AI Act e GDPR, dieci domande da fare a chi si dice sovrano, tre architetture tipo e la scheda da portare a chi decide.
Descrizione
Quasi tutti usano l'AI incollando documenti in una chat che gira sui server di qualcun altro. Per un listino va bene. Per i contratti dei clienti, le cartelle dei pazienti o i progetti sotto riservatezza è una decisione che qualcuno dovrebbe aver preso, e di solito nessuno l'ha presa.
Questo corso parte da quella decisione e arriva al codice. Nella prima lezione dividiamo i documenti per colore e scegliamo, per ognuno, quanto controllo serve: la sovereign AI intesa come una scelta di gestione, documento per documento. Nella seconda accendiamo un modello aperto di Mistral sul tuo computer. Nella terza gli diamo degli strumenti e diventa un agente, che legge i documenti di una cartella e scrive solo dopo un sì.
La quarta lezione è quella che distingue questo corso dagli altri: l'agente l'ho fatto girare decine di volte su due modelli e ho contato che cosa succedeva. I numeri sono in pagina, e dicono dove un agente sbaglia anche quando sembra che abbia fatto tutto bene. Nella quinta facciamo i conti, leggiamo AI Act e GDPR, e scegliamo dove farlo girare quando smette di essere una prova.
Il filo è quello del metodo Divide et Delega: il modello legge e decide, i conti li fa il codice, e la firma resta a una persona.
Cosa imparerai
- Le quattro domande che dicono quanto controllo hai su un sistema di AI
- Perché un server in Europa non basta, con il CLOUD Act sotto mano
- Dividere i documenti in tre colori e scegliere il livello per ognuno
- Leggere la licenza di un modello e scegliere la taglia per la tua memoria
- Far girare Ministral 3 8B in locale con llama.cpp
- Scrivere un agente con strumenti, recinto, cancello e registro
- Misurare quanto sbaglia un agente invece di fidarti della sua risposta
- Dividere il lavoro fra modello e codice perché i conti tornino
- Fare i conti dei costi e scegliere un'architettura, anche mista
Dettagli del corso
Strumenti e requisiti
Quello che ti serve per seguirlo:
La prima e l'ultima lezione si seguono senza computer. Per la seconda, la terza e la quarta serve un Mac o un PC con almeno 16 GB di memoria, Python 3 (sul Mac c'è già) e sei gigabyte liberi per il modello. Il codice usa solo la libreria standard: niente da installare oltre al motore del modello. Nessuna lezione chiede di comprare qualcosa o di aprire un account.
Da leggere prima, o dopo
Le due voci della wiki
Sovereign AI spiega il concetto senza codice, ed è la pagina da mandare a chi deve decidere. Mistral AI racconta l'azienda, i modelli con le loro licenze, Vibe e i prezzi dell'API.
Dopo il primo agente
Il corso Gen AI per l'automazione dei processi collega più passi in una catena e insegna a controllarla. Il minicorso Mappare e automatizzare i processi aiuta a scegliere il processo da cui partire.
Un agente sovrano dentro la tua azienda?
Questo corso lo porto anche in azienda: si parte dai vostri documenti e dai vostri processi, e alla fine l'agente gira sulle vostre macchine.
