Lezione 5: Scegliere l'architettura e restare in regola

Obiettivi della lezione

Abbiamo un agente che gira in casa, un registro e un cancello. Resta da decidere dove farlo girare quando smette di essere una prova: sul portatile, su un server in ufficio, su macchine dedicate in un data center, o attraverso un'API europea per i documenti che lo permettono. Questa lezione mette in fila i conti, le regole e le domande da fare a un fornitore, e finisce con una scheda di scelta per il tuo processo.

Alla fine della lezione riesci a:

• Fare il conto di quanto costa un agente via API, e capire perché il risparmio non è il motivo per tenerlo in casa;
• Riconoscere quale ruolo ti dà l'AI Act quando costruisci un agente e quando lo usi, e quali obblighi valgono già oggi;
• Collegare il registro della Lezione 4 a quello che chiedono GDPR e AI Act;
• Fare a un fornitore che si dice sovrano le domande che separano il controllo vero dall'etichetta;
• Scegliere un'architettura per il tuo processo, anche mista.

Il conto dei soldi, fatto sul serio

Prendiamo un agente che lavora tutti i giorni su un flusso medio di documenti: duecento al giorno, ognuno da circa tremila token letti, con trecento token scritti per ognuno. In un mese da 22 giorni lavorativi fanno 13,2 milioni di token letti e 1,32 milioni scritti. Con il listino di Mistral letto l'11 ottobre 2026, in dollari per milione di token:

L'endpoint europeo costa 1,1 volte il listino, quindi qualche centesimo in più. Il risultato è netto: un modello piccolo via API costa meno di un caffè al mese, e nessun computer comprato apposta si ripaga con quei numeri. Chi tiene un agente in casa lo fa per le quattro domande della Lezione 1, cioè per il controllo, e conviene dirselo con onestà prima di presentare il progetto a chi firma la spesa.

Il conto cambia in due casi. Il primo è quando i volumi diventano grandi e i modelli grandi: a quel punto si confronta il listino con il noleggio di macchine dedicate, che Mistral vende come Mistral Compute e altri fornitori europei vendono con nomi diversi. Il secondo è quando il computer c'è già: un Mac o un PC con 16 o 24 GB di memoria fa girare Ministral 3 8B, e allora il costo in più è la corrente e il tempo di chi lo tiene aggiornato.

Che cosa chiede l'AI Act, oggi

Il regolamento europeo sull'intelligenza artificiale (UE 2024/1689) distingue chi fornisce un sistema da chi lo usa, che nel testo italiano si chiama deployer. È fornitore chi sviluppa un sistema di AI e lo mette in servizio con il proprio nome, anche gratis; è deployer chi lo usa sotto la propria autorità per lavoro. Un'azienda che si costruisce l'agente della Lezione 3 e lo usa al suo interno si trova facilmente in tutti e due i ruoli.

Le date sono cambiate a luglio 2026 con l'omnibus digitale (regolamento UE 2026/1744), e la ricostruzione completa sta nell'articolo AI Act: obblighi e date dopo l'omnibus del 2026. Per un agente come il nostro contano tre punti:

• Alfabetizzazione (articolo 4), dal 2 febbraio 2025. Dopo l'omnibus chiede a fornitori e deployer di prendere misure per sostenere la competenza sull'AI di chi usa i sistemi per loro conto, e precisa che non obbliga a garantire un livello preciso per ogni persona. Chi usa un agente deve sapere come funziona e dove sbaglia: la Lezione 4 serve anche a questo.
• Trasparenza (articolo 50), dal 2 agosto 2026. Se l'agente parla direttamente con delle persone, per esempio risponde ai clienti, deve essere chiaro che stanno parlando con un sistema di AI, salvo che sia evidente dal contesto. Il nostro agente lavora sui documenti senza parlare con nessuno; il giorno che lo metti a rispondere alle mail, questo obbligo entra in gioco.
• Alto rischio, dal 2 dicembre 2027. Se l'agente decide su cose che l'allegato III considera ad alto rischio, come la selezione del personale o l'accesso al credito, arrivano obblighi pesanti. Fra questi, l'articolo 26, paragrafo 6: chi usa un sistema ad alto rischio conserva i log generati automaticamente, per quanto sono sotto il suo controllo, per almeno sei mesi. Il nostro registro.jsonl è esattamente quel tipo di log, e averlo fin dall'inizio costa una funzione di cinque righe.

E il GDPR

Quando nei documenti ci sono dati personali, il GDPR viene prima dell'AI Act ed è in vigore da otto anni. Tre articoli toccano direttamente la scelta del livello.

• Articolo 28. Se un fornitore elabora i dati per conto tuo, è un responsabile del trattamento e serve un contratto scritto che dica che cosa fa con i dati. Al livello 4 questo fornitore non c'è.
• Articoli 44-49. I trasferimenti fuori dall'Unione richiedono una base: una decisione di adeguatezza, come il Data Privacy Framework, o garanzie come le clausole contrattuali tipo. Anche un fornitore europeo può usarle: Mistral scrive nel suo centro assistenza che i dati sono ospitati in Europa per impostazione predefinita e possono essere trasferiti temporaneamente fuori dall'Unione ai suoi subfornitori, con le clausole tipo dell'articolo 46.
• Articolo 35. Per i trattamenti che presentano un rischio elevato serve una valutazione d'impatto prima di partire. Un agente che legge cartelle cliniche o dati dei dipendenti ci finisce quasi sempre dentro.

Il registro della Lezione 4 aiuta anche qui, a una condizione: dentro ci finiscono pezzi dei documenti letti, quindi il registro stesso contiene dati personali. Va tenuto con lo stesso colore dei documenti che registra, e va cancellato quando non serve più.

Le domande da fare a chi si dice sovrano

Le prime sei vengono da cose che Mistral stessa scrive nella sua pagina sull'IA sovrana e nella documentazione; le ho trasformate in domande perché valgono per qualunque fornitore, Mistral compresa.

1. Dove avviene il calcolo, e dove stanno chiavi, fatturazione e statistiche d'uso? Sono due risposte diverse, e un endpoint regionale ne copre una.
2. Quali funzioni restano nella regione? Su quelle che non ci restano (agenti con memoria, file, batch) la garanzia geografica cade.
3. La conservazione zero dei dati vale per tutte le funzioni che uso?
4. In caso di guasto, i dati possono finire in un'altra regione? Mistral scrive che il failover non deve spostare l'AI verso aree non approvate: chiedi che sia nel contratto.
5. Chi sono i subfornitori, e dove stanno?
6. Se chiudo il contratto, che cosa mi resta? La pagina di Mistral lo dice così: i diritti di licenza e di utilizzo dovrebbero restare validi dopo la fine del rapporto commerciale. Vale per i pesi e per gli adattamenti fatti sui tuoi dati.
7. Con quale licenza sono i pesi? Apache 2.0 permette l'uso commerciale senza condizioni; la licenza MIT modificata di Mistral Medium 3.5, per esempio, esclude le aziende con un fatturato mensile sopra i 20 milioni di dollari. Si legge sul file della licenza, non sulla pagina commerciale.
8. A quale legge risponde la società che gestisce le macchine? È la domanda del CLOUD Act.
9. Posso avere i log di quello che ha fatto il sistema? Senza log non c'è registro, e senza registro non c'è controllo.
10. Posso cambiare modello senza riscrivere tutto? Se il fornitore usa un formato di chiamata standard, come quello della Lezione 3, la risposta è sì.

Tre architetture tipo

Le situazioni più frequenti stanno in una di queste tre, e la terza è la più comune.

L'architettura mista è dove il lavoro della Lezione 1 si ripaga: avendo diviso i documenti per colore, la scelta del motore diventa una riga di codice che guarda il colore. Il codice della Lezione 3 è scritto apposta perché il motore si cambi con un indirizzo.

Laboratorio: la scheda di scelta

Obiettivo: una pagina che puoi portare a chi decide, con l'architettura scelta per il tuo processo e il perché.

Consegna

1. Riprendi l'inventario della Lezione 1 e conta quanti documenti hai per colore.
2. Stima i volumi: quanti documenti al giorno, quanto lunghi. Fai il conto dei token come nella tabella qui sopra, con il modello che hai provato.
3. Scegli l'architettura fra le tre, o scrivine una tua, e per ogni colore scrivi il motore e l'indirizzo.
4. Rispondi alle dieci domande per il fornitore che hai scelto, anche se il fornitore sei tu. Dove non trovi la risposta in una fonte scritta, segnalo.
5. Scrivi il nome di chi tiene in piedi il sistema, di chi legge il registro e ogni quanto.
6. Riprendi la tabella della Lezione 4 e scrivi quale modello usi e quanto spesso sbaglia sul tuo compito, misurato.

Mini-test di autoverifica

Sezione A: risposta multipla

1. Per un flusso medio di documenti, un modello piccolo via API costa al mese:
   a) centinaia di euro   b) pochi dollari   c) migliaia di euro   d) niente
2. Il motivo principale per tenere un agente in casa è:
   a) il risparmio   b) la velocità   c) il controllo su dati, modello e continuità   d) la qualità delle risposte
3. Un'azienda che si costruisce un agente e lo usa al suo interno, per l'AI Act:
   a) non c'entra   b) può essere sia fornitore sia deployer   c) è solo deployer   d) è solo fornitore
4. L'obbligo di dire che si sta parlando con un'AI (articolo 50) si applica dal:
   a) 2 febbraio 2025   b) 2 agosto 2026   c) 2 dicembre 2027   d) 2 agosto 2028
5. I log di un sistema ad alto rischio, per chi lo usa, si tengono almeno:
   a) un mese   b) sei mesi   c) dieci anni   d) non si tengono
6. Il registro dell'agente contiene pezzi dei documenti letti, quindi:
   a) si pubblica   b) va trattato con lo stesso colore dei documenti   c) si cancella ogni sera   d) non conta per il GDPR

Sezione B: risposta aperta

7. (3 punti) Scegli una delle dieci domande per il fornitore e spiega quale rischio concreto copre, con un esempio del tuo lavoro.
8. (3 punti) Descrivi un'architettura mista per un processo che conosci: quali documenti vanno dove, e come l'agente sceglie il motore.

Riassunto della lezione