Epanortosi artificiale: cos'è?

«Anzi, è un talk su di voi»

0:00 «Questo è un talk sull'intelligenza artificiale. Anzi, è un talk su di voi.» «Non è solo un prodotto, è un'esperienza.» «Più che un corso, un percorso.» «Definirlo un assistente è riduttivo.» «Ottima domanda, anzi, fondamentale.» Non sono impazzito. Intanto, buongiorno a tutti.

0:21 Le frasi che vi ho appena letto contengono una figura retorica. La conoscete? Alzi la mano chi conosce questa figura retorica. Lei, signora, laggiù, la conosce? In queste frasi c'è una figura retorica che le accomuna tutte. «Più che un corso, un percorso», per esempio. Oppure: «Definirlo un assistente è riduttivo».

0:48 Quando si fa la correzione ci sono sempre due termini, X e Y. Qui uno dei due è implicito: può esserlo, non deve essere per forza esplicito. «Assistente» è il termine che viene corretto, e quello che lo sostituisce non si dice: potrebbe essere aiutante, o chatbot, o qualsiasi altra cosa. Abbiamo il termine da correggere, e l'altro non si vede. Quindi la frase corregge, cioè in realtà riformula: ora lo vediamo.

1:24 Tutte queste frasi contengono una figura retorica che non conosciamo, e oggi la scopriamo insieme: è lo scopo di questo talk. In pochi, in questa sala, sanno che cos'è.

Si chiama epanortosi

1:37 Bene. Questa figura retorica si chiama epanortosi. Una parola molto complicata. Buongiorno, signori. Conoscete questa figura retorica, l'epanortosi? Ne avete mai sentito parlare? Se vi dico frasi del tipo «Questo è un corso, anzi un percorso», le avete mai sentite? No.

2:06 Allora oggi la scopriamo insieme. Come dicevo, si chiama epanortosi e viene dal greco. Guardiamo un attimo l'etimologia: è composta da tre parole, epì, anà, órthosis. Órthosis in greco vuol dire correggere; epì, presso, sopra, verso; anà, su, in alto. Quindi correggere verso l'alto: in altre parole, raddrizzare. È un'operazione di raddrizzamento, ma di che cosa? Del discorso.

2:37 E noi esseri umani la usiamo tutti i giorni. Quando diciamo a qualcuno «ci vediamo alle otto, anzi, facciamo le otto e mezza», abbiamo appena compiuto un'azione epanortotica: ci siamo corretti. «È bravo, bravissimo.» Oppure andiamo al bar la mattina e chiediamo un caffè macchiato; la barista ci dice «lo vuoi macchiato?», e noi: «No, no, scusami, mi sono sbagliato, volevo un cappuccino». Ci siamo corretti. Quante volte lo facciamo ogni giorno? Tantissime. È una cosa che non conoscevamo: adesso sappiamo come si chiama, e in realtà la usiamo tutti i giorni.

3:14 Perché ci interessa? Qual è l'argomento di questo talk? Ci interessa perché anche le intelligenze artificiali la usano: per chi è arrivato dopo, è quello che dicevamo nella prima slide. Quindi oggi vediamo insieme perché le intelligenze artificiali usano questa figura retorica.

Tre forme

3:29 Intanto guardiamo meglio l'epanortosi, che si presenta in tre forme. Come dicevo prima, e lo ripeto, nell'epanortosi ci sono sempre due termini. Un termine viene presentato nella frase. Facciamo un esempio: c'è qualcosa che è buono, e noi diciamo che è buono. Poi questo «buono» lo correggiamo: «anzi, eccellente». Che cosa abbiamo fatto? Abbiamo enfatizzato, perché la seconda parola è più forte della prima. Abbiamo corretto quello che volevamo dire rialzandolo. È la forma enfatica.

4:07 Oppure possiamo attenuare quello che vogliamo dire, al ribasso: «è brutto, anzi, non è carino». O ancora: «è un disastro, anzi, un imprevisto». Abbiamo smorzato il primo termine che avevamo messo nella frase.

4:22 Se invece mi correggo come nell'esempio di prima, «ci vediamo alle otto, anzi no, alle otto e mezza», non sto dando un significato enfatico e non sto ribassando quello che ho appena detto: mi sto correggendo. Invece delle otto, ci vediamo alle otto e mezza. Allora sto riformulando.

4:40 Quindi ci sono tre direzioni dell'epanortosi, possiamo chiamarle anche così. Quella che l'intelligenza artificiale usa in maniera più evidente è quella enfatica: tende a rialzare il contenuto del discorso.

4:54 Rivediamo il titolo della prima slide: «Questo è un talk sull'intelligenza artificiale. Anzi, è un talk su di voi.» Dov'è l'epanortosi? Di solito viene introdotta da un connettivo, in questo caso «anzi». Era un talk sull'intelligenza artificiale, e abbiamo corretto dicendo che è un talk su di voi. Qui potremmo discutere se sia enfatica o no. Di solito la classificheremmo come una riformulazione, perché abbiamo sostituito il termine a cui ci riferiamo; però qui è soggettivo. Se ci consideriamo più importanti, e lo siamo, possiamo dire che anche questa è un'epanortosi enfatica.

L'esperimento: «Il gatto mangia sul…»

5:35 Allora, se questa figura è tipica del parlato umano e la usiamo tutti i giorni, perché l'intelligenza artificiale la usa nello scritto? Intanto, alzi la mano chi ha generato testi con l'IA. Avete mai usato l'intelligenza artificiale per generare testi? Perfetto. ChatGPT, Claude, Gemini, va bene qualsiasi: la tecnologia che ci sta dietro è la stessa. Ora tenete la mano alzata se avete già visto frasi del genere: «Non è un corso, è un percorso.» L'avete già vista? Ve l'ho appena fatta vedere io, quindi se non l'avevate vista prima di oggi l'avete vista adesso.

6:11 Bene, ora facciamo un esperimento che abbiamo fatto anche ieri e che faremo anche domani, e vi invito a rifarlo anche se l'avete fatto ieri, perché è molto simpatico. Anche tu, Manuel, se lo vuoi fare. Prendete i vostri telefoni, se avete un'app di intelligenza artificiale. Ieri abbiamo visto che è molto divertente, anche se non sembra. Lei, signora, ce l'ha? ChatGPT, Claude, sul telefono? No. «Meglio», dice lei, giustamente. È più serena, e sono d'accordo.

6:49 Che cosa succede? Se scrivete questa frase così come si presenta, «il gatto mangia sul», senza chiedere nient'altro, e inviate il messaggio, per esempio a ChatGPT, molto probabilmente vi risponderà completando la frase: «Il gatto mangia sul tavolo, sul pavimento, sul divano o sul letto?». Oggi a me ha dato «sul tetto»: anche «tetto» esce, a volte. Letto, tetto. Comunque, tendenzialmente, e l'abbiamo visto anche ieri, il risultato più probabile è «tavolo». Esce molto spesso. A te è uscito tavolo. Ieri era uscito spesso tavolo, e anche divano.

7:45 Perché succede? Ragioniamo un attimo sulla frase. Io vi avevo detto di scrivere «il gatto mangia sul…», e l'intelligenza artificiale completa con «tavolo». È strano, no? I gatti mangiano sui tavoli, di solito? No. Allora perché l'intelligenza artificiale dice «sul tavolo», o anche «sul divano»? C'è anche «pavimento», come probabilità, però la più probabile è «tavolo». E statisticamente, nella realtà, non è così probabile che i gatti mangino sui tavoli. Però in inglese c'è una frase molto diffusa, che si usa tanto quando si impara l'inglese: The cat is on the table. Il gatto è sul tavolo.

Un motore di probabilità

8:24 Oh! Abbiamo appena scoperto come funziona l'intelligenza artificiale. È un motore probabilistico: sceglie la parola successiva in base a quanto è probabile, e vince la più frequente nei testi che ha letto. Poi c'è anche un'altra ragione, il verbo «mangiare», che spesso e volentieri è associato al tavolo, soprattutto in Occidente, dove mangiamo a tavola. Quindi l'intelligenza artificiale non comprende nulla: calcola e basta. Non capisce che stiamo parlando di gatti. Vede la parola «mangia», vede una frase come The cat is on the table, e completa con «tavolo».

8:58 È lo stesso motivo per cui l'intelligenza artificiale non funziona finché non le diamo un prompt: predice la parola successiva, e se non iniziamo la frase non può completarla. Anche quando le chiediamo, non so, il senso della vita, non ci sta spiegando il senso della vita: sta completando la frase nel modo più probabile. «Tavolo» è più probabile per l'addestramento che ha avuto.

Primo motivo: i dati di addestramento

9:20 Quindi il primo motivo per cui abbiamo il fenomeno che stiamo guardando insieme, l'epanortosi, sono proprio i dati di addestramento. Come sono state fatte le intelligenze artificiali? Si è presa una scorciatoia: per costruire questi motori che completano le frasi, e completarne il più possibile, servivano tantissimi dati. E dove sono stati presi? Da internet, gratis. Li hanno presi le aziende che le hanno sviluppate.

9:50 Però il web è pieno di testi di copywriting, come si chiamano in gergo: testi motivazionali, pagine di vendita. Oppure testi presi da Twitter, che hanno un limite di caratteri. Non è pieno di romanzi o di testi scientifici. Che cosa ha comportato? Che i dati di addestramento hanno spostato la probabilità verso frasi di questo tipo, tipiche dei siti che vendono qualcosa. Ti devono vendere un corso? «Non è solo un corso, è un percorso.» «Non è un limite, anzi, è un'opportunità.» «Non vendiamo scarpe, vendiamo libertà.» Tutte frasi da marketing. Per questo ChatGPT parla come un venditore del web.

Secondo motivo: il preference tuning

10:41 Il secondo motivo ha un nome tecnico, non vi spaventate: si chiama preference tuning. Chi ha usato ChatGPT un po' di più l'avrà visto: a volte, quando scrivete un prompt in una chat, vi risponde con due risposte e vi fa scegliere quella che preferite. Quando lo fate state dando un feedback al produttore dell'intelligenza artificiale, e gli state dicendo quale risposta preferite. Tutte queste preferenze le riusano per allineare meglio le probabilità.

11:17 Tendenzialmente le persone preferiscono la risposta con l'epanortosi, perché è più persuasiva, più convincente di una frase oggettiva. «Il report è pronto: ho controllato i dati di ottobre» è una frase neutra. Quanto è più convincente una frase come «Non è solo un report, è una bussola per le tue decisioni»? Sono frasi grandiloquenti: sembra chissà che cosa stiamo facendo di importante. All'utente piace, l'utente dice «mi piace», e così rinforziamo ancora di più i dati verso l'epanortosi.

Terzo motivo: scrive come se parlasse

11:48 E poi il terzo motivo, che sta nel meccanismo stesso di questi sistemi. Sono sistemi generativi probabilistici, e generano parola per parola. L'avrete visto usandoli: quando scrivono una risposta la scrivono parola per parola. A volte sono così veloci che sembra scrivano frase per frase, o tutto insieme, ma si vede che vanno parola per parola. E man mano che scrivono si aggiorna la probabilità della parola successiva: ogni parola, e la sequenza delle parole, viene calcolata in modo dinamico, in tempo reale. Non c'è una pianificazione a monte. Mentre scrive, continua a scrivere.

12:29 Cosa significa? Che il modello si può correggere solo in avanti: man mano che scrive continua a scrivere, e non può tornare indietro. Allora l'IA scrive come se parlasse. E di questa cosa nessuno, veramente nessuno, si è ancora reso conto: pensiamo di usare questi strumenti per scrivere, quando in realtà parlano. Quando noi scriviamo possiamo correggere, tornare indietro e cancellare, ma soprattutto pianifichiamo quello che scriviamo. L'intelligenza artificiale non pianifica nulla: inizia, scrive, e parla, come quando parliamo noi.

12:59 E infatti, che cosa ho detto all'inizio? L'epanortosi è una figura retorica tipica del parlato. Quando parliamo perdiamo spesso il filo del discorso, ed è proprio quando perdiamo il filo, quando ci sbagliamo, che usiamo l'epanortosi. Nelle interazioni normali, come «buongiorno», «buonasera», «grazie», «prego», dove le espressioni che usiamo fra di noi sono codificate, l'epanortosi non c'è: usiamo parole che abbiamo ormai assorbito, e non facciamo discorsi lunghi o complessi. L'epanortosi viene fuori quando cominciamo a parlare davvero, ed è per questo che anche l'intelligenza artificiale la tira fuori quando, tra virgolette, fa discorsi più complessi, cioè su testi più lunghi.

Venti parole da ricordare

13:42 Ora facciamo un gioco, e scopriamo insieme il motivo psicologico per cui sia noi esseri umani sia le intelligenze artificiali usiamo questa figura retorica. Molto veloce: vi mostro venti parole, le leggiamo insieme ad alta voce e cercate di memorizzarle. Casa, mela, treno, sole, libro, gatto, chiave, mare, sedia, pane, nuvola, scarpa, fiume, lampada, cane, ponte, latte, vento, matita e orologio. Guardatele ancora un attimo.

14:20 Perfetto. Quali parole vi ricordate? Brava, ottima memoria. Ponte, vento, scarpa. Ok, rivediamole un attimo. Ottimo, anche scarpa. In realtà questa cosa funziona con un campione di persone più grande, perché anche qui è un discorso di probabilità, e qualcuno l'aveva già vista. E chi ha studiato di più di solito ha la memoria più allenata: anch'io me le ricordo tutte, ho fatto il classico, imparavo le poesie a memoria. Mi ricordo ancora Ille mi par esse deo videtur, ille, si fas est, superare divos, Catullo, e potrei dirvene tante altre, perché ce le facevano imparare a memoria. È ovvio che siamo più allenati.

L'effetto di posizione seriale

15:07 Però, tendenzialmente, la maggior parte delle persone ricorda le prime e le ultime. È un effetto psicologico che si chiama effetto di posizione seriale, descritto da uno psicologo tedesco, Hermann Ebbinghaus, nel 1885. Ieri non c'era la foto, oggi l'abbiamo messa: abbiamo fatto l'upgrade. Il libro è questo, Über das Gedächtnis: non so il tedesco, perdonatemi. I due effetti si chiamano primacy, quando ci ricordiamo le prime parole, e recency, quando ci ricordiamo le ultime.

15:38 Questo effetto lo usa in modo intenzionale chi fa le pubblicità, i siti web, i volantini, e anche i film: soprattutto i film moderni sono molto più forti all'inizio e alla fine, e nel mezzo di solito non succede niente di interessante. Lo si sfrutta per restare più impressi.

16:01 L'effetto di posizione seriale fa sì che noi esseri umani tendiamo a scordarci il centro di un discorso, la parte centrale. Ed è proprio lì che avvengono le epanortosi, sia quando parliamo noi sia quando parlano le intelligenze artificiali. All'inizio e alla fine, introduzione e conclusione sono spesso già codificate: sappiamo già cosa dire. «Buongiorno, come sta, come posso aiutarla» è una frase automatica. È nel centro che dobbiamo ragionare, ed è nel centro che tendiamo a perdere il filo. Ed è quando perdiamo il filo che facciamo le epanortosi.

L'unica disfluenza che ha

16:42 Quando perdiamo il filo, però, noi esseri umani possiamo fare altre cose: possiamo fermarci, ragionare un attimo, fare «mmm», «non mi ricordo», «un attimo». Tutte queste cose si chiamano disfluenze, se vi interessa. L'intelligenza artificiale non può, perché genera in avanti e basta: non si può fermare. E allora che cosa fa? L'epanortosi. L'epanortosi è l'unico strumento correttivo, l'unica disfluenza, si chiama così, che l'intelligenza artificiale possiede, ed è per questo che nei discorsi la usa circa il doppio di noi esseri umani.

Il problema è la dose

17:19 Ci sono anche ricerche e studi che cercano di eliminarla. Ma questo è un problema, perché se la eliminassimo i testi dell'intelligenza artificiale non sarebbero più umani. Testi, immagini, video: l'intelligenza artificiale è pensata come uno strumento per sostituirci. Spoiler: non dovrebbe essere così. Però, se usiamo l'intelligenza artificiale per scrivere i testi, sostituiamo l'essere umano. È chiaro che i produttori puntano a un effetto il più umano possibile, ed eliminarla sarebbe un problema, perché noi la usiamo. Non è che non la debba usare: il problema è che la usa troppo, e dovremmo trovare un modo per mitigare il fenomeno.

18:04 Io mi occupo di questo argomento da anni, e c'è anche un paper che ho pubblicato da poco, che è la fonte di questa presentazione. Chi fa ricerca in questo ambito, come in ogni cosa, va in due direzioni. Chi porta l'acqua al mulino dei produttori di intelligenza artificiale cerca di eliminarla del tutto. Per noi è anche un indicatore per riconoscere il testo generato dall'intelligenza artificiale: da solo non basta, perché sui testi scritti dalle persone sbaglia spesso, però conta.

Il rischio vero: scrivere come le macchine

18:56 Ma dal mio punto di vista il rischio reale per noi esseri umani, al momento, è scrivere come le macchine. Chi scrive oggi, chi legge, chi guarda i social è inondato da testi generati dall'intelligenza artificiale, in cui l'epanortosi, come abbiamo visto, è sovrarappresentata. E lo stile si assorbe: a forza di leggere testi così, si comincia a scriverli. Quindi, appunto, il rischio è scrivere come le macchine.

Una domanda: come si misura

20:04 Prego. (Una domanda dal pubblico, che il microfono non prende.) Esattamente. L'avevo messo ieri, poi l'ho tolto perché sennò si allungava troppo; poi vi lascio il link completo. Lo studio è diviso per generi. Abbiamo preso dei testi e li abbiamo divisi per genere: discorsi, romanzi, articoli di giornale, voci enciclopediche, saggi. Il paper è disponibile online, gratis, e dopo vi lascio il link.

20:41 Per ogni genere abbiamo misurato una baseline, cioè un tasso medio delle persone, e poi lo stesso tasso nei testi dell'intelligenza artificiale. Nei discorsi le persone usano in media 14,9 epanortosi ogni 10.000 parole; i modelli, nello stesso genere, 33,5. Non so se l'ho spiegato bene. Esatto. Quindi in base al genere cambia: nei discorsi è circa il doppio, in italiano quasi il triplo; nel giornalismo e nelle voci enciclopediche è come la usiamo noi; nei romanzi e nelle risposte informali la usa addirittura meno.

Il regalo, e un QR che non va

21:38 Ora vi faccio un regalo. Sul mio sito ho messo a disposizione una guida per scrivere meglio con l'intelligenza artificiale, e soprattutto per studiare meglio questo fenomeno da soli. Provate a scansionare il QR code. Non va. Tanto questo giochino non lo rifaccio, l'ho fatto già ieri. Non va questo QR code perché… anzi no, scherzo: vi ho fatto un'epanortosi. Dovevo fare questa battuta. Siamo quasi alla fine, ve lo prometto: tra pochissimo arriva il QR code.

Perché sono ottimista

22:06 Una piccola chiusura personale: questa è la mia riflessione su questo argomento, sperando di avervelo spiegato nel modo più corretto e che abbiate capito l'impatto di questa cosa. Adesso ci sono due correnti, chi è positivo rispetto all'intelligenza artificiale e chi è più negativo: ottimismo e pessimismo.

22:26 Io sono ottimista. Perché? Perché nella storia l'essere umano ha già raggiunto un livello tecnico in cui la maggior parte delle persone aveva più o meno le stesse competenze. Per esempio a metà dell'Ottocento: dopo secoli passati a inseguire il realismo, avevamo padroneggiato l'arte pittorica a tal punto che è arrivata la fotografia. L'obiettivo in quel periodo era il fotorealismo nella pittura, e il fotorealismo si è raggiunto con la tecnica, la tecnica che ha prodotto la fotografia.

22:56 Allora arriva la nuova generazione di artisti e dice: aspetta, ma io a questo punto sono inutile, non posso più fare niente. La tecnica ce l'hanno tutti, tutti sanno fare, come faccio a raggiungere un livello così alto? E dicono: a questo punto non mi interessa più catturare il fotorealismo, non voglio più essere realista, voglio catturare l'essenza di quello che vedo. Nasce così l'impressionismo, che prende il nome da questo quadro bellissimo di Monet, uno dei miei quadri preferiti, del 1872. Il titolo, non so il francese, perdonate, è Impression, soleil levant: un'impressione di sole che si leva.

23:35 Vedete, è tutto blu, ed è chiaro che non è realistico: è un'impressione di quel momento. Un critico d'arte, alla prima mostra degli impressionisti, nel 1874, vede questo quadro, una parte del titolo è Impression, e da quel titolo viene il nome del gruppo: impressionismo, impressionisti.

24:02 E allora che cosa succede? Dal mio punto di vista, quando la tecnica raggiunge un livello così alto ed è alla portata di tutti, come fu con la fotografia, emergono l'arte, la creatività, la sensibilità personale. Perciò speriamo, ed è il mio motto, l'intelligenza umana, che questa possa essere un'epoca in cui liberiamo l'intelligenza umana. Grazie.

La guida, il paper e le altre spie

24:26 E qui vi ho lasciato, adesso davvero, una guida (ieri mi sa che non funzionava) con degli strumenti tecnici per scrivere meglio con l'intelligenza artificiale e per essere un po' più consapevoli quando la usate. È una guida sul mio sito, e sempre sul mio sito trovate il paper integrale. Il titolo è Artificial Epanorthosis, epanortosi artificiale. Sarà difficile da cercare? No. Se cercate «epanortosi» su Google sono il terzo o quarto risultato, perché non ne parla nessuno.

25:09 Questa cosa viene dalla mia tesi di laurea magistrale, e ho coniato questo termine, artificial epanorthosis, epanortosi artificiale, perché l'epanortosi artificiale, rispetto a quella umana, l'abbiamo capito insieme, nei discorsi è sovrarappresentata, e soprattutto nella versione enfatica.

25:37 Potrei stare qui a parlarne a lungo: io cerco di riassumerlo in quindici minuti, ed è difficile. Ci sono anche altri segnali, per esempio gli elenchi, perché molto spesso usano gli elenchi puntati. Oppure figure come la grandiloquenza, cioè espressioni del tipo «sono un architetto del cambiamento», che non vuol dire niente. Per lo più sono figure vuote, ma anche lì, se si fanno gli studi, il discorso è analogo a quello che vi ho fatto: i dati di addestramento.

26:08 Un'altra cosa molto diffusa è l'assertività: i modelli di intelligenza artificiale sono molto assertivi. (Grazie, buona giornata, buon proseguimento.) Sono assertivi per via del preference tuning: se diciamo «preferisco questa risposta a quest'altra», gli stiamo dicendo noi che cosa ci piace, e ci piace se ci risponde in modo assertivo. Quindi anche per gli altri indicatori le cause sono più o meno comuni, sempre quelle tre: i dati, il preference tuning e la generazione parola per parola.

26:50 Se volete seguirmi, su Instagram ho un canale di divulgazione dove parlo di questi argomenti. Ho un pubblico piccolo, ristretto, perché sono di nicchia, ma lo faccio perché spero di diffondere un po' di consapevolezza sull'uso dell'intelligenza artificiale. Di nuovo, vi ringrazio, e buon proseguimento.

Trascritta dall'audio e ripulita da ripetizioni e false partenze del parlato. Dove in sala ho detto qualcosa di impreciso, un numero o una data, la trascrizione è corretta sul paper, e qualche passaggio è stato tolto: in quei punti il testo e il video non coincidono.