Il Monaco e la macchina.

Perché l’IA non capisce ciò che legge.

Quando, tra il V e il VI secolo, il Giappone riceve la scrittura cinese, accade qualcosa di straordinario: una civiltà adotta i caratteri di un’altra per confrontarsi con testi scritti in una lingua profondamente diversa dalla propria, diversa per lessico, sintassi e struttura.

Non si tratta solo di un passaggio storico. In quella frizione tra segno e interpretazione si nasconde una chiave preziosa per comprendere il nostro presente ipertecnologico.

Immaginiamo un monaco giapponese seduto davanti al Sutra del Loto, scritto in cinese classico (wenyan, 文言). Egli contempla segni fissi, immutabili, custoditi dalla tradizione liturgica. Poniamo che legga una formula come questa:

我見諸衆生

ga ken sho shujō

Contemplo l’insieme degli esseri viventi

Ma quel testo non appartiene realmente alla sua lingua parlata, né alla sua grammatica quotidiana. Eppure il monaco lo legge. Lo fa oscillando tra due piani distinti: da una parte la lettura fonetica rituale, che conserva il suono consacrato del testo; dall’altra una rielaborazione sintattica che rende quel contenuto intelligibile alla mente giapponese. In una possibile resa interpretativa: ware sho no shujō o miru.

Qui si apre una frattura decisiva: lo stesso testo può essere attraversato come suono oppure ricostruito come senso. Il significato non è dato una volta per tutte; emerge da un sistema di lettura.

È proprio questa dinamica millenaria ad aiutarci a capire come le Intelligenze Artificiali Generative leggono il mondo, e perché tale modalità di lettura rappresenti una nuova frontiera della sicurezza cognitiva.

L’illusione della comprensione.

L’errore più frequente che commettiamo quando interagiamo con un Large Language Model è l’antropomorfismo. Tendiamo a credere che la macchina “capisca” il contenuto nello stesso modo in cui lo capirebbe un essere umano, cioè accedendo a una profondità semantica interna, stabile, intenzionale.

La realtà è più sottile.

Il modello riceve una sequenza di simboli — i token — e li attraversa attraverso un sistema di correlazioni, pesi, probabilità, ricorrenze. Non legge il significato come presenza viva e posseduta; ne ricostruisce una configurazione probabilistica. Produce coerenza, non necessariamente comprensione nel senso umano del termine.

In questo senso, il testo non ha davvero un “dentro” accessibile in modo assoluto. Ha invece molteplici possibilità di attivazione interpretativa.

Un kanji, nel contesto giapponese, può avere letture differenti — on’yomi o kun’yomi — a seconda della posizione, della funzione, del contesto culturale e grammaticale. Allo stesso modo, un token in un sistema di IA non possiede un valore fisso e sostanziale: assume rilievo all’interno di una rete dinamica di relazioni.

Il problema, per la sicurezza, nasce precisamente qui. Se il significato non risiede interamente nel dato, ma anche nel modello che lo interpreta, allora la difesa non può più limitarsi alla protezione dell’informazione. Deve estendersi al controllo dei sistemi di lettura.

Il significato non è “dentro” il testo in modo stabile, ma emerge da un sistema di lettura; dunque, nell’era dell’IA, la sicurezza non riguarda solo i dati ma anche i regimi di interpretazione.

Il kanbun come archetipo dell’interpretazione guidata

Per rendere leggibili i testi cinesi in un contesto linguistico giapponese, i giapponesi svilupparono pratiche raffinate di mediazione, note sotto il nome di kanbun. Attraverso segni diacritici e annotazioni di lettura, il testo originario non veniva modificato, ma il lettore veniva istruito su come percorrerlo: dove invertire l’ordine sintattico, dove integrare elementi sottintesi, come adattare una struttura straniera a una mente locale.

Questa pratica può essere letta, in senso analogico, come una forma proto-tecnica di istruzione dell’interpretazione.

Non si cambiano i dati di base.
Si cambia il modo in cui essi vengono letti.

È una dinamica sorprendentemente vicina a ciò che oggi chiamiamo prompt engineering. Anche nel rapporto con un’IA generativa, infatti, spesso non interveniamo sul corpus sottostante, sul dataset o sull’architettura profonda del sistema: interveniamo sulle istruzioni che guidano l’elaborazione, orientando il percorso interpretativo del modello.

Ed è qui che si apre un terreno cruciale di rischio.

Perché chi controlla le glosse invisibili — le istruzioni, i prompt, i vincoli contestuali, i filtri, le priorità di inferenza — esercita un potere diretto sull’output finale. E chi controlla l’output controlla, in parte crescente, anche la percezione della realtà dell’utente.

Le moderne minacce di prompt injection, manipolazione contestuale, distorsione del framing e alterazione del consenso si muovono precisamente in questo spazio: non alterano sempre il dato in sé, ma il dispositivo che ne governa la lettura.

Dal dato al modello: il cambio di paradigma nella sicurezza

Per decenni, la cybersecurity ha lavorato soprattutto sul perimetro. Il compito era difendere il dato: impedirne il furto, la perdita, la modifica non autorizzata, l’accesso abusivo.

Nell’era dell’IA questo approccio resta necessario, ma non è più sufficiente.

Il problema si sposta verso la governance dei sistemi di interpretazione.

Vecchia Sicurezza (Dato)	Nuova Sicurezza (Interpretazione)
Protezione della riservatezza del dato	Monitoraggio dei bias del modello
Integrità del database	Robustezza contro prompt injection e manipolazione contestuale
Controllo degli accessi	Trasparenza dei processi di “decodifica”
Sicurezza del perimetro	Governance del sistema di lettura

Se uno stesso contenuto può generare interpretazioni divergenti a seconda del modello, del contesto o delle istruzioni ricevute, allora la vulnerabilità non è più soltanto nel che cosa leggiamo, ma nel come quella lettura viene prodotta.

Questo mutamento ha conseguenze enormi. Riguarda la medicina, dove un sistema può riformulare dati clinici in modi differenti; la finanza, dove una raccomandazione automatizzata può modificare comportamenti e aspettative; la politica, dove la selezione, il riassunto e la gerarchizzazione delle informazioni incidono sulla formazione del consenso; il diritto, dove l’interpretazione assistita da sistemi generativi può produrre semplificazioni persuasive ma fuorvianti.

La nuova alfabetizzazione

Il monaco e la macchina condividono una medesima solitudine strutturale: entrambi si trovano davanti a segni che non possiedono intrinsecamente, e che devono ricostruire attraverso un dispositivo di lettura.

La differenza è che oggi questa lettura non avviene più tra le mura di un tempio o in uno spazio colto e separato. È diventata l’infrastruttura invisibile che sostiene decisioni quotidiane, economiche, sanitarie, giuridiche e politiche.

Essere #gentesicura oggi significa allora promuovere una nuova alfabetizzazione. Non basta più saper leggere e scrivere nel senso tradizionale. Dobbiamo imparare a comprendere come le macchine ci leggono, come ricostruiscono il senso, come gerarchizzano il rilevante, come trasformano istruzioni invisibili in rappresentazioni del mondo.

Chi detiene il monopolio del sistema di lettura detiene anche il potere di definire ciò che appare vero, ciò che appare importante e ciò che appare pericoloso.

La vera difesa, in questo secolo, comincia dalla consapevolezza che il significato non è mai neutrale. È sempre il risultato di un atto tecnico, culturale e politico di interpretazione.

---

English summary

In The Monk and the Machine, Giovanni Bigazzi argues that generative AI does not truly “understand” what it reads in the human sense. To explain this, he uses a historical analogy: when Japan adopted Chinese writing, Japanese readers had to interpret texts written in classical Chinese through a guided system of reading, balancing ritual sound and reconstructed meaning. The same written signs could therefore be processed either as sound or as sense, depending on the reading system applied.

The article suggests that large language models operate in a comparable way. They do not access meaning as an inner, stable reality; instead, they process tokens through statistical correlations, probabilities, and contextual relations. What they produce is often coherence rather than genuine semantic comprehension.

From this perspective, the core issue is not only the protection of data, but also the governance of interpretation. Bigazzi compares the Japanese kanbun reading system to a proto-technology of guided interpretation and links it to modern prompt engineering: the underlying text may remain unchanged, while instructions shape how it is read and what output is produced.

This shift has major consequences for cognitive security. Threats such as prompt injection, contextual manipulation, framing distortion, and consensus alteration do not necessarily corrupt the data itself; they influence the interpretive system that processes it. The article concludes that a new form of literacy is now required: people must learn not only to read texts, but also to understand how machines read, rank, and reconstruct reality.

Key points

• Generative AI does not understand like humans do: it generates probabilistic coherence rather than intentional meaning.
• Meaning emerges from a reading system: it is not fully contained inside the text itself.
• The monk as analogy: the Japanese monk reading classical Chinese embodies the gap between fixed signs and reconstructed sense.
• Kanbun as guided interpretation: annotations and reading conventions instruct the reader how to produce meaning without changing the original text.
• Prompt engineering as modern glossing: prompts, filters, and contextual instructions shape AI output by steering interpretation.
• From data security to interpretive governance: in the AI era, security must protect not only information, but also the systems that decode and frame it.
• Cognitive security: the new frontier of defense concerns how reality is reconstructed, summarized, and prioritized by machines.
• New literacy: citizens must learn how machine interpretation works in order to remain autonomous and critically aware.