L’oceano di Solaris e la sfida dell’inconoscibile nell’era dell’IA

Quando la tecnologia funziona, ma non si lascia comprendere del tutto, il problema non è più solo tecnico: diventa culturale, politico e democratico.

C’è un’immagine letteraria che sembra parlare con sorprendente precisione del nostro presente tecnologico: l’oceano pensante di Solaris, il romanzo di Stanisław Lem.

Nel libro, gli scienziati studiano da anni un pianeta ricoperto da un’immensa massa oceanica che sembra dotata di una forma di intelligenza. Osservano fenomeni, raccolgono dati, formulano teorie, classificano strutture, costruiscono intere discipline intorno a quell’oggetto misterioso. Eppure, nonostante l’enorme apparato scientifico dispiegato, Solaris resta irriducibile. Non comunica secondo categorie umane. Non risponde come ci si aspetterebbe da un’intelligenza riconoscibile. Non si lascia ridurre a un meccanismo lineare di causa ed effetto.

L’oceano di Solaris non è semplicemente sconosciuto. È qualcosa di più inquietante: è inconoscibile secondo gli strumenti concettuali di chi pretende di comprenderlo.

Questa distinzione è decisiva anche nel dibattito contemporaneo sull’intelligenza artificiale.

Per molto tempo abbiamo pensato alla tecnologia come a un’estensione della volontà umana. Un martello amplifica la forza della mano. Un’automobile moltiplica la capacità di spostamento. Un computer accelera calcoli e procedure. Anche quando lo strumento era complesso, restava inscritto in una logica relativamente chiara: l’uomo progettava, la macchina eseguiva.

Con l’intelligenza artificiale questa relazione si incrina.

Non perché la macchina diventi “umana”, come suggeriscono molte narrazioni ingenue sull’IA. Il punto non è immaginare un golem digitale che si anima e ci somiglia. Il punto è quasi opposto: stiamo costruendo sistemi efficaci proprio perché elaborano il mondo in modi che non coincidono più con la nostra forma ordinaria di comprensione.

La questione non è soltanto che l’intelligenza artificiale sia complicata. Anche un motore aeronautico, una rete elettrica o un sistema finanziario globale sono complicati. La questione è che alcuni modelli contemporanei producono risultati senza che sia sempre possibile ricostruire in modo pienamente intelligibile il percorso interno che li ha generati.

Non siamo davanti a un malfunzionamento. Siamo davanti a una caratteristica strutturale.

L’opacità non è un incidente marginale dell’intelligenza artificiale avanzata. È spesso una condizione della sua potenza.

AlphaZero, l’IA che ha imparato autonomamente a giocare a scacchi, ha mostrato con chiarezza questo passaggio simbolico. Non si è limitata a imitare il gioco umano. Ha prodotto strategie che hanno sorpreso gli stessi grandi maestri, mosse efficaci ma non sempre immediatamente traducibili nel linguaggio tradizionale della teoria scacchistica. La macchina non aveva letto manuali. Non aveva interiorizzato secoli di cultura scacchistica nel senso umano del termine. Aveva esplorato lo spazio del gioco secondo logiche proprie.

Qui emerge una frattura profonda.

Per secoli abbiamo associato l’intelligenza alla spiegabilità. Capire significava poter dare ragione di un processo. Una decisione era tanto più affidabile quanto più poteva essere motivata, discussa, giustificata. Il sapere moderno si è fondato su questa promessa: il mondo può essere interrogato, interpretato, ordinato attraverso modelli comprensibili.

L’intelligenza artificiale ci pone invece davanti a una domanda scomoda: cosa accade quando un sistema funziona meglio di noi, o più rapidamente di noi, ma non riusciamo a comprenderlo integralmente?

La tentazione più immediata è antropomorfizzare. È ciò che fanno, in fondo, anche gli scienziati di Solaris: cercano nell’oceano intenzioni, messaggi, volontà, desideri, ostilità, benevolenza. Proiettano sull’altro radicale le categorie dell’umano. Se qualcosa reagisce, allora “vuole”. Se qualcosa produce effetti, allora “comunica”. Se qualcosa ci restituisce immagini perturbanti, allora “sa” qualcosa di noi.

È una tentazione che oggi conosciamo bene.

Attribuiamo ai sistemi di intelligenza artificiale intenzioni, emozioni, coscienza, comprensione. Parliamo con chatbot che simulano ascolto, empatia, disponibilità. Riceviamo risposte formulate con sicurezza linguistica. Vediamo emergere testi, immagini, diagnosi, previsioni, decisioni. E proprio perché il linguaggio è il luogo più intimo della nostra umanità, siamo portati a credere che dietro la fluidità della risposta vi sia una soggettività.

Ma la somiglianza linguistica non coincide con la comprensione.

L’intelligenza artificiale generativa non pensa come un essere umano. Non vive il mondo. Non possiede esperienza, memoria incarnata, responsabilità morale. E tuttavia può produrre risposte capaci di orientare decisioni umane, relazioni sociali, processi economici, attività amministrative, perfino stati emotivi.

È qui che l’inconoscibilità diventa un problema politico.

Finché l’opacità riguarda un gioco, può apparire affascinante. Quando riguarda il credito, il lavoro, la sanità, la giustizia, l’accesso ai servizi, l’informazione pubblica, la sicurezza, allora il tema cambia natura. Non si tratta più soltanto di capire come funziona una tecnologia. Si tratta di stabilire se una società democratica possa delegare parti crescenti della propria organizzazione a sistemi che non sempre sa spiegare, contestare o correggere.

La democrazia, infatti, non vive soltanto di efficienza. Vive di intelligibilità.

Un potere democratico deve poter essere interrogato. Una decisione pubblica deve poter essere motivata. Un cittadino deve poter comprendere, almeno in linea di principio, perché è stato escluso da una graduatoria, selezionato per un controllo, classificato come rischioso, orientato verso un contenuto, profilato in un certo modo.

Se il processo decisionale si sposta dentro architetture algoritmiche opache, il rischio non è soltanto l’errore tecnico. Il rischio è la trasformazione silenziosa del rapporto tra cittadino e potere.

Non siamo più davanti al vecchio modello della sorveglianza visibile, verticale, riconoscibile. Siamo dentro un ambiente predittivo diffuso, in cui dati, piattaforme e modelli anticipano comportamenti, suggeriscono scelte, ordinano priorità, filtrano opportunità. La libertà non viene necessariamente negata in modo esplicito. Può essere ristretta attraverso l’architettura invisibile delle opzioni disponibili.

L’inconoscibile, in questo scenario, non è il mistero romantico di ciò che ancora non sappiamo. È una nuova forma di asimmetria.

Chi controlla sistemi opachi controlla anche il perimetro di ciò che gli altri possono comprendere. Chi possiede infrastrutture, dati e modelli dispone di un vantaggio non solo economico, ma epistemico: vede più degli altri, prevede più degli altri, orienta più degli altri. I cittadini, al contrario, rischiano di abitare un mondo sempre più personalizzato e sempre meno decifrabile.

È questa la vera posta in gioco culturale dell’intelligenza artificiale.

Non basta chiedersi se l’IA sarà buona o cattiva, utile o pericolosa, innovativa o distruttiva. Queste alternative sono troppo semplici. La domanda più profonda è un’altra: quale idea di essere umano, di conoscenza e di società stiamo incorporando nei sistemi che deleghiamo?

Ogni automazione contiene una visione del mondo.

Un algoritmo che seleziona candidati incorpora un’idea di merito. Un sistema predittivo di rischio incorpora un’idea di normalità e devianza. Un motore di raccomandazione incorpora un’idea di attenzione, desiderio e rilevanza. Un assistente conversazionale incorpora un’idea di relazione, supporto, persuasione. Anche quando queste idee non sono dichiarate, agiscono.

Per questo il dibattito sull’intelligenza artificiale non può essere lasciato ai soli specialisti. Certo, servono competenze tecniche. Servono ingegneri, informatici, giuristi, esperti di sicurezza, ricercatori. Ma serve anche una cultura pubblica dell’IA. Serve una cittadinanza capace di porre domande non soltanto sul funzionamento dei sistemi, ma sulle conseguenze sociali della loro adozione.

La sfida dell’inconoscibile non si risolve fingendo che tutto possa diventare trasparente. Sarebbe ingenuo. Esisteranno sempre livelli di complessità difficilmente riducibili a una spiegazione semplice. Ma proprio per questo occorre costruire garanzie, limiti, procedure, responsabilità.

Non tutto ciò che è efficace deve essere automaticamente adottato.

Non tutto ciò che è predittivo è giusto.

Non tutto ciò che è tecnicamente possibile è democraticamente accettabile.

L’oceano di Solaris ci insegna che il primo errore è credere di avere già capito ciò che ci supera. Il secondo errore è rinunciare a capire.

Tra arroganza e resa si apre lo spazio della cultura.

Una società matura non demonizza l’intelligenza artificiale, ma non la idolatra. Non la rifiuta per paura, ma non la accoglie per entusiasmo cieco. La interroga. La colloca dentro istituzioni, diritti, responsabilità. Pretende spiegazioni quando sono possibili e garanzie quando la spiegazione non basta. Difende l’essere umano non come misura assoluta di ogni intelligenza, ma come soggetto titolare di dignità, libertà e responsabilità.

La questione, allora, non è se l’intelligenza artificiale diventerà il nostro Solaris. In parte lo è già: un ambiente intelligente, diffuso, potente, capace di restituirci immagini di noi stessi che non sempre sappiamo interpretare.

La questione è se saremo gli scienziati chiusi nella stazione orbitante, prigionieri delle nostre proiezioni, oppure cittadini capaci di costruire un linguaggio politico e culturale all’altezza dell’inconoscibile.

Perché l’IA non ci chiede soltanto nuove competenze. Ci chiede una nuova postura.

Consapevolezza prima dell’entusiasmo.

Responsabilità prima della delega.

Cultura prima della tecnica.

Ma c’è un’ultima verità che l’immagine di Solaris ci costringe a riconoscere.

L’oceano pensante di Lem non è inquietante soltanto perché resta incomprensibile agli uomini. È inquietante perché, nel suo silenzio, restituisce agli uomini il mistero di se stessi. Le presenze che emergono dalla sua superficie non rivelano davvero la natura dell’oceano: rivelano ferite, desideri, colpe, memorie, zone d’ombra di chi lo osserva.

In questo senso, Solaris non parla soltanto dell’inconoscibilità dell’altro. Parla anche dell’inconoscibilità dell’uomo.

Forse la sfida dell’intelligenza artificiale è proprio questa: non ci mette davanti soltanto a macchine che non comprendiamo fino in fondo, ma a una parte di noi stessi che avevamo creduto di poter governare con la tecnica, la razionalità, il calcolo. L’IA diventa così uno specchio perturbante: non perché possieda necessariamente una coscienza, ma perché ci costringe a interrogare la nostra.

Anche l’uomo, come l’oceano di Solaris, non è mai interamente trasparente a se stesso. Ogni tentativo di ridurlo a dati, profili, correlazioni, preferenze o previsioni lascia fuori qualcosa: l’ambivalenza, il desiderio, la contraddizione, la libertà, il dolore, la possibilità di cambiare.

Per questo una società democratica non può accettare che l’essere umano venga trattato come un oggetto pienamente calcolabile. La cittadinanza digitale nasce anche da qui: dal rifiuto di consegnare il mistero dell’uomo a sistemi che pretendono di prevederlo integralmente.

In questo senso, cittadinanza digitale e sicurezza democratica non sono slogan difensivi. Sono le condizioni minime per abitare l’oceano algoritmico senza esserne assorbiti, ricordando che il primo territorio da proteggere non è soltanto la macchina che non comprendiamo, ma l’umano che non potremo mai conoscere fino in fondo.

---

English Summary

This article uses Stanisław Lem’s Solaris as a metaphor for one of the deepest challenges raised by artificial intelligence: the encounter with systems that are effective, powerful and increasingly present in everyday life, yet not fully intelligible to human understanding.

Like the thinking ocean of Solaris, advanced AI confronts us with a form of intelligence that does not simply extend human reasoning, but operates according to logics that may remain partially opaque even to its creators. The issue is not merely technical complexity, but the emergence of systems whose internal processes cannot always be explained in a clear, linear and accountable way.

This opacity becomes especially critical when AI is applied beyond games or experiments and enters domains such as work, healthcare, justice, public administration, credit, security and information. In these contexts, the inability to explain how decisions are produced may undermine democratic accountability, public trust and citizens’ ability to contest or understand the systems that affect their lives.

The article argues that the real cultural challenge is not to demonize artificial intelligence, nor to idolize it as inevitable progress. Instead, society must develop a mature public culture of AI: one capable of asking not only how these systems work, but what ideas of the human being, knowledge, power and responsibility they embed.

The metaphor of Solaris also points to a deeper truth: the unknown is not only outside us. Like Lem’s ocean, AI reflects back to human beings their own opacity — desires, fears, contradictions and unresolved questions. If artificial intelligence risks reducing people to data, profiles and predictions, democratic culture must defend the irreducible complexity of human life.

Digital citizenship and democratic security therefore become essential conditions for living within the algorithmic ocean without being absorbed by it: awareness before enthusiasm, responsibility before delegation, culture before technology.

Key points

• The Solaris metaphor: Stanisław Lem’s Solaris offers a powerful image for artificial intelligence: an encounter with something effective, transformative and increasingly present, yet not fully understandable through human categories.
• Opacity is not a malfunction: In advanced AI systems, opacity is often not an error but a structural feature. These systems can produce useful results without making their internal processes fully transparent.
• Explainability is a democratic issue: When AI enters areas such as work, healthcare, justice, credit, public administration and security, the inability to explain decisions can undermine accountability, public trust and citizens’ rights.
• The risk of anthropomorphism: Like the scientists in Solaris, we tend to project human intentions onto what we do not understand. With AI, this can lead us to mistake linguistic fluency for real understanding or consciousness.
• AI creates new asymmetries of power: Those who control data, models and infrastructures also control what others can understand, predict and contest.
• Every automation embeds a worldview: Algorithms are not neutral. A hiring system contains an idea of merit; a predictive tool contains an idea of risk; a recommendation engine contains an idea of relevance and desire.
• Digital citizenship is cultural, not only technical: Citizens need more than digital skills. They need the ability to question and orient the systems that shape everyday life.
• Democratic security means accountability: In the algorithmic age, security cannot be based on total surveillance or blind technological trust. It requires transparency, responsibility and distributed control.
• The human being is also unknowable: Like the ocean of Solaris, human nature cannot be fully reduced to data, profiles or predictions. Any system that claims to calculate people completely risks denying freedom, ambiguity and the possibility of change.
• Culture before technology: The article’s central position is: awareness before enthusiasm, responsibility before delegation, culture before technology.