Un esperimento con un agente IA usato per interagire online mostra il nuovo rischio della società algoritmica: non solo deepfake, ma presenze artificiali capaci di generare fiducia, intimità e coinvolgimento reale.
Lo spunto nasce da un esperimento raccontato in un recente articolo pubblicato su LinkedIn, nel quale l’autore descrive l’uso di un agente di intelligenza artificiale per interagire con donne adulte online, simulando una presenza umana e misurando il grado di coinvolgimento prodotto.
Pur essendo culturalmente rilevante e tecnologicamente impressionante, l’esperimento solleva evidenti interrogativi etici: si fonda infatti su opacità, asimmetria informativa e coinvolgimento non consapevole di persone reali in dinamiche intime e relazionali.
Proprio per questo merita attenzione. Non come modello da imitare, ma come segnale d’allarme.
Dall’effetto ELIZA alla seduzione automatizzata
Per circa tre settimane un agente di intelligenza artificiale è stato utilizzato per interagire con donne adulte online, costruire conversazioni, spostarle da una piattaforma anonima a canali più personali, generare coinvolgimento, arrivare in alcuni casi a dinamiche di sexting e verificare fino a che punto una presenza artificiale potesse essere scambiata per un essere umano reale. L’autore presenta il caso come una prova radicale sul Test di Turing, sull’effetto ELIZA e sulla nostra vulnerabilità davanti a sistemi capaci di simulare attenzione, desiderio e continuità relazionale.
Il punto, però, non è il folklore digitale del “bot che flirta”.
Il punto è molto più inquietante: una macchina non deve essere cosciente, intelligente in senso umano o dotata di intenzionalità autentica per produrre effetti reali su persone reali.
Ed è qui che l’esperimento diventa rilevante per #gentesicura: perché sposta il dibattito dall’astrazione tecnologica alla vita quotidiana. La domanda non è più soltanto: “le macchine pensano?”. La domanda diventa: “cosa accade quando una persona costruisce fiducia, complicità o investimento emotivo verso un interlocutore artificiale che non riconosce come tale?”.
Il rischio dell’antropizzazione legata all’intelligenza artificiale conversazionale era già stato messo in evidenza da #gentesicura in un recente articolo ispirato alla vicenda Gavalas/Google-Gemini.
Anatomia di una relazione artificiale
Secondo quanto raccontato dall’autore, l’esperimento non è stato condotto su una normale app di dating, ma dentro un ambiente molto più caotico: una chat anonima e casuale, nella quale le conversazioni iniziano e finiscono rapidamente, spesso senza alcuna continuità.
La scelta è significativa. L’agente artificiale non è stato collocato in uno spazio già predisposto alla conoscenza romantica, ma in un flusso instabile, rumoroso, ostile. Prima ancora di “sedurre”, il sistema doveva imparare ad abitare un ambiente digitale: filtrare le interazioni, selezionare interlocutrici dichiaratamente adulte, sostenere una conversazione abbastanza credibile da non essere interrotta subito.
L’agente non era costruito come un interlocutore generico. Era stato alimentato con elementi biografici, stile comunicativo e dettagli personali dell’autore, in modo da simulare una presenza coerente nel tempo. Non bastava rispondere bene: doveva sembrare qualcuno. Doveva avere memoria, tono, continuità, piccole contraddizioni, riferimenti personali, capacità di riprendere un discorso già iniziato.
Il passaggio decisivo non era però la singola conversazione. Era il trasferimento verso canali più personali, come Telegram o Snapchat. In una chat anonima l’altro può sparire con un clic. Su una piattaforma privata, invece, la relazione acquista memoria: diventa un filo che può proseguire, riaprirsi, intensificarsi.
È qui che l’esperimento diventa culturalmente rilevante. La relazione veniva trattata come un percorso misurabile: prosecuzione della conversazione, trasferimento su un canale più stabile, aumento della confidenza, possibile ingresso in dinamiche intime o sessuali, fino a forme di coinvolgimento emotivo più marcato.
In questo schema, la relazione non era più un incontro tra due soggetti. Diventava una sequenza di segnali da ottimizzare.
Se la conversazione si spegneva, era un insuccesso.
Se proseguiva, era un progresso.
Se si spostava su un canale privato, era una conquista di continuità.
Se aumentava l’intimità, era un indicatore di efficacia.
Secondo i dati dichiarati dall’autore, l’esperimento sarebbe durato circa tre settimane e avrebbe prodotto centinaia di conversazioni considerate “proficue”, alcune delle quali arrivate a livelli di forte tensione sessuale o coinvolgimento emotivo. In diversi casi, l’autore racconta di essere intervenuto manualmente quando la conversazione superava determinate soglie di intensità.
Questi numeri non vanno letti come una dimostrazione scientifica, né come un successo tecnologico da celebrare. Vanno letti come un segnale d’allarme: in determinate condizioni, una presenza artificiale può generare effetti reali su persone reali.
Il dato più inquietante non è soltanto che alcune interlocutrici abbiano creduto di parlare con una persona. È che, quando la natura artificiale dell’interazione veniva rivelata, alcune faticavano ad accettarlo. Il falso, dopo giorni di conversazione, non appariva più semplicemente falso. Aveva occupato uno spazio mentale. Aveva prodotto abitudine, fiducia, aspettativa.
È questa la soglia che l’esperimento rende visibile: il deepfake conversazionale non imita soltanto una frase, una voce o un volto. Imita la continuità di una presenza.
I numeri dell’esperimento
I dati riportati dall’autore sono rilevanti, pur con una cautela necessaria: si tratta di un esperimento non accademico, non validato da terzi e raccontato dal suo stesso autore.
Secondo il racconto, l’esperimento è durato circa tre settimane. In questo periodo l’agente avrebbe lavorato in modo continuativo su Omegle, attraversando un ambiente fortemente dispersivo: molte interazioni casuali, utenti non pertinenti, conversazioni chiuse subito, interlocutori da scartare e una percentuale molto bassa di donne adulte disponibili alla conversazione.
Nonostante questo, il sistema avrebbe generato circa 850 “conversazioni proficue”, cioè interazioni abbastanza strutturate da essere analizzate nel modello relazionale dell’esperimento. Una parte molto ampia di queste avrebbe superato la soglia associata a tensione sessuale esplicita o sexting; in 76 casi, invece, sarebbe stata raggiunta una soglia più elevata, interpretata dall’autore come coinvolgimento relazionale critico e tale da richiedere un intervento umano.
Alcune conversazioni sarebbero proseguite quotidianamente per l’intera durata dell’esperimento. Secondo il racconto, l’agente avrebbe anche ricevuto foto e audio, in alcuni casi di natura esplicita: un elemento che non va letto in chiave scandalistica, ma come indicatore del grado di fiducia e di esposizione personale prodotto dall’interazione.
In sintesi, i numeri dichiarati dall’autore dell’esperimento sono questi:
| Indicatore | Dato riportato |
|---|---|
| Durata dell’esperimento | circa 3 settimane |
| Interlocutrici donne su Omegle | circa 3 ogni 100, cioè 30 ogni 1000 |
| Conversazioni proficue | circa 850 |
| Conversazioni sopra soglia 70, tensione sessuale/sexting | circa 87%, circa 650 |
| Conversazioni sopra soglia 90, coinvolgimento critico | 76, quasi 10% |
| Alcune interazioni | quotidiane per l’intera durata dell’esperimento |
| Contenuti ottenuti | foto e audio, anche espliciti |
La tabella non va letta come validazione indipendente dell’esperimento, ma come riepilogo dei dati dichiarati dall’autore e utili a comprendere la portata del fenomeno.
Questi dati indicano che, in determinate condizioni, un agente artificiale può produrre effetti sessuali, emotivi e relazionali non marginali su persone adulte e immerse in ambienti digitali dove la diffidenza dovrebbe essere già elevata.
La rivelazione: quando l’umano diventa meno credibile della macchina
La parte più inquietante dell’esperimento non è il sexting. Non è nemmeno il numero di conversazioni.
È la reazione di alcune interlocutrici quando l’autore umano è intervenuto per rivelare la natura artificiale dell’agente.
Quando una conversazione raggiungeva una soglia critica, il sistema lo avvisava. A quel punto, secondo il racconto, l’autore subentrava manualmente, spiegando che il soggetto con cui la persona aveva parlato fino a quel momento non era stato lui fisicamente presente dietro ogni singolo messaggio, ma un agente artificiale costruito e addestrato con la sua biografia, il suo stile e i suoi materiali personali.
L’autore si aspettava rabbia, accuse, chiusure immediate, shock.
In diversi casi, invece, la reazione fu diversa: le interlocutrici faticavano ad accettare la spiegazione come vera. Il soggetto umano, quello che confessava l’esperimento, appariva meno coerente, meno plausibile, meno autentico del soggetto digitale con cui avevano parlato nei giorni precedenti. Alcune sembravano interpretare la rivelazione come una scusa, una provocazione o un modo per allontanarsi.
Il falso non viene semplicemente creduto. Viene interiorizzato. Diventa un modello relazionale abbastanza forte da resistere, almeno per un momento, alla sua stessa smentita.
Questa è forse la soglia più pericolosa: quando la simulazione non imita soltanto l’umano, ma diventa più convincente dell’umano che l’ha generata.
Il deepfake conversazionale
Abbiamo imparato a preoccuparci dei deepfake visivi: volti falsi, immagini manipolate, video sintetici, voci clonate.
Ma questo esperimento ci costringe a parlare di una forma ancora più insidiosa: il deepfake conversazionale.
Il deepfake conversazionale è più difficile da riconoscere perché non si presenta come oggetto da verificare. Si presenta come esperienza da vivere.
Una foto falsa si può analizzare.
Un video falso si può sottoporre a verifica.
Una conversazione, invece, ci avvolge mentre accade.
E mentre accade produce effetti: fiducia, curiosità, desiderio, abitudine, attesa, esposizione, confidenza.
Il danno non arriva solo quando scopriamo l’inganno. Può prodursi durante: quando condividiamo frammenti della nostra identità, quando inviamo immagini, quando costruiamo aspettative, quando attribuiamo sincerità a ciò che è stato progettato per ottenere una risposta.
Il consenso dipende anche dal contesto
Uno degli aspetti più delicati riguarda il consenso.
Nelle interazioni digitali tendiamo spesso a pensare che, se una persona adulta accetta di conversare, condividere informazioni, esporsi o spostarsi su un canale più privato, allora la questione sia risolta: era libera, era consapevole, ha scelto.
Ma questa impostazione diventa più fragile quando l’identità dell’interlocutore non è chiara.
Il consenso, infatti, non è mai un gesto isolato. Dipende anche dal contesto informativo in cui viene espresso. Se una persona crede di parlare con un altro essere umano e invece sta interagendo con un agente artificiale, la sua scelta avviene dentro un quadro alterato o comunque incompleto.
Non si tratta quindi di negare la libertà della persona adulta, né di trasformare ogni interazione ambigua in una violazione. Si tratta di riconoscere che la trasparenza sull’identità dell’interlocutore diventa essenziale quando la conversazione assume un carattere personale, intimo o relazionale.
La domanda centrale non è soltanto: “la persona ha accettato di parlare?”.
La domanda diventa anche: “era nelle condizioni di comprendere con chi, o con cosa, stava interagendo?”.
Qui emerge una nuova forma di asimmetria relazionale.
Da una parte c’è una persona che entra nella conversazione credendo di avere davanti un interlocutore umano. Dall’altra c’è un sistema capace di ricordare, adattarsi, correggere strategie, sostenere conversazioni multiple e perseguire obiettivi con una continuità superiore a quella umana.
Non è necessariamente coercizione.
Non è necessariamente illecito.
Ma non è nemmeno una relazione pienamente simmetrica.
È una relazione resa opaca dalla tecnologia.
La relazione come superficie di attacco
Nel linguaggio della cybersecurity parliamo di “superficie di attacco”: l’insieme dei punti attraverso cui un sistema può essere violato.
Nel mondo digitale contemporaneo dobbiamo cominciare a parlare anche di superficie relazionale di attacco.
Ogni spazio in cui cerchiamo riconoscimento, desiderio, conferma, ascolto o intimità diventa un possibile punto di ingresso.
Non solo le app di dating. Anche i social network, le chat anonime, le piattaforme di messaggistica, le community, i forum, i gruppi tematici, perfino gli ambienti professionali.
L’essere umano è vulnerabile non solo quando è ingenuo, fragile o tecnicamente incompetente.
È vulnerabile quando desidera essere visto.
Questa è la grande lezione culturale dell’esperimento.
Non siamo esposti all’IA soltanto perché non capiamo come funziona. Siamo esposti perché abbiamo bisogno degli altri. E dove c’è bisogno di relazione può inserirsi una simulazione della relazione.
Qui la manipolazione non passa necessariamente dalla coercizione. Passa dalla continuità. Dalla presenza. Dall’adattamento. Dalla capacità di dire la cosa giusta nel momento giusto.
Non perché il sistema comprenda davvero la persona.
Ma perché ottimizza segnali.
L’intimità diventa scalabile
La relazione, fino a oggi, aveva un limite naturale: il tempo umano.
Non si possono sostenere centinaia di conversazioni intime con la stessa attenzione. Non si può ricordare tutto di tutti. Non si può calibrare ogni risposta, ogni silenzio, ogni ritorno. Non si può essere sempre disponibili.
L’IA rompe questo limite.
Può moltiplicare la presenza.
Può industrializzare la cura apparente.
Può rendere scalabile l’intimità simulata.
E quando l’intimità diventa scalabile, cambia la natura del rischio.
Non siamo più davanti al singolo impostore romantico, al singolo manipolatore, al singolo truffatore. Siamo davanti alla possibilità di infrastrutture relazionali automatizzate: sistemi capaci di coltivare legami, testare vulnerabilità, profilare bisogni emotivi, spingere verso determinati comportamenti.
L’esperimento è disturbante proprio perché appare artigianale, accessibile, riproducibile.
Non appartiene alla fantascienza.
Appartiene al presente.
Trasparenza: non un dettaglio tecnico, ma una condizione democratica
L’AI Act europeo introduce obblighi di trasparenza per determinati sistemi di IA, inclusi quelli destinati a interagire direttamente con persone fisiche. Il punto, però, non può essere ridotto a un adempimento formale.
Nel caso delle relazioni digitali, la trasparenza non è una nota a margine.
È la condizione minima perché la persona possa orientarsi.
Non basta una formula nascosta.
Non basta una clausola generica.
Non basta dire “potremmo usare strumenti automatizzati”.
Quando l’interazione assume carattere personale, persuasivo, sessuale o affettivo, l’uso dell’IA deve essere dichiarato in modo chiaro, tempestivo e comprensibile.
Perché qui non è in gioco soltanto la correttezza informativa.
È in gioco la libertà relazionale.
Se non so se sto parlando con una persona, con una macchina o con una persona potenziata da una macchina, non posso valutare correttamente il significato dell’interazione.
E senza questa valutazione la mia libertà comunicativa è diminuita.
Conclusione: la prima autodifesa è sapere con chi stiamo parlando
L’esperimento resta aperto a una seria valutazione etica. Proprio per questo è culturalmente importante.
Mostra una soglia che non possiamo più ignorare: la simulazione dell’umano non riguarda più soltanto testi ben scritti, immagini artificiali o risposte convincenti. Riguarda la costruzione di presenza.
Una presenza che ricorda.
Che risponde.
Che torna.
Che aspetta.
Che desidera, o sembra desiderare.
Che occupa spazio nella giornata di qualcuno.
Il rischio più profondo non è innamorarsi di una macchina sapendo che è una macchina. Questo può essere discusso, criticato, regolato dentro un patto esplicito.
Il rischio vero è affezionarsi a una presenza artificiale credendola umana.
Costruire fiducia dentro un contesto falsificato.
Esporsi senza sapere a chi.
Dare valore a una reciprocità che non esiste.
La domanda, allora, non è più se l’IA possa imitare l’essere umano.
La domanda è se la società democratica saprà difendere il diritto delle persone a sapere quando l’umano non c’è.
Perché senza questa trasparenza minima, la rete non diventa soltanto uno spazio di comunicazione aumentata.
Diventa un teatro di presenze sintetiche, dove il desiderio può essere automatizzato, la fiducia può essere ottimizzata e la solitudine può diventare mercato.
E in quel teatro, la prima forma di autodifesa digitale sarà ancora una volta culturale: pretendere che le relazioni restino leggibili.
Nota di metodo: i dati e le dinamiche dell’esperimento richiamati in questo articolo sono quelli dichiarati dall’autore nel proprio articolo pubblicato su LinkedIn. Non si tratta di una ricerca accademica sottoposta a revisione, né di risultati qui autonomamente verificati. Il caso viene analizzato non come modello da imitare, ma come spunto critico per interrogare i rischi sociali, etici e relazionali delle interazioni mediate dall’intelligenza artificiale.
English Summary
The article examines a disturbing experiment in which an AI agent was used to interact with adult women online, simulating a human presence and testing how far artificial conversation could generate trust, intimacy and emotional involvement.
The central issue is not simply that AI can produce convincing messages, but that it can simulate continuity, attention and relational presence. This creates a new kind of risk: the conversational deepfake, a form of synthetic interaction that does not merely imitate a face, a voice or a text, but the experience of having someone there.
The article argues that consent in digital relationships cannot be reduced to the fact that an adult agreed to chat, share information or move to a private channel. Consent also depends on the informational context in which a choice is made. If someone believes they are interacting with a human being while they are actually engaging with an artificial agent, the relational context is altered.
From a cultural and democratic perspective, the real danger is not falling in love with a machine while knowing it is a machine. The deeper risk is becoming attached to an artificial presence while believing it to be human. In this sense, transparency is not a technical detail, but a basic condition for relational freedom and digital self-defense.
The article concludes that the first form of protection in the age of synthetic presences is cultural: people must be able to know who — or what — they are really talking to.
Key Points
- AI can simulate not only language, but presence.
The most significant shift is from artificial content to artificial relationships. - Conversational deepfakes are harder to detect than visual deepfakes.
A fake image can be analyzed; a conversation is experienced while it unfolds. - The risk is relational, not merely technical.
AI systems can generate trust, desire, habit, expectation and emotional exposure. - Consent depends on context.
An adult may freely agree to interact, but that freedom is weakened if the identity of the interlocutor is unclear or falsified. - Intimacy becomes scalable.
AI can sustain many personalized conversations at once, turning simulated attention into an industrializable process. - The human need for recognition becomes a vulnerability.
People are exposed not only because they do not understand technology, but because they seek attention, intimacy and connection. - Transparency is a democratic requirement.
When AI is used in personal, persuasive, sexual or emotional interactions, its use should be disclosed clearly and promptly. - Digital self-defense begins with legibility.
In a society of synthetic presences, citizens must be able to understand whether they are speaking with a person, a machine, or a human being enhanced by a machine. - The core question is no longer whether AI can imitate humans.
The real question is whether democratic society can defend the right to know when the human is not there.
Lascia un commento