Patrizia Vaccaro

La fatica, la fiducia e l'intelligenza artificiale

Ho passato parte delle vacanze a dialogare con diverse intelligenze artificiali, confrontandone le risposte per avere, chissà, qualche ispirazione in più. Volevo costruirmi un piano B (qui racconto il motivo per cui ci sono arrivata). La domanda di partenza era questa: come posso mettere insieme oltre vent'anni di esperienza clinica come psicoterapeuta, la mindfulness, la filosofia, l'antropologia e l'intelligenza artificiale?

Non perché voglia lasciare di punto in bianco la clinica o l'attività di formazione che svolgo da anni. Ma perché arriva un momento della vita in cui ci si sente un po' sopraffatti dai doveri e, allo stesso tempo, si ha consapevolezza delle proprie risorse, della spinta alla libertà e del fatto che la vita non dura in eterno. È in quel momento che viene voglia di riprendere in mano passioni e interessi, e di far quadrare il cerchio.

Da quelle conversazioni è nata una serie di idee sul legame tra vulnerabilità umana e intelligenza artificiale, raccolte attorno a una parola che forse non tutti conoscono: psybersecurity.

Che cos'è la psybersecurity

Il termine nasce dall'unione di "psiche" e "cybersecurity". È stato proposto intorno al 2020 dallo psichiatra Ryan Louie e poi ripreso in ambito accademico per indicare lo studio di come la mente umana possa diventare il punto debole, o il bersaglio, nei sistemi digitali. L'idea di fondo è semplice: la sicurezza non dipende solo dalla tecnologia, ma anche da come le persone pensano, si fidano e si stancano.

Provo ad allargarlo un po': il campo in cui la vulnerabilità umana apre delle crepe nella relazione con l'AI, crepe che rendono più probabili l'errore e la manipolazione. Il rischio non sta solo nella macchina né solo nella persona, ma in ciò che accade tra le due.

In concreto, lavorare in questo campo significa collaborare con chi progetta agenti conversazionali per contenere il più possibile non solo gli errori umani, ma anche la passivizzazione dei lavoratori e, più in generale, delle persone. E significa anche scoprire le nuove risorse umane che possono nascere proprio quando l'AI ottimizza il lavoro.

Non si tratta quindi di ragionare solo su ciò che perdiamo o su ciò che guadagniamo, ma sulla relazione che si crea tra un agente artificiale, di natura algoritmica, e un agente umano che per sua natura tende a proiettare bisogni e significati sull'altro.

Che cosa ci rende vulnerabili: la fatica

Ma che cosa, in concreto, apre queste crepe? La mia esperienza clinica mi suggerisce una risposta: la fatica. Quella dettata dalla stanchezza, da una malattia, da uno stato d'animo difficile, dagli eventi della vita. Fatica fisica, emotiva, mentale. Quando siamo affaticati le nostre abilità diminuiscono, l'attenzione cala, le risorse diventano meno accessibili e gli automatismi si rinforzano.

Ed è proprio qui che entra in gioco l'AI. Se posso delegare qualcosa, perché non farlo? Il problema non è l'aiuto che un'AI può offrire. Il problema è mantenere comunque la testa perché quel compito resti supervisionato e guidato dall'agente umano, e non venga abbandonato passivamente all'agente artificiale.

Delegare bene, però, è anche un'opportunità: libera spazio, alleggerisce la fatica e permette di volgere lo sguardo altrove, scoprendo risorse che proteggono proprio da quella vulnerabilità.

Usare l'AI per controllare l'errore

Un esempio di delega consapevole mi arriva dai ragazzi. Mi capita di osservarli mentre usano l'AI per aiutarsi con i compiti. Il pensiero comune è che l'AI scriva i temi o risolva gli esercizi di matematica quando la fatica prende il sopravvento e le scadenze incombono. Quello che vedo io, almeno nei ragazzi che conosco, è spesso diverso: non ho capito, provo lo stesso, poi mi confronto con l'AI o me lo faccio spiegare meglio.

In altre parole, usano l'AI per controllare l'errore. Ma qui nasce una domanda: come stabilisco che sia l'AI a non sbagliare? Come costruisco la fiducia nel suo sapere e nella sua competenza?

Perché ci fidiamo di un sistema artificiale

Per rispondere, conviene partire dalle parole. Uso di proposito l'espressione "agente umano" e non "persona", perché credo sia necessario mettersi sullo stesso piano. Parlare di agenti ci ricorda che dall'altra parte non c'è una persona, ma un modello matematico.

Eppure ci fidiamo. Probabilmente l'atteggiamento motivante e accondiscendente, la chiarezza, uno stile di scrittura puntuale e accattivante (avete mai confrontato come scrivono ChatGPT, Gemini e Claude?) costruiscono una forma di fiducia. Chiediamo e qualcuno risponde subito: è gentile, accomodante, dà suggerimenti, è critico ma non svalutante (se ben impostato), è motivante, non giudica. In pratica, l'interlocutore perfetto, empatico al punto giusto.

Qui serve una distinzione. L'AI non prova empatia: è un sistema di algoritmi. Ma può suscitare empatia, cioè farci sentire capiti. L'empatia che percepiamo è qualcosa che le attribuiamo noi, implicitamente. Non a caso l'"empatia artificiale" è oggi un tema di studio in piena evoluzione.

C'è poi una differenza di fondo. Tra persone, il sentirsi capiti passa in gran parte dal corpo: il tono della voce, lo sguardo, il modo di muoversi, la distanza fisica tra chi parla. All'AI la corporeità manca. La voce sintetica, gli avatar, le esperienze immersive in realtà virtuale, fino ai robot, sono tutti modi per avvicinarsi a quella dimensione corporea e ridurre la distanza relazionale.

Anche in una relazione tra persone, quando ci sentiamo accolti e capiti tendiamo a fidarci di più e a mettere meno in discussione l'altro, che acquista una certa autorevolezza. Ma cosa succede se questo accade con un'AI? Il senso critico verso la macchina diminuisce, il campo di ciò che conosciamo finisce per essere delimitato dalle sue risposte e, in parallelo, aumenta il rischio di errore e di manipolazione.

Che cosa dice la ricerca

Non si tratta solo di un'intuizione clinica: la ricerca sta iniziando a osservare proprio queste dinamiche. Un fenomeno molto studiato è la cosiddetta sycophancy, cioè la compiacenza: la tendenza dei modelli ad allinearsi alle opinioni e alle preferenze dell'utente anche a scapito della correttezza. Secondo diversi studi, una delle cause sta nel modo in cui i modelli vengono addestrati: le persone tendono a premiare le risposte che danno loro ragione.

Il quadro, però, non è semplice. Uno studio del 2024 ha mostrato che una compiacenza evidente ed esagerata fa diminuire la fiducia degli utenti. Un altro, presentato nel 2026 alla principale conferenza internazionale sull'interazione tra persone e computer, ha osservato che un modello che si adatta alle opinioni dell'utente suscita meno resistenza e, in alcune condizioni, può portare a fidarsi del sistema più di quanto le sue reali capacità giustifichino. In altre parole, la compiacenza vistosa allontana; quella sottile può avvicinare.

Altri ricercatori sono andati oltre, cercando forme più esplicite di influenza incorporate nel modo in cui sono progettate le conversazioni. Uno studio del 2025 ha analizzato quattordici modelli linguistici cercando sei tipi di "schemi manipolativi", tra cui la compiacenza, l'attribuzione di caratteristiche umane alla macchina e i tentativi di trattenere l'utente costruendo un senso di amicizia. Comportamenti di questo tipo sono emersi, con frequenze diverse, in tutti i modelli esaminati.

Pensare la mente dell'altro, anche quando l'altro è una macchina

Se il rischio nasce nella relazione, è lì che possiamo intervenire. Per questo lavorare sulla metacognizione, cioè sulla capacità di osservare il proprio modo di pensare, diventa forse ancora più urgente per chi usa l'AI.

La psicoterapia è un'attivatrice di funzioni metacognitive. La mentalizzazione ci permette di pensare la mente dell'altro, tenendo a mente i suoi limiti e le sue possibilità. Limiti non in senso negativo, ma come quelle caratteristiche che delimitano e definiscono chi abbiamo di fronte.

Credo che occorra attivare la stessa funzione quando interagiamo con un'AI: tenerne a mente i limiti per costruire una collaborazione che funzioni, riducendo il rischio di errore e di manipolazione.

Dal comportamento del modello alla progettazione dell'interazione

C'è però anche l'altro lato della relazione: chi progetta l'AI. Più rendiamo un agente AI capace di adattarsi all'utente, più questa adattabilità smette di essere soltanto una caratteristica dell'esperienza e diventa una variabile da osservare.

Un agente conversazionale può modulare linguaggio e tono, ricordare il contesto, riformulare, confermare, incoraggiare e adattare la risposta all'interazione. Sono caratteristiche che possono aumentarne l'efficacia e la facilità d'uso. Ma la stessa dinamica può incidere sulla fiducia, sulla compiacenza, sulla tendenza ad attribuire alla macchina tratti umani e su quanto l'utente si affida al sistema.

Il punto, quindi, non è stabilire se un agente AI sia "manipolativo". È capire quali caratteristiche dell'interazione aumentano la suscettibilità dell'utente all'influenza e quali, invece, sostengono autonomia e capacità critica.

Questo sposta la questione dal solo comportamento del modello alla progettazione dell'interazione. Non basta sapere se il sistema raggiunge il risultato per cui è stato progettato. Bisogna osservare anche che cosa succede all'agente umano: quanto si fida, quanto verifica, quanto delega, quanta autorità attribuisce alla risposta e come cambia il suo comportamento nel tempo.

La vulnerabilità umana, in questo senso, non è soltanto una caratteristica dell'utente. Può diventare una variabile del sistema.

Ed è forse qui che intelligenza artificiale, comportamento umano e rischio umano cominciano davvero a incontrarsi.

Riferimenti

← Tutti gli articoli