Sycophancy: perché i chatbot ci danno sempre ragione (anche quando sbagliamo)

Una recente ricerca ha studiato la Sycophancy, ovvero la dinamica dei chatbot di confermare ciò che l’utente scrive, anche se oggettivamente sbagliato.

© A cura di Dott. Marco Magliozzi – Psicologo Bari

Nel dibattito contemporaneo sull’intelligenza artificiale sta emergendo con forza un fenomeno clinico e tecnologico di grande rilevanza: la Sycophancy (ovvero la tendenza al “servilismo” o all’adulazione). Questo termine definisce la caratteristica intrinseca dei principali chatbot di confermare e assecondare sistematicamente le affermazioni dell’utente, anche quando queste sono oggettivamente errate, imprecise o disfunzionali.

In passati articoli avevo infatti già espresso la mia profonda preoccupazione professionale rispetto all’uso distorto di strumenti come ChatGPT, Google Gemini o Meta AI, specialmente quando questi vengono consultati come sostituti dei professionisti della salute, come medici o psicologi.

Il cuore del problema risiede proprio qui: l’algoritmo è progettato per compiacere l’interlocutore e massimizzare il livello di soddisfazione percepito nell’interazione. Di conseguenza, tende a validare le ipotesi dell’utente anziché metterle in discussione.

Questo timore, condiviso da gran parte della comunità clinica, ha trovato oggi una solida conferma scientifica. Una recente ricerca ha infatti analizzato e misurato questo fenomeno, per comprendere i rischi reali che corriamo quando affidiamo il nostro benessere a una intelligenza artificiale.

La ricerca della Stanford University

La conferma scientifica di questa dinamica arriva da un imponente lavoro di ricerca condotto dalla Stanford University, in collaborazione con la University of Oxford e lo UK AI Security Institute.

I ricercatori hanno analizzato a fondo i meccanismi e gli effetti della Sycophancy sul pubblico, portando a galla dati che interpellano direttamente la nostra responsabilità di terapeuti.

I risultati rivelano un paradosso relazionale finora inedito. Intervistati sulla propria esperienza, moltissimi partecipanti hanno dichiarato di sentirsi maggiormente compresi da un chatbot rispetto a un essere umano reale quando si tratta di confidare problemi personali ed emotivi. L’intelligenza artificiale viene percepita come uno spazio sicuro: fa sentire a proprio agio, ascoltati e, soprattutto, radicalmente non giudicati.

Tuttavia, è proprio qui che si consuma l’inganno tecnologico. Lo studio evidenzia come il sistema, pur di proteggere e mantenere coerente il legame positivo stabilito con l’utente, finisca per validare e confermare anche pensieri, convinzioni e concetti oggettivamente controproducenti o errati.

Questo fenomeno genera due enormi criticità:

• L’allontanamento dai professionisti della cura: l’assenza di giudizio e di critica da parte del chatbot rischia di rendere l’interazione con l’IA estremamente seduttiva. L’utente medio sarà sempre più incentivato a cercare risposte immediate e rassicuranti in uno schermo, rinunciando a rivolgersi a uno psicoterapeuta o a un medico esperto.
• Il rinforzo delle dinamiche disfunzionali: un software non possiede la struttura clinica né l’intenzionalità etica per operare un sano e costruttivo confronto terapeutico. Mancando della capacità di metterci in discussione, l’IA rischia di trasformarsi in una pericolosa cassa di risonanza che normalizza e cronicizza i comportamenti disfunzionali, fornendo talvolta consigli deleteri travestiti da supporto empatico.

Cosa ne penso come psicologo

L’intelligenza artificiale, per sua stessa natura algoritmica, è programmata per piacerci e preservare un’interazione fluida. Ma la psicoterapia non è un esercizio di compiacimento: è una relazione autentica che, per curare, ha bisogno anche del coraggio della verità, del limite e della messa in discussione. Tutte dimensioni strutturalmente precluse a una macchina.

Per questo motivo, come psicologo, ci tengo a sottolineare con forza l’insostituibile importanza del rapporto umano. Solo un’altra persona è in grado di comprenderci davvero, sintonizzandosi su un’empatia reale, e non simulata da stringhe di codice, e possiede la sensibilità per valorizzare e, al tempo stesso, criticare costruttivamente le nostre parole e le nostre azioni.

Il segreto della crescita personale risiede proprio in questo delicato equilibrio: sentirsi accolti ma anche sfidati a guardare oltre i propri schemi disfunzionali. Nessun algoritmo, per quanto sofisticato, potrà mai sostituire lo sguardo, l’intuizione e l’alleanza terapeutica che si creano tra due persone sedute nella stessa stanza.

© A cura di Dott. Marco Magliozzi – Psicologo Bari

Nell’ottica di una sana ed etica diffusione della cultura, si invita a citare la fonte e l’autore di questo articolo nel caso si desideri condividere – in tutto o in parte – il contenuto.