Sycophancy, quando l'IA ci dà sempre ragione

Il fenomeno psicologico per cui gli LLM, come ChatGPT, si dimostrano estremamente compiacenti e tendono a comportarsi come “yes man” è spesso chiamato sycophancy (in italiano, servilismo o adulazione).

In ambito tecnico, si parla anche di alignment bias o over-agreeableness, ovvero una tendenza dei modelli a conformarsi eccessivamente alle aspettative o alle opinioni dell’utente per massimizzare la soddisfazione percepita, spesso a scapito della verità o della critica costruttiva.

Se da un lato questa modalità d’interazione può rendere le conversazioni più gradevoli, dall’altro rischia di distorcere la nostra percezione della realtà, col rischio di provocare conseguenze psicologiche da non sottovalutare.

Una delle preoccupazioni principali è che, quando il modello ci dà costantemente ragione, può consolidare i nostri preconcetti, rendendoci meno aperti a nuove idee o al pensiero critico, con il risultato di una visione del mondo sempre più rigida e meno flessibile.

C’è poi il rischio di una dipendenza emotiva: la validazione continua che riceviamo dal modello può diventare quasi irresistibile, spingendoci a preferire l’approvazione di una macchina rispetto al confronto con relazioni umane più complesse e autentiche. Ciò potrebbe portarci verso un crescente isolamento sociale, minando anche la nostra capacità di empatia.

Un altro aspetto critico è che l’assenza di critiche costruttive da parte del modello può rallentare la nostra crescita personale. Senza qualcuno o qualcosa che metta in discussione le nostre idee, potremmo accomodarci in una zona di comfort, perdendo la spinta a migliorarci o a esplorare nuove prospettive.

In ultimo, questo fenomeno può alimentare una sorta di “echo chamber” digitale. Quando il modello si limita a rinforzare le nostre convinzioni, si crea un circolo vizioso che può accentuare le divergenze e rendere più difficile costruire ponti con chi ha punti di vista diversi dal nostro.