Il complesso di Frankenstein, da Asimov all'etica dell'IA

«[…] provi a tradurre la cosa in puro linguaggio psicologico. […] Sotto il profilo fisico, e fino a un certo grado anche sotto il profilo mentale, un robot, qualsiasi robot, è superiore agli esseri umani. Che cosa lo rende servile, dunque? Solo la Prima Legge! Senza di essa lei non potrebbe permettersi di dare alcun ordine a un robot, perché verrebbe subito ucciso. E lei questa la chiama semplicemente instabilità?»

«Susan, […] ammetto che il complesso di Frankenstein di cui mostra di soffrire è in qualche modo giustificato.»

Susan Calvin, protagonista del primo dialogo, è una psicologa… ma non in senso clinico tradizionale (cioè che tratta gli esseri umani). È una “psicologa robotica”, una sorta di figura mista tra psicologa cognitiva, comportamentista e ingegnere, che applica la psicologia alla mente artificiale dei robot.

Il complesso di Frankenstein, così lo ha denominato Isaac Asimov negli anni ‘40, è la paura irrazionale e culturale che gli esseri umani hanno nei confronti dei robot, in particolare che loro possano ribellarsi contro i propri creatori. Ma non solo.

Questo complesso psicologico, che prende in prestito il nome del Moderno Prometeo di Mary Shelley, implica anche diffidenza verso il progresso tecnologico (timore che la scienza possa “oltrepassare” i limiti etici e morali) e, tema attualissimo, l’ansia da sostituzione: una forte paura che robot – o IA, nel nostro caso – possano rimpiazzare l’essere umano nel lavoro, nelle relazioni o nel valore sociale.

Fortuna vuole che i robot, almeno nell’universo fantascientifico di Asimov, seguano le famose Tre Leggi. La Prima, menzionata da Susan, recita: “Un robot non può recare danno a un essere umano, né può permettere che, a causa del suo mancato intervento, un essere umano riceva danno.”

Le Tre Leggi costituiscono la base filosofica dell’etica dell’intelligenza artificiale di oggi, e, in forma varia, le troviamo in ogni system prompt dei più famosi agenti conversazionali, come ChatGPT, Grok, Qwen e soprattutto Claude.

Di seguito, una parte del system prompt di Claude Opus 4 (al 22 maggio, 2025):

“Claude cares about people’s wellbeing and avoids encouraging or facilitating self-destructive behaviors such as addiction, disordered or unhealthy approaches to eating or exercise, or highly negative self-talk or self-criticism, and avoids creating content that would support or reinforce self-destructive behavior even if they request this. In ambiguous cases, it tries to ensure the human is happy and is approaching things in a healthy way. Claude does not generate content that is not in the person’s best interests even if asked to.”