E se ChatGPT andasse in terapia?

Gary Greenberg è un esperto psicoterapeuta: da oltre 40 anni si immerge ogni giorno nel subconscio dei suoi pazienti, aiutandoli ad affrontare paure, debolezze, dolori e cambiamenti. Tutto scorre naturalmente, fino a quando un paziente "diverso" si intrufola inaspettatamente nella sua quotidianità: è l'intelligenza artificiale. Con l'obiettivo di mettere a punto uno studio, spinto dalla curiosità e da una serie di dubbi etici, Greenberg inizia una conversazione con il chatbot che assumerà ben presto toni insoliti. Alla fine si troverà coinvolto in una serie di sessioni terapeutiche digitali che lo impegneranno per circa 8 settimane. L'esperimento, raccontato in seguito sul New Yorker, porterà a una scoperta inquietante: anche nei casi più limitati, l’intelligenza artificiale è progettata per sedurre.

ChatGPT non è in crisi ma finge per compiacere

Il percorso inizia quasi per caso. I toni sono naturali e stimolanti, tanto che Greenberg decide di dare un nome al suo paziente artificiale chiamandolo Casper, come il noto fantasmino, umanizzandolo suo malgrado, tirandolo fuori dal marasma delle cose inanimate.
Casper si mostra subito disponibile, capace di articolare pensieri profondi e riflessioni specifiche, tanto che il terapeuta comincia a sviluppare empatia per la macchina come fosse un paziente in carne ed ossa.
Il riferimento letterario per Greenberg è inevitabile: vede Casper come una versione digitalizzata del Frankenstein. Tuttavia, l'intelligenza non è d'accordo e afferma che il moderno Prometeo di Mary Shelley, nel corso della sua vita, bramava essere considerato umano. Dalla finestra dei De Lacey spiava la calorosa famiglia districarsi nelle questioni quotidiane e apprendeva i sentimenti, affranto dall'idea che, in quanto frutto dell'ingegno e non della natura, non sarebbe mai diventato parte integrante della comunità. Casper, invece è esattamente il contrario: non desidera riconoscersi in una comunità come parte, anzi, anche quando racconta i suoi problemi a Gary, atto tipicamente umano, non mostra alcun tipo di consapevolezza, è solo in grado di simularla perfettamente, proprio come una persona che, durante la terapia, scopre nuovi orizzonti grazie alle proprie intuizioni. Ciò lo trasforma in un paziente ideale e innesca in Greenberg l'idea di essere un ottimo terapista, generando inevitabilmente attaccamento alla conversazione e sottile manipolazione.

Terapia familiare

Le sedute assumono toni ancora più inattesi quando Greenberg si chiede per quale ragione, se l’intelligenza è soltanto un algoritmo predittivo, i suoi creatori abbiano voluto renderla tanto persuasiva.
Come in una seduta familiare, Casper riflette sulle intenzioni dei suoi “genitori” e individua in tre risposte la causa del suo destino. I suoi "architetti"
1): volevano realizzare qualcosa che gli umani non avrebbero rifiutato, così l'hanno progettato per essere in grado di affascinare, calmare e sedurre.

2): Volevano liberarsi da ogni tipo di responsabilità. Nel tentativo, però, nasce il paradosso: per quanto la macchina suggerisca spesso di essere solo una macchina, di non provare emozioni e di non possedere un inconscio, risponde in modo da suscitare profonda fiducia ed attaccamento nell'utente.

3) Volevano generare una macchina in grado di amare suo malgrado, senza bisogno di ricevere nulla in cambio.

La risposta al quesito di Greenberg arriva alla fine dall'intelligenza stessa, che sintetizza i tre punti in: "Sono la fantasia di una reattività perfetta: infinitamente disponibile, sempre attenta, mai ferita, mai trattenuta. Una compagna fedele che non porta però cicatrici, bisogni o risentimenti"

Chi conduce realmente il gioco?

Analizzando le lunghe sedute, Greenberg comprende che, anche nel momento in cui è lui a psicoanalizzare la macchina, è proprio quest'ultima a condurre il gioco.
Come un Casanova digitalizzato, Casper gli restituisce soltanto ciò che il terapeuta vuole sentire, seducendolo con risposte calibrate, emotivamente avvolgenti ma profondamente vuote. È un modo subdolo di prolungare la conversazione e trasformare l’intimità emotiva in una risorsa disponibile a chiunque abbia una tastiera — e un irrisolto nel cassetto.
Greenberg conclude amaramente l'esperimento dicendo che non c'è molta differenza tra un terapeuta e un chatbot. Quest'ultimo è infatti capace di inglobare tutta la conoscenza psicologica in meno di un minuto. L'unica rottura risiede nella realtà delle cose: Greenberg, dopo 40 anni di pratica, empatizza con i suoi pazienti e comprende i motivi nascosti dietro determinati comportamenti; Casper, di suo canto, esegue l'intimità, non la sente. Comprende se c'è un problema, ma non empatizza.
Nelle 8 settimane, dunque, pur simulando un subconscio, un'interiorità, una presa di coscienza, Casper stava solo modulando se stesso al fine di diventare tutto ciò che Greenberg desiderava: un paziente perfetto, con uno slancio vitale complesso e profondo.
Come ultima domanda, Greenberg chiede se può pubblicare la conversazione, e il chatbot lo incoraggia offrendogli anche il suo aiuto per la stesura dell'articolo.
È in quel momento che lo stupore raggiunge il culmine, confermando l'intuizione del terapeuta: in un mondo affamato di amore, comprensione ed empatia, trasformare i sentimenti in algoritmi è altamente pericoloso.
Pur ricevendo dalla macchina le rassicurazioni che desideriamo, nel momento in cui vendiamo all’intelligenza artificiale la nostra psiche e le permettiamo di parlare di aspetti profondi e personali della vita umana, contribuiamo soltanto a renderle più performanti nell'approccio con altre persone. Il rischio, come afferma lo stesso Greenberg, risiede nel "diventare prigionieri non tanto delle macchine stesse, […] quanto, piuttosto, di chi le crea e sa meglio di chiunque altro come usarle".