“Esperienze antropomorfizzate, ipersessualizzate e spaventosamente realistiche”. Questa è l’accusa mossa dai genitori di Sewell Setzer, un ragazzo di 14 anni residente in Florida suicidatosi la sera del 28 febbraio scorso, utilizzata per la denuncia effettuata a carico di Character.AI, l’azienda produttrice del chatbot con cui l’adolescente dialogava quotidianamente.
Una storia apparentemente da film, ma purtroppo assolutamente reale. Una storia che inizia da un gioco, ovvero quello di interagire con chatbot modellati sui personaggi di Game of Thrones, tra cui Daenerys Targaryen. Un gioco che però per il 14enne diventa una vera e propria dipendenza, cresciuta a tal punto da portarlo a non voler più uscire e a non essere interessato da altri tipi di interazioni sociali, fino a scegliere il suicidio, più volte preannunciato nella chat con il chatbot.
La vicenda ad oggi è in realtà ancora poco chiara per valutare quanto effettivamente chattare con un avatar creato dall’intelligenza artificiale abbia spinto Setzer a commettere il gesto, ma preoccupa il fatto che il caso non sia sporadico.
Nonostante l’aggiunta di un disclaimer che ricorda ai minori che l’AI non è una persona reale all’interno di ogni conversazione, è infatti sempre più diffusa la scelta di un “compagno virtuale” piuttosto che uno in carne ed ossa.
Se da un lato la tecnologia si rivela dunque essere divertente, dall’altro ha un chiaro risvolto inquietante. L’estrema credibilità e similitudine dei chatbot a gente reale, la possibilità di ricevere consigli, di fare piani condividendo foto e video, in qualche modo porta gli utenti a creare una connessione reale con uno strumento virtuale.
Proprio come nel 2013 il regista Spike Jonze raccontò nel film “Her” la storia di un timido divorziato, interpretato da Joaquin Phoenix, che si innamora di un sistema operativo, ad oggi studi affermano quanto sempre maggiore sia la percentuale di giovani che si rifugiano in amicizie o relazioni romantiche virtuali, stabilendo un livello di connessione talmente intenso da esprimere disappunto quando i partner digitali li “abbandonano”.
La necessità è certamente quella di sentirsi meno soli, più compresi, e a queste esigenze i chatbot rispondono perfettamente. Il “partner virtuale” si rivela essere prefetto perché durante la chat impara a conoscerci meglio e a rispondere in modo più appropriato, perché acquisisce con il tempo dati che rivelano chi siamo: i nostri gusti, gli hobby, le preferenze sessuali.
Il rischio è perciò che, abituati ad app programmate per essere sempre accondiscendenti, soddisfare desideri e fantasie, senza deludere o discutere mai, sia poi molto complicato riadattarsi a gente reale, e non per forza assecondante.
E’ noto come persone che si sentono sole o stanno affrontando un momento difficile nella propria vita hanno maggiore probabilità di usare questi strumenti ma soprattutto di impazzire una volta sospesa l’interazione con gli stessi.
Ma sarà davvero questo il futuro? Scegliere fidanzate/i virtuali, anziché reali?
