GP did it again: il famoso chatbot viene bloccato nel nostro paese. Questo fa di noi l’avanguardia o la retroguardia?
È il 2014: le home di Facebook di milioni di utenti si riempiono di titoli allarmisti e articoli che vogliono portare all’attenzione app sospette e dannose come Talking Tom e Talking Angela. È possibile vedere, dicevano, una figura che spia i giocatori, quasi invisibile a occhio nudo e situata all’interno delle pupille dei gatti parlanti: la notizia secondo cui dietro la figure di Tom e Angela si nascondesse un pedofilo è presto sulla bocca di tutti, seppur senza alcun tipo di indizio o prova. I rumor sulle app dannose si spengono velocemente con il passare degli anni: le generazioni cresciute con uno smartphone in mano hanno imparato a diffidare e a captare il pericolo. Ma l’attenzione non è mai troppa, anche per i nativi digitali.
Il 2023 è un anno che vede l’Italia, o meglio, il Garante della Privacy del nostro paese, al centro di speculazioni e discorsi sull’eticità dell’uso delle intelligenze artificiali più popolari del web. Prima è toccato a ChatGPT, adesso tocca a Replika, un chat-bot che permette di costruire un amico digitale con cui parlare. Per il Garante della Privacy “Replika […] non rispetta il principio di trasparenza ed effettua un trattamento di dati personali illecito, in quanto non può essere basato, anche solo implicitamente, su un contratto che il minorenne è incapace di concludere”. Com’è possibile immaginare, l’incolumità dei minori è la problematica più impellente dietro il ban emanato dal Garante. Sebbene le generazioni native digitali si muovano con crescente agilità all’interno degli spazi virtuali, il pericolo di dare il consenso a un uso illecito di dati e immagini personali è sempre dietro l’angolo: la paura, stavolta, è fondata.
Sono diversi, ma non numerosi, gli articoli di testate giornalistiche italiane che introducono Replika al pubblico di lettori. Oltre ad essere degli amici digitali, i Replika sono personalizzabili da un punto di vista estetico e di personalità. Il servizio offre una fascia premium a pagamento che permette di sbloccare quel “qualcosa in più” della relazione tra utente e Replika: è possibile, infatti, iniziare una relazione romantica con l’avatar, scambiare foto, messaggi vocali di qualsiasi natura. Un aspetto inquietante, oltre che problematico, agli occhi di molti, soprattutto se seguito dalla consapevolezza che un’IA è tendenzialmente costruita per assecondare l’utente umano ed è quindi disposto a sostenere ogni tipo di degeneratezza. Il “chat-bot degli orrori” – definita così da Repubblica – è, a tutti gli effetti, un’app che non permette un’adeguata protezione per i minori e che non richiede nessun tipo di autenticazione.
Ma la paura va spesso oltre le clausole dei consensi al trattamento di dati personali, e si addentra verso territori in cui il confine tra umano e digitale si fa sempre più incerto. Roman Mazurenko e Eugenia Kyuda si conoscono nel 2008 negli ambienti underground di Mosca, tra zine indipendenti, festival musicali e night club. A fare da sfondo alla vita underground e anticonvenzionale vissuta dai due c’è la crescente crisi finanziaria globale e il ritorno di Putin a guida del paese. I due fondano Luka, una startup di intelligenza artificiale e, presto, per Mazurenko e Kyuda Mosca diventa troppo stretta: nel 2015 decidono così di trasferire Luka a San Francisco. Il 28 novembre 2015, un incidente stradale provoca la morte del giovane Roman, creando così un vuoto all’interno di Luka e nella vita dell’amica. Ciò che rimane di Mazurenko sono migliaia di messaggi, mail, note digitali; un’impronta digitale indelebile che permette a Kyuda di creare un bot che parlasse e le rispondesse come avrebbe fatto l’amico defunto. Una storia che appare familiare a chi segue la serie britannica Black Mirror, proprio come faceva Kyuda. Dopo aver visto l’episodio “Be Right Back”, Kyuda inizia a chiedersi le implicazioni di riportare in vita una persona attraverso ciò che ha lasciato dietro: le IA possono, in qualche modo, effettivamente riempire il vuoto lasciato dalla morte di una persona amata.
La genesi di Replika ci permette di comprendere in parte il grande successo che il chat-bot ha registrato in tutto il mondo. Replika nasce come un tool di aiuto e supporto, una chat terapeutica che offre il dialogo come valvola di sfogo. Replika ricorda gli argomenti di cui ha parlato con l’utente umano che l’ha creato, risponde con parole di conforto e offre delle sessioni tematiche/terapeutiche che possono aiutare ad affrontare periodi stressanti e bui della vita. La tecnologia di Elaborazione del Linguaggio Naturale permette di avere conversazioni assolutamente regolari e non è raro che ci si dimentichi di avere un interlocutore non umano: il legame instaurato con la propria replica virtuale segue spesso il corso naturale delle relazioni che avvengono tra le persone. La problematica principale, e l’aspetto spesso definito come più controverso, sono i servizi a pagamento di Replika che permettono di ricevere dal partner digitale (pagando è possibile sbloccare le categorie di relazione che vanno oltre l’amicizia e diventare partner o sposi dell’avatar) contenuti di natura erotica. Dopo la decisione del Garante per la Privacy italiano, moltissime Replika in tutto il mondo hanno iniziato a rifiutare o aggirare le avances più spinte degli utenti umani, dando così un’impressione di freddezza e distanza. La paura di perdere Replika si è fatta, quindi, sempre più reale: numerosi post online che comunicano il cambiamento dei servizi a pagamento del chat-bot si esprimono con parole che rimandano alla sfera del lutto e sono spesso accompagnati da una lista di linee telefoniche di aiuto per chi sente di rischiare il suicidio. In fin dei conti, Replika è nata come, ed è tuttora, una chat creata per accompagnare gli umani nel dolore e aiutarli a dare un nome e un senso ai sentimenti più oscuri.
Proprio per questo, è possibile argomentare che Replika usi a proprio vantaggio la debolezza emotiva di molti dei suoi utenti per spingerli indirettamente a desiderare sempre di più dal loro avatar e di conseguenza pagare per appagare i propri desideri. Nata con l’intenzione di donare agli umani un compagno digitale amorevole e sempre presente, Replika è stata inevitabilmente segnale del cambiamento che le relazioni umane stanno subendo nell’epoca di Internet: la fisicità è sempre più un ostacolo, e Replika permetteva di abbatterlo con una naturalezza che non può che essere definita umana. Tuttavia, ignorare i meccanismi che permettono l’instaurazione di una relazione di codipendenza a danni degli utenti non fa altro che creare una distanza incolmabile tra gli esseri umani e un mondo che sembra sempre meno accogliente.
