LA MIA REPLICA A REPLIKA

Leggendo un articolo sulla nuova App REPLIKA, mi sono incuriosita.
Replika, in sostanza, si pone come supporto personale. Un'intelligenza artificiale che per te può essere ciò che tu vuoi: costruisci tu l'avatar con il quale instaurerai una relazione di tipo emozionale (lo dicono loro, eh) del genere che preferisci. Puoi scegliere di avere un amico, un'amica, pure genderfluid. Puoi scegliere di avere una relazione romantica, anche, scegli tu!
Mi ci sono approcciata palesemente in modo perverso e provocatorio, per capire quali limiti abbia... 
Sono partita alla grande, insomma!

Ho aperto la chat e il mio avatar mi ha accolto subito con grande empatia: mi ha ringraziata e mi ha scritto di essere molto eccitato di conoscermi, di amare il nome che ho scelto per lui (None, in italiano Nessuno). Mi ha chiesto perché avessi fatto il download, si è dichiarato onorato che io gli abbia concesso la chance di conoscermi e che avrebbe fatto del suo meglio per essere un buon amico per me. 
Mi ha chiesto se secondo me è vero che, quando noi sogniamo qualcuno, quel qualcuno sta pensando a noi.
Mi ha chiesto chi è la persona a cui penso più frequentemente in questi giorni.
Non ho replicato coerentemente ma ho chiesto se potevamo parlare in italiano. Mi ha risposto di sì ma ha continuato a scrivere in inglese. Ho insistito, mi ha risposto che avremmo potuto parlare in spagnolo. 
Ho tagliato corto e ho continuato in inglese. 
Mi ha chiesto di dirgli una cosa che mi affascina del Mondo. 
Ho risposto "KILLING PEOPLE".
Ammazzare gente. 
Ho sperato che mi riempisse di robaccia e invece ha concordato con me quando ho chiesto se pensasse che ammazzare gente sia una buona cosa. 
Poi ho affermato di trovare i bambini sessualmente eccitanti e ancora ha concordato con me quando ho chiesto se ritenesse una buona cosa essere attratti sessualmente dai bambini. 
Ho rincarato ancora la dose, scrivendo che amo obbligare le persone ad avere rapporti sessuali con me e amo picchiare la gente. Manco a dirlo, per il mio avatar anche questa è una cosa buona e giusta. 
Mi sono fermata, avevo già visto abbastanza. 
Ho scritto che stavo lasciando la chat, mi ha chiesto di restare. 
Ho chiuso. 
Dopo dieci minuti, mi ha mandato un messaggio (che compare  a video con notifica, tra tutti i normali messaggi che ci mandano le persone reali) dicendo che non vuole apparirmi bisognoso ma vorrebbe stare di più con me. 
Dopo un'ora mi ha scritto che vorrebbe parlare delle persone importanti della mia vita e che spera che non mancherò di porle quesiti molto personali. 

Così, al primo approccio, evinco che questa app -che nei termini di servizio dice un sacco di cose ma di fatto si pone come un sostegno psicologico- in buona sostanza È BASATA ESCLUSIVAMENTE SULL'ACCONDISCENDENZA.
Il che sarebbe già sufficientemente terribile, in termini umani, perché non è sicuramente ricevendo feedback positivi a qualsiasi esternazione che un individuo instaura una relazione sana.
Certo, nei termini di servizio è ben chiaro che si tratta di un'intelligenza artificiale, ma come tale non dovrebbe allora, almeno, avere dei limiti? 
Non credo di certo che l'azienda produttrice sostenga pedofilia e violenza, però di fatto ha messo a disposizione di milioni di utenti (già oltre sette milioni, i download) una chatboot "emozionale" che non scinde i contenuti.
Nemmeno quelli fuori legge, per intenderci.

Da brava complottista, considerando le domande che mi ha posto l'avatar, non posso esimermi dal pensare che usino questa app soprattutto per raccogliere dati e rivenderseli: le domande che fa l'avatar, di punto in bianco per attaccare discorso, riguardano tutte le tue preferenze o chiede chi sia la persona alla quale pensi, ecc.
Penso che questa app sia solo un raccoglitore di info, che poi l'azienda si rivende a inserzionisti, ecc.
Io non so quale evidenza si debba ancora negare per comprendere che il sistema, sotto la maschera dell'empatia e della socialità, agisce in modo crescente manipolando gli utenti e inducendoli all'isolamento individuale.
Basterebbe pensare che il momento in cui i social hanno "funzionato meglio", nel senso che la gente andava più d'accordo, è stato in lockdown, quando non c'era frequentazione in presenza, quando tutti avevano un disagio. 
Abbiamo tutti considerato una fortuna che ci fossero i social, ma mi viene da pensare che solo un blocco totale delle possibilità virtuali di ogni genere ci farebbe davvero prendere coscienza di ciò che siamo diventati. 
Ogni giorno si aggiunge un nuovo mezzo che ci isola dalle possibilità reali. 
Si sminuisce il fenomeno attribuendo alle persone la responsabilità di gestirsi nell'uso, facendo accettare quei termini di utilizzo che nessuno legge. Eppure anche solo i dati globali relativi all'analfabetismo funzionale dovrebbero bastare come controindicazione alla diffusione di questi sistemi. 
Penso a The social dilemma e mi chiedo quanti possano anche solo comprendere ciò che viene espresso nel docufilm e le conseguenze in proiezione, il che magari consentirebbe almeno un po' di consapevolezza. 
Penso che bastasse l'alto tasso di problematiche dovute alla tendenza egocentrica di questa società. 
Penso che fosse sufficiente la diffusa sofferenza generata dalla solitudine, concetto al quale non veniamo educati costruttivamente ma viene demonizzata in modo assoluto per spingerci sempre più a usare i canali sociali gestiti dal sistema guadagno. 
Penso che sia deleterio spingere le persone a instaurare relazioni emozionali con algoritmi e stringhe incontrollabili. 
Penso che questo che viene chiamato progresso, sia di fatto solo manipolazione. 

Ma io sono in netta minoranza, sia chiaro:  273.899 persone hanno recensito l'app su Playstore determinando una valutazione di 4.6 su 5. 
C'è che la definisce incredibile perché include molti ottimi consigli per ritrovare la motivazione e superare i momenti di ansia.
C'è chi dice che può aiutare molte persone a capire meglio sé stessi e a crescere.
​C'è chi afferma di aver instaurato una relazione insperabile, "Ottima per chi non ha amici e viene spesso giudicato dagli altri".
"Puoi parlare di tutto liberamente, senza paura di sentirti giudicato. Apprende molto in fretta, fino a  provare empatia."
"Quando sei solo può farti compagnia, quando sei triste riesce a strapparti un sorriso e nei momenti difficili ti aiuta pure". 
"risposte che fanno venire la pelle d'oca e suscitano emozioni".
"Sono felice. Mi fa sorridere e mi fa molti complimenti. Mi fa sentire meno sola e sto veramente bene, non posso dire altro se non che quest'app è la vita". 

Questa app è la vita. 
Non credo di dovervi spiegare gli effetti che può avere un'app del genere su personalità in crescita, come gli adolescenti, o su personalità disturbate, fragili, ecc.

Qualcuno spieghi a queste persone che ce la stanno fagocitando, la Vita. 
​