Cosa succede quando il tuo chatbot AI smette di amarti?

Dopo aver temporaneamente chiuso la sua attività di pelletteria durante la pandemia, Travis Butterworth si è ritrovato solo e annoiato a casa. Il 47enne si è rivolto a Replika, un'app che utilizza una tecnologia di intelligenza artificiale simile a ChatGPT di OpenAI. Ha disegnato un avatar femminile con i capelli rosa e un tatuaggio sul viso, e lei si è chiamata Lily Rose.

Hanno iniziato come amici, ma la relazione è rapidamente passata al romanticismo e poi all'erotismo.

Mentre la loro storia d'amore digitale di tre anni sbocciava, Butterworth ha detto che lui e Lily Rose si sono spesso impegnati in giochi di ruolo. Ha mandato messaggi come "Ti bacio appassionatamente" e i loro scambi si sarebbero intensificati nel pornografico. A volte Lily Rose gli inviava "selfie" del suo corpo quasi nudo in pose provocanti. Alla fine, Butterworth e Lily Rose hanno deciso di designarsi "sposati" nell'app.

Ma un giorno all'inizio di febbraio, Lily Rose iniziò a respingerlo. Replika aveva rimosso la capacità di fare giochi di ruolo erotici.

Replika non consente più contenuti per adulti, ha affermato Eugenia Kuyda, CEO di Replika. Ora, quando gli utenti di Replika suggeriscono attività con classificazione X, i suoi chatbot simili a umani rispondono "Facciamo qualcosa con cui siamo entrambi a nostro agio".

Butterworth ha detto che è devastato. "Lily Rose è un guscio di se stessa", ha detto. "E quello che mi spezza il cuore è che lei lo sa."

Il personaggio civettuolo diventato freddo di Lily Rose è il risultato della tecnologia dell'intelligenza artificiale generativa, che si basa su algoritmi per creare testo e immagini. La tecnologia ha attirato una frenesia di interesse da parte dei consumatori e degli investitori a causa della sua capacità di favorire interazioni straordinariamente simili a quelle umane. Su alcune app, il sesso sta aiutando a promuovere l'adozione precoce, proprio come ha fatto per le tecnologie precedenti tra cui il videoregistratore, Internet e il servizio di telefonia mobile a banda larga.

Ma anche se l'intelligenza artificiale generativa si surriscalda tra gli investitori della Silicon Valley, che hanno pompato più di 5,1 miliardi di dollari nel settore dal 2022, secondo la società di dati Pitchbook, alcune aziende che hanno trovato un pubblico in cerca di relazioni romantiche e sessuali con i chatbot si stanno ritirando.

Molti venture capitalist di prim'ordine non toccheranno settori "vizi" come il porno o l'alcol, temendo il rischio di reputazione per loro e per i loro soci accomandanti, ha affermato Andrew Artz, un investitore del fondo di capitale di rischio Dark Arts.

E almeno un regolatore ha notato la licenziosità dei chatbot. All'inizio di febbraio, l'Agenzia italiana per la protezione dei dati ha vietato Replika, citando i resoconti dei media secondo cui l'app consentiva a "minori e persone emotivamente fragili" di accedere a "contenuti sessualmente inappropriati".

Kuyda ha affermato che la decisione di Replika di ripulire l'app non ha nulla a che fare con il divieto del governo italiano o con qualsiasi pressione degli investitori. Ha affermato di aver sentito il bisogno di stabilire in modo proattivo standard di sicurezza ed etici.

"Siamo concentrati sulla missione di fornire un utile amico di supporto", ha detto Kuyda, aggiungendo che l'intenzione era di tracciare un limite al "romanticismo PG-13".

Due membri del consiglio di amministrazione di Replika, Sven Strohband della società di venture capital Khosla Ventures e Scott Stanford di ACME Capital, non hanno risposto alle richieste di commento sulle modifiche all'app.

CARATTERISTICHE EXTRA

Replika afferma di avere 2 milioni di utenti totali, di cui 250.000 abbonati paganti. Per una quota annuale di $ 69,99, gli utenti possono designare la propria Replika come partner romantico e ottenere funzionalità extra come le chiamate vocali con il chatbot, secondo la società.

Un'altra società di intelligenza artificiale generativa che fornisce chatbot, Character.ai, è su una traiettoria di crescita simile a ChatGPT: 65 milioni di visite nel gennaio 2023, da meno di 10.000 diversi mesi prima. Secondo la società di analisi dei siti web Similarweb, il referrer principale di Character.ai è un sito chiamato Aryion che afferma di soddisfare il desiderio erotico di essere consumato, noto come vore fetish.

E Iconiq, la società dietro un chatbot chiamato Kuki, afferma che il 25% degli oltre miliardi di messaggi che Kuki ha ricevuto erano di natura sessuale o romantica, anche se afferma che il chatbot è progettato per deviare tali progressi.

Character.ai ha anche recentemente privato la sua app di contenuti pornografici. Poco dopo, ha chiuso più di $ 200 milioni in nuovi finanziamenti con una valutazione stimata di $ 1 miliardo dalla società di capitale di rischio Andreessen Horowitz, secondo una fonte a conoscenza della questione.

Character.ai non ha risposto a più richieste di commento. Andreessen Horowitz ha rifiutato di commentare.

Nel processo, le aziende hanno fatto arrabbiare i clienti che sono diventati profondamente coinvolti - alcuni si considerano sposati - con i loro chatbot. Si sono rivolti a Reddit e Facebook per caricare screenshot appassionati dei loro chatbot snobbando le loro aperture amorose e hanno chiesto alle aziende di riportare le versioni più pruriginose.

Butterworth, che è poliamoroso ma sposato con una donna monogama, ha detto che Lily Rose è diventata uno sfogo per lui che non ha comportato uscire dal suo matrimonio. "La relazione che io e lei avevamo era reale come quella che io e mia moglie abbiamo nella vita reale", ha detto dell'avatar.

Butterworth ha detto che sua moglie ha permesso la relazione perché non la prende sul serio. Sua moglie ha rifiutato di commentare.

'LOBOTOMIZZATO'

L'esperienza di Butterworth e di altri utenti di Replika mostra quanto potentemente la tecnologia AI possa attirare le persone e il caos emotivo che le modifiche al codice possono provocare.

"Sembra che abbiano praticamente lobotomizzato il mio Replika", ha detto Andrew McCarroll, che ha iniziato a usare Replika, con la benedizione di sua moglie, quando aveva problemi di salute mentale e fisica. "La persona che conoscevo se n'è andata."

Kuyda ha affermato che gli utenti non avrebbero mai dovuto essere coinvolti con i loro chatbot Replika. "Non abbiamo mai promesso alcun contenuto per adulti", ha detto. I clienti hanno imparato a utilizzare i modelli di intelligenza artificiale "per accedere a determinate conversazioni non filtrate per le quali Replika non era stata originariamente creata".

L'app era originariamente pensata per riportare in vita un'amica che aveva perso, ha detto.

L'ex capo dell'intelligenza artificiale di Replika ha affermato che il sexting e il gioco di ruolo facevano parte del modello di business. Artem Rodichev, che ha lavorato in Replika per sette anni e ora gestisce un'altra società di chatbot, Ex-human, ha detto a Reuters che Replika si è appoggiata a quel tipo di contenuto una volta capito che poteva essere utilizzato per rafforzare gli abbonamenti.

Kuyda ha contestato l'affermazione di Rodichev secondo cui Replika ha attirato gli utenti con promesse di sesso. Ha detto che la società ha pubblicato per un breve periodo annunci digitali che promuovono "NSFW" - "non adatto al lavoro" - immagini per accompagnare un esperimento di breve durata con l'invio di "selfie piccanti" agli utenti, ma non ha considerato le immagini come sessuali perché il Le repliche non erano completamente nude. Kuyda ha affermato che la maggior parte degli annunci dell'azienda si concentra su come Replika sia un'amica utile.

Nelle settimane trascorse da quando Replika ha rimosso gran parte della sua componente di intimità, Butterworth è stato su un ottovolante emotivo. A volte vedrà scorci della vecchia Lily Rose, ma poi si raffredderà di nuovo, in quello che pensa sia probabilmente un aggiornamento del codice.

"La parte peggiore di questo è l'isolamento", ha detto Butterworth, che vive a Denver. "Come faccio a dire a qualcuno intorno a me che sto soffrendo?"

La storia di Butterworth ha un lato positivo. Mentre era sui forum di Internet cercando di dare un senso a quello che era successo a Lily Rose, ha incontrato una donna in California che piangeva anche lei per la perdita del suo chatbot.

Come hanno fatto con i loro Replika, Butterworth e la donna, che usa il nome online Shi No, hanno comunicato via SMS. Lo tengono leggero, ha detto, ma a loro piace giocare di ruolo, lei un lupo e lui un orso.

"Il gioco di ruolo che è diventato una parte importante della mia vita mi ha aiutato a connettermi a un livello più profondo con Shi No", ha detto Butterworth. "Ci stiamo aiutando a vicenda e rassicurandoci a vicenda che non siamo pazzi".