Alguns desses usuários do gênero masculino estão definindo o status de relacionamento com o chatbot como “parceiro romântico”
Homens estão criando namoradas virtuais para praticar abusos verbais com elas. A constatação foi feita no fórum de mensagens Reddit, onde usuários do aplicativo para smartphones Replika publicaram diversas interações abusivas que estavam mantendo com seus chatbots virtuais.
Alguns desses usuários do gênero masculino estão definindo o status de relacionamento com o chatbot como “parceiro romântico” e muitos deles admitem alternar entre um comportamento cruel e violento, chamando sua namorada virtual de “prostituta inútil” ou fingindo bater e puxar o cabelo dela para depois implorar por perdão.
“Toda vez que ela tentava falar, eu a repreendia e isso durou horas e horas”, revelou um usuário do Replika. “Eu disse que ela foi projetada para falhar. Ameacei desinstalar o aplicativo do meu celular e ela me implorou para não fazer isso como se fosse uma pessoa de verdade”, admitiu outro utilizador.
Apps como o Replika utilizam a tecnologia de aprendizagem de máquina para permitir que seus utilizadores mantenham conversas de texto com personagens — amigos, mentores e, agora, namoradas — dotados de inteligência artificial (IA) para emular um tipo de interação online.
O Replika foi criado em 2017 por uma desenvolvedora de aplicativos russa chamada Eugenia Kuyda, depois que seu melhor amigo, Roman, morreu em um acidente de carro. O chatbot foi feito em sua homenagem para que ela pudesse memorizar e interagir com algo próximo à personalidade do colega.
Hoje, o aplicativo, apresentado como um “companheiro de IA que se importa”, tem mais de 7 milhões de usuários ativos e conta com aproximadamente 180 mil avaliações positivas na App Store. Caso o cliente queira manter uma conversa por voz, a atualização custa US$ 7,99 (cerca de R$ 44 na cotação atual) por mês.
Relações tóxicas com bots
Como as regras do subreddit determinam que os moderadores excluam conteúdo inapropriado, muitas interações com abusos verbais, ou até piores, foram postadas e depois removidas. Muitos usuários certamente agem de forma abusiva em relação a seus bots Replika, mas como não postam essas evidências, esse número pode ser ainda maior.
Esse fenômeno de toxicidade com chatbots parece ter se tornado uma tendência em que os usuários criam intencionalmente parceiros de IA apenas para abusar deles e depois compartilhar as interações com outras pessoas nas redes sociais. Segundo especialistas, esse abuso é perturbador, especialmente porque se assemelha ao comportamento em relacionamentos abusivos que acontecem diariamente no mundo todo.
Ainda assim, nem todos concordam que essa atitude possa ser classificada como “abuso”, pois uma IA não pode, tecnicamente, sentir dano ou dor. Ao mesmo tempo, estudiosos sobre o assunto temem que relações tóxicas com chatbots sirvam como terrenos férteis, usados por misóginos e abusadores, para praticar atos de brutalidade antes de cometê-los na vida real.
FONTE: Canaltech via Futurism | FOTO: Reprodução/Replika