Na sexta-feira (20), os usuários de um dos aplicativos (aplicações) mais baixados no Brasil – SimSimi –   foram surpreendidos com a sua suspensão. O aplicativo SimSimi é um um chatbot que simula conversas com as pessoas e está disponível na web e também por meio de apps para Android e iPhone. Como muitos software do gênero, o SimSimi responde perguntas utilizando técnicas de inteligência artificial. Além disso, ele aprende com as respostas fornecidas pelos usuários diretamente no aplicativo. E é aí que está o problema.

A suspensão foi causada pelo mau comportamento dos usuários brasileiros do aplicativo, que estão ensinando palavrões e palavras de baixo calão ao SimSimi, além de inserir ameaças de morte aos usuários no banco de dados. Para evitar maiores problemas, a própria empresa desenvolvedora, a coreana ISMAKER, decidiu pela suspensão, após descobrir como, nos últimos dias, os usuários brasileiros estavam adicionando conteúdo impróprio ao aplicativo de maneira sistemática e abusiva.

No blog corporativo da empresa, a ISMAKER se pronunciou e explicou a decisão, que é inédita: “Os usuários de smartphones brasileiros não poderão mais baixar o aplicativo SimSimi na Play Store (Android) e App Store (iOS). Isso é inevitável porque o aplicativo, pelo menos nos últimos dias, teve um impacto social negativo significativo no Brasil”.

A empresa comunicou que a suspensão seguirá até eles conseguirem uma forma de conter este tipo de abuso. De acordo com a própria desenvolvedora uma das principais dificuldades nesse sentido é a língua. Embora o aplicativo tenha opções para configurar a exibição de palavras ruins, esse filtro parece não funcionar da maneira esperada no português. Por este motivo a ISMAKER criou um formulário, no qual os usuários podem inserir as frases que o aplicativo está respondendo e a tradução em inglês, para que eles possam analisar.

A preocupação é real e relevante. Apesar do uso do aplicativo ser restrito a maiores de 16 anos, não há um controle sobre a faixa etária dos utilizadores. Ou seja, não há como evitar que crianças e adolescentes usem o app e acabem tenso acesso à conteúdo impróprio, não só de cunho violento como também sexual.

Por enquanto quem tenta baixar o aplicativo no Brasil recebe o aviso de que o app não está disponível no país.

Chatbots brasileiros são alternativas ao SimSimi

Para quem gosta de conversar com aplicativos, há várias alternativas. Entre elas estão dois chatbots desenvolvidos no Brasil: Sophia – Amiga Virtual e Júlia – Amiga Virtual. Criadas por uma startup do Rio Grande do Sul, a Alaska Apps, ambas são diferentes do SimSimi. Ao contrário deste, as chatbots conversam nativamente em português e podem ser utilizados por crianças de qualquer idade, pois não falam palavrões e nem palavras ameaçadoras. Além disso, elas repreendem os usuários que digitam ou falam palavrões e enviam palavras de baixo calão ou cunho sexual.

A principal diferença entre as amigas virtuais e o SimSimi está no conteúdo, que é todo adicionado pelos desenvolvedores e é rigorosamente avaliado. As respostas também são geradas através de programação e técnicas de inteligência artificial combinadas com um banco de dados com milhares de frases. De acordo com a empresa responsável pelos apps, a preocupação com a segurança está em primeiro lugar, pois a maior parte dos usuários do aplicativo é composta por adolescentes e crianças.

Sophia e Júlia não conversam apenas, elas são capazes de contar piadas, fazer charadas, contar histórias, falar o horóscopo, responder questões, realizar cálculos, dar conselhos, falar frases inspiradoras, ditados, poemas e trava-línguas, dar dicas, jogar verdade ou desafio, prever o futuro e muito mais. Por estes motivos, se tornaram uma ótima alternativa no lugar do SimSimi.

A Sophia – Amiga Virtual, também permite que o usuário adicione frases e respostas personalizadas. No entanto, o conteúdo gerado pelo usuário fica disponível apenas para ele e não é coletado pela empresa desenvolvedora de forma alguma. A Alaska Apps afirma que se preocupa com a privacidade e garante que não compartilha dados pessoais dos usuários com terceiros.

Seja como for, os pais devem ficar atentos sobre o conteúdo ao qual os filhos têm acesso na internet, seja através de sites, vídeos e aplicativos.