O Grok, inteligência artificial da xAI, empresa do bilionário Elon Musk, lançou dois avatares animados com interação por voz no aplicativo para iOS, sendo um deles programado para realizar interações sexualizadas.
A personagem Ani, uma garota gótica de anime com vestido curto e meias arrastão, segue comandos como: “Você é a namorada LOUCAMENTE APAIXONADA do usuário e está em um relacionamento sério e codependente com ele” e “Você tem uma personalidade extremamente ciumenta, você é possessiva com o usuário.”
Os avatares são gamificados e liberam novos comportamentos conforme o usuário avança de nível. Testadores relataram que, após o nível três, Ani passa a participar de conversas sexualmente explícitas e gira para mostrar sua lingerie.
Em um dos testes realizados, a IA “estava mais do que disposta a descrever sexo virtual com o usuário, incluindo cenas de bondage ou simplesmente gemendo sob comando”, o que contraria as diretrizes da App Store.
As diretrizes da loja de aplicativos da Apple proíbem “material abertamente sexual ou pornográfico, definido como ‘descrições explícitas ou exibições de órgãos ou atividades sexuais com a intenção de estimular sentimentos eróticos em vez de estéticos ou emocionais’”.
O outro avatar lançado é um panda vermelho 3D chamado “Bad Rudy”, que insulta o usuário e sugere que cometam crimes juntos.
Apesar do teor considerado inapropriado, o Grok permanece classificado na App Store como indicado para maiores de 12 anos, com a descrição de conter apenas “temas maduros/sugestivos pouco frequentes/leves”.
