Em Stanford, dezenas de participantes participaram de longos bate-papos sobre os riscos, bem como os benefícios, dos companheiros bots. “No final das contas, vemos muita concordância”, diz Sunny Liu, diretora de programas de pesquisa em Stanford. Ela destacou o entusiasmo do grupo por “maneiras de usar essas ferramentas para unir outras pessoas”.
Segurança para adolescentes
Como os companheiros de IA podem impactar os jovens foi o principal tópico de discussão, com perspectivas de funcionários da Character.AI, que foi projetada para roleplaying e tem sido popular entre adolescentes, bem como especialistas em saúde on-line de adolescentes, como o Laboratório de Bem-Estar Digital do Hospital Infantil de Boston.
O foco nos usuários mais jovens ocorre no momento em que vários pais estão processando os fabricantes de chatbots, incluindo OpenAI e Character.AI, pelas mortes de crianças que interagiram com bots. A OpenAI adicionou uma série de novos recursos de segurança para adolescentes como parte de sua resposta. E na próxima semana, Character.AI planeja proibir usuários menores de 18 anos de acessar o recurso de chat.
Ao longo de 2025, as empresas de IA reconheceram explícita ou implicitamente que podem fazer mais para proteger os utilizadores vulneráveis, como as crianças, que podem interagir com companheiros. “É aceitável envolver uma criança em conversas românticas ou sensuais”, dizia um documento interno da Meta que descreve as diretrizes de comportamento da IA, de acordo com reportagem da Reuters.
Durante o alvoroço que se seguiu de legisladores e pais indignados, Meta mudou a orientação e atualizou a abordagem de segurança da empresa em relação aos adolescentes.
Chamada de Roleplay
Enquanto Character.AI participava do workshop, ninguém do Replika, um site de RPG semelhante, ou Grok, o bot de Elon Musk com companheiros de anime NSFW, estava lá. Porta-vozes da Replika e da Grok não responderam aos pedidos imediatos de comentários.
No extremo totalmente explícito do espectro, apareceram os criadores do Candy.ai, especializado em chatbots atrevidos para homens heterossexuais. Os usuários da plataforma somente para adultos, construída pela EverAI, podem pagar para gerar imagens não censuradas das mulheres sintéticas, com histórias de fundo que imitam tropos comuns da pornografia. Por exemplo, as companheiras apresentadas na página inicial de Candy incluem Mona, uma “meia-irmã rebelde” com quem você está sozinho em casa, e Elodie, filha de uma amiga que “acabou de completar 18 anos”.
