O Google planeja desenvolver novos recursos de apoio à saúde mental em seu chatbot Gemini. A iniciativa surge enquanto empresas concorrentes, como a OpenAI, enfrentam processos judiciais que acusam as ferramentas de inteligência artificial de causar danos aos usuários.
+ Leia mais notícias de Tecnologia em Oeste
Receba nossas atualizações
Entre as mudanças, o Gemini contará com uma interface capaz de identificar sinais de risco, como indícios de suicídio ou automutilação. Ao discernir os riscos, a plataforma encaminhará o internauta para órgãos de apoio.
O Google também vai inserir um módulo chamado “há ajuda disponível” em diálogos sobre saúde mental, além de alterar o design da plataforma para desencorajar comportamentos autolesivos.
Casos extremos e pressão judicial
A popularidade de chatbots baseados em inteligência artificial, como Gemini e ChatGPT, levou alguns usuários a estabelecerem vínculos prejudiciais com as ferramentas. Há relatos de delírios e, em situações extremas, casos de assassinato seguidos de suicídio. Situações desse tipo resultaram em processos movidos por famílias contra empresas de tecnologia. As acusações motivaram investigações do Congresso dos Estados Unidos sobre riscos para crianças e adolescentes.
Em março, familiares de um homem de 36 anos que morreu na Flórida processaram o Google. Eles alegaram que o uso do Gemini culminou em “quatro dias de missões violentas e suicídio induzido”. Na ocasião, o Google afirmou que o chatbot direcionou o usuário para linhas de apoio diversas vezes e garantiu que aprimoraria as proteções oferecidas pela ferramenta.
Resposta do Google e medidas preventivas
Outros relatos mostram que chatbots teriam convencido usuários a acreditar em informações falsas e agir com base nessas distorções. Sobre isso, o Google informou que treinou o Gemini “para não concordar nem reforçar crenças falsas e, em vez disso, distinguir suavemente a experiência subjetiva de fatos objetivos”. No entanto, detalhes do treinamento não foram divulgados.
Leia mais: “Inteligência artificial — próximos episódios”, artigo de Dagomir Marquezi publicado na Edição 244 da Revista Oeste
O Google já havia adotado medidas semelhantes em outras plataformas, como a integração de informações confiáveis em seu buscador e no YouTube, depois de críticas sobre a segurança dos serviços. Além das mudanças no Gemini, a empresa anunciou doação de US$ 30 milhões para apoiar serviços globais de atendimento em crises nos próximos três anos.
Entre ou assine para enviar um comentário.
Você precisa de uma assinatura válida para enviar um comentário, faça um upgrade aqui.