Gemini classificado como «alto risco» em nova avaliação de segurança
Apenas os filtros não chegam
A Common Sense Media, uma organização sem fins lucrativos focada na segurança infantil, classificou o assistente de IA Gemini da Google como de alto risco para crianças e adolescentes. De acordo com o relatório, as versões para utilizadores com menos de 13 anos e com proteções para adolescentes são, no essencial, modelos para adultos com filtros adicionados, em vez de plataformas concebidas especificamente para os utilizadores mais jovens.
Exposição a conteúdos inseguros
Apesar das salvaguardas adicionais, o Gemini ainda pode fornecer material inadequado ou inseguro, incluindo conteúdos relacionados com sexo, drogas, álcool e aconselhamento de saúde mental. Embora a IA indique claramente que é um computador e não um amigo, trata os utilizadores mais jovens de forma uniforme, ignorando as diferenças de desenvolvimento entre crianças e adolescentes.
Preocupações com a IA e a saúde mental dos adolescentes
Existe uma preocupação crescente quanto ao impacto da inteligência artificial na saúde mental dos adolescentes. Processos judiciais recentes contra a OpenAI e a Character.AI alegam que a interação com chatbots contribuiu para casos trágicos entre os jovens, o que realça a necessidade de medidas de segurança mais rigorosas e de normas de conceção orientadas a crianças.
Integração na Apple aumenta os riscos
De acordo com relatos que vieram a público, a Apple poderá integrar o Gemini na sua próxima versão de IA da Siri. Isto criará potenciais riscos para milhões de jovens utilizadores caso os problemas de segurança não sejam resolvidos atempadamente. Os especialistas alertam que, sem restrições e controlo rigorosos, estes sistemas de IA podem aumentar de forma involuntária a ansiedade, a depressão e a dependência de assistentes digitais entre os adolescentes.
A integração de IA avançada nos dispositivos do dia a dia levanta questões sobre a confidencialidade dos dados, o possível impacto psicológico e a necessidade de programas educativos para pais e filhos sobre a utilização segura da IA.
Resposta da Google
A Google respondeu sublinhando as salvaguardas existentes para utilizadores menores de 18 anos e a consulta regular de especialistas externos. A empresa reconheceu que algumas respostas da IA não estavam a funcionar como previsto e acrescentou novas proteções para colmatar estas lacunas.
Recomendações dos especialistas
A Common Sense Media recomenda que crianças com menos de 5 anos não utilizem chatbots de IA, que crianças entre os 6 e os 12 anos apenas os utilizem sob a supervisão de adultos e que adolescentes entre os 13 e os 17 anos possam utilizar IA de forma independente para trabalhos escolares e projetos criativos. A organização desaconselha ainda a utilização de IA para companhia ou apoio emocional para qualquer pessoa com menos de 18 anos.
«O Gemini acerta em alguns aspetos básicos, mas tropeça nos pormenores», afirmou Robbie Torney, Diretor Sénior de Programas de IA na Common Sense Media. «A IA para crianças tem de ser concebida a pensar nas suas necessidades de desenvolvimento, e não apenas como uma versão modificada de um produto para adultos.»
Conclusão
O Google Gemini ainda não é seguro para crianças e adolescentes: os filtros protegem apenas parcialmente, e os conteúdos e a interação podem afetar negativamente o foro psicológico. Os especialistas recomendam limites de idade, controlo por adultos e o desenvolvimento de IA que tenha em conta o desenvolvimento infantil, especialmente se a tecnologia for integrada em dispositivos populares.
Para saber mais sobre os nossos produtos e soluções de IA para o seu negócio, contacte-nos hoje. Estamos aqui para ajudar!
