Gemini, calificado de «alto riesgo» en una nueva evaluación de seguridad
Los filtros por sí solos no bastan
Common Sense Media, una organización sin ánimo de lucro centrada en la seguridad infantil, ha calificado al asistente de IA de Google, Gemini, como de «alto riesgo» para niños y adolescentes. Según el informe, las versiones para menores de 13 años y con protecciones para adolescentes son básicamente modelos para adultos con filtros añadidos, en lugar de plataformas diseñadas específicamente para usuarios más jóvenes.
Exposición a contenidos no seguros
A pesar de las salvaguardas añadidas, Gemini aún puede ofrecer material inapropiado o poco seguro, incluyendo contenido relacionado con sexo, drogas, alcohol y consejos sobre salud mental. Aunque la IA indica con claridad que es un ordenador y no un amigo, trata a todos los usuarios jóvenes por igual, ignorando las diferencias de desarrollo entre niños y adolescentes.
Preocupación por la IA y la salud mental en adolescentes
Existe una creciente inquietud sobre el impacto de la inteligencia artificial en la salud mental de los adolescentes. Demandas recientes contra OpenAI y Character.AI sostienen que la interacción con chatbots ha contribuido a casos trágicos entre jóvenes, lo que subraya la necesidad de medidas de seguridad más estrictas y estándares de diseño adaptados a menores.
La integración con Apple eleva el riesgo
Según filtraciones de informes, Apple podría integrar Gemini en su próxima versión de Siri con IA. Esto generará riesgos potenciales para millones de usuarios jóvenes si los problemas de seguridad no se solucionan a tiempo. Los expertos advierten de que, sin restricciones ni controles estrictos, estos sistemas de IA pueden aumentar de forma deliberada la ansiedad, la depresión y la dependencia de los asistentes digitales entre los adolescentes.
La integración de IA avanzada en dispositivos de uso diario plantea dudas sobre la confidencialidad de los datos, el posible impacto psicológico y la necesidad de programas educativos para padres e hijos sobre el uso seguro de la IA.
La respuesta de Google
Google respondió destacando las salvaguardas actuales para menores de 18 años y sus consultas periódicas con expertos externos. La empresa reconoció que algunas respuestas de la IA no funcionaban como estaba previsto y añadió nuevas protecciones para solucionar estas carencias.
Recomendaciones de los expertos
Common Sense Media recomienda que los menores de 5 años no utilicen chatbots de IA, que los niños de entre 6 y 12 años solo los usen bajo supervisión de un adulto y que los adolescentes de 13 a 17 años puedan utilizar la IA de forma autónoma para tareas escolares y proyectos creativos. La organización también desaconseja el uso de la IA como compañía o apoyo emocional para cualquier menor de 18 años.
«Gemini acierta en algunos aspectos básicos, pero tropieza en los detalles», afirmó Robbie Torney, director sénior de programas de IA en Common Sense Media. «La IA para menores debe diseñarse teniendo en cuenta sus necesidades de desarrollo, no como una simple versión adaptada de un producto para adultos».
Conclusión
Google Gemini aún no es seguro para niños y adolescentes: los filtros solo protegen de forma parcial y el contenido y la interacción pueden perjudicar su bienestar psicológico. Los expertos recomiendan límites de edad, supervisión adulta y el desarrollo de IA adaptada a la evolución infantil, sobre todo si la tecnología se integra en dispositivos de uso masivo.
Si quieres saber más sobre nuestros productos y soluciones de IA para tu negocio, contáctanos hoy mismo. ¡Estamos aquí para ayudarte!
