Sécurité Gemini : jugé à haut risque dans une évaluation
Les filtres seuls ne suffisent pas
Common Sense Media, une organisation à but non lucratif dédiée à la protection de l’enfance, a classé l’assistant IA Gemini de Google comme présentant un risque élevé pour les enfants et les adolescents. Selon le rapport, les versions destinées aux utilisateurs de moins de 13 ans et celles dotées de protections pour adolescents sont essentiellement des modèles pour adultes assortis de filtres, plutôt que des plateformes conçues spécifiquement pour le jeune public.
Exposition à des contenus dangereux
Malgré les garde-fous ajoutés, Gemini peut toujours fournir des contenus inappropriés ou dangereux, notamment sur la sexualité, les drogues, l’alcool et les conseils en santé mentale. Bien que l’IA précise clairement qu’elle est un ordinateur et non un ami, elle traite les jeunes utilisateurs de manière uniforme, sans tenir compte des différences de développement entre enfants et adolescents.
Inquiétudes autour de l’IA et de la santé mentale des adolescents
L’impact de l’intelligence artificielle sur la santé mentale des adolescents suscite une inquiétude grandissante. De récentes poursuites contre OpenAI et Character.AI affirment que les interactions avec leurs chatbots ont contribué à des drames chez les jeunes, ce qui souligne la nécessité de mesures de sécurité plus strictes et de normes de conception adaptées aux enfants.
L’intégration par Apple renforce les enjeux
Selon des rapports ayant fuité, Apple pourrait intégrer Gemini à sa future version IA de Siri. Cela créerait des risques potentiels pour des millions de jeunes utilisateurs si les problèmes de sécurité ne sont pas traités à temps. Les experts avertissent que, sans restrictions ni contrôle stricts, de tels systèmes d’IA peuvent délibérément accentuer l’anxiété, la dépression et la dépendance aux assistants numériques chez les adolescents.
L’intégration d’une IA avancée dans les appareils du quotidien soulève des questions sur la confidentialité des données, l’impact psychologique potentiel et la nécessité de programmes éducatifs destinés aux parents et aux enfants pour un usage sécurisé de l’IA.
La réponse de Google
Google a réagi en mettant en avant les garde-fous existants pour les utilisateurs de moins de 18 ans et ses consultations régulières avec des experts externes. L’entreprise a reconnu que certaines réponses de l’IA ne fonctionnaient pas comme prévu et a ajouté de nouvelles protections pour remédier à ces défaillances.
Recommandations des experts
Common Sense Media recommande que les enfants de moins de 5 ans n’utilisent pas de chatbots IA, que les enfants âgés de 6 à 12 ans ne les utilisent que sous la surveillance d’un adulte, et que les adolescents de 13 à 17 ans puissent utiliser l’IA de manière autonome pour leurs travaux scolaires et projets créatifs. L’organisation déconseille également à toute personne de moins de 18 ans d’utiliser l’IA comme compagnon ou pour un soutien émotionnel.
« Gemini réussit certains fondamentaux, mais trébuche sur les détails », a déclaré Robbie Torney, directeur principal des programmes d’IA chez Common Sense Media. « L’IA destinée aux enfants doit être pensée en fonction de leur développement, et non pas simplement comme une version modifiée d’un produit pour adultes. »
Conclusion
Google Gemini n’est pas encore sûr pour les enfants et les adolescents : les filtres ne protègent que partiellement, et les contenus comme les interactions peuvent nuire à leur bien-être psychologique. Les experts recommandent des limites d’âge, un contrôle parental et la conception d’une IA adaptée au développement de l’enfant, en particulier lorsque la technologie est intégrée à des appareils très répandus.
Pour en savoir plus sur nos produits et solutions d’IA pour votre entreprise, contactez-nous dès aujourd’hui. Nous sommes là pour vous aider !
