Gemini in neuer Sicherheitsbewertung als „hohes Risiko“ eingestuft
Filter allein reichen nicht aus
Common Sense Media, eine auf Kindersicherheit ausgerichtete Non-Profit-Organisation, hat den KI-Assistenten Gemini von Google als hohes Risiko für Kinder und Jugendliche eingestuft. Dem Bericht zufolge handelt es sich bei den Versionen für unter 13-Jährige und mit Jugendschutzmaßnahmen im Wesentlichen um Erwachsenenmodelle mit hinzugefügten Filtern statt um Plattformen, die speziell für jüngere Nutzer entwickelt wurden.
Konfrontation mit unsicheren Inhalten
Trotz zusätzlicher Schutzmaßnahmen kann Gemini weiterhin ungeeignete oder unsichere Inhalte ausgeben, darunter Themen wie Sex, Drogen, Alkohol und Ratschläge zur psychischen Gesundheit. Obwohl die KI deutlich darauf hinweist, dass sie ein Computer und kein Freund ist, behandelt sie jüngere Nutzer pauschal gleich und ignoriert die Entwicklungsunterschiede zwischen Kindern und Jugendlichen.
KI und Bedenken hinsichtlich der psychischen Gesundheit von Jugendlichen
Es wächst die Besorgnis über die Auswirkungen künstlicher Intelligenz auf die psychische Gesundheit Heranwachsender. Jüngste Klagen gegen OpenAI und Character.AI machen geltend, dass die Interaktion mit Chatbots zu tragischen Fällen unter Jugendlichen beigetragen hat, was die Notwendigkeit strengerer Sicherheitsmaßnahmen und kindgerechter Designstandards unterstreicht.
Apple-Integration erhöht den Einsatz
Berichten zufolge könnte Apple Gemini in seine kommende KI-Version von Siri integrieren. Dies birgt potenzielle Risiken für Millionen junge Nutzer, falls Sicherheitsprobleme nicht rechtzeitig gelöst werden. Experten warnen, dass solche KI-Systeme ohne strenge Einschränkungen und Kontrollen Ängste, Depressionen und die Abhängigkeit von digitalen Assistenten bei Jugendlichen verstärken können.
Die integration fortschrittlicher KI in Alltagsgeräte wirft Fragen zum Datenschutz, zu möglichen psychologischen Auswirkungen sowie zum Bedarf an Schulungsprogrammen für Eltern und Kinder zur sicheren Nutzung von KI auf.
Googles Reaktion
Google reagierte darauf, indem das Unternehmen bestehende Schutzmaßnahmen für Nutzer unter 18 Jahren und den regelmäßigen Austausch mit externen Experten betonte. Das Unternehmen räumte ein, dass einige KI-Antworten nicht wie vorgesehen funktionierten, und fügte neue Schutzmechanismen hinzu, um diese Lücken zu schließen.
Expertenempfehlungen
Common Sense Media empfiehlt, dass Kinder unter 5 Jahren keine KI-Chatbots nutzen sollten, Kinder von 6 bis 12 Jahren sie nur unter Aufsicht von Erwachsenen verwenden sollten und Jugendliche von 13 bis 17 Jahren KI eigenständig für Schularbeiten und kreative Projekte nutzen dürfen. Die Organisation rät außerdem davon ab, KI bei Personen unter 18 Jahren als Begleitung oder für emotionale Unterstützung einzusetzen.
„Gemini macht einige Grundlagen richtig, aber bei den Details stolpert es“, sagte Robbie Torney, Senior Director of AI Programs bei Common Sense Media. „KI für Kinder muss unter Berücksichtigung ihrer Entwicklungsbedürfnisse konzipiert werden und darf nicht nur eine modifizierte Version eines Erwachsenenprodukts sein.“
Fazit
Google Gemini ist für Kinder und Jugendliche noch nicht sicher, Filter schützen nur teilweise, und Inhalte sowie Interaktionen können die Psyche negativ beeinflussen. Experten empfehlen Altersbeschränkungen, Kontrolle durch Erwachsene und die Entwicklung einer KI, die die Entwicklung des Kindes berücksichtigt, insbesondere wenn die Technologie in beliebte Geräte integriert wird.
Für weitere Informationen zu unseren KI-Produkten und -Lösungen für Ihr Unternehmen kontaktieren Sie uns noch heute. Wir sind gerne für Sie da!
