Kinderschützer fordern YouTube-KI-Stopp für Kinderinhalte – mit drastischen Argumenten
Mila Voigt
Kinderschützer fordern YouTube-KI-Stopp für Kinderinhalte – mit drastischen Argumenten
Ein Bündnis aus Kinderschutzorganisationen und Fachleuten hat Google und YouTube aufgefordert, KI-generierte Inhalte für Kinder zu verbieten. In einem Schreiben an die Vorstandsvorsitzenden Sundar Pichai und Neil Mohan forderten die Organisationen strengere Richtlinien zum Schutz junger Nutzer:innen. Der Vorstoß erfolgt vor dem Hintergrund wachsender Bedenken hinsichtlich der Auswirkungen künstlicher Intelligenz auf die Entwicklung und die Onlinesicherheit von Kindern.
Die Kampagne wird von der gemeinnützigen Organisation Fairplay, die sich auf das Wohl von Kindern konzentriert, angeführt und von Gruppen wie dem American Federation of Teachers unterstützt. Auch Expert:innen wie der Sozialpsychologe Jonathan Haidt haben den Brief unterzeichnet und warnen vor möglichen Schäden durch unkontrollierte KI-Inhalte, die sich an Kinder richten.
Cashback bei deinen
Lieblingsrestaurants und Services
Kaufe Gutscheine und spare in deinen Lieblingsorten in deiner Nähe
In dem Schreiben werden drei zentrale Forderungen erhoben: ein vollständiges Verbot KI-generierter "Für-Kinder"-Inhalte, klare Kennzeichnungen aller KI-erstellten Videos sowie ein Stopp der algorithmischen Empfehlung solcher Inhalte an Nutzer:innen unter 18 Jahren. Befürworter:innen argumentieren, dass KI-generierte Inhalte das Realitätsverständnis von Kindern verzerren, ihre kognitiven Fähigkeiten überfordern und essenzielle zwischenmenschliche Erfahrungen im echten Leben ersetzen könnten.
YouTube beschränkt KI-generierte Inhalte auf seiner YouTube-Kids-Plattform derzeit auf eine ausgewählte Gruppe vertrauenswürdiger Kanäle. Eltern können zwar bestimmte Kanäle blockieren, doch Kritiker:innen halten diese Maßnahmen für unzureichend. Die Plattform arbeitet zudem mit Animaj zusammen, einem KI-Studio, das Kinderinhalte mit Milliarden von Aufrufen produziert – was zusätzliche Bedenken hinsichtlich kommerzieller Anreize aufwirft.
Aktuelle Gerichtsurteile erhöhen den Druck auf Tech-Konzerne. In einem richtungsweisenden Fall wurden Meta und Google für fahrlässig befunden, weil sie interne Warnungen vor psychischen Schäden durch ihre Plattformen ignoriert hatten. Dieser Präzedenzfall stärkt die Forderung nach schärferer Aufsicht, insbesondere bei KI-Inhalten, die sich an vulnerable junge Zielgruppen richten.
YouTube verlangt bereits von Creator:innen, realistisch wirkende KI-generierte Inhalte offenzulegen, und kennzeichnet Material, das mit eigenen KI-Tools erstellt wurde. Doch das Bündnis besteht darauf, dass diese Schritte nicht ausreichen, um die Risiken durch die rasant fortschreitende generative KI-Technologie einzudämmen.
Der Brief drängt YouTube, die vorgeschlagenen Änderungen zügig umzusetzen. Sollten die Richtlinien eingeführt werden, würde dies einen bedeutenden Wandel in der Handhabung KI-generierter Inhalte für junge Nutzer:innen bedeuten. Das Ergebnis könnte einen neuen Standard für Kindersicherheit auf digitalen Plattformen setzen.
