KI auf jugendaffinen Plattformen: Anbieter schaffen neue Einfallstore für Risiken

Sexualisierte Gewalt und extremistische Hassinhalte bleiben zentrale Probleme im Netz: Im zweiten Jahr in Folge hat jugendschutz.net mehr als 15.000 Fälle von Missbrauchsdarstellungen von Kindern bearbeitet. Bei Spotify und Discord stellte die Stelle zahlreiche volksverhetzende Texte und strafbare extremistische Kennzeichen fest; auf TikTok und Co. dokumentierte jugendschutz.net drastische Hass- und Gewaltfantasien gegenüber Frauen und Mädchen.

Verschärft werden viele Risiken durch KI-Anwendungen, die frei verfügbar und kinderleicht auch für strafbare Handlungen einsetzbar sind. Die Anbieter der Dienste unternehmen dagegen viel zu wenig für den Schutz von Kindern und Jugendlichen. Dies sind zentrale Befunde des aktuellen Jahresberichts von jugendschutz.net.

Der aktuelle Jahresbericht von jugendschutz.net steht zum Download bereit unter: https://bericht.jugendschutz.net/jahresbericht-2025

Über jugendschutz.net
jugendschutz.net fungiert als das gemeinsame Kompetenzzentrum von Bund, Ländern und Landesmedienanstalten für den Schutz von Kindern und Jugendlichen im Internet. Die Stelle recherchiert Gefahren und Risiken in jugendaffinen Diensten. Sie wirkt darauf hin, dass Verstöße gegen Jugendschutzbestimmungen beseitigt und Angebote so gestaltet werden, dass Kinder und Jugendliche sie unbeschwert nutzen können.

Die Jugendministerien der Länder haben jugendschutz.net 1997 gegründet. Die Aufgaben wurden 2003 im Jugendmedienschutz-Staatsvertrag (JMStV) festgelegt. Die Stelle ist seither an die Kommission für Jugendmedienschutz (KJM) angebunden. 2021 hat der Bund jugendschutz.net als gemeinsamem Kompetenzzentrum im Jugendschutzgesetz (JuSchG) ebenfalls eine gesetzliche Aufgabe zugewiesen.

jugendschutz.net wird finanziert von den Obersten Landesjugendbehörden, den Landesmedienanstalten und gefördert vom Bundesministerium für Bildung, Familie, Senioren, Frauen und Jugend sowie der Europäischen Union. jugendschutz.net nimmt über seine Online-Beschwerdestelle Hinweise auf Verstöße gegen den Jugendmedienschutz entgegen. Verstöße im Netz können gemeldet werden unter: https://www.jugendschutz.net/verstoss-melden

Weiterlesen und Quelle: https://www.bmbfsfj.bund.de/bmbfsfj/aktuelles/pressemitteilungen/ki-auf-jugendaffinen-plattformen-anbieter-schaffen-neue-einfallstore-fuer-risiken-286168