FSM-Beschwerdestelle

Pornografie

Pornografische Inhalte machten mit 49 Prozent (2023: 39 %) den größten Anteil der begründeten Beschwerden aus (2024: 8.529 Fälle, 2023: 8.889 Fälle). Hierbei handelte es sich um Fälle von Pornografie, die für Kinder und Jugendliche frei zugänglich war, weil ein Altersverifikationssystem (AVS) fehlte.

Darstellung des sexuellen Missbrauchs Minderjähriger

Den zweitgrößten Anteil machten Darstellungen des sexuellen Missbrauchs Minderjähriger mit 46 Prozent (8.077 Fälle) aus. Die Zahl der gemeldeten Missbrauchsdarstellungen ist im Vergleich zum Vorjahr rückläufig (2023: 12.918 Fälle, 57 % der begründeten Beschwerden). Dies lässt sich u. a. darauf zurückführen, dass es im Vorjahr weniger Massenmeldungen ausländischer Partnerorganisationen an die FSM gab. Damit handelt es sich bei dem Großteil der insgesamt 8.077 Fälle um Meldungen von Einzelpersonen. KI-generierte Darstellungen sexuellen Kindesmissbrauchs machten nur einen Bruchteil der Meldungen aus. Meldungen betrafen insbesondere KI-Bildgeneratoren, die als Werkzeug genutzt werden können, um entsprechende Darstellungen anzufertigen.

Auffällig waren Meldungen über sogenannte ICAP-Seiten („Invite Child Abuse Pyramid“). Diese Seiten, die Darstellungen schweren sexuellen Kindesmissbrauchs enthalten, stellen personalisierte, äußerlich unauffällige Einladungslinks zur Verfügung. Wird dieser Link verbreitet und angeklickt, erhält die verbreitende Person Credits um immer neue Inhalte freischalten zu können. Dementsprechend wurden diese Links teilweise inflationär in den Kommentarspalten Sozialer Netzwerke gepostet, um möglichst viele Credits zu erlangen. Da auf den ICAP-Seiten unmittelbar bei Aufruf ein eingebettetes Video startet, das Zusammenschnitte schwerster Missbrauchshandlungen in schneller Abfolge zeigt, wurden Internetnutzerinnen und -nutzer häufig ungewollt mit diesen Inhalten konfrontiert. Zu Ende des Jahres waren viele der ICAP-Seiten nicht mehr online.

Hasskriminalität

Im Vergleich zum Vorjahr angestiegen sind die begründeten Beschwerden im Bereich Hasskriminalität (2024: 222 Fälle, 2023: 120 Fälle). Diese machten etwas über einem Prozent der begründeten Beschwerden aus. Hierbei handelte es sich, wie im Vorjahr, überwiegend um Darstellungen von Kennzeichen verfassungswidriger Organisationen (169 Fälle). Die meisten dieser Kennzeichen waren entweder rechtsextremistischen oder islamistischen Organisationen zuzuordnen. Darunter fielen auch KI-generierte Inhalte, vornehmlich im Umfeld von Inhalten, die sich mit dem Gaza-Krieg befassten. Zu Hasskriminalität zählen ebenfalls Fälle von Volksverhetzung (45 Fälle) sowie Leugnung des Holocaust bzw. Billigung oder Verherrlichung der Naziherrschaft (8 Fälle).

Einen Anstieg verzeichnete die Beschwerdestelle im Bereich extremistischer Inhalte in Sozialen Netzwerken. Darstellungen verbotener Kennzeichen erfolgten bspw. codiert über Emojis, um der automatischen Erkennung durch die Plattformen zu entgehen. Phrasen wie „Sieg Heil“ oder „Heil Hitler“ sowie Hakenkreuze fanden sich als Kommentare sowohl unter Beiträgen, die sich kritisch mit Migration im weitesten Sinne auseinandersetzten, sowie auch unter israelkritischen Beiträgen.

Gewalt

In 318 Fällen (2023: 585 Fälle) wurden Darstellungen extremer Gewalt gemeldet. Darunter fallen Gewalt- und Tierpornografie (170 Fälle), Verstöße gegen die Menschenwürde (143 Fälle), Gewaltverherrlichung (3 Fälle) sowie Kriegsverherrlichung (2 Fälle).

Weitere jugendgefährdende Inhalte

Die Anzahl der weiteren als jugendgefährdend eingestuften Inhalte sind im Vergleich zum Vorjahr leicht gestiegen (2024: 249 Fälle, 2023: 227 Fälle), bleiben anteilig aber weiterhin bei rund einem Prozent. Den größten Anteil der Kategorie machten entwicklungsbeeinträchtigende Inhalte aus (2024: 155 Fälle, 2023: 99 Fälle). Dazu zählen Inhalte, die für Kinder und Jugendliche einer bestimmten Altersstufe nicht geeignet sind, jedoch unterhalb der Schwelle zu unzulässigen Inhalten liegen. Für diese Inhalte sind die vom Anbieter zu schaffenden Zugangshürden niedriger und können z. B. durch die technische Kennzeichnung mit einer Altersstufe, die von einem geeigneten Jugendschutzprogramm ausgelesen werden kann, erfüllt werden.

Fälle, in denen eine offensichtlich schwere Entwicklungsgefährdung festgestellt wurde, haben sich im Vergleich zum Vorjahr fast verdoppelt (2024: 61 Fälle, 2023: 33 Fälle). Dazu gehören z. B. Angebote, die Essstörungen wie Anorexie oder Bulimie glorifizieren. Solche Inhalte dürfen nur Erwachsenen zugänglich gemacht werden, d. h. der Einsatz eines Altersverifikationssystems (AVS) ist hier notwendig.

Bis Mitte des Jahres erhielt die FSM-Beschwerdestelle zudem vermehrt Hinweise zu Videos, die extreme Tierquälerei zeigten und damit den Tatbestand der schweren Entwicklungsgefährdung (§ 4 Abs. 2 Nr. 3 JMStV) erfüllten. Die kommerziellen Videos zeigten die Misshandlung und Tötung einer bestimmten Art von Primaten (insbesondere der Jungtiere) im südostasiatischen Raum. Die zum Einsatz kommenden Werkzeuge, Folter- und Tötungsmethoden werden durch eine organisierte Community vorgegeben, die für die Inhalte bezahlt. Die wiederholte Entfernung einschlägiger Gruppen und die daraus resultierenden Kommentare in neuen Gruppen legen den Schluss nahe, dass die Klientel fortan vermehrt auf Messengerdienste zurückgreifen wird.

Meldungen von Missbrauchsdarstellungen Minderjähriger, die in Deutschland gehostet wurden, sind 2024 im Vergleich zum Vorjahr wieder deutlich gesunken (2024: 3.742 Fälle, 2023: 10.030 Fälle). Insgesamt wurden 46 Prozent (2023: 78 %) der geprüften Missbrauchsdarstellungen von Kindern oder Jugendlichen auf deutschen Servern gehostet, 54 Prozent (2022: 22 %) auf Servern im Ausland.

Informationen zu Missbrauchsdarstellungen Minderjähriger, die auf deutschen Servern gespeichert sind, leitet die FSM sofort an das Bundeskriminalamt (BKA) weiter und informiert im Notice-and-Takedown-Verfahren den Hostprovider. Anbieter sind dann verpflichtet, diese strafbaren Inhalte unverzüglich zu entfernen. Bis zur Löschung solcher Inhalte vergingen 2024 nach Eingang der Beschwerde bei der FSM im Durchschnitt 1,5 Tage (2023: 1,2 Tage). Insgesamt liegt die Entfernungsquote dieser Inhalte bei 100 Prozent. 90 Prozent (2023: 92 %) wurden bereits zwei Tage nach der Erstmeldung entfernt.

Auch bei im Ausland gehosteten Darstellungen des sexuellen Missbrauchs von Minderjährigen informiert die Beschwerdestelle den Hostprovider und leitet die Meldung zusätzlich an die zuständige Partner-Hotline im internationalen Beschwerdestellennetzwerk INHOPE weiter. 2024 handelte es sich hierbei meist um Fälle auf Servern in den USA (933 Fälle), gefolgt von Russland (790 Fälle) und den Niederlanden (409 Fälle). Die Löschquote der im Ausland gehosteten Inhalte lag vier Wochen nach Erstmeldung bei 93 Prozent (2023: 87 %).

Der Anteil gemeldeter Fälle, bei denen die FSM-Beschwerdestelle keinen Verstoß feststellen konnte, ist im Vergleich zum Vorjahr gestiegen (2024: 32 %, 2023: 26 %). Dies betrifft in der Regel Fälle, in denen das Recht auf freie Meinungsäußerung überwiegt, Jugendschutzregeln nicht verletzt wurden oder Angebote zugangsgeschützt bzw. nicht auffindbar waren. Auch hier prüft und informiert die Beschwerdestelle die Melderinnen und Melder über die Rechtslage, verweist auf zuständige Stellen oder jeweils passende Hilfs- und Beratungsangebote und gibt darüber hinaus Tipps zur sicheren Konfiguration von Geräten, die von Kindern und Jugendlichen genutzt werden.