1. NRW
  2. Panorama

Landesmedienanstalt NRW entwickelt KI-Tool zur Aufsicht im Internet

Zur Ahndung von Rechtsverstößen : Landesmedienanstalt NRW entwickelt KI-Tool zur Aufsicht im Internet

Die Künstliche Intelligenz soll bei der Ahndung von Rechtsverstößen helfen. Das Tool wurde von der Landesmedienanstalt NRW entwickelt. Mit der Anwendung soll man eine bessere Übersicht über Verstöße bekommen.

Eine von der Landesanstalt für Medien NRW entwickelte Anwendung für Künstliche Intelligenz (KI) steht seit Donnerstag bundesweit für die Ahndung von Rechtsverstößen im Internet zur Verfügung. Die KI-Lösung mit dem Namen „Kivi“ (aus KI und „Vigilante“) wurde seit Ende 2020 bei der Landesanstalt in Zusammenarbeit mit einem privaten Software- und IT-Unternehmen entwickelt und jetzt deutschlandweit ausgerollt, wie die Landesanstalt in Düsseldorf mitteilte. Die Medienanstalten könnten damit effizienter ihre Aufsichtspflicht in Sachen Kinder- und Jugendschutz sowie Schutz vor politischem Extremismus erfüllen.

Mit der KI-Anwendung erhalte man „eine bessere Übersicht über die Verstöße“, sagte der Direktor der Landesanstalt für Medien NRW, Tobias Schmid. Durch automatisiertes Monitoring von Social Media-Plattformen und Webseiten würden potenzielle Rechtsverstöße identifiziert und gemeldet. Anschließend prüften Mitarbeiterinnen und Mitarbeiter der Landesmedienanstalt, ob es sich um einen Rechtsverstoß handelt. Ist dies der Fall, kann der Verstoß an die Ermittlungsbehörden weitergeleitet werden.

  • Prof. Adrian Ringelstein zeigt an seinem
    Radiologie in Mönchengladbach : Künstliche Intelligenz hilft bei der Brustkrebs-Diagnose
  • Assistenzroboter wie dieser könnten in der
    Fortschritt : Künstliche Intelligenz in der Pflege
  • Szene in einer Kita (Symbolbild). Viele
    Studie zeigt dramatischen Personalmangel : Nicht genug Erzieher für die Aufsichtspflicht in NRW-Kitas

„Der Einsatz künstlicher Intelligenz ermöglicht eine Medienaufsicht, die menschliche Expertise und höchste technologische Standards vereint“, betonte Schmid. Sie erspare den Mitarbeitern die zeitaufwendige und teilweile „extrem kleinteilige“ Suche nach Rechtsverstößen. Das KI-Tool gebe es in dieser Art europaweit bislang nicht.

Ein Prototyp des KI-Tools wurde seit Ende 2020 in Zusammenarbeit mit der Condat AG aus Berlin entwickelt und erprobt. Schon jetzt würden von der Landesmedienanstalt NRW täglich mehr als 10.000 Seiten automatisch auf Rechtsverstöße geprüft. Laut Laura Braam, die bei der Landesmedienanstalt für den Bereich „Aufsicht“ zuständig ist, hat sich durch den Einsatz des KI-Tools die Zahl der eingereichten Anzeigen verdoppelt: auf rund 30 Anzeigen pro Monat.

Condat-Teamleiter Sacha Prelle zufolge ist die KI bei der Landesmedienanstalt derzeit werktags drei bis vier Stunden auf der Suche nach verbotenen Inhalten. Das sei nötig, um die Menge der entdeckten Daten auf einem für die Mitarbeiter handhabbaren Niveau zu halten. Grundsätzlich könne die Anwendung aber auch 24 Stunden am Tag laufen. Das Tool wertet Texte, Bilder und Videos auf möglicherweise strafbare Inhalte aus. Dabei greift es auf neuronale Netze, statistische Verfahren und die Nutzung eines externen Service zurück. Das Tool lerne jeden Tag und bei jeder Nutzung, dieser Effekt solle sich durch die Nutzung des Tools in den übrigen Landesmedienanstalten weiter verstärken.

Mit dem KI-Tool wurden zudem Mechanismen geschaffen, mit denen der Mitarbeiterschutz verbessert werden könne. Denn die manuelle Suche nach Rechtsverstößen im Internet und auf Social Media berge mitunter erhebliche Risiken für die psychische Gesundheit der Mitarbeiterinnen und Mitarbeiter, betonte Braam.

(kag/epd)