1. NRW
  2. Panorama

Landesmedienanstalt NRW setzt Künstliche Intelligenz gegen Hetzer ein

Erfolgreicher Testbetrieb : Künstliche Intelligenz gegen Internet-Hetze

Die Landesmedienanstalt NRW hat mit einer KI-basierten Software deutlich mehr strafbare Inhalte im Internet herausgefiltert. Damit steigt das Risiko für Täter, zur Rechenschaft gezogen zu werden. Das System wird bald bundesweit eingesetzt.

Die Landesmedienanstalt NRW will den Kampf gegen Hass und Extremismus im Internet durch die Nutzung von Künstlicher Intelligenz (KI) deutlich intensivieren. Am Donnerstag präsentierten die Medienwächter die Ergebnisse des einjährigen Testbetriebs. Demnach ist es gelungen, die Zahl der gefundenen Verstöße mithilfe der KI deutlich zu erhöhen. Laut Tobias Schmid, Direktor der Landesmedienanstalt, filterte die KI innerhalb eines Jahres rund 20.000 potenzielle Verstöße heraus, von denen 15.000 weiter durch Experten geprüft wurden. Am Ende konnten 6700 Verstöße bestätigt und die Zahl der Strafanzeigen auf 30 pro Monat verdoppelt werden. Schmid: „Uns ist es zudem gelungen, alle Landesmedienanstalten mit der KI zu vernetzen, so dass wir bundesweit aufeinander abgestimmt nach Medienverstößen suchen können.“

Gefahndet wird nach jugendschutzgefährdenden Inhalten wie beispielsweise pornografischen oder gewaltverherrlichenden Angeboten sowie nach extremistischen Äußerungen jeder Art, und zwar in allen sozialen Medien und auf privaten Plattformen. Dabei wertet die KI sowohl schriftliche Äußerungen als auch Bilder und Videos aus. Früher sei dies händisch geschehen, erklärte Laura Braam, die das Aufsichtsteam der Landesmedienanstalt leitet. „Das war extrem zeitaufwendig, zudem sind Mitarbeiter bei der Prüfung oft unvermittelt auf Gewaltdarstellungen oder pornografische Bilder gestoßen“, sagte Braam. Dies wird nun verhindert, weil die KI eine Vorauswahl trifft, die Kategorie des Verstoßes damit von vorneherein klar ist, und weil Fotos oder Videos zunächst unscharf angezeigt werden. So können sich die Mitarbeiter vorsichtig an die reklamierte Darstellung herantasten.

  • Die Landesmedienanstalt NRW hat ein KI-Tool
    Zur Ahndung von Rechtsverstößen : Landesmedienanstalt NRW entwickelt KI-Tool zur Aufsicht im Internet
  • In der Zentralstelle Cybercrime geht es
    NRW-Justiz setzt auf künstliche Intelligenz : Ein Koffer voller Kindesmissbrauchsfälle
  • Hacker verschaffen sich oft Zugriff auf
    Prävention zu Hackerangriffen auch in Wermelskirchen : Cyberkriminalität betrifft auch kleine Unternehmen

Die KI lerne durch die Bearbeitung der Fälle und spezielle Trainings- und Testprogramme ständig hinzu, was die Trefferquote permanent erhöhe, sagte Schmid. Ziel müsse es sein, nicht nur als Rechtsbruch indizierte Beiträge zu löschen, sondern die Verursacher auch strafrechtlich zu verfolgen. „Dazu arbeiten wir eng mit den Vollzugsbehörden wie etwa dem Landeskriminalamt zusammen“, sagt Schmid. Wird nach Strafrecht verurteilt, drohen den Tätern beispielsweise bei extremistischen Äußerungen sogar Haftstrafen von sechs bis zwölf Monaten ohne Bewährung. Die Landesmedienanstalt selbst kann nur Bußgelder verhängen oder die Löschung von Inhalten veranlassen.

Weil viele Täter im Ausland sitzen oder dort registrierte Portale nutzen, wird auch angestrebt, den Einsatz der bislang als „KIVI“ bezeichneten KI auf die europäischen Nachbarstaaten auszuweiten. Dies sei aber nicht trivial, weil das System bislang in deutscher Sprache funktioniere und lerne. Angesichts der Masse von Verstößen und bedenklichen Inhalten im Internet könne auch eine KI-basierte Suche zwar nur einen kleinen Teil der Taten abdecken, sagt Schmid. „Es ist aber schon gut, wenn bei den Menschen ankommt, dass Rechtsverstöße im Internet genauso geahndet werden wie im normalen Leben.“