Hass und Hetze im Internet – Gefahren früh erkennen

0

Hass und Hetze im Internet nehmen spürbar zu. Gleichzeitig steigt die Zahl der politisch motivierten Gewalttaten. Gibt es Zusammenhänge zwischen Hass und Hetze im Netz und verübten Gewalttaten? Und welche Möglichkeiten gibt es, potenzielle Zusammenhänge aufzudecken?

Mit Hilfe von Künstlicher Intelligenz lassen sich Quellen von Hass und Gewalt im Internet identifizieren und Netzwerke aufdecken, aus denen heraus auch politisch motivierte Gewalttaten verübt werden.

Hass und Hetze im Internet – Gefahren früh erkennen

Hass und Hetze im Internet – Gefahren früh erkennen

Vorgehen

Im Folgenden wird beschrieben, wie frei zugängliche Social Media Daten ausgewertet und Quellen von Hass und Hetze identifiziert werden können. Inhalte, die in sozialen Netzwerken veröffentlicht und verbreitet werden, bestehen aus Daten. Diese Daten lassen sich sammeln und auswerten und dienen als Basis für unsere Analyse. Den gesammelten Daten lassen sich einerseits Metadaten entnehmen, die zusätzliche Informationen liefern: Wer hat einen Post verfasst? Wann wurde der Post verfasst? Von wo wurde die Nachricht gesendet? Mit wem ist der Absender in Kontakt?

Aber auch die Inhalte der Posts lassen sich analysieren. Für Texte können Methoden aus dem Natural Language Processing genutzt werden, um Informationen wie beispielsweise Orte oder Personen, die in Texten erwähnt werden, zu identifizieren. Auch inhaltliche Themen lassen sich mithilfe von Natural Language Processing erfassen und zuordnen. Damit werden gesammelte Texte automatisiert und, gegebenenfalls, manuell verfeinert in Themengebiete einordbar. Damit kann beispielsweise erkannt werden, ob in einem Beitrag Aufrufe zur Gewalt vorkommen, ob Treffen organisiert werden oder ob Nachrichten aus anderen Gruppen verteilt werden.

Auch Bilder und Videos stellen wertvolle Informationen bereit, die sich auswerten lassen: Bilder und Videos in Nachrichten können mit Hilfe von Computer Vision Methoden analysiert werden. Auf diese Weise werden Personen, Objekte und Texte auf Bild- und Videomaterial erkannt.

Weiterhin ist es sinnvoll, eine zeitliche Dimension in die Analyse der Daten miteinzubeziehen: Wie entwickelt sich die Zahl der Follower eines Nutzers oder in welcher Frequenz werden Beiträge erstellt oder in andere Gruppen weitergeleitet? Wie verändern sich die Inhalte über die Zeit? Für die Suche nach Influencern in Gruppen und die Einschätzung hinsichtlich deren Gefährlichkeit kann auf den gesammelten und aufbereiteten Daten aufgebaut werden.

Damit sich die Informationen wirkungsvoll bewerten lassen, sollten diese mit bestehenden Informationen verknüpft werden. Hier spielen die bestehenden Daten aus den Polizeisystemen eine wichtige Rolle. In welchen Netzwerken sind bereits registrierte Gewalttäter, Gefährder oder gewaltbereite Personen. Wem folgen diese Personen und in welchen Netzwerken sind sie gehäuft aktiv? Hier werden zentrale Figuren in den Netzwerken identifiziert, denen von auffälligen Personen häufig gefolgt wird.

Die inhaltliche Prüfung der Beiträge liefert bei der Suche nach gefährlichen Influencern im Netz einen Mehrwert. Damit lassen sich Aufrufe zur Gewalt in eigenen Posts oder in Beiträgen von verbunden Personen identifizieren und auswerten. Zusätzlich lassen sich hiermit auch gefährdete Personen des öffentlichen Lebens entdecken und bei Bedarf schützen. Worauf sollte geachtet werden, um eine effiziente Basis für Ermittlungen in diesem Umfeld zu bieten?

  • Die Datenmengen werden immer größer. Gerade im Umfeld der sozialen Medien und dem Internet sind riesige Mengen an Daten verfügbar. Diese Daten können manuell nicht effizient ausgewertet werden. Deshalb ist ein hoher Automatisierungsgrad wichtig, um die Arbeit der Ermittler zu unterstützen.
  • OSINT Daten sollen mit Bestandsdaten verbunden werden. Damit kann gewährleistet werden, dass die bestehenden Informationen nicht verloren gehen und Mehrwerte gebildet werden. Damit werden, beispielsweise, bisher verborgene Verbindungen zwischen Personen oder Gruppen aufgedeckt.
  • Für eine fachgerechte Aufbereitung der Daten für die Ermittler, sollten Entitäten nach der POLE Methode erstellt werden. Hier werden aus den Daten Personen, Objekte, Standorte und Ereignisse als Entitäten extrahiert, um eine zuverlässige Basis für Ermittlungen zu bieten.
  • Eine automatisierte Extraktion von Informationen aus unstrukturierten Daten wie Texte, Bilder und Videos hilft den Ermittlern die große Menge an Daten gezielt zu durchsuchen und auszuwerten.
  • Für die Ermittlung sind Netzwerke von hoher Bedeutung, denn dort werden Zusammenhänge zwischen all diesen Informationen dargestellt. In Netzwerken werden Verbindungen identifiziert, die nicht auf den ersten Blick offensichtlich sind. Für die Analyse der Daten werden auch Netzwerkanalysen durchgeführt. Mit der Netzwerkanalyse lassen sich Rollen von Entitäten in Gruppen bestimmen.
  • Eine intuitive Oberfläche soll die Ermittler bei ihrer Arbeit unterstützen.
  • Um mit den großen Datenmengen zurechtzukommen hilft es, hybride Analytik anzuwenden. Hier werden verschiedene Methoden kombiniert, um einen Score zu erstellen, der zur Sammlung von Risikofaktoren dient. Beispielsweise werden Geschäftsregeln definiert oder Machine Learning Modelle angewandt, um auffällige Verhaltensweisen von Personen zu identifizieren und zusammenzufassen. Auf Basis der gefundenen Risikofaktoren werden Alerts erzeugt: diese Alerts werden in der Ermittlungsoberfläche angezeigt und den zuständigen Ermittlern als Hinweis gemeldet. Dies dient als Hilfe bei der Fallpriorisierung und bei der Filterung großer Mengen an verfügbaren Daten. Die Ermittler müssen auch in der Lage sein, Regeln für Alerts eigenständig zu erstellen. Für eine Bearbeitung der erzeugten Alerts sollte eine Oberfläche zur Verfügung stehen, auf der die Ermittler Alerts prüfen und nachverfolgen können.
  • Um eine agile und reibungslose Zusammenarbeit zu gewährleisten ist es von Vorteil, wenn Analysten und Ermittler auf der gleichen Plattform und mit der gleichen Datenbasis arbeiten. Damit fällt es leichter, gewonnene Erkenntnisse der Analysten an die Ermittler zu kommunizieren und die Entscheidungsflüsse für die automatisierte Prüfung werden auf den Erfahrungen der Ermittler und den Erkenntnissen der Analysten aufgebaut.

Handlungsempfehlung

Folgende Punkte sollte eine Plattform für Analyse und Ermittlungen bieten:

  • Anpassbar ohne Neuentwicklung
  • Datenschutz
  • Transparenz
  • Nachvollziehbarkeit
  • Erweiterte Such- und Filtermöglichkeiten
  • Netzwerkanalysen
  • Einfache Integration von Fachwissen
  • Eine auf den Ermittlungsprozess zugeschnittene Oberfläche
  • Einfache Produktivsetzung

Fazit

Vorangehend wurde ein Vorgehen und Handlungsempfehlungen beschrieben, um dem Problem von Hass und Hetze im Netz mit effizienten Ermittlungen zu begegnen. Hier nochmal eine kurze Zusammenfassung der gesammelten Anforderungen an eine Plattform. Die Daten sollten eingelesen und analysiert werden. Auf Basis eines hybriden Analytics-Ansatzes lassen sich Alerts erzeugen, die Ermittlern Möglichkeiten zur Verfügung stellen, sich bei ihrer Arbeit zu fokussieren, über die Ermittlungsoberfläche einen ganzheitlichen Blick auf die Daten zu gewinnen und durch Netzwerke bisher verborgene Zusammenhänge aufzudecken. SAS kann bei der Umsetzung der beschriebenen Anforderungen unterstützen.

Mit den hier beschriebenen Methoden werden potenziell gewaltbereite Gruppen und Personen ermittelt. Weiterhin lassen sich Influencer in Netzwerken und von Radikalisierung gefährdete Personen identifizieren. Schließlich können auch potenzielle Opfer, die in Beiträgen erwähnt werden, frühzeitig erkannt und unter Schutz gestellt werden. Mehr zum Thema: hier.

Share

About Author

Johannes Pretsch

Senior Associate Systems Engineer

Johannes ist seit 2014 Mitarbeitender bei SAS. Zunächst als dualer Student der Wirtschaftsinformatik in Kooperation mit der DHBW Mannheim, anschließend als Werkstudent während des Master-Studiums für Wirtschaftsinformatik mit dem Schwerpunkt Data Science und Consulting an der HWG Ludwigshafen. Nach Abschluss des Master-Studiums war er Teilnehmer an der Customer Advisory Academy von SAS in den USA bis Ende 2019. Seitdem arbeitet er als Associate Systems Engineer im Pre-Sales Team für den Bereich Public.

Leave A Reply

Back to Top