Dr. Marc-André Kaufhold, Programmbereichskoordinator und Wissenschaftler bei emergenCITY sowie Mitglied der Forschungsgruppe PEASEC an der TU Darmstadt, übernimmt ab Juli 2026 gemeinsam mit Dr. Thea Riebe die Koordination des ATHENE-Projekts “CYNTRA”. Im Zentrum des Projekts steht die Entwicklung eines KI-gestützten Ökosystems zur Analyse und Priorisierung von Online-Hassrede. Das Projekt zielt darauf ab, Strafverfolgungsbehörden und Meldestellen dabei zu unterstützen, entsprechende Meldungen effizienter zu bewerten und zu bearbeiten.

Flexible KI-Modelle für ein dynamisches Problemfeld

CYNTRA verfolgt einen mehrschichtigen Ansatz: Die eingesetzten KI-Modelle sollen nicht nur Hassrede erkennen, sondern gleichzeitig unterschiedliche Merkmale erfassen. Beispielsweise soll erfasst werden, gegen welche Gruppen sich Inhalte richten oder welche rechtlichen Aspekte relevant sein könnten. Ein weiterer Schwerpunkt liegt auf der kontinuierlichen Überprüfung und Anpassung der Modelle.

Dr. Marc-André Kaufhold betont:

“Hassrede verändert sich ständig - sowohl in der Sprache als auch in rechtlichen Definitionen verschiedener Länder. Deshalb müssen KI-Ergebnisse nachvollziehbar, überprüfbar und anpassbar bleiben.”

Geplant sind außerdem Fallstudien in Deutschland und Großbritannien, um die entwickelten Technologien praxisnah zu testen und für unterschiedliche Einsatzkontexte weiterzuentwickeln. Darüber hinaus besitzen die im Projekt erarbeiteten Ansätze Potenzial für weitere Anwendungsfelder wie das Notfallmanagement und die Cybersicherheit, in denen digitale Informationen schnell erkannt, eingeordnet und für Entscheidungen nutzbar gemacht werden müssen.

Mit CYNTRA wird somit ein Forschungsbereich adressiert, der sowohl technologisch als auch gesellschaftlich hoch relevant ist: der nachvollziehbare, überprüfbare und anpassbare Einsatz von KI in sensiblen, sicherheitsrelevanten Kontexten.

Weitere Informationen

ATHENE Projekt zu KI gegen Hassrede im Internet: Dr. rer. nat. Marc-André Kaufhold stellt sich vor