Young People Against Online Hate: Computer-assisted Strategies for Facilitating Citizen-generated Counter Speech

Project: Research funding

Project Details

Abstract

Jugendliche sind besonders häufig mit Online Hass, Cybermobbing und anderen Formen digitaler Gewalt im Internet konfrontiert und brauchen Strategien, damit umzugehen. Vorhandene Möglichkeiten wie Blockieren, Melden, oder Löschen sind wenig wirksam. Vielversprechend wäre allerdings die gezielte Förderung von Counter Speech, also aktive, zivilcouragierte Gegenrede durch junge Internetnutzer*innen. Studien zeigen aber, dass Online Zivilcourage unter Jugendlichen selten ist: Counter Speech scheitert an fehlenden Kompetenzen, wie diese wirkungsvoll praktiziert werden kann; an mangelnder Sichtbarkeit, da Einzelne in der Masse an Kommentaren oder aufgrund von Algorithmen „untergehen“; und an der Ungewissheit, ob Counter Speech erfolgreich war oder nicht. Das Projekt untersucht daher, wie digitale Technologien genutzt werden können, um erfolgreiche jugendliche Counter Speech zu finden und sichtbar zu machen und damit die Attraktivität und Umsetzbarkeit der Gegenrede zu erhöhen. Soziolog*innen und Informatiker*innen entwickeln gemeinsam mit Jugendlichen computergestützte Strategien, um junge Counter Speaker zu entdecken und deren Erfolge zu zeigen (z.B. durch erreichbare Punktelevels). Erstmals entwickeln wir gemeinsam automatisch generierte, attraktive Counter Speech Vorschläge für Jugendliche, die sowohl Texte als auch Bilder nutzen (z.B. Memes). Die Studie schafft damit Interventionen, die junge Internetnutzer*innen ermutigen, bei Online Hass aktiv zu werden.
StatusActive
Effective start/end date15/09/2114/09/24

Collaborative partners

  • (lead)
  • Fachhochschule St. Pölten

Keywords

  • Hate speech
  • counter speech
  • online civil courage
  • information retrieval
  • multimodal analysis