image: Researchers want to develop a "moderator" using artificial intelligence (AI) that can recognise hate messages in social media and intervene to de-escalate the situation. Funding from the Volkswagen Foundation. view more
Credit: Dr Valentin Gold, University of Göttingen
Wer kennt die Situation nicht: Auf Twitter, Facebook oder Instagram entwickelt sich eine engagierte Diskussion über ein beliebiges Thema, aber anstatt konstruktiv auf eine gemeinsame Lösung hinzuarbeiten, wird der Ton zunehmend schärfer und die verschiedenen Meinungen driften immer weiter auseinander. Oft sind interkulturelle Missverständnisse und Unkenntnis Ursache dieses Problems. Ein internationales Forschungsteam unter der Leitung der Universität Göttingen will nun auf der Basis von Künstlicher Intelligenz (KI) einen Moderator" entwickeln, der Konflikte in den sozialen Medien erkennt und deeskalierend eingreifen kann. Die VolkswagenStiftung fördert das Projekt ab April 2021 vier Jahre lang mit insgesamt rund 1,5 Millionen Euro.
Der Charakter von Kommunikation in sozialen Medien hat sich in den vergangenen Jahren zunehmend verändert. Vor allem bei Fragen zur kulturellen Identität zeigt sich ein zunehmender Konflikt: Nutzerinnen und Nutzer werden emotional und attackieren sich gegenseitig; immer darauf bedacht, das Trennende und nicht die Gemeinsamkeiten hervorzuheben. Ein konstruktiver Austausch von Informationen, Fakten und Argumenten findet nur noch sehr begrenzt statt. Dies führt zu den bekannten Begleiterscheinungen der Filterblasen und Echokammern in sozialen Medien.
Der bisherige Ansatz zur Kontrolle von Beleidigungen und Hassnachrichten in sozialen Medien geht über ein Löschen der Nachrichten nicht hinaus", erläutert Projektleiter Dr. Valentin Gold vom Methodenzentrum Sozialwissenschaften der Universität Göttingen. Wir wollen deshalb einen virtuellen Moderator entwickeln, der auf Basis künstlicher Intelligenz erkennt, wann Diskussionen in sozialen Medien einen zunehmend destruktiven Charakter aufweisen. Darüber hinaus soll der virtuelle Moderator auch intervenierend in die Debatte eingreifen und dazu beitragen, eine Eskalation zu verhindern." Dabei sollen situationsbedingt verschiedene Strategien zur Deeskalation von Konflikten in sozialen Medien zur Anwendung kommen. Bevor der virtuelle Moderator in echten Debatten zum Einsatz kommt, wird die Effektivität der verschiedenen Strategien im Labor experimentell überprüft.
Die VolkswagenStiftung fördert das Projekt Deliberation Laboratory (DeLab)" in der Förderlinie Künstliche Intelligenz - Ihre Auswirkungen auf die Gesellschaft von morgen". Das Projekt bringt Expertise aus den Bereichen Philosophie, Ethik, Politikwissenschaft, Sprachwissenschaft und Technikwissenschaft zusammen. Neben der Universität Göttingen sind die Technische Universität Warschau und die Universitäten Konstanz, Maastricht und Dundee beteiligt.
###
Kontakt:
Dr. Valentin Gold
Georg-August-Universität Göttingen
Sozialwissenschaftliche Fakultät
Methodenzentrum Sozialwissenschaften
Goßlerstraße 19, 37073 Göttingen
Telefon (0551) 39-21526
E-Mail: valentin.gold@sowi.uni-goettingen.de
Internet: http://www.uni-goettingen.de/de/443311.html/