Soziale Medien werden zunehmend dafür genutzt, um gezielt Falschnachrichten zu streuen. Auch an Kapitalmärkten besteht dieses Problem: Kriminelle verbreiten Fake News zu Unternehmen, um beispielsweise Aktienkurse zu manipulieren. Wirtschaftswissenschaftler der Universitäten Göttingen und Frankfurt sowie des Jožef Stefan Institute in Ljubljana haben nun ein Modell entwickelt, mit dem solche Falschnachrichten erkannt werden können, auch wenn sie immer wieder angepasst werden. Die Ergebnisse der Studie wurden in der Fachzeitschrift Journal of the Association for Information Systems veröffentlicht.
Um Falschinformationen – häufig fiktive Sachverhalte, die ein Unternehmen in positivem Licht erscheinen lassen – zu erkennen, erstellten die Wissenschaftler mittels Verfahren des Maschinellen Lernens Modelle, mit denen verdächtige Nachrichten anhand der Nachrichteninhalte und anderer theoriebasierter linguistischer Merkmale identifiziert werden können.
„Hier wird auf weitere Aspekte des Nachrichtentextes geschaut, wie etwa die Verständlichkeit der Sprache und die Stimmung, die der Text vermittelt“, sagt Prof. Dr. Jan Muntermann von der Universität Göttingen. Grundsätzlich ist der Ansatz bekannt – zum Beispiel von Spam-Filtern. Bei bestehenden Ansätzen existiert jedoch ein zentrales Problem: Damit ihre Nachrichten nicht mehr erkannt werden, passen Betrügerinnen und Betrüger die Nachrichteninhalte kontinuierlich an und vermeiden bestimmte Wörter, anhand derer die Fake News identifiziert werden können.
Hier setzt das neue Verfahren der Wirtschaftswissenschaftler an: Um Fake News trotz solcher Umgehungsstrategien zu erkennen, kombinieren sie hohe Erkennungsraten mit einer hohen Robustheit. Auf diese Weise werden die Fake News anhand ihrer linguistischen Merkmale erkannt, selbst wenn „verdächtige“ Wörter aus dem Text genommen wurden. „Betrüger stehen damit vor einem Dilemma. Sie können einem Aufdecken nur entgehen, wenn Sie zum Beispiel die Stimmung des Textes ins Negative ändern“, erklärt Dr. Michael Siering von der Goethe-Universität. „Dann würden sie jedoch ihr Ziel verfehlen, andere Marktteilnehmer beispielsweise zum Aktienkauf zu verleiten“, so Siering weiter.
Das neue Verfahren kann zum Beispiel bei der Marktüberwachung eingesetzt werden, um den Handel betroffener Wertpapiere zeitweise auszusetzen. Zum anderen bietet es Anlegerinnen und Anlegern wertvolle Hinweise, um auf entsprechende Betrugsszenarien nicht mehr hereinzufallen. Auch ein Einsatz in der Strafverfolgung wäre denkbar.
Publikation: Michael Siering, Jan Muntermann, Miha Grčar. Design Principles for Robust Fraud Detection: The Case of Stock Market Manipulations. Journal of the Association for Information Systems (2021). https://aisel.aisnet.org/jais/vol22/iss1/4