weather-image
10°
×

Wie Social Bots Falschmeldungen verbreiten und den Journalismus verändern

Mensch oder Maschine?

Zig Millionen Social Bots kursieren in den sozialen Netzwerken. Diese intelligenten Programme sammeln Daten, simulieren menschliche Nutzer und beeinflussen zunehmend die politische Stimmungsmache. Viele der von ihnen gestreuten Nachrichten sind falsch und die Unterscheidung zwischen Mensch oder Maschine wird immer schwieriger. Für den Journalismus, der mittlerweile selbst mit künstlicher Intelligenz experimentiert, wird eine Grundtugend wichtiger denn je: der akribische Faktencheck.

veröffentlicht am 12.05.2017 um 12:28 Uhr
aktualisiert am 13.06.2017 um 14:32 Uhr

Tomas Krause

Autor

Projektleiter digitale Transformation / Schwerpunkt Redaktion zur Autorenseite

Werden journalistische Texte bald durch Roboter verfasst? Die Sorge, dass Journalisten durch intelligente Bot-Systeme ersetzt werden könnten, ist weit verbreitet. Um ihre Reichweite zu steigern, experimentiert die „Washington Post“ seit einiger Zeit mit einer intelligenten Software, die selbstständig Beiträge verfasst und sie anschließend auf Webseiten, Twitter, Facebook-Messenger oder Amazon-Echo postet. Glaubt man den Zugriffszahlen der Zeitung, geschieht dies mit Erfolg.

Ein Ende des von Menschen gemachten Journalismus will der Entwicklungschef Shailesh Prakash nicht einleiten. Im Gegenteil. Mithilfe der künstlichen Intelligenz sollen journalistische Produkte korrekter, schneller und personalisierter werden. Auch das Entlarven von manipulierenden Social Bots und Fake News soll mit diesen Methoden für Redaktionen und Journalisten vereinfacht werden.

Dieser „Roboter-Journalismus“ funktioniert bereits für einfache datenbasierte Service-Geschichten – etwa das Wetter, Aktien oder Sportergebnisse. Zu komplexen Geschichten, die Bewertung und Kontext brauchen, sind Maschinen noch nicht fähig. Durch die Erleichterung auf der einen Seite möchte das Team um Shailesh Prakash den Redakteuren wieder mehr Freiraum verschaffen, um mehr Zeit in Geschichten und intensive Recherchen investieren zu können. Und das hat der Journalismus auch nötig. Um so mehr, weil Social Bots und Fake News die Quellen-Beurteilung im Netz deutlich schwieriger gemacht haben.

Die Twitter-Kommentare zur Rede Angela Merkels auf dem CDU-Parteitag 2016 stammten laut Botswatch zu 9,75 Prozent von Social Bots. Screenshot: Botswatch.de

Der Begriff Bots stammt vom Wort robot (Roboter) und steht für Programme, die die Nutzung in den sozialen Medien automatisieren. Manche davon können auch nützlich sein: „So gibt es Bots, die auf Twitter automatisch posten, wenn irgendwo eine Erdbebenwarnung vorliegt“, erklärt Simon Hegelich, Professor für Political Data Science an der TU München.

Auch die Dewezet nutzt einen sehr einfachen Bot im Facebook-Messenger. Er antwortet sofort auf User-Nachrichten „Hallo und danke für Deine Anfrage. Wir melden uns so schnell wie möglich bei Dir.“ Außerdem lädt der NewsBot zu einem kostenlosen Nachrichtendienst ein.

Gefährlich wird es, wenn Bots als Meinungs- oder Propaganda-Werkzeug zum Einsatz kommen. Social Bots gaukeln vor, echte User zu sein. Die Freundschaftsanfrage klingt verlockend: Braune, lockige Haare, blaue Augen, ähnliches Alter und erst der exotische Name: Sandy Cho. Aber irgendetwas stimmt nicht. Es gibt keine gemeinsamen Freunde, das Profil ist lückenhaft. Wer ist die Dame? Bots basteln sich unzählige Profile in sozialen Netzwerken und tarnen sich als echte Nutzer. Sie täuschen sogar Tagesrhythmen, Schlafzeiten und Small Talk vor. Auch Konversationen können die Programme mittlerweile führen. Einmal die Freundschaftsanfrage angenommen, lesen sie die privaten Informationen des Users aus und sammeln sie.

Die Bots erstellen Beiträge auf Twitter oder Facebook und können auch auf Beiträge antworten oder diese teilen. Dadurch werden Meinungsbilder vervielfacht und Trends verzerrt. Im Verhältnis zu Aufwand und Kosten sind Social Bots als Propaganda-Maschinen sehr effektiv. Eine ferngesteuerte 10 000 Bot starke Twitter-Armee kostet Hegelich zufolge rund 500 Dollar. Sogar kostenlose Angebote gibt es bereits.

„Das größte Problem sind die Social Bots, vor allem, wenn sie von Menschen eingesetzt werden, die politischen Einfluss nehmen wollen“, sagt Tabea Wilke von der Netzinitiative Botswatch. Ihr zufolge können Social Bots Themen und Meinungen nach vorne bringen, die sonst nicht sichtbar wären. Damit könnten sie viel erfolgreicher als einzelne Menschen auf Diskussionen Einfluss nehmen und steuern. Vor allem in Zeiten unklarer Nachrichtenlagen seien Social Bots, die automatisiert Falschmeldungen verbreiten, besonders aktiv. Die Gefahr bestünde, dass seriöse Medien diese Falschmeldungen der Social Bots schnell aufgreifen und weiter verbreiten. Analysen von Facebook legen nahe, dass Fake News sich schneller und mit größerer Reichweite verbreiten, als Nachrichten, die nach journalistischen Kriterien überprüft wurden.

Natürlich haben auch Regierungen Interesse an Social Bots. Speziell, seitdem die Bedeutung von sozialen Medien für politische Prozesse zugenommen hat. So hat die Oxford Universität herausgefunden, dass nach dem ersten TV-Duell zwischen den US-amerikanischen Präsidentschafts-Kandidaten Hillary Clinton und Donald Trump mehr als jeder dritte Pro-Trump-Tweet von einem Bot abgesetzt wurde. Unter den 13 Millionen Followern, die Trump auf Twitter folgen, sollen sich mehrere Millionen Bots befinden. Sie teilen seine Tweets und versuchen, Stimmung für die Republikaner zu machen.

Auch an der Brexit-Debatte sollen Bots kräftig gewirkt haben. Britische Wissenschaftler haben besonders im Lager der Befürworter eines EU-Austritts hohe Bot-Aktivitäten festgestellt.

Für Journalisten, Analysten und Politiker wird diese Entwicklung zunehmend zum Problem. Die Statistiken werden enorm verzerrt – für Wahlprognosen ein Debakel, gerade im Jahr der Bundestagswahl.

Zuletzt haben alle im Bundestag vertretenen Parteien beteuert, im Wahlkampf 2017 keine Bots einzusetzen – auch die FDP, die derzeit nicht im Bundestag vertreten ist. Zögerlich reagierte nur die AfD auf diese Selbstverpflichtung.

Und die Netzwerkbetreiber? Tatsächlich verstoßen Fake-Profile gegen die Nutzungsbestimmungen von Facebook, Twitter und den meisten anderen Netzwerken. Eine öffentliche Stellungnahme gibt es von den Betreibern nicht. Dennoch versuchen sie, Bots zu identifizieren. Dabei setzen sie nicht nur auf die User, die Bots melden sollen – sondern auch auf die Erkennung von Mustern und Anomalien. Das Problem könnte sich noch ausweiten. Denn gefälschte Profile, die zum Teil von Armeen von Billig-Arbeitern manuell geschrieben werden, könnten schon bald von hyperintelligenten Algorithmen abgelöst werden. Am Ende bleibt es an den Usern hängen. Sie müssen kritisch prüfen, wer was schreibt. Absolute Sicherheit gibt es nicht.

Für Mathias Döpfner, Präsident des Bundesverbandes Deutscher Zeitungsverleger, kommt es daher auf die richtige Medienkompetenz an. Dem „Tagesspiegel“ sagte er: „Es müsse darum gehen, die Nutzer in die Lage zu versetzen, den Wert einer Information einzuschätzen. Und was die etablierten Medien betrifft, denen offenbar immer weniger Vertrauen entgegengebracht wird: Journalisten sind die Faktenchecker.“ Das Prinzip Zeitung sei das Prinzip verantwortliche Absenderschaft – beste Abwehr gegen Fake News.

Information

So überprüft die Redaktion fragwürdige Accounts

Wie seriös ist der Account? Wenn ein Account durch Hassposts oder radikale Meinungen auffällt, sollte man als Erstes die Quelle prüfen: Kennt man die Person? Kennt man die Follower? Vorsicht ist geboten, wenn beides nicht zutrifft. Achtung: Auch ein „verifizierter“ Nutzer mit blauem Haken bedeutet nicht zwangsläufig, dass es sich um einen Menschen handelt. In jedem Fall sollte man sich anschauen, was der Account zuvor getwittert hat. Teilt er stets die Inhalte bestimmter Medien oder Accounts? Ähneln sich die Inhalte der Tweets? Hat der Account die Nachricht auch an viele andere Nutzer geschickt?

Was sagt die Profilbeschreibung aus? Social Bots sind häufig Schleudern für Fake-News-Seiten. Misstrauisch sollte man werden, wenn der Account gar keine Informationen über sich enthält oder die Angaben nur Unsinn sind. Angegebene Links im Profil können Auskunft über die Seriosität des Accounts liefern.

Wie häufig twittert der Account? Die Oxford Universität hat herausgefunden, dass Accounts, die mehr als 50 Tweets pro Tag absetzen, zumeist Social Bots sind. Nach Angaben von Botswatch gilt Ähnliches für eine sehr hohe Anzahl an Retweets. Verdacht auf einen Social Bot besteht auch dann, wenn ein Account ungefähr zur selben Zeit verschiedene Tweets an verschiedene Accounts verschickt.

Wie schnell reagiert der Account?Bots können viel schneller als ein Mensch auf Nachrichten reagieren und sie verbreiten. Retweetet ein Account regelmäßig innerhalb einer Sekunde nach der Publikation eines Tweets, dann handelt es sich wahrscheinlich um einen Social Bot. Dazu wertet er maschinell Hashtags aus.

Welchen Schreibstil hat der Account? Bots verraten sich oft durch ihren Sprachstil. Verwendet der Account häufig Begriffe, die der User zuvor benutzt hat – auch, wenn es inhaltlich keinen Sinn macht? Ist die Grammatik seltsam und klingt für einen Menschen unüblich?

Erkennt der Account den Kontext? Social Bots haben ein Problem, mit Kontextwissen umzugehen. Sie sind darauf programmiert, Satzmuster auszuwerten und mit vorgefertigten Antworten darauf zu reagieren. Eine Frage wie „Was ist hinter Dir?“ wird er nicht beantworten können. Im Zweifel lohnt es sich, den Account mit einer Frage zu konfrontieren, die nur ein Mensch beantworten kann.

Testen: „Bot or Not.“ Der Webdienst „Bot or Not“ ist auf das Erkennen von Social Bots spezialisiert. Das an der Indiana Universität entwickelte Tool erstellt für Twitter-Accounts einen Score, aus dem sich angeblich ableiten lassen kann, ob es sich eher um einen Menschen oder einen Bot handelt. Wirklich verlässlich ist das Ergebnis allerdings nicht.

Was gefällt dem Account? Je mehr Sternchen ein Account für andere Tweets vergibt, desto eher steckt ein Bot dahinter. Botswatch setzt bei der Identifizierung von Bot-Accounts mindestens 50 Likes voraus.



Links zum Thema

Weiterführende Artikel
    Anzeige
    Anzeige
    Anzeige