Anthropic stoppt Wahlbeeinflussung mit Claude in Malaysia

Anthropic hat eine mit Claude, einem KI-Chatbot des Unternehmens, aufgebaute Plattform zur Wahlbeeinflussung in Malaysia gestoppt. Das System verband gefälschte Konten, erfundene Nachrichten und manipulierte Dokumente zu einer politischen Einflussoperation.

Die im September veröffentlichte Gefahrenbewertung beschrieb laut Guardian rund 1.000 Konten auf X. Hinzu kamen das erfundene Nachrichtenangebot Malaysia Pulse und gefälschte Dokumente. Die Betreiber verknüpften Volkszählungs- und Wahldaten. Damit bearbeiteten sie Konflikte um Ethnie, Religion und Monarchie in allen 222 malaysischen Wahlkreisen.

Gefälschte Profile auf sechs Kontinenten

Claude half beim Aufbau falscher Profile und Nachrichtenseiten für Zielgruppen auf sechs Kontinenten. Anthropic ordnete solche Akteure Regierungen, staatsnahen Propagandaeinrichtungen, Staatsmedien und privaten Einflussfirmen zu. In jedem identifizierten Fall politischer Einflussnahme unterband Anthropic die Aktivität. Erkenntnisse flossen in Schutzmaßnahmen und gegebenenfalls an Behörden sowie Branchenpartner.

Malaysia Pulse übernahm laut Anthropics Gefahrenbewertung Inhalte seriöser malaysischer Medien. Claude formulierte diese mehrfach um, bevor erfundene Verfassernamen darunter erschienen. Das Angebot veröffentlichte außerdem Beiträge von TV BRICS, Xinhua, Sputnik/RIA und CGTN ohne Herkunftsangabe. Katie Harbath von Anchor Change verwies auf schnellere, billigere und stärker personalisierte Inhalte. Für deren Verbreitung blieben soziale Netzwerke erforderlich.

Weitere Wahlen bis 2029

OpenAI sperrte im vergangenen Jahr Konten, die Kommentare über philippinische Politik und Amtsträger erzeugten. Viele erfundene Beiträge unterstützten Präsident Ferdinand Marcos Jnr. In Indonesiens Wahl 2024 verbreitete sich ein KI-erzeugtes Cartoonbild des späteren Präsidenten Prabowo Subianto. Ben Loh von der Monash University Malaysia berichtete zudem von KI-Inhalten gegen Rohingya-Flüchtlinge.

Malaysias Parlamentswahl kann Ende 2027 angesetzt werden. Auf den Philippinen und in Kambodscha stehen 2028 Wahlen an. Indonesien folgt 2029.