AI Leaders Artikel vom 01.07.2025
OpenAI hat in einem neuen Bericht mehrere internationale Kampagnen aufgedeckt, die seine KI-Modelle für Cyberangriffe, politische Einflussnahme und betrügerische Beschäftigungsschemata missbrauchten. Die Aktivitäten reichen von Nordkorea über Russland bis Kambodscha.
Laut einem aktuellen Bericht von OpenAI verwendet Betrüger ChatGPT, um mehrsprachige Rekrutierungsnachrichten für ein angebliches Arbeitsangebot zu erstellen. Für das einfache Liken von Social-Media-Beiträgen wurden Summen von mehr als fünf US-Dollar angeboten – ein ökonomisch absurder Betrag, der deutlich über den Marktpreisen liegt. Auf einschlägigen Plattformen kosten 1.000 Likes teilweise weniger als zehn US-Dollar.
Die Betrüger gingen in drei Phasen vor: Erst lockten sie Opfer mit unrealistischen Angeboten („Ping“), dann bauten sie mit gefälschten Erfolgsgeschichten und kleinen Zahlungen Vertrauen auf („Zing“). Am Ende verlangt sie Geld – etwa als Eintrittszahlung oder in Kryptowährung („Sting“).
Die als „Wrong Number“ bezeichnete Operation wurde durch einen Zufall aufgedeckt: Einer der OpenAI-Ermittler erhielt selbst eine der ersten SMS-Nachrichten. Die Nachricht fordert zur Kontaktaufnahme über WhatsApp auf und leitet dann einen „Mentor“ auf Telegram weiter.
OpenAI stoppt russische KI-Propaganda zur Bundestagswahl
OpenAI hat nach eigenen Angaben auch eine russischsprachige Einflussoperation gestoppt, die mit Hilfe von ChatGPT Inhalte in deutscher Sprache zur Bundestagswahl 2025 generierte. Die verdeckte Kampagne läuft unter dem Namen „Operation Helgoland Bite“ und nutzt unter anderem einen Telegram-Kanal mit dem Namen „Nachhall von Helgoland“ sowie ein X-Konto mit mehr als 27.000 Followern.
Die Inhalte richten sich gegen die USA und die NATO und unterstützen die rechtspopulistische Partei Alternative für Deutschland (AfD). Außerdem wurden mit ChatGPT Informationen über deutsche Oppositionsaktivisten und Blogger recherchiert sowie russischsprachige Texte ins Deutsche übersetzt. Nach Angaben von OpenAI war die Reichweite der Kampagne begrenzt.
Chinas Einflussoperationen: Von Taiwan bis zu gefälschten Journalisten
Mehrere Operationen lassen sich laut OpenAI einem chinesischen Ursprung zuordnen. „Sneer Review“ generierte Kommentare zu geopolitischen Themen auf Plattformen wie TikTok oder X, auch zur Diskreditierung von Kritikern wie der pakistanischen Aktivistin Mahrang Baloch.
Die Operation „VAGue Focus“ nutzte gefälschte Medienaccounts, um Informationen über westliche Zielpersonen zu sammeln. Eine dritte Kampagne, „Uncle Spam“, streute gegensätzliche politische Aussagen in den US-Diskurs, etwa zu Zollpolitik, und nutzte KI-generierte Profilbilder von angeblichen Veteranen.
Insgesamt hat OpenAI in seinem aktuellen Bericht „Disrupting böswilliger Einsatz von KI: Juni 2025“ zehn internationale Kampagnen identifiziert, bei denen Bedrohungsakteure KI-Modelle von OpenAI für betrügerische, politische oder kriminelle Zwecke eingesetzt haben.
Zusammenfassung
- Laut einem aktuellen Bericht von OpenAI nutzte eine mutmaßlich kambodschanische Betrügergruppe ChatGPT, um Menschen weltweit mit unrealistischen Jobversprechen und KI-generierten Erfolgsgeschichten in ein betrügerisches System zu locken. Die Operation wurde zufällig entdeckt, als ein OpenAI-Ermittler selbst eine der Nachrichten erhielt.
- OpenAI stoppte außerdem die russischsprachige Kampagne „Operation Helgoland Bite“, die mit Hilfe von ChatGPT Inhalte zur Bundestagswahl 2025 in deutscher Sprache erstellte. Die Kampagne gezielte auf Anti-USA- und Anti-NATO-Botschaften und unterstützte die AfD, hatte laut OpenAI aber eine begrenzte Reichweite.
- Mehrere weitere Einflussoperationen werden laut OpenAI China zugeordnet, darunter „Sneer Review“, die kritischen Kommentare zu geopolitischen Themen generierte, sowie Aktionen mit gefälschten Medienaccounts und KI-generierten Profilbildern.
