Pressemitteilung
Generierte Bilder, Deepfakes, Bot-Netzwerke - künstliche Intelligenz stellt bereits jetzt eine Herausforderung für den Informationsraum dar. Dazu kommen nun KI-Avatare, also vollständig mithilfe künstlicher Intelligenz erstellte Sprecher:innen. Eine neue Untersuchung des Centers für Monitoring, Analyse und Strategie, kurz CeMAS, zeigt nun, dass KI-Avatare auch im deutschsprachigen Raum eingesetzt werden und die künstlich erstellten Sprecher:innen bereits 2026 für irreführende Kommunikation instrumentalisiert werden können.
YouTube-Kanäle mit KI-Avataren: Anzeichen für koordiniertes Muster
Im Juli 2026 identifizierte CeMAS auf YouTube, das zu den wichtigsten Online-Plattformen für Nachrichtenkonsum zählt, 47 Kanäle, die unter Einsatz solcher KI-Avatare politische Themen besprachen. 38 dieser Kanäle und über 1.800 zugehörige Videos konnten für die vorliegende Untersuchung ausgewertet werden. Bei den Kanälen gibt es deutliche Anzeichen für ein koordiniertes Muster: Registrierungs- und Aktivitätszeiträume, Inhalte sowie Aufmachung ähneln sich und überschneiden sich teilweise. Die Urheberschaft der Kanäle kann nicht zweifelsfrei geklärt werden, allerdings gibt es Hinweise auf eine russischsprachige Beteiligung.
In den Videos wird sich überwiegend mit geopolitischen Themen wie den Kriegen im Iran und der Ukraine beschäftigt, aber auch die deutsche Innenpolitik wird immer wieder thematisiert. Von CeMAS beobachtete Nutzer:inneninteraktionen weisen darauf hin, dass mit den Videos auch authentische Nutzer:innen erreicht wurden.
Risikopotenzial von KI-Avataren für den Informationsraum
KI-Avatare sehen aufgrund des technologischen Fortschritts zunehmend authentisch aus. Es ist absehbar, dass es künftig noch schwieriger wird, sie auf Plattformen wie YouTube von echten Menschen zu unterscheiden.
Der Einsatz von KI-Avataren hat ein grundlegendes Einflusspotenzial: In kurzer Zeit können große Mengen unauthentischer Inhalte produziert werden, um schnell auf aktuelle Entwicklungen zum Beispiel im Vorfeld von Wahlen zu reagieren und potenziell Einfluss auf die öffentliche Debatte zu nehmen. Zudem können KI-Avatare als passgenaue Identifikationsfiguren für unterschiedliche Zielgruppen erstellt werden.
Lea Frühwirth, Senior Researcherin bei CeMAS und eine der Autorinnen des Berichts sagt zum Risikopotenzial von KI-Avataren für den Informationsraum: “Kanäle können sich mit künstlichen, offenkundig koordinierten Inhalten monatelang auf YouTube halten und dort politische Narrative verbreiten. Mit leichten Qualitätsentwicklungen könnte der Einsatz von KI-Avataren zu einem wirkungsvollen Instrument für Desinformationskampagnen werden und damit eine ernstzunehmende Herausforderung für den Informationsraum darstellen.”
Das Research Paper ist als PDF auf der Website von CeMAS auf Deutsch verfügbar.
Für Fragen und Interviews steht Co-Autorin und Senior Researcherin Lea Frühwirth gerne zur Verfügung.
Pressekontakt: Maheba Goedeke Tort
E-Mail: presse@cemas.io
Website: www.cemas.io