(openPR) Social-Media-Kanäle und Videoplattformen wie TikTok sind bei Jugendlichen beliebt und deshalb ein attraktives Ziel für Desinformationskampagnen. Forschende des Fraunhofer-Instituts für Sichere Informationstechnologie SIT untersuchen gemeinsam mit einem interdisziplinären Team Methoden zur Erkennung und Bekämpfung von Desinformationen in Videos. Ziel des neu gestarteten Projekts VAMPIR ist die Entwicklung von technischen und pädagogischen Hilfsmitteln zur Desinformationsbekämpfung bei Jugendlichen. Die Ergebnisse richten sich an Plattformbetreiber, Schulen und Jugendschutz-Organisationen; außerdem führt das Projektteam Workshops für Juristen und Juristinnen sowie Presse durch. Mehr Informationen zum jetzt gestarteten Projekt VAMPIR gibt es unter www.sit.fraunhofer.de/vampir/.
TikTok-Videos verbreiten sich extrem schnell. So erreichen falsche oder irreführende Informationen innerhalb kürzester Zeit viele vor allem junge Menschen. Denn häufig nutzen gerade Jugendliche nicht mehr die traditionellen Nachrichtenkanäle, sondern Plattformen wie TikTok, was sie besonders anfällig macht für Fake News.
Besonders problematisch in dieser Hinsicht sind emotional aufgeladene Beiträge („Rage Bait“) sowie von KI erzeugte Deepfakes und „Cheapfakes“, also einfache Manipulationen, die Videoplattformen überfluten. Sie werden gezielt zur politischen Beeinflussung eingesetzt und dienen zudem oft der Verleumdung einzelner Personen sowie der bewussten Manipulation von Zuschauerinnen und Zuschauern. Aber auch die Rollen von Beteiligten am Ökosystem der Desinformationen werden betrachtet, beispielsweise die von Influencern.
Im Projekt VAMPIR – Videonutzung in der Adoleszenz: Manipulation, Propaganda, Information und Resilienz – werden neben Informatikforschenden des Fraunhofer SIT auch Kommunikationswissenschaftlerinnen und -wissenschaftlern der Hochschule der Medien Stuttgart, Rechtswissenschaftler der Universität Kassel, Kommunikationswissenschaftler der Technischen Hochschule Köln sowie Medienpsychologinnen und -psychologen der Universität Duisburg-Essen gemeinsam Maßnahmen entwickeln, um Desinformation auf TikTok zu erkennen und einzudämmen.
Interdisziplinäre Analyse von Desinformation in Video und Bild
Technisch analysieren die Forschenden des Fraunhofer SIT, wie sich Desinformationen und Deepfakes von Randplattformen wie Telegram auf Mainstream-Dienste wie TikTok ausbreiten. Über die Analyse großer Datenmengen aus den Plattformen sollen typische Verbreitungsmuster erkannt und automatisierte Erkennungsmethoden entwickelt werden. Darüber hinaus werden die Fraunhofer-SIT-Forschenden KI-gestützte Verfahren zur Erkennung von Deepfakes, manipulierten Videos und Bildern entwickeln. Hierfür untersuchen sie die Metadaten von Bild- und Audiodaten und analysieren Bilder, Videos und Audiodaten mithilfe datenbasierter und modellgestützter Verfahren aus dem Bereich Computervision und Audio-Processing (Bild- und Audioverarbeitung).
Forschende aus Medienpsychologie und Kommunikationswissenschaften im VAMPIR-Team untersuchen parallel dazu, wie sich bildgestützte Desinformation von textbasierter unterscheidet und welche spezifische Wirkung Fake-Bilder und -Videos auf Jugendliche haben. Darauf aufbauend entwickeln die Forschenden Strategien zur Stärkung der Medienkompetenz bei Jugendlichen, ohne pauschales Misstrauen gegenüber allen Medien zu erzeugen.
Rechtswissenschaftlerinnen und -wissenschaftler beleuchten den rechtlichen Rahmen: Welche Regeln gelten bereits, etwa durch den Digital Services Act oder die KI-Verordnung der Europäischen Union? Wo bestehen Lücken beim Schutz junger Nutzerinnen und Nutzer?
Werkzeugkasten gegen Desinformation
Ziel des Projekts ist die Entwicklung eines umfassenden Werkzeugpakets: Technische Desinformations-Erkennungsmethoden können Plattformbetreibern zur Verfügung gestellt werden; die medienpsychologischen Erkenntnisse und entwickelten pädagogischen Maßnahmen richten sich an Medienaufsichtsbehörden, Jugendschutzorganisationen, Schulen und andere Bildungseinrichtungen. Die rechtlichen Empfehlungen richten sich an politische Entscheidungsträger und sind auf weitere Bereiche digitaler Informationsverbreitung anwendbar.
Geplant sind außerdem Workshops, etwa für Journalistinnen und Journalisten sowie Juristinnen und Juristen und Kooperationen mit zivilgesellschaftlichen Initiativen.
Über das Projekt VAMPIR
Das Projekt VAMPIR vereint technische, medienpsychologische, kommunikationswissenschaftliche und rechtliche Perspektiven, um die Herausforderungen von Desinformationen in Videoinhalten umfassend zu adressieren.
Beteiligte Institutionen sind das Fraunhofer-Institut für Sichere Informationstechnologie SIT in Darmstadt, die Universität Kassel, die Technische Hochschule Köln, die Hochschule der Medien in Stuttgart und die Universität Duisburg-Essen. Assoziierte Partner sind die Stiftung Digitale Chancen, die Stadt Duisburg, die Vodafone Stiftung sowie die Bundeszentrale für politische Bildung (bpb).
Das Projekt läuft vom 1.4.2026 bis 31.03.2029 und wird vom Bundesministerium für Forschung, Technologie und Raumfahrt (BMFTR) gefördert.
Weitere Informationen zum Projekt VAMPIR sind unter www.sit.fraunhofer.de/vampir zu finden.
wissenschaftliche Ansprechpartner:
Prof. Dr. Martin Steinebach
