Deepfakes sind künstlich erzeugte oder manipulierte Bilder, Videos und Tonaufnahmen, die echte Personen oder Ereignisse täuschend glaubwürdig nachahmen können. Meist kommt dabei generative künstliche Intelligenz zum Einsatz. So lässt sich beispielsweise ein Gesicht in einem Video austauschen oder eine Stimme imitieren. Deepfakes können für Unterhaltung, Kunst oder Filmproduktion genutzt werden, aber auch zur Täuschung. Besonders problematisch sind gefälschte politische Aussagen, Betrugsversuche, Identitätsmissbrauch oder nicht einvernehmliche intime Darstellungen. Europol nennt Deepfakes unter anderem als mögliche Technik für Betrug und die Manipulation von Beweismaterial. Ihre Erkennung ist schwierig und wird mit leistungsfähigeren KI-Modellen anspruchsvoller. Deshalb gewinnen Herkunftsnachweise und technische Verfahren zur Prüfung digitaler Medien an Bedeutung.