Inhalte des Artikels: Springe durch Klick auf das Thema direkt zum jeweiligen Absatz.
- Was sind Deepfakes?
- Warum sind Deepfakes so relevant?
- Deepfakes erkennen: Fünf Hinweise für Jugendeinrichtungen
- Wie erklärt man Deepfakes Jugendlichen?
- Medienpädagogik zu Deepfakes: 3 Übungen für Gruppenstunden
- Wann werden Deepfakes für Jugendliche problematisch?
- Deepfake-Verdacht in der Einrichtung: Was tun?
- KI-Inhalte kennzeichnen: Welche Pflicht gilt ab 2026?
- Was gilt, wenn Jugendliche selbst Deepfakes erstellen?
- KI-Richtlinie für Jugendeinrichtungen: Warum Deepfakes dazugehören
- Vertrauen, Medienkompetenz und klare Regeln
- KI-Regeln für eure Einrichtung klären
- Häufig gestellte Frage zu Deepfakes in der Jugendarbeit
Stell dir vor, in einer Gruppe kursiert ein Video.
Eine bekannte Person sagt darin etwas, das nicht zu ihr passt. Einige Jugendliche lachen. Andere sind irritiert. Jemand fragt: „Ist das echt?“ Genau solche Situationen werden wahrscheinlicher.
Nicht, weil überall Gefahr lauert. Sondern weil KI Inhalte einfacher erzeugt. Bilder, Videos und Stimmen wirken heute oft erstaunlich echt. Für Einrichtungen und Organisationen in der Jugendarbeit ist das relevant. Denn hier geht es um Vertrauen, Verantwortung und Medienbildung. Es geht auch um junge Menschen, die digitale Inhalte täglich sehen, teilen und bewerten. Deepfakes müssen keine Panik auslösen. Sie brauchen aber Aufmerksamkeit. Wer sie versteht, kann besser reagieren.
1. Was sind Deepfakes?
Der Begriff Deepfake setzt sich aus zwei Begriffen zusammen.
- Deep verweist auf Deep Learning. Damit sind KI-Verfahren gemeint, die aus großen Datenmengen lernen.
- Fake stammt aus dem Englischen und bedeutet Fälschung.
Ein Deepfake ist also ein mit KI erzeugter oder manipulierter Medieninhalt. Das kann ein Bild, ein Video oder eine Stimme sein. Kritisch wird es, wenn der Inhalt echt wirken soll. Also dann, wenn Menschen glauben sollen:
- Diese Person war wirklich dort.
- Diese Person hat wirklich so gesprochen.
- Diese Szene hat wirklich stattgefunden.
Wichtig ist: Nicht jede KI-Bearbeitung ist automatisch ein Deepfake.
Ein zugeschnittenes Foto ist kein Deepfake. Ein aufgehelltes Bild ist meist auch kein Deepfake. Auch ein freigestelltes Porträt ist noch kein Deepfake.
Kritisch wird es, wenn ein Inhalt Realität vortäuscht.
Nach Artikel 3 Nr. 60 der KI-Verordnung geht es bei Deepfakes um Bild-, Audio- oder Videoinhalte, die durch KI erzeugt oder manipuliert wurden. Sie ähneln bestehenden Personen, Orten, Gegenständen, Einrichtungen oder Ereignissen. Außerdem würden sie einer Person fälschlicherweise echt erscheinen.
Klingt erstmal sperrig. Im Alltag hilft eine einfache Frage: Täuscht der Inhalt vor, dass etwas wirklich passiert ist?
Ein Beispiel: Deepfake oder nur bearbeitet?
Das Bild ist ein Deepfake. Wir haben es komplett mit KI generieren lassen. Grundlage waren echte Fotos von Clara und Thomas. Beide haben dafür ihr Einverständnis gegeben. Auf den ersten Blick wirkt es realistisch. Bei näherer Betrachtung fallen aber Unstimmigkeiten auf. Die Körperhaltung wirkt leicht künstlich. Details passen nicht zusammen. Auch die Szene wirkt zwar plausibel, hat aber nie so stattgefunden.
Dieses Bild ist ein Zusammenschnitt von Thomas und Clara. Es waren zwei echte Fotos, bei welchen wir die Hintergründe entfernt haben. Der Inhalt selbst wurde aber nicht grundlegend verändert. Der Unterschied ist wichtig.
KI kann bei Bildbearbeitung helfen. Erst, wenn eine echte Situation vorgetäuscht wird, wird es problematisch.
2. Warum sind Deepfakes so relevant?
Deepfakes sind nicht völlig neu. Neu ist aber, wie leicht sie entstehen können. Früher brauchte man viel technisches Wissen. Heute reichen oft wenige Klicks. KI-Werkzeuge können Bilder erzeugen, Videos verändern oder Stimmen nachahmen. Das betrifft nicht nur Politik oder Prominente.
Auch Einrichtungen, Verbände und Jugendgruppen können betroffen sein.
Besonders problematisch ist die Wirkung von Bild und Ton. Texte hinterfragen viele Menschen schneller. Videos und Stimmen wirken unmittelbarer. Wenn wir jemanden sprechen hören, glauben wir dem Inhalt oft schneller. Genau deshalb sind Deepfakes oft so wirksam.
Ein paar Beispiele
Ein KI-Bild zeigt angeblich eine Szene von einer Freizeit. Das Bild wird in einem Chat geteilt. Einige erkennen die Situation nicht. Andere glauben, es sei echt.
Eine Stimme klingt wie eine bekannte Leitungsperson. Sie bittet in einer Sprachnachricht um eine schnelle Handlung.
Ein Video legt einer Person eine Aussage in den Mund. Die Aussage verbreitet sich, bevor sie geprüft wurde.
Das muss nicht täglich passieren. Aber Einrichtungen sollten vorbereitet sein.
Denn Deepfakes wirken besonders stark über Bild und Ton. Texte hinterfragen viele Menschen schneller. Videos und Stimmen wirken unmittelbarer. Wenn wir jemanden sehen oder hören, glauben wir oft schneller. Für die Jugendarbeit bedeutet das: Medienkompetenz reicht nicht mehr bei Quellenprüfung und Datenschutz. Sie muss auch KI-generierte Inhalte einschließen.
Das Ziel ist nicht Misstrauen gegen alles. Das Ziel ist ein wacher Blick.
3. Deepfakes erkennen: 5 Hinweise für Jugendeinrichtungen
Leider nicht immer. Wir können manche Deepfakes erkennen. Zum Beispiel an seltsamen Bewegungen, unnatürlicher Mimik oder fehlerhaftem Ton. Aber Deepfakes werden immer besser. Gerade in sozialen Netzwerken ist das schwierig. Dort werden Videos oft komprimiert. Sie erscheinen klein, dunkel oder unscharf. Dadurch fallen technische Fehler weniger auf.
Und genau hier liegt das Problem. Niedrig aufgelöste Inhalte in sozialen Medien sind oft schwerer zu prüfen. Trotzdem gibt es Hinweise, auf die du achten kannst:
1. Quelle prüfen und weitere suchen
Woher kommt der Inhalt? Wurde das Video auf einem offiziellen Kanal veröffentlicht? Ist der Ursprung unklar?
Je unklarer die Quelle ist, desto vorsichtiger solltest du sein. Gute Prüffragen sind:
- Wer hat den Inhalt veröffentlicht?
- Gibt es einen offiziellen Ursprung?
- Wurde der Inhalt nur weitergeleitet?
- Gibt es ein Datum und einen Kontext?
2. Kontext prüfen
Passt der Inhalt zur Situation? Passt die Aussage zum bekannten Verhalten? Oder wirkt der Inhalt auffällig zugespitzt?
Deepfakes arbeiten oft mit starken Emotionen. Wenn ein Inhalt sofort Empörung, Schock oder Druck auslöst, lohnt sich eine Pause.
Frage dich:
- Warum sehe ich diesen Inhalt jetzt?
- Was soll ich fühlen?
- Wer könnte vom Teilen profitieren?
3. Zweite Quelle suchen
Ein einzelnes Video reicht selten als Beleg. Suche nach weiteren Hinweisen. Prüfe offizielle Kanäle. Frage bei der betroffenen Person nach.
Nutze dafür nicht denselben Kanal.
Wenn eine Sprachnachricht verdächtig wirkt, rufe die Person direkt an. Wenn ein Video irritiert, frage über einen bekannten Kontaktweg nach.
4. Auf Details achten
Manche Deepfakes verraten sich durch kleine Unstimmigkeiten. Achte zum Beispiel auf:
- unnatürliche Mimik wie seltsame Augenbewegungen
- unsaubere Lippenbewegungen
- merkwürdige Lichtverhältnisse
- Fehler an Haaren oder Händen
- verzerrte Schrift im Hintergrund
Diese Hinweise helfen. Sie sind aber kein Beweis. Auch echte Videos können schlechte Qualität haben. Und gefälschte Videos können sehr sauber wirken.
5. Nicht sofort weiterleiten
Viele Fälschungen verbreiten sich durch Geschwindigkeit. Ein Inhalt löst etwas aus. Menschen reagieren schnell. Dann wird geteilt, kommentiert und weitergeschickt. Erst danach beginnt die Prüfung.
Deshalb hilft eine einfache Regel: Erst stoppen. Dann prüfen. Dann teilen.
Das ist besonders wichtig, wenn echte Personen betroffen sind.
Deshalb hilft eine einfache Regel:
Erst prüfen. Dann bewerten. Dann teilen.
4. Wie erklärt man Deepfakes Jugendlichen?
Deepfakes gehören in die Medienbildung. Jugendliche begegnen KI-Inhalten auf TikTok, Instagram, YouTube und in Messengern. Viele Inhalte sind lustig, kreativ oder harmlos. Manche können aber täuschen oder verletzen.
Darum braucht es keine Panik. Es braucht Gesprächsanlässe.
Für eine Gruppe mit 12- bis 16-Jährigen kann der Einstieg einfach sein:
- Zeige zwei Bilder. Eines ist echt bearbeitet. Eines wurde mit KI erzeugt. Frage die Gruppe:
- Was wirkt echt? Was wirkt komisch? Woran macht ihr das fest?
Danach kann der wichtigste Punkt folgen: Nicht alles, was echt wirkt, ist echt. Und nicht alles, was komisch wirkt, ist falsch.
Gute Leitfragen für Gruppenstunden sind:
- Wer hat diesen Inhalt erstellt?
- Was soll ich glauben?
- Welche Emotion löst der Inhalt aus?
- Könnte jemand durch den Inhalt geschädigt werden?
- Ist erkennbar, dass KI genutzt wurde?
- Wurde eine reale Person nachgebildet?
- Würde ich den Inhalt auch teilen, wenn er mich betrifft?
So wird das Thema greifbar
Es geht nicht darum, Jugendlichen alles zu verbieten. Es geht um Verantwortung. KI kann kreative Unterstützung sein. Sie kann Ideen unterstützen. Sie kann Inhalte anschaulich machen. Aber sie kann auch Grenzen überschreiten.
Gerade bei echten Personen braucht es Sensibilität.
Übung 1: Echt, bearbeitet oder KI?
Zeige drei Medieninhalte:
- ein echtes Foto
- ein bearbeitetes Foto
- ein KI-generiertes Bild
Die Gruppe soll nicht nur raten. Sie soll begründen.
Fragen:
- Was spricht für echt?
- Was wirkt künstlich?
- Welche Details fallen auf?
- Welche Quelle würdet ihr prüfen?
Ziel der Übung ist nicht, alles richtig zu erkennen. Ziel ist, genauer hinzuschauen.
Übung 2: Die 30-Sekunden-Pause
Nimm ein Beispiel für einen emotionalen Social-Media-Post.
Die Gruppe soll 30 Sekunden nichts sagen. Danach beantworten alle drei Fragen:
- Was hat der Inhalt bei mir ausgelöst?
- Was weiß ich sicher?
- Was müsste ich prüfen?
Diese Übung zeigt, wie stark Gefühle das Teilen beeinflussen.
Übung 3: Was wäre fair?
Beschreibe einen Fall:
Jemand erstellt ein lustiges KI-Bild einer echten Person. Die Person wurde nicht gefragt. Das Bild wird in der Gruppe geteilt.
Diskutiert:
- Ist das noch Spaß?
- Wer entscheidet das?
- Was wäre anders, wenn ich selbst betroffen wäre?
- Was müsste vorher geklärt werden?
Diese Übung macht Grenzen sichtbar.
6. Wann werden Deepfakes für Jugendliche problematisch?
Viele Deepfakes entstehen nicht mit böser Absicht. Ein Bild wird verändert. Eine Stimme wird nachgemacht. Ein Meme wird geteilt. Erst später wird klar, dass sich eine Person bloßgestellt fühlt. Deshalb sollten Einrichtungen mit jungen Menschen auch über Grenzen sprechen.
Kritisch wird es besonders dann, wenn:
- echte Personen ohne Zustimmung gezeigt werden
- Stimmen realer Personen nachgeahmt werden
- jemand lächerlich gemacht wird
- falsche Aussagen verbreitet werden
- private Situationen vorgetäuscht werden
- Inhalte beleidigend sind
- Druck oder Angst entsteht
Eine einfache Regel hilft: Wenn eine echte Person betroffen ist, braucht es besondere Vorsicht. Das gilt für uns alle.
Das gilt für Jugendliche. Es gilt für Ehrenamtliche. Es gilt für Mitarbeitende und Leitungspersonen.
Gerade bei Minderjährigen sollten Einrichtungen besonders vorsichtig sein. Denn junge Menschen können Folgen oft schwer einschätzen. Gleichzeitig können digitale Inhalte sehr lange sichtbar bleiben.
Deshalb sollten Gruppenregeln klar sein: keine KI-Bilder von echten Personen ohne Zustimmung. Keine Stimmen nachahmen. Keine peinlichen Szenen erzeugen. Keine Inhalte teilen, die andere bloßstellen.
Das klingt streng. Es schützt aber alle Beteiligten.
7. Deepfake-Verdacht in der Einrichtung: Was tun?
Diese Frage ist für Einrichtungen besonders wichtig. Denn im Ernstfall hilft kein langer Grundsatztext. Dann braucht es einen klaren Ablauf.
Stell dir vor
Ein KI-generiertes Bild einer Jugendlichen wird in einer Chatgruppe geteilt. Es wirkt realistisch. Die betroffene Person ist erkennbar. Andere lachen darüber.
Dann geht es nicht nur um Technik. Es geht um Schutz, Kommunikation und Dokumentation.
Ein möglicher Ablauf
1. Inhalt nicht weiterverbreiten
Bittet alle Beteiligten, den Inhalt nicht weiterzuleiten.
2. Inhalt sichern
Dokumentiert alles mithilfe von Screenshots, Link, Datum, Uhrzeit und Plattform.
3. Betroffene Person schützen
Sprecht mit der betroffenen Person und klärt, was sie jetzt braucht.
4. Verantwortliche einbeziehen
Informiert die Leitung und bei Bedarf weitere zuständige Personen.
5. Plattform oder Chatgruppe moderieren
Meldet den Inhalt und stoppt die weitere Verbreitung.
6. Pädagogisch nacharbeiten
Besprecht mit der Gruppe, warum der Inhalt problematisch ist.
7. Interne Regeln prüfen
Prüft, welche Regeln und Abläufe künftig helfen würden.
8. KI-Inhalte kennzeichnen: Welche Pflicht gilt ab 2026?
Ja, in bestimmten Fällen wird das rechtlich verpflichtend.
Die KI-Verordnung enthält Transparenzpflichten für bestimmte KI-Inhalte. Diese Regeln werden ab dem 2. August 2026 relevant. Sie betreffen unter anderem Deepfakes und bestimmte KI-generierte Inhalte.
Relevant ist vor allem Artikel 50 der KI-Verordnung. Dort geht es um Transparenz- und Kennzeichnungspflichten für die Verwendung von KI. Deepfakes und bestimmte KI-generierte Inhalte müssen als künstlich erzeugt oder manipuliert offengelegt werden.
Für Einrichtungen bedeutet das: Wenn ihr KI nutzt, um realistisch wirkende Bilder, Videos oder Stimmen zu erzeugen, braucht es immer eine klare Kennzeichnung.
Besonders wichtig ist das bei Inhalten mit Bezug zu:
- realen Personen
- realen Orten
- echten Einrichtungen
- echten Veranstaltungen
- realen Gegenständen
- gesellschaftlich relevanten Ereignissen
Ein Beispiel
Ein KI-generiertes Bild zeigt scheinbar eine echte Jugendfreizeit. Dann sollte klar erkennbar sein, dass dieses Bild mit KI erstellt wurde.
Geeignete Hinweise sind:
- KI-generiert
- Mit KI erstellt
- KI-Bild
- KI-Video
- KI-Stimme
Die Kennzeichnung sollte sichtbar sein. Sie sollte nicht im Impressum versteckt werden. Besser ist eine doppelte Kennzeichnung:
- direkt am Inhalt (zu sehen auf dem Bild und darunter)
- zusätzlich im Begleittext (auch Alternativtext genannt)
Mit KI generiert
Bei deutschsprachigen Zielgruppen ist „KI“ meist verständlicher als „AI“.
9. Was gilt, wenn Jugendliche selbst Deepfakes erstellen?
Diese Frage wird in Einrichtungen praktisch relevant. Viele junge Menschen probieren KI-Tools aus. Sie testen Filter, Bildgeneratoren oder Stimmen-Apps. Oft beginnt das spielerisch.
Trotzdem gelten Grenzen. Problematisch wird es, wenn echte Personen betroffen sind. Besonders dann, wenn Inhalte ohne Zustimmung entstehen oder verbreitet werden.
Einrichtungen sollten deshalb früh klären:
- Dürfen echte Personen mit KI nachgebildet werden?
- Braucht es vorher Zustimmung?
- Was gilt bei Minderjährigen?
- Welche Inhalte sind tabu?
- Was passiert bei Verstößen?
Pädagogisch hilft eine klare Botschaft: Du darfst mit KI kreativ sein. Aber du darfst andere nicht täuschen, bloßstellen oder verletzen.
10. KI-Richtlinie für Jugendeinrichtungen: Warum Deepfakes dazugehören
Viele nutzen KI, vor allem beim Schreiben. Texte sind im Alltag oft der erste Anwendungsfall. Einladungen, Newsletter, Zusammenfassungen und Konzepte entstehen schneller. Aber KI erzeugt längst mehr als Texte. Bilder, Videos und Stimmen müssen deshalb mitgedacht werden. Sonst entstehen Lücken.
Eine gute KI-Richtlinie beantwortet unter anderem diese Fragen:
- Welche KI-Tools dürfen wir nutzen?
- Welche Daten dürfen wir eingeben?
- Welche Inhalte dürfen wir erzeugen?
- Welche Inhalte sind tabu?
- Wann müssen wir KI kennzeichnen?
- Wer prüft Inhalte vor Veröffentlichung?
- Wer entscheidet bei Unsicherheit?
- Wie gehen wir mit Deepfake-Verdacht um?
- Welche Regeln gelten für echte Personen?
So wird aus Unsicherheit eine klare Arbeitsgrundlage.
Deepfakes zeigen, warum KI-Regeln konkret sein müssen. Wir haben eine Muster-Vorlage für eine KI-Richtlinie erstellt. Sie hilft euch, erlaubte Anwendungsfälle, Grenzen, Datenschutz, Kennzeichnung und Verantwortlichkeiten zu klären.
Erstelle eine KI-Richtlinie mit unserer Muster-Vorlage11. Vertrauen, Medienkompetenz und klare Regeln
Deepfakes zeigen eine zentrale Herausforderung der KI-Zeit. Wir können digitalen Inhalten nicht blind vertrauen. Gleichzeitig dürfen wir nicht in pauschales Misstrauen kippen. Der bessere Weg liegt dazwischen.
Wir brauchen Medienkompetenz. Wir brauchen klare Prüfroutinen. Und wir brauchen transparente Kennzeichnung, wenn KI Inhalte erzeugt oder verändert.
Für Einrichtungen der Jugendarbeit geht es um drei Dinge:
- verstehen, was Deepfakes sind
- Jugendliche für digitale Täuschungen sensibilisieren
- klare Regeln für KI-Inhalte festlegen
Nicht jede Person muss KI technisch verstehen. Aber jede Organisation sollte wissen, wie sie Inhalte prüft. Genau dadurch entsteht Sicherheit. Nicht durch Misstrauen. Sondern durch Medienkompetenz, klare Routinen und Verantwortung.
12. KI-Regeln für eure Einrichtung klären
Nutzt ihr bereits KI im Team? Oder tauchen erste Fragen zu Bildern, Videos, Stimmen und Kennzeichnung auf? Dann ist jetzt ein guter Zeitpunkt für klare Regeln.
Ladet euch unsere Vorlage für eine KI-Richtlinie herunter. Nutzt sie als Grundlage für euer Team. Oder sprecht mit uns über einen Workshop, in dem wir gemeinsam sinnvolle Leitplanken entwickeln.
13. Häufig gestellte Fragen zu Deepfakes in der Jugendarbeit
Was ist ein Deepfake?
Ein Deepfake ist ein mit KI erzeugter oder manipulierter Medieninhalt. Das kann ein Bild, ein Video oder eine Stimme sein. Kritisch wird es, wenn der Inhalt echt wirken soll, obwohl er künstlich verändert wurde.
Ist jedes KI-Bild ein Deepfake?
Nein. Ein KI-Bild ist nicht automatisch ein Deepfake. Entscheidend ist, ob es Realität vortäuscht. Ein Symbolbild ist anders zu bewerten als ein realistisches Bild einer scheinbar echten Veranstaltung.
Wie kann man Deepfakes erkennen?
Deepfakes lassen sich nicht immer sicher erkennen. Hinweise können unnatürliche Mimik, unsaubere Lippenbewegungen, Bildfehler oder merkwürdiger Ton sein. Wichtiger sind Quelle, Kontext und Gegenprüfung.
Was sollte ich tun, wenn ein Deepfake in meiner Einrichtung auftaucht?
Teile den Inhalt nicht weiter. Sichere Belege. Schütze betroffene Personen. Informiere die zuständige Leitung. Prüfe, ob Plattformmeldung, Elterninformation oder Beratung nötig sind.
Wie erkläre ich Deepfakes Jugendlichen?
Nutze konkrete Beispiele. Vergleicht echte, bearbeitete und KI-generierte Inhalte. Sprecht über Wirkung, Zustimmung und Verantwortung. Ziel ist nicht Perfektion beim Erkennen, sondern ein bewusster Umgang.
Was gilt, wenn Jugendliche Deepfakes erstellen?
Problematisch wird es, wenn echte Personen ohne Zustimmung nachgebildet werden. Besonders kritisch sind beleidigende, sexualisierte oder bloßstellende Inhalte. Einrichtungen sollten dafür klare Gruppenregeln formulieren.
Müssen KI-generierte Inhalte gekennzeichnet werden?
In bestimmten Fällen ja. Besonders wichtig ist die Kennzeichnung bei realistisch wirkenden KI-Inhalten. Das gilt vor allem bei realen Personen, Orten, Einrichtungen oder Veranstaltungen.
Was sollte in einer KI-Richtlinie zu Deepfakes stehen?
Eine KI-Richtlinie sollte regeln, ob KI-Bilder, KI-Videos und KI-Stimmen genutzt werden dürfen. Außerdem sollte sie Kennzeichnung, Zustimmung, Freigaben und den Umgang mit Verdachtsfällen klären.
Unsere Quellen
- Krüger, A. (2022, 14. Juli). Titel des Interviews: Was sind Deepfakes? Deutsches Forschungszentrum für KI (DFKI). URL
- Bundesamt für Sicherheit in der Informationstechnik (2026). Deepfakes – Gefahren und Gegenmaßnahmen. Bundesamt für Sicherheit in der Informationstechnik. URL
- NDR (2026, . Mai). Deepfakes: Wie sie entstehen und wie wir uns schützen können. NDR. URL
- Ladwig, P. (2025, 5. Dezember). Deepfakes: Technische Hintergründe und Trends. Bundeszentrale für politische Bildung. URL
- GEOlino (2026, 29. Mai). Wie Deepfake-Videos funktionieren. GEOlino. URL
- ZDF (2022, 14. Juni). Wie funktionieren Deepfakes? ZDF. URL
