Hinweis: Wir von Noahworks sind keine Juristen und geben dir demzufolge auch keine Gewähr auf die Korrektheit der hier zur Verfügung gestellten Informationen. Wenn du vollständige Klarheit und vor allem Rechtssicherheit für deine Einrichtung erlangen willst, wende dich an entsprechende Expert:innen.
Inhalte des Artikels: Springe durch Klick auf das Thema direkt zum jeweiligen Tipp.
KI-Tools können uns entlasten: Texte schneller verstehen, Abläufe automatisieren, kreative Impulse liefern. Doch wo Kinder und Jugendliche im Mittelpunkt stehen, spielen personenbezogene Daten eine zentrale Rolle. Schon eine einfache E-Mail-Adresse kann rechtlich relevant sein.
Die Frage lautet also nicht: Nutzen wir KI?, sondern Wie nutzen wir KI datenschutzkonform?
Die DSGVO in der Jugendarbeit
In unserem Alltag erleichtern uns KI-Tools zwar die Arbeit, doch sie verarbeiten oft mehr Daten, als uns bewusst ist. Datenschutzrechtlich relevant wird es immer dann, wenn personenbezogene Daten ins Spiel kommen – egal, ob in Prompts, E-Mails, Teilnehmerlisten, Dienstplänen oder über Schnittstellen wie Outlook.
Gerade in der Arbeit mit jungen Menschen arbeiten wir mit sensiblen Daten. Von Adressen, über E-Mail-Verläufe bis hin zu Gesundheitsinformationen. Hier gelten die Datenschutz-Grundverordnung (DSGVO) und wenn du in der kirchlichen Jugendarbeit tätig bist, entsprechend das KDG und das DSG-EKD.
Grundlegend gilt: Die Verarbeitung personenbezogener Daten bedarf einer Rechtsgrundlage.
🛡️Sobald ein Personenbezug vorliegt, greift die DSGVO
Personenbezogene Daten sind alle Informationen, mit denen sich eine Person direkt oder indirekt identifizieren lässt. Zum Beispiel ein Foto, die Stimme oder der Name einer Person.
🔓 Ohne Personenbezug, greift die DSGVO nicht
Werden Daten verarbeitet, die keinen Rückschluss auf einzelne Personen zulassen – weder direkt noch indirekt – handelt es sich nicht um personenbezogene Daten und die DSGVO kommt nicht zur Anwendung.
Rechtsgrundlagen für die Verarbeitung personenbezogener Daten mit KI und ihre Tücken
Jede Verarbeitung personenbezogener Daten mit KI ist grundsätzlich verboten. Dabei spielt es keine Rolle, welches Tool oder welchen Dienst du dafür einsetzen möchtest. Es muss eine Rechtsgrundlage zur Verarbeitung vorliegen.
- Erfüllung von Vertragspflichten: In der Jugendarbeit meistens nicht relevant, weil KI selten zwingend erforderlich ist, um die Arbeit zu erfüllen. Spielt dann eine Rolle, wenn die KI gebraucht wird, um einen Vertrag zu erfüllen, zum Beispiel als festes Arbeitsmittel.
- Berechtigtes Interesse: Möglich, aber knifflig zu begründen. Vor allem bei Kindern und Jugendlichen sind die Schutzinteressen immer wichtiger.
- Einwilligung: Jede Einwilligung ist widerrufbar. Außerdem ist sie nur dann wirksam, wenn die betroffene Person hinreichend über die Verarbeitungsprozesse und Risiken informiert wurde.
Besonders heikel wird es, wenn es um Gesundheitsdaten oder sensible Informationen aus der Seelsorge geht. Hier gelten noch strengere Anforderungen und dürfen auf keinen Fall unbedacht an ein KI-Tool weitergegeben werden.
KI als Mitarbeiter:in in der Jugendarbeit verantwortungsvoll nutzen: Regeln statt Verbote
Ein pauschales Verbot von KI im beruflichen Kontext klingt einfach, führt aber meist nur zu Ausweichlösungen über private Accounts. Der bessere Weg: klare Regeln und bewusster Einsatz.
Abonniere deine Portion Digitalwissen für dein Postfach
Datenschutzfreundliche KI-Tools und Lösungen für die Jugendarbeit
KI lässt sich in der Jugendarbeit verantwortungsvoll einsetzen und dafür gibt es verschiedene Ansätze und Tools.
Proxy-Lösungen für mehr Sicherheit
Bei einer Proxy-Lösung werden die Daten zunächst an einen zwischengeschalteten Dienst gesendet, bevor bspw. dein Prompt an das eigentliche KI-Tool weitergeleitet wird. Diese Dienste speichern die Daten vorzugsweise auf Servern innerhalb der EU und führen eine Bereinigung durch, um etwaige personenbezogene Daten zu entfernen, bevor sie an das KI-Tool weitergeleitet werden.
Microsoft Copilot verantwortungsvoll einsetzen
Microsoft integriert KI zunehmend in Outlook, Word und Co – praktisch, aber mit Risiken. Das Problem ist der US Cloud Act. Dieser erlaubt US-Behörden den Zugriff auf die Daten der Anbieter-Unternehmen, selbst wenn diese die Daten in europäischen Rechenzentren speichern. Wirkliche Sicherheit bieten demnach nur solche KI-Tools, deren gesamte Infrastruktur von Nicht-US-Unternehmen innerhalb der EU betrieben werden.
Alternativen zu ChatGPT & Co.
- Le Chat von Mistral: kommt aus Frankreich (EU) und ist DSGVO-konform
- Duck.AI: anonymisiert Angaben
- Lokale Modelle nutzen: zum Beispiel LLaMA, solche Modelle arbeiten ausschließlich offline
- KI selbst hosten, bspw. mit dem Tool GPT4All
Privacy by Design beachten
Der als “Datenschutz durch Technikgestaltung und durch datenschutzfreundliche Voreinstellungen” bezeichnete Grundsatz verlangt, dass du dir vor dem Einsatz von KI-Software folgende Überlegungen machst:
- Warum überhaupt ein KI-Tool einsetzen? Kann der geplante Zweck auch auf anderen (datenschutzfreundlicheren) Wegen erreicht werden?
- Warum DIESES KI-Tool? Gibt es ggf. datenschutzfreundlichere Alternativen?
- Warum Anonymisierung nicht möglich? Kannst du erklären, warum eine Entfernung von Namen bei Übertragung an die KI nicht möglich ist?
Deine nächsten Schritte
