Präambel

Auf Edumaps werden bei Anmeldung nur folgende Daten festgehalten (gemäß dem Prinzip der Datenminimierung):

• E-Mail (optional)
• Klarname (optional)
• Benutzername (pseudonymisiert z. B. „edu4567.t1“)
• Schulzugehörigkeit
• Benutzerrolle (Lehrer oder Schüler)

Zusätzlich entstehen technisch notwendige Betriebsdaten, insbesondere Passwort-Hash/Authentifizierungsdaten, interne Benutzer-IDs, Zeitstempel (z. B. Registrierung/Letzter Login), sowie IP-Adresse und User-Agent in Sicherheits- und Fehlerlogs. Session-IDs/Cookies werden zur Anmeldung und Missbrauchsprävention verarbeitet.

Die Angabe von E-Mail und Klarname ist optional. Schüler und Lehrer können das System auch ohne diese Daten nutzen.

Der Benutzername ist pseudonymisiert. Nur die Zugehörigkeit der Schule ist feststellbar und die Benutzerrolle, also ob es sich um einen Lehrer oder Schüler handelt.

Von größerer Bedeutung sind jedoch die Inhalte (insbesondere mediale Inhalte), die auf Edumaps eingestellt werden. Diese müssen besonders geschützt werden.

Die Verarbeitung unterliegt der DSGVO sowie den jeweils einschlägigen nationalen bzw. landesrechtlichen Vorgaben (insbesondere Schulrecht) des Verantwortlichen.

Nichtsdestotrotz kann es, wie bei jeder Software, auch bei Edumaps zu Risiken kommen, die nicht unter unserer Kontrolle liegen. Im Folgenden versuchen wir, diese Risiken abzuschätzen.

Geltungsbereich, Dokumentenstatus und Versionierung

Dieses Dokument ist die Datenschutz-Folgenabschätzung (DSFA) gemäß Art. 35 DSGVO für Edumaps inkl. des KI-Moduls.

• Version:
• Datum:
• Letzte Prüfung:
• Dokumentenverantwortlicher (DSFA):
• Freigabestatus: Entwurf in Prüfung freigegeben
• Geltungsbereich: Edumaps Plattform und Mandant/Schulträger/Bundesland:
• Modulbezug: Map und Quiz-Map mit KI erstellen/ändern, Box mit KI erstellen/ändern
• Funktionsumfang: Assistenz, Änderung und Generierung von textbasierten Inhalten
• Schwellwertanalyse/Anlass: Einsatz neuer Technologie (generative KI) und Verarbeitung von Inhaltsdaten im Schulkontext (Minderjährige) – DSFA ist erforderlich und wird vor Produktivsetzung je Mandant geprüft. Die DSFA-Pflicht ergibt sich aus dem Einsatz neuer Technologie (generative KI) sowie der Verarbeitung von Inhaltsdaten im schulischen Kontext mit vulnerablen Betroffenengruppen (Minderjährige). Die Bewertung orientiert sich an den DPIA-Leitlinien WP248rev.01 (EDPB) und den einschlägigen Hinweisen der DSK; zusätzlich sind ggf. landesspezifische Muss-Listen nach Art. 35 Abs. 4 DSGVO zu berücksichtigen.

Hinweis zur Terminologie: Die Verarbeitungsgrundsätze ergeben sich aus Art. 5 DSGVO; Anforderungen an Sicherheit/Schutzziele (Vertraulichkeit, Integrität, Verfügbarkeit, Belastbarkeit) insbesondere aus Art. 32 DSGVO.

Rollen, Verantwortlichkeiten und Dienstleisterkette

Verantwortlicher: In der Regel die jeweilige Schule / der Schulträger, der die Zwecke und Mittel der Verarbeitung festlegt.

Auftragsverarbeiter: Edumaps als Betreiber/Anbieter verarbeitet Daten im Auftrag des Verantwortlichen auf Grundlage eines Auftragsverarbeitungsvertrags (AVV) nach Art. 28 DSGVO.

Unterauftragsverarbeiter:
1. Hetzner Online GmbH für das Server-Hosting.
2. Heinlein Hosting GmbH für E-Mail-Hosting via mailbox.org.
3. Microsoft Ireland Operations Limited (Azure OpenAI Service) für die KI.

Subprozessor- und Change-Management: Die aktuelle Subprozessorliste sowie Änderungen (Neuaufnahme/Wechsel) werden dokumentiert und dem Verantwortlichen fristgerecht angezeigt. Der Verantwortliche kann die Änderung nach Maßgabe des AVV prüfen.

Datenschutzbeauftragter der Institution: Einbindung des Datenschutzbeauftragten in die DSFA, Freigabeprozess und regelmäßige Überprüfung werden dokumentiert.

Konsultation und Einbindung (Art. 35 Abs. 9 DSGVO)

Soweit angemessen, werden die Ansichten der Betroffenen bzw. ihrer Vertretungen in die DSFA einbezogen (z. B. Lehrkräftevertretung, Schulkonferenz, Eltern-/Schülervertretung), sofern dadurch keine Sicherheits- oder Geschäftsgeheimnisse beeinträchtigt werden.

• Durchgeführt am:
• Beteiligte Gremien/Personen:
  
• Ergebnisse/Anforderungen (Kurzfassung):
  
• Umsetzung/Nachverfolgung (Ticket/Protokoll):
  

Systematische Beschreibung der Verarbeitungsvorgänge (Art. 35 Abs. 7 lit. a DSGVO)

1) Betroffenengruppen

• Schüler (in der Regel Minderjährige)
• Lehrkräfte
• Schuladministration / IT-Administration
• Ggf. Externe (bei Sharelinks) – abhängig von Freigabeeinstellung

2) Datenkategorien

• Account-/Stammdaten (wie oben beschrieben)
• Organisationsdaten: Schule, Rollen, Klassen-/Kurszuordnung (falls genutzt)
• Nutzungs- und Protokolldaten: z. B. Login-Zeitpunkte, technische Logs, Fehlerberichte (minimiert)
• Inhaltsdaten: Texte, Bilder, Audio/Video, Dokumente, Kommentare, Map-/Box-Inhalte inkl. Metadaten
• KI-spezifische Daten: Eingaben (Prompts), ggf. hochgeladene Dokumente/Bildausschnitte, sowie generierte Ausgaben (Antworten/Quizfragen/Zusammenfassungen)
• Besondere Kategorien (Art. 9 DSGVO): können als Inhaltsdaten durch Nutzer eingegeben werden; dies ist nicht beabsichtigt und wird organisatorisch/technisch begrenzt (siehe Maßnahmen).

3) Zwecke der Verarbeitung

• Bereitstellung einer digitalen Lern- und Kollaborationsplattform (Maps/Pinboards/Kommunikation)
• Betriebssicherheit, Fehleranalyse, Missbrauchsprävention (Logs/TOM)
• Optional: KI-Modul zur Unterstützung (z. B. Generierung von Unterrichtsmaterial, Zusammenfassungen, Quizfragen) – ausschließlich als Hilfsfunktion und nicht als automatische Entscheidung über Betroffene.

3a) Datenfluss und Systemgrenzen (Übersicht)

• Nutzer (Lehrer/Admin) → Edumaps Web-App (UI) → Edumaps Backend (API)
• Edumaps Backend → (TLS, server-to-server) → Azure OpenAI Endpoint
• Azure OpenAI → Antwort → Edumaps Backend → UI (Vorschlag) → Speicherung nur bei Nutzeraktion (Map/Box speichert Ergebnis)
• Kein automatischer Import weiterer Schülerdaten; keine Hintergrundanalyse.

4) Beschreibung des KI-Moduls (Datenfluss, Verarbeitung, Ausgabe)

Auslöser: Das KI-Modul wird ausschließlich durch eine aktive Handlung des Nutzers gestartet (z. B. Klick „Map mit KI generieren“). Es erfolgt keine dauerhafte Hintergrundanalyse von Schülerdaten.

Eingaben: Das System übermittelt nur die für den konkreten Auftrag erforderlichen Inhalte (Datenminimierung). Account-Identifikatoren (z. B. Benutzername, E-Mail, interne IDs) werden nicht an den KI-Dienst übertragen. Hinweis: Die übertragenen Inhalte (Prompt und/oder vom Nutzer ausgewählte Textpassagen) können gleichwohl personenbezogene Daten enthalten, wenn der Nutzer solche Inhalte eingibt oder auswählt (z. B. Namen, Klassenbezüge, Leistungsdaten in Freitext). Dies ist nicht beabsichtigt und wird durch Hinweise, Rollen-/Rechtekonzept und technische Schutzmaßnahmen (siehe Maßnahmen) begrenzt. Bei Inhaltsänderungen wird zudem der textbasierte, zu verändernde, vom Nutzer ausgewählte Inhalt übertragen. Eine Bild-, Audio- oder Videoverarbeitung durch das KI-Modul findet derzeit nicht statt. Sofern künftig Dokument-/Bildverarbeitung über KI eingeführt wird, wird die DSFA vorab erweitert (neue Datenkategorien, neue Risiken, neue TOM).

Ausgaben: KI-Ausgaben werden als Vorschläge angezeigt. Die fachliche/inhaltliche Kontrolle obliegt der Lehrkraft bzw. dem Nutzer. KI-Ausgaben werden nicht als „Wahrheit“ dargestellt.

Human Oversight: KI-Ausgaben werden ausschließlich als Vorschläge bereitgestellt. Eine Übernahme in Unterrichtsmaterial/Maps erfolgt nur nach aktiver Auswahl und Prüfung durch die Lehrkraft bzw. den berechtigten Nutzer. Automatisierte Entscheidungen im Sinne des Art. 22 DSGVO (Rechtswirkung/vergleichbar erhebliche Beeinträchtigung) finden nicht statt.

Speicherung: Edumaps speichert standardmäßig keine inhaltlichen Prompt-/Response-Logs in der eigenen Plattform außerhalb des vom Nutzer gespeicherten Ergebnisses; technische Metadaten (z. B. Zeitpunkt, Feature, Erfolg/Fehlercode) werden minimiert zu Sicherheits- und Abrechnungszwecken verarbeitet. Beim eingesetzten Cloud-KI-Dienst können – abhängig von Dienstkonfiguration und Abuse-Monitoring-Setting – Prompts/Outputs kurzfristig zu Sicherheits-/Missbrauchserkennungszwecken verarbeitet und ggf. in einem getrennten Abuse-Monitoring-Datastore vorgehalten werden; für besonders schutzbedürftige Szenarien wird geprüft, ob „modified/zero data retention“ beantragt und technisch erzwungen werden kann.

Nachweis-/Konfigurationsparameter (je Mandant dokumentieren):

• Azure-Region / Geographie:
• Deployment-Typ:
• Abuse Monitoring:
• Human Review durch Anbieter:
• Dokumentierte Aufbewahrungs-/Vorhaltefrist beim Anbieter (laut DPA/Produktbedingungen):

Externe KI-Dienste: Falls externe KI-Dienste genutzt werden, erfolgt eine vertragliche Regelung als Unterauftragsverarbeitung. Es wird sichergestellt, dass übermittelte Daten nicht zu Trainingszwecken genutzt werden (konfigurations- und vertragsseitig) und dass regionale Datenverarbeitung/Transferregeln eingehalten werden. Es wird vertraglich und technisch festgelegt, dass ein EU-Deployment ohne „Global“-Routing verwendet wird (z. B. Standard- oder EU-DataZone-Deployment). Konfiguration und Nachweise (z. B. Resource-Settings/Policy) werden dokumentiert.

5) Empfänger und Zugriff

• Innerhalb der Schule: Zugriff gemäß Rollen- und Berechtigungskonzept (Schüler/Lehrer/Admin).
• Edumaps Betrieb/Support: Zugriff nur nach Need-to-know, dokumentiert und technisch abgesichert (z. B. Admin-Logging, Rollen).
• Externe KI-Dienstleister: ausschließlich zur Erbringung der KI-Funktion; kein Zugriff für andere Zwecke.
• Auf das KI-Modul können Schüler nicht zugreifen, sondern nur Lehrer und Admins.
• KI-Anbieter (Microsoft): Im Rahmen von Guardrails/Abuse Monitoring können Prompts/Outputs automatisiert geprüft und – abhängig von Konfiguration/Abuse-Signal – für Review-Prozesse herangezogen werden; bei EEA-Ressourcen erfolgt ein etwaiger Human-Review durch autorisierte Mitarbeitende in der EEA.

6) Speicherbegrenzung und Löschkonzept (Kurzfassung)

• Account-/Organisationsdaten: Löschung nach Vertrags-/Mandatsende bzw. auf Weisung des Verantwortlichen, soweit keine Aufbewahrungspflichten entgegenstehen.
• Inhaltsdaten: Löschung durch Nutzer/Schule nach Berechtigungskonzept; technische Löschung in Backups spätestens nach 7 Tagen (Backup-Retention).
• Technische Logs: Aufbewahrung minimiert, in der Regel 7 Tage, anschließend automatische Löschung/Anonymisierung.
• KI-Request/Response-Protokolle: Edumaps führt standardmäßig keine Inhaltsprotokollierung außerhalb des vom Nutzer gespeicherten Ergebnisses. Beim KI-Dienst erfolgt eine kurzfristige Verarbeitung/ggf. Vorhaltung im Rahmen von Sicherheits- und Missbrauchserkennung (dienst- und konfigurationsabhängig); sofern „modified/zero retention“ aktiviert ist, wird die Vorhaltung für menschliche Reviews deaktiviert bzw. minimiert. Nachweise werden dokumentiert.
• Hinweis: Im Rahmen von Abuse-Monitoring können – abhängig vom Setting – automatisierte Prüfungen und in Einzelfällen ein kontrollierter menschlicher Review-Prozess beim KI-Anbieter vorgesehen sein; dies wird in AVV/DPA abgedeckt und durch Konfiguration („modified/zero retention“) soweit möglich reduziert.

Rechtsgrundlagen, Transparenz und Betroffenenrechte (Kurzfassung)

Die Rechtsgrundlagen richten sich nach der Rolle des Verantwortlichen (Schule/Schulträger) und den jeweils anwendbaren schulrechtlichen Vorgaben. Edumaps verarbeitet als Auftragsverarbeiter nach Art. 28 DSGVO auf dokumentierte Weisung.

• Primäre Rechtsgrundlage Plattformbetrieb (Art. 6 DSGVO + schulrechtliche Norm):
  
• Rechtsgrundlage für Inhaltsverarbeitung (Unterricht/Kommunikation):
  
• Rechtsgrundlage KI-Modul (Assistenzfunktion):
  
• Ggf. Einwilligung erforderlich? (ja/nein + Begründung):
  

• Informationspflichten (Art. 13/14 DSGVO): Datenschutzhinweise müssen das KI-Modul explizit beschreiben (Zweck, Datenkategorien, Empfänger, Speicherdauer, Rechte).
• Betroffenenrechte (Art. 15–22 DSGVO): Prozesse zur Auskunft/Löschung/Berichtigung/ Einschränkung/Widerspruch werden dokumentiert; KI-spezifisch umfasst dies auch ggf. gespeicherte KI-Eingaben/Ausgaben, soweit personenbezogen gespeichert.
• Keine ausschließlich automatisierten Entscheidungen: KI-Ausgaben dienen als Assistenz; Entscheidungen mit Rechtswirkung oder vergleichbarer erheblicher Beeinträchtigung erfolgen nicht automatisiert (Art. 22 DSGVO).

Notwendigkeit und Verhältnismäßigkeit (Art. 35 Abs. 7 lit. b DSGVO)

• Zweckbindung: KI-Funktionen werden ausschließlich zur Unterstützung der Nutzer im pädagogischen/organisatorischen Kontext eingesetzt, nicht zur verdeckten Überwachung.
• Datenminimierung: Standardmäßig werden keine Identifikatoren/Noten/Diagnosen in KI-Eingaben benötigt.
• Alternativen: Wo möglich werden Funktionen ohne KI bzw. ohne personenbezogene Daten angeboten (z. B. Generierung aus generischen Themen, ohne Schülerbezug).
• Zugriff: KI-Funktionen sind rollenbasiert begrenzt auf Lehrer und Admins. Schüler haben keinen Zugriff.

Risikobeurteilung bzw. Risikoanalyse nach DSGVO

Die Risikobeurteilung unterteilt sich in folgende Kapitel:

1. Risikoidentifikation
2. Bestimmung der Eintrittswahrscheinlichkeit und der Schwere möglicher Schäden
3. Zuordnung zur Risikoabstufung

1. Risikoidentifikation

Hier möchten wir die möglichen Risiken beschreiben, die Benutzer treffen könnten (mit Bezug auf Verarbeitungsgrundsätze nach Art. 5 DSGVO). Welche Risikoquellen gibt es, welche Ereignisse können ausgelöst werden und welcher Schaden kann für die Benutzer (durch unbefugten Zugriff oder Löschung oder Veränderung ihrer Daten) entstehen.

a) Schäden für natürliche Personen

Gemäß ErwGr. 75 DSGVO gibt es folgende Schadenskategorien:

• Physischer Schaden
• Materieller Schaden
• Immaterieller Schaden
• Diskriminierung
• Identitätsdiebstahl
• Verlust der Vertraulichkeit (Berufsgeheimnis)
• Aufhebung der Pseudonymisierung
• Andere wirtschaftliche/gesellschaftliche Nachteile
• Verlust Kontrolle eigener Daten
• Kenntnis von rassischer/ethnischer Herkunft
• Kenntnis von politischen Meinungen
• Kenntnis von religiösen oder weltanschauliche Überzeugungen
• Zugehörigkeit zu einer Gewerkschaft
• genetische Daten
• Gesundheitsdaten
• Sexualleben
• Strafrechtliche Verurteilungen und Straftaten
• Arbeitsleistung, wirtschaftliche Lage
• Persönliche Vorlieben oder Interessen
• Aufenthaltsort oder Ortswechsel

b) Ereignisse, die zu Schäden führen können:

Die Ereignisse können den folgenden Verarbeitungsgrundsätzen (nach Art. 5 DSGVO) zugeordnet werden:

• Rechtmäßigkeit
• Verarbeitung nach Treu und Glauben
• Transparenz
• Zweckbindung
• Datenminimierung
• Richtigkeit
• Speicherbegrenzung
• Integrität und Vertraulichkeit
• Rechenschaftspflicht

c) Risikoquellen

Unbefugte Zugriffe sind organisatorisch untersagt und werden durch technische und organisatorische Maßnahmen verhindert und erschwert; ein Restrisiko (z. B. durch Schwachstellen, Fehlkonfiguration oder kompromittierte Zugangsdaten) bleibt jedoch bestehen und wird in der Risikoanalyse bewertet.

Die Risikoquellen sind wie folgt identifiziert:

• Softwarefehler
• Hardwaredefekt
• Zugriffsberechtigte (der jeweiligen Schule zugehörig)
• Hacker

Bei Hackern (externe Risikoquelle) kann von Vorsatz ausgegangen werden. Bei Zugriffsberechtigten (Lehrer und Schuladmin) kann meist von Fahrlässigkeit mit dem Umgang personenbezogener Daten ausgegangen werden.

2. Bestimmung der Eintrittswahrscheinlichkeit und der Schwere möglicher Schäden

Für die Risikobeurteilung wird versucht, mögliche Schäden und deren Eintrittswahrscheinlichkeit abzuschätzen. Das Ergebnis daraus ist die Schadensschwere.

a) Eintrittswahrscheinlichkeit:

Die Eintrittswahrscheinlichkeit eines Risikos gibt an, wie wahrscheinlich ein bestimmtes Ereignis eintritt.

Zum Bemessen der jeweiligen Eintrittswahrscheinlichkeit verwenden wir die Stufen:

1 - unwahrscheinlich
2 - vereinzelt
3 - wahrscheinlich
4 - sehr wahrscheinlich

b) Schwere des Schadens

Die Schwere eines möglichen Schadens gibt an, wie umfangreich der Schaden die geschützte Person treffen kann.

Zum Bemessen des jeweiligen Schadens verwenden wir die Stufen:

1 - geringfügig
2 - begrenzt
3 - wesentlich
4 - bedeutend

3. Zuordnung zur Risikoabstufung

Nach Bestimmung von Eintrittswahrscheinlichkeit und Schwere der Schäden soll eine Risikoabstufungen erfolgen. Dies geschieht bei uns mit der Multiplikation der Stufen für Eintrittswahrscheinlichkeit und Schadensschwere.

Nachstehend die Risikibeurteilung gemäß ISO 31000 für Edumaps:

	I. Risikoidentifikation			II. Risikoanalyse			III. Risikobewertung
Risiko ID	Schutzziel / Grundsatz (nach Art. 32 / Art. 5 DSGVO)	Risikoquelle	Risikobeschreibung	Schadenskategorie (nach ErwGr. 75)	Eintritts-wahrscheinlichkeit (1 bis 4)	Schwere des Schadens (1 bis 4)	Ergebnis (1 bis 16)	Hinweise
1	Verfügbarkeit	Softwarefehler	Löschung der Rohdaten	Verlust Kontrolle eigener Daten	2	2	4 von 16	Geringer Schaden, da Wiederherstellung durch Backup möglich
2	Integrität und Vertraulichkeit	Hardwaredefekt	Löschung der Rohdaten	Verlust Kontrolle eigener Daten	1	1	1 von 16	Geringer Schaden, da Wiederherstellung durch Backup möglich
3	Richtigkeit	Hacker	Löschung der Rohdaten	Verlust Kontrolle eigener Daten	2	2	4 von 16	Geringer Schaden, da Wiederherstellung durch Backup möglich
4	Richtigkeit	Hacker	Zugriff auf Rohdaten und Änderung der Daten	Rufschädigung, Persönliche Interessen, Diskriminierung	2	3	6 von 16	Wiederherstellung durch Backup möglich
5	Richtigkeit	Hacker	Änderung der Benutzerdaten	Identitätsdiebstahl, Diskriminierung	2	3	6 von 16	Je nach Zeitpunkt der Feststellung, Teil-Wiederherstellung durch Backup möglich
6	Richtigkeit	Zugriffsberechtigte aus Schule	Hinzufügen von Inhalten wie Pornographie	Rufschädigung, Diskriminierung	2	3	6 von 16	Kann sofort von Lehrkraft (oder Admin) entfernt werden
7	Richtigkeit, Rechtmäßigkeit	Zugriffsberechtigte aus Schule	Versehentliches Löschen von Benutzern	Verlust Kontrolle eigener Daten	1	2	2 von 16	Wiederherstellung von Benutzerdaten bedingt möglich
8	Richtigkeit	Zugriffsberechtigte aus Schule	Ändern von Namen und Passwörtern	Verlust Kontrolle eigener Daten	1	2	2 von 16	Je nach Zeitpunkt der Feststellung, Teil-Wiederherstellung durch Backup möglich
9	Richtigkeit	Anonymer Benutzer	Ändern von Map-Daten (falls Sharelink vorliegt)	Verlust Kontrolle eigener Daten, Diskriminierung	2	3	6 von 16	Lehrer kann Zugriffslink neu generieren und somit Map vor Zugriff sperren
10	Integrität und Vertraulichkeit	Prompt-Injection / Missbrauch durch Nutzer	KI wird manipuliert, um vertrauliche Inhalte oder Systemanweisungen preiszugeben	Verlust der Vertraulichkeit, Verlust Kontrolle eigener Daten	1	2	2 von 16	Maßnahmen: Isolation pro Schule, Nutzung eines separaten Azure-Servers für die KI-Anfragen, keine Datenspeicherung
11	Datenminimierung / Zweckbindung	Nutzerverhalten (Fahrlässigkeit)	Unbeabsichtigte Übermittlung personenbezogener Daten (z. B. Klarnamen, Noten, Förderbedarfe) an das KI-Modul	Immaterieller Schaden, Diskriminierung, Verlust Kontrolle eigener Daten	2	2	4 von 16	Maßnahmen: Hinweis auf Datenschutz, Rollenbeschränkung (nur Lehrer/Admins), Schulungen, themenbezogene KI-Module
12	Richtigkeit	Modellfehler / Halluzination	KI erzeugt fachlich falsche oder missverständliche Inhalte, die unbeabsichtigt im Unterricht genutzt werden;fehlerhafte Inhalte werden verbreitet	Immaterieller Schaden, andere gesellschaftliche Nachteile	2	2	4 von 16	Maßnahmen: Quellen-/Plausibilitätschecks durch Lehrer/Admin, Qualitätsrichtlinien, Feedback-Mechanismus
13	Rechtmäßigkeit / Fairness	Diskriminierende Muster	KI generiert stereotype oder diskriminierende Formulierungen (insbesondere im Kontext Minderjähriger)	Diskriminierung, immaterieller Schaden, Rufschädigung	1	2	2 von 16	Maßnahmen: Melde-/Löschprozess, Schulungen
14	Integrität und Vertraulichkeit	Fehlkonfiguration / Dienstleister	Unzureichende Konfigurationseinstellungen führen zu ungewollter Speicherung/Weiterverwendung von KI-Daten	Verlust der Vertraulichkeit, Verlust Kontrolle eigener Daten	1	2	2 von 16	Maßnahmen: AVV/Subprozessor-Verträge, „No-Training“-Zusicherung durch eigenständigen Azure-Server (Region Europa)
15	Transparenz	Unklare Kennzeichnung	Nutzer erkennen nicht, dass Inhalte KI-generiert sind oder dass sie mit KI interagieren	Verlust Kontrolle eigener Daten, immaterieller Schaden	2	1	2 von 16	Maßnahmen: Protokoll der Nutzerhandlungen je Map, Revisionen je Box (Verlauf), Datenschutzhinweise
16	Integrität und Vertraulichkeit	Missbrauch (Inhalte)	KI wird zur Generierung/Verstärkung von Mobbing, sexualisierten oder Gewaltinhalten genutzt	Immaterieller Schaden, Diskriminierung, Rufschädigung	1	1	1 von 16	Maßnahmen: Rollenbeschränkung (nur Lehrer/Admins), Inhaltsfilter, Meldeweg, schnelle Entfernung
17	Integrität und Vertraulichkeit	Mandantentrennung / Cross-Tenant Leakage	Unbeabsichtigte Offenlegung von Inhalten zwischen Mandanten (z. B. durch Fehlkonfiguration, falsches Caching oder fehlerhafte Kontext-Zusammenstellung)	Verlust der Vertraulichkeit, Verlust Kontrolle eigener Daten	1	3	3 von 16	Maßnahmen: strikte Mandantentrennung (DB/Storage/Keys), keine Mandantenübergreifenden Kontexte, Security-Tests, Code-Review, technische Schutzmechanismen gegen Kontextvermischung
18	Transparenz / Zweckbindung	Dienstkonfiguration / Abuse-Monitoring	Prompts/Outputs werden entgegen Erwartung kurzfristig beim KI-Anbieter zu Sicherheits-/Missbrauchserkennung verarbeitet/vorgehalten (inkl. möglichem Review-Pfad)	Verlust der Vertraulichkeit, immaterieller Schaden	2	2	4 von 16	Maßnahmen: dokumentierte Konfiguration (EU-Deployment ohne Global), Prüfung “modified/zero retention”, minimierte Eingaben (PII-Reduktion), vertragliche Absicherung (AVV/DPA), Schulung/Guidelines.
19	Integrität und Vertraulichkeit	Output enthält personenbezogene Daten	KI reproduziert versehentlich personenbezogene Daten aus dem Prompt im Output; Output wird geteilt	Verlust Kontrolle eigener Daten, immaterieller Schaden	1	3	3 von 16	Maßnahmen: PII-Policy, Output-Filter/Maskierung, Freigabe durch Lehrkraft, Logging ohne Inhalt

Risikomatrix

Die Risikobeurteilung soll mit einer Risikomatrix erfolgen, die für die Bewertungen kumuliert wie folgt aussieht.

Die y-Achse ist die Eintrittswahrscheinlichkeit, die x-Achse ist die mögliche Schwere des Schadens.

sehr wahrscheinlich	0	0	0	0
wahrscheinlich	0	0	0	0
vereinzelt	1	5	4	0
unwahrscheinlich	2	5	2	0
	Geringfügig	Begrenzt	Wesentlich	Bedeutend

Wie zu erkennen ist, sind alle Kombinationen aus Eintrittswahrscheinlichkeiten und Schadenschwere im geringfügigen und begrenzten Bereich, jedoch in keinem Fall im wesentlichen oder bedeutenden Bereich.

Hinweis: Die Risikoeinstufungen sind eine Vorlage und müssen je Mandant (Schulform, Nutzerzahlen, Datenarten, Freigabeeinstellungen, KI-Konfiguration) plausibilisiert und ggf. angepasst werden. Insbesondere bei Minderjährigen und Inhaltsdaten ist eine konservative Bewertung der Schadensschwere üblich; die Begründungen sind je Risiko zu dokumentieren.

Risikoeindämmung

Die Maßnahmen zur Eindämmung bestehender Risiken können den technischen und organisatorischen Maßnahmen (TOM) entnommen werden.

Zudem wurden Vorkehrungen getroffen, die Eintrittswahrscheinlichkeit verringern und versuchen, Schäden vollständig abzuwehren bzw. zu verringern.

Dies betrifft u. a. aktuellste Software auf dem Stand der Technik. Vermeiden von Sicherheitslücken im Quellcode und der Datenbank. Vermeiden von Hackerangriffen. Aber auch mit nicht-technischen Maßnahmen wie dem Befolgen des Grundsatzes der Datenminimierung.

Es sei angemerkt, dass Schäden wie Lebensgefahr oder finanzieller Schaden grundsätzlich nicht möglich sein sollten. Wir raten unseren Benutzern grundsätzlich ab, sensitive Daten wie Bankverbindungen oder Passwörter auf Edumaps einzustellen.

Auch weisen wir alle Benutzer daraufhin, statt Klarnamen eher Pseudonyme oder den vergebenen Benutzernamen zu verwenden.

Die KI-Funktionen auf Edumaps werden nur für Assistenz, Änderung und Generierung von textbasierten Inhalten verwendet. Es werden keine Module für automatisierten Noten, automatisierte Bewertungen oder Entscheidungen über Bildungswege angeboten.

KI-spezifische technische und organisatorische Maßnahmen (Ergänzung)

• Prompt-Policy (verbindlich): Keine Eingabe von Klarnamen, Kontaktdaten, Noten, Diagnosen, Förderbedarfen, Disziplinarmaßnahmen oder sonstigen sensiblen Informationen. Stattdessen: neutrale Platzhalter (z. B. „Schüler A“, „Klasse 7“) und themenbezogene Aufgabenstellungen ohne Personenbezug.
• PII-Minimierung: User-Interface-Hinweise, Vorlagen/Prompts.
• Rollen und Freigaben: KI-Funktionen standardmäßig nur für Lehrer/Admin; mandantenweite Deaktivierbarkeit; Protokollierung der KI-Nutzung im Eventlog (ohne Inhalt).
• Prompt-Härtung: feste System-/Policy-Instruktionen, die Datenabfluss und Umgehung verhindern sollen; keine Einbettung interner Secrets; strikte Trennung von Nutzereingaben und Systemtext.
• Output-Sicherheit: serverseitige Moderation/Filter (z. B. Gewalt/sexualisierte Inhalte/Hass).
• Mandantentrennung: technisch getrennte Ressourcen/Keys pro Umgebung; keine mandantenübergreifenden Kontexte.
• Konfigurations- und Nachweisführung: dokumentierte Azure-Region/Deployment-Typ; regelmäßiger Soll-Ist-Abgleich der Privacy/Logging-Settings.
• Change-Management: Modell-/Versionwechsel nur nach Test (Qualität, Bias, Filter), Aktualisierung DSFA, Rollout-Prozess mit Rollback.
• AI-Literacy/Schulung: Lehrkräfte/Admins erhalten kurze Handreichung zu Datenschutz, Halluzinationen, Bias, Urheberrecht, sichere Prompts. Siehe Tutorial.

Restrisiko, Freigabe und ggf. Vorabkonsultation

• Restrisiko: Nach Implementierung der Maßnahmen wird das verbleibende Restrisiko durch den Datenschutzbeauftragten der jeweiligen Institution dokumentiert.
• Freigabe: Produktivsetzung des KI-Moduls erfolgt erst nach DSFA-Freigabe durch den Datenschutzbeauftragten und nach erfolgreichem Test der Schutzmaßnahmen.
• Vorabkonsultation: Sollte ein hohes Restrisiko verbleiben, wird geprüft, ob eine Vorabkonsultation der Aufsichtsbehörde nach Art. 36 DSGVO erforderlich ist.