KI-Assistent für Schulen: datenschutzkonform einsetzen

Schulen verarbeiten Daten von Kindern und Jugendlichen, die besonders schutzbedürftig sind und sich der Nutzung oft nicht entziehen können — der Schulbesuch ist Pflicht. Die DSGVO betont in ihren Erwägungsgründen, dass Kinder bei ihren personenbezogenen Daten besonderen Schutz verdienen. Dazu kommen die Schul- und Datenschutzgesetze der Länder, die regeln, welche Daten Schulen zu welchem Zweck verarbeiten dürfen.

Ein KI-Assistent verschärft die Fragen: Was Schüler eingeben, kann sehr persönlich sein. Ein Modell, das Eingaben speichert oder zum Training verwendet, ist für die Schule kaum zu kontrollieren. Und KI-Antworten können falsch, unpassend oder für ein bestimmtes Alter ungeeignet sein.

Verantwortlicher im Sinne der DSGVO ist in der Regel die Schule oder ihr Träger, je nach Landesrecht. Wer einen Dienst einsetzt, der Daten im Auftrag verarbeitet, braucht einen Vertrag zur Auftragsverarbeitung nach Art. 28 DSGVO. Die Verarbeitung braucht eine Rechtsgrundlage; bei Schulen ist das häufig die Erfüllung des gesetzlichen Bildungsauftrags nach Landesrecht, in anderen Fällen eine Einwilligung — die bei Kindern besonderen Regeln unterliegt.

Die europäische KI-Verordnung (EU) 2024/1689 enthält mehrere Regeln, die Schulen direkt betreffen. Seit dem 2. Februar 2025 verboten ist der Einsatz von KI-Systemen zur Ableitung von Emotionen einer Person in Bildungseinrichtungen, außer aus medizinischen oder Sicherheitsgründen (Art. 5 Abs. 1 lit. f). Ebenfalls seit diesem Datum müssen Betreiber von KI-Systemen Maßnahmen ergreifen, damit ihr Personal über ausreichende KI-Kompetenz verfügt (Art. 4).

Als hochriskant stuft die Verordnung in Anhang III Nr. 3 KI-Systeme in der Bildung ein, die über Zugang oder Zulassung entscheiden, Lernergebnisse bewerten, das angemessene Bildungsniveau bestimmen oder verbotenes Verhalten bei Prüfungen überwachen. Für solche Systeme gelten strenge Pflichten, unter anderem zur menschlichen Aufsicht. Ein Assistent, der erklärt und üben lässt, aber nicht bewertet und nicht entscheidet, fällt in der Regel nicht darunter. Die Zeitpunkte, ab denen einzelne Pflichten gelten, sollten im jeweils aktuellen Stand nachgelesen werden.

Ein KI-Assistent für Schulen muss mehr können als ein allgemeines Chat-Programm. Er sollte sich am gültigen Lehrplan orientieren, damit er übt, was im Unterricht verlangt wird. Er sollte didaktisch arbeiten — nachfragen, Hinweise geben, statt Lösungen vorzusagen. Und er sollte für das Alter der Schüler geeignet sein: in Sprache, Inhalten und im Umgang mit heiklen Themen.

Entscheidend ist die Kontrolle durch Lehrkräfte. Sie sollten festlegen können, für welche Fächer, Themen und Aufgaben der Assistent eingesetzt wird, wann er nicht zur Verfügung steht — etwa während einer Klassenarbeit — und was er nicht tun soll.

Vor der Einführung eines KI-Assistenten sollten Schulleitung, Schulträger und Datenschutzbeauftragter diese Fragen klären.

Universe plant mit Universe Classroom einen KI-Assistenten für Schulen nach fünf Grundsätzen: eigene, selbst betriebene Modelle statt eines fremden Dienstes; lehrplantreu über Lernziele aus amtlichen Lehrplänen, die eine Lehrkraft bestätigt hat; Kontrolle durch Lehrkräfte, die entscheiden, was der Assistent tut und was nicht; ein sprechender Avatar als Lernbegleiter; und Jugendschutz, ausgelegt für Kinder und Jugendliche.

Altersstufen, Schulformen, das Betriebsmodell der eigenen Modelle, die Regeln des Jugendschutzes im Einzelnen und der Starttermin sind in Klärung. Heute läuft die Plattform für Hochschulen und Unternehmen, in der EU (Frankfurt), mit festen Leitplanken für jedes KI-Element.