Selbst betriebene und Offline-KI-Modelle in der Schule

Die meisten bekannten KI-Chat-Programme laufen als Dienst im Internet: Eingaben werden an Rechenzentren des Anbieters geschickt, dort verarbeitet und die Antwort zurückgesendet. Daneben gibt es Sprachmodelle, deren Gewichte öffentlich verfügbar sind und die man auf eigener Hardware betreiben kann. Solche offenen Modelle gibt es in vielen Größen, von kleinen Modellen, die auf einem Laptop laufen, bis zu großen, die Server mit mehreren Grafikprozessoren benötigen.

„Selbst betrieben“ kann Verschiedenes heißen: ein Rechner in der Schule, ein Rechenzentrum des Schulträgers oder Landes, oder ein Dienstleister, der die Modelle ausschließlich für die Schule in einer vertraglich festgelegten Umgebung betreibt. „Offline“ bedeutet, dass das Modell ohne Internetverbindung arbeitet — etwa auf Geräten im Klassenraum.

Der Eigenbetrieb löst mehrere Probleme, die Schulen mit Cloud-Diensten haben.

Selbst betriebene Modelle sind meist kleiner als die größten Cloud-Modelle. Für viele schulische Aufgaben — Erklären, Üben, Zusammenfassen, Fragen stellen — reicht das, vor allem wenn das Modell an geprüftes Material gebunden ist. Bei komplexem Schlussfolgern, Spezialwissen oder langen Texten sind kleinere Modelle schwächer und machen häufiger Fehler.

Dazu kommt der Betrieb: Hardware mit leistungsfähigen Grafikprozessoren ist teuer und braucht Strom und Kühlung. Modelle müssen aktualisiert, Sicherheitslücken geschlossen, Ausfälle behoben werden. Für eine einzelne Schule ist das selten sinnvoll; für einen Schulträger, ein Land oder einen spezialisierten Dienstleister, der viele Schulen versorgt, eher.

Eigenbetrieb löst nicht alle Fragen. Auch ein selbst betriebenes Modell braucht Regeln: Was darf es antworten, wie wird es an Lehrpläne gebunden, wie werden Kinder vor ungeeigneten Inhalten geschützt, wer sieht Protokolle? Datenschutzrecht gilt weiter, wenn personenbezogene Daten verarbeitet werden; die KI-Verordnung gilt unabhängig vom Betriebsort.

Wichtig sind außerdem Leitplanken vor und nach jedem Modellaufruf: feste Regeln, die das Modell nicht übergehen kann, eine Prüfung jeder Eingabe auf Versuche, diese Regeln auszuhebeln, und eine Prüfung jeder Ausgabe. Diese Leitplanken sind unabhängig davon nötig, wo das Modell läuft.

Ob Cloud, Eigenbetrieb oder eine Mischung — die Entscheidung hängt von einigen Fragen ab. Welche Aufgaben soll die KI übernehmen, und wie leistungsfähig muss sie dafür sein? Wie sensibel sind die Daten? Welche Fachkräfte stehen für den Betrieb zur Verfügung? Gibt es Landeslösungen oder Rahmenverträge? Und wie sieht die Gesamtrechnung über mehrere Jahre aus, einschließlich Personal?

Häufig ist ein gestuftes Vorgehen sinnvoll: zentrale, selbst betriebene Modelle für den Alltag mit Schülerdaten, ergänzt um klar geregelte Dienste für besondere Aufgaben ohne personenbezogene Daten.

Für das geplante Angebot Universe Classroom ist vorgesehen, dass die Modelle im eigenen Betrieb laufen, nicht bei einem fremden Anbieter. Wie dieses Betriebsmodell im Einzelnen aussieht, ist in Klärung. Dazu kommen Lehrplantreue über von Lehrkräften bestätigte Lernziele, Kontrolle durch Lehrkräfte und Jugendschutz.

Auf der heutigen Plattform gilt bereits: Daten und Verarbeitung liegen in der EU, als harte Regel im Code; vor jedem Modellaufruf stehen unveränderliche Regeln, jede Eingabe wird deterministisch geprüft, jede Ausgabe ebenfalls, mit Protokoll. Auch die Avatar-Engine der Plattform ist selbst betrieben, auf angemieteten Grafikservern.