Technik & Sicherheit
KI auf der Plattform — was sie darf und was nicht
公開中対象学生教員事務運営者
KI schreibt Vorschläge, trägt Kurse vor und beantwortet Fragen — gekennzeichnet, an Quellen gebunden und mit festen Grenzen: Sie bewertet keine Prüfungsverhalten und entscheidet nichts, was ein Mensch entscheiden muss.
目的#
Vertrauen in KI entsteht durch klare Regeln, die man nachlesen kann — und die im Code durch Wächter festgehalten sind, nicht nur in einer Richtlinie.
使い方#
- 1Gekennzeichnet: Vortragender und Vertonung sind über jeder Folie sichtbar als KI-erzeugt markiert, mit „Was genau?“ für die Einzelheiten.
- 2Vorschlag statt Entscheidung: In der Werkstatt landet nichts ungefragt auf einer Folie; bei Arbeiten gibt es einen Notenvorschlag, die Note setzt ein Mensch.
- 3Gebunden an Quellen: Antworten im Kurs laufen durch eine Prüfkette; Unbelegtes wird als solches markiert; der Bestand wird nach Zeitplan gegen Quellen geprüft.
- 4Leitplanken: Versuche, die KI aus ihrer Rolle zu bringen, Interna abzufragen oder Schaden anzurichten, werden abgewehrt und protokolliert.
- 5Wahl des Modells: Welche Sprachmodelle die Werkstatt nutzen darf, entscheidet jeder Mandant; eines davon arbeitet in der EU (Paris).
設定とスイッチ#
機能カタログに独自のスイッチはありません — 周囲の機能に含まれます。
Wo die KI ausdrücklich nicht entscheidet#
- Aufsicht in Prüfungen — die Maschine zählt Vorfälle, ein Mensch prüft und gibt frei; ein Wächter erlaubt die Freigabe nur an zwei Stellen.
- Noten — bei Hausarbeiten gibt es einen Vorschlag, die Note setzt die Lehrperson.
- Folien — erzeugte Bilder, Grafiken und Texte sind Vorschläge; erst „Übernehmen“ setzt sie ein. Ein Wächter verhindert den Weg an der Vorschlagsleiste vorbei.
- Kompetenzen — KI darf Kompetenzen und Bewertungen vorschlagen; wirksam wird erst, was Kursverantwortliche freigegeben haben, und ein „demonstriert“ braucht mehrere unabhängige Belege.
- Strittige Fakten — werden nicht entschieden, sondern mit beiden belegten Positionen ausgewiesen.
Kennzeichnung nach der KI-Verordnung#
Die Transparenzpflicht der europäischen KI-Verordnung (Art. 50) verlangt, dass Menschen erkennen, wenn sie mit KI sprechen oder KI-erzeugte Inhalte sehen. Deshalb steht der Hinweis über jeder Folie, eigene Avatare von Lehrenden sind ebenfalls als KI-generiert gekennzeichnet, und die Plattform zeigt auf ihrer Qualitätsseite, wie Inhalte geprüft werden.
Jeder Aufruf wird erfasst#
Jeder Aufruf eines externen KI- oder Sprachdienstes läuft durch eine einzige Erfassungsstelle; Grenzen bei 80, 95 und 100 Prozent sorgen dafür, dass ein Gespräch freundlich endet, statt abzubrechen, wenn das Kontingent aufgebraucht ist.
ヒント#
- Das Prüfwerkzeug für Arbeiten ist im Leitfaden ausdrücklich als Hochrisiko-System im Sinne der europäischen KI-Verordnung eingeordnet.
- Es gibt bewusst keinen KI-Wert für Täuschung — und keine Maschine, die einen Vorfall in einer Prüfung bewertet.
自分で試す#
関連する機能#
- Akademischer LeitfadenDie Regeln für wissenschaftliches Arbeiten, gegen die Arbeiten geprüft werden — jede mit Nummer und Rechtsgrundlage, öffentlich und als PDF.
- Faktenprüfung der InhaltePrüfbare Aussagen in Kursen werden von zwei Modellen gegen Quellen geprüft — beim Erzeugen neuer Folien und nach Zeitplan über den ganzen Bestand; jeder Vorgang steht in einer Akte, die sich nicht nachbessern lässt.
- Textmodelle der WerkstattWelches Sprachmodell die Folientexte schreibt, ist je Mandant freischaltbar — drei Modelle unterschiedlicher Anbieter, darunter eines mit Verarbeitung in der EU (Paris); nicht wählbare stehen ausgegraut mit Grund da.
- KI-LeitplankenUnveränderliche Regeln vor jedem Modellaufruf, eine deterministische Prüfung jeder Eingabe und eine Prüfung jeder Ausgabe — mit Protokoll.
- Aufsicht in PrüfungenKamera- und Verhaltensaufsicht während einer Online-Prüfung — vorher steht offen da, was aufgezeichnet wird und warum; Vorfälle prüft immer ein Mensch, nie eine Maschine.
- Kompetenz-Diagnose (Kompetenzcheck)Was kann der Lernende bereits, worauf stützt sich diese Einschätzung, was fehlt noch — und wie hilft der Kurs gezielt weiter? Mit Aufgaben aus der Praxis, Belegen je Kriterium und erneuter Prüfung.
背景知識
- KI-Avatar als Dozent: Möglichkeiten und GrenzenWas ein KI-Avatar als Dozent leisten kann, wie vorproduzierte und live antwortende Avatare funktionieren und welche Regeln für Kennzeichnung und Einwilligung gelten.
- Datenschutz bei KI im Lernen: DSGVO und KI-VerordnungWas beim Einsatz von KI in Lernplattformen zählt: Datenflüsse, Rechtsgrundlagen, verbotene Praktiken, Hochrisiko-Einsätze und Transparenz.
- KI-Halluzinationen im Lernen vermeidenWarum Sprachmodelle Falsches erfinden, wie Quellenbindung, Prüfketten, Leitplanken und klare Grenzen Halluzinationen in Kursen und Tutoren reduzieren.
- KI-Tutor oder menschlicher Tutor: Stärken, Grenzen, KombinationWas ein KI-Tutor besser kann als ein Mensch, wo Menschen unersetzlich bleiben und wie man beide sinnvoll kombiniert — mit Regeln für verlässliche KI-Begleitung.
- KI-Kompetenz für Schüler: Was sie lernen solltenWas Schüler über KI wissen und können sollten: Funktionsweise, kritischer Umgang, Quellen, Datenschutz, Ethik und eigene Nutzung — mit Ideen für den Unterricht.
- EU AI Act: Was Unternehmen jetzt wissen müssenDie KI-Verordnung (EU) 2024/1689 im Überblick: Rollen, Risikoklassen, Zeitplan nach Art. 113 und was Unternehmen als Betreiber von KI konkret tun sollten.
- Art. 50 AI Act: KI-Figuren und synthetische Inhalte kennzeichnenWelche Kennzeichnungspflichten Art. 50 der KI-Verordnung ab 2. August 2026 vorsieht: Chatbots, Avatare, synthetische Medien, Deepfakes und KI-Texte.