KI-Tutor einführen:
Was Sie vor dem Start klären müssen

Richtig ist: Wer ein fertiges System eines Herstellers für die eigene Lehre nutzt, ist Betreiber. Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen in Verkehr bringt. Auch ein eigener Name für den Tutor macht Sie nicht automatisch zum Anbieter mit vollen Pflichten – das greift nach Art. 25 vor allem bei Hochrisiko-Systemen.

Richtig ist: Hochrisiko sind nur vier Einsatzzwecke: Zulassung, Bewertung von Lernergebnissen, Einstufung des Bildungsniveaus und Prüfungsaufsicht. Ein Tutor, der Fragen zum Kursstoff beantwortet, gehört nicht dazu. Wer später Bewertungsfunktionen nutzen will, hat bis 2. Dezember 2027 Zeit, sich vorzubereiten.

Richtig ist: Der CRA richtet sich an Hersteller, die Produkte mit digitalen Elementen in der EU in Verkehr bringen – nicht an Organisationen, die einen KI-Tutor für ihre eigene Lehre nutzen. Als Bildungsanbieter haben Sie keine CRA-Pflichten. Zum Hersteller im Sinne des CRA würden Sie erst, wenn Sie das Produkt wesentlich verändern oder unter eigenem Namen weitervertreiben.

Richtig ist: Übermittlungen in die USA sind zulässig, wenn der Empfänger nach dem EU-US Data Privacy Framework zertifiziert ist oder Standardvertragsklauseln mit Risikoprüfung vorliegen. Viele Modelle laufen zudem in EU-Rechenzentren. Entscheidend ist, dass Sie wissen, wo was läuft – und es im AVV steht.

Richtig ist: Ist der Tutor Teil Ihres Kursangebots, reicht in der Regel die Vertragserfüllung oder ein berechtigtes Interesse. Pflicht ist die Information der Lernenden, nicht ihre Einwilligung. Bei Beschäftigten ist eine Einwilligung wegen des Abhängigkeitsverhältnisses sogar heikel – hier ist eine Betriebsvereinbarung die bessere Grundlage.

Richtig ist: Bei API- und Enterprise-Verträgen großer Modell-Anbieter ist Training mit Kundendaten standardmäßig ausgeschlossen. Das gilt nicht für kostenlose Consumer-Apps. Lassen Sie sich den Ausschluss im AVV bestätigen und fragen Sie, wie lange Eingaben zur Missbrauchserkennung gespeichert werden.

Richtig ist: Der Serverstandort ist ein Baustein, kein Freifahrtschein. Wo das Sprachmodell rechnet, wer Unterauftragsverarbeiter ist, ob ein AVV vorliegt und ob Lernende informiert sind, entscheidet mindestens genauso.

Richtig ist: Die KI-Verordnung schreibt kein Zertifikat vor. Sie müssen die KI-Kompetenz der Beteiligten fördern – angemessen zu Ihrem Einsatz. Eine kurze, dokumentierte Einweisung für Lehrende und Admins ist ein guter Start.

Richtig ist: Offene Modelle kosten keine Lizenz, ihr Betrieb aber schon: Hardware, Strom, Wartung, Updates und Personal. Der Mac mini unterm Schreibtisch reicht für eine einzelne Person oder einen Test, nicht für viele Lernende, die vor der Prüfung gleichzeitig Fragen stellen. Wer 1.000 Lernende versorgen will, braucht GPU-Server mit Lastverteilung und Ausfallsicherheit. Dazu kommt: Modelle, die auf bezahlbarer eigener Hardware laufen, antworten oft langsamer und weniger treffsicher als führende Cloud-Modelle – und die Datensicherheit liegt komplett bei Ihnen.

Richtig ist: Ein Chatbot für einen Kurs ist schnell gebaut. Schwieriger wird es, wenn hunderte Kurse automatisch aktuell bleiben sollen, das Tutor-Wissen sich je Kurs unterscheidet und tausende Lernende gleichzeitig darauf zugreifen. Wer hilft bei Wartung, Weiterentwicklung und Fehlerbehebung? Was als Pilot beginnt, wird schnell zum dauerhaften Entwicklungsprojekt.