Entstanden ist das Rechtsgutachten im Projekt KI:edu.nrw.
EU AI-Act
Was bedeutet die europäische KI-Verordnung für Bildungseinrichtungen?
Das neue Rechtsgutachten von KI:edu.nrw gibt Orientierung.
Sind Hochschulen Betreiberinnen oder Anbieterinnen von KI-Systemen? Welche Verpflichtungen haben Hochschulen gegenüber ihren Mitgliedern in Sachen Schulung von KI-Kompetenz? Und was gilt eigentlich bei Hochrisiko-KI oder Open-Source-KI? Diesen und vielen weiteren Fragen geht das neue Rechtsgutachten von KI:edu.nrw nach. Es bietet eine erste Einordnung davon, was der EU AI-Act (KI-VO) für Hochschulen bedeutet und welche Maßnahmen daraus resultieren.
KI-Verordnung gilt für Hochschulen oft trotz Wissenschaftsprivileg
Zentral ist zunächst die Frage danach, ob die KI-VO im Sinne des Wissenschaftsprivilegs für Wissenschaftseinrichtungen überhaupt gilt. Und die Antwort darauf laut Gutachten ist klar: zumeist ja. Hochschulen müssen die KI-VO zwar nicht beachten, wenn sie ein KI-System nur zu Forschungszwecken entwickeln und in Betrieb nehmen. Falls es aber um den praktischen Einsatz geht oder aber ein späterer Praxiseinsatz zumindest in Betracht kommt, greift die KI-VO spätestens ab der Inbetriebnahme eines KI-Systems – auch wenn der Betrieb zunächst für Forschungszwecke erfolgt.
Hochschulen müssen Maßnahmen ergreifen
Entsprechend hat die KI-VO Auswirkungen auf Hochschulen. Sie müssen laut Gutachten Maßnahmen für die Sicherung von KI-Kompetenz ergreifen, haben als Anbieterinnen oder Betreiberinnen aus der KI-VO resultierende Verpflichtungen und müssen Vorgaben beachten, wenn ein KI-System als Hochrisiko-KI einzuordnen ist. Letzteres ist beispielsweise der Fall, wenn KI-Tools zur Bewertung von Lernergebnissen eingesetzt werden.
Übrigens führt auch bei Open-Source-Modellen oft kein Weg an der KI-VO vorbei. Zwar sind Open-Source-KI-Systeme von der KI-VO ausgenommen. Diese Ausnahme wird aber durch andere Regelungen so stark eingeschränkt, dass für ihre Anwendung nicht viel Spielraum bleibt und die KI-VO entsprechend auch für viele Open-Source-Anwendungen beachtet werden muss.
Zum Gutachten
