Rückblick auf das Symposium „Rechtsfragen zu Künstlicher Intelligenz in Studium und Lehre“

Im Impulsvortrag zu prüfungsrechtlichen Aspekten von generativer KI in Hochschulprüfungen räumte Dr. jur. Sarah Rachut unter anderem mit drei Mythen auf:

1. Aufgrund der Entscheidungen des Verwaltungsgerichts München vom 28.11.23 besteht Rechtssicherheit.
2. Die Nutzung von KI in Prüfungen ist verboten, solange sie nicht als Hilfsmittel ausdrücklich erlaubt ist, und stellt damit eine Täuschung dar.
3. Man kann eine solche Nutzung generativer KI beweisen.

Als Konsequenz bliebe aktuell nur der Anscheinsbeweis, um ein prüfungsrechtliches Fehlverhalten nachzuweisen. Diverse rechtswissenschaftliche Kommentare in Bezug auf eine auf diese Weise begründete Entscheidung machen allerdings deutlich, dass dieser Anscheinsbeweis in Bezug auf die Täuschung mit generativer KI diskutabel ist. Anhand der Entscheidung des Bayrischen Verwaltungsgerichts (Beschluss vom 13.12.2023 – BVerwG 6 B 13.23), illustrierte Dr. Rachut anschaulich, wie kompliziert die Beweisführung bei Täuschungsvorwürfen für Hochschulen sein können. In diesem Fall ging es darum, dass einem eineiigen Zwilling eine Täuschung vorgeworfen wurde, indem sein Zwilling die Klausur geschrieben haben solle. Ein im Rahmen des Prozesses angefertigtes Schriftgutachten kam allerdings zu dem Schluss, dass keiner der beiden Zwillinge die Klausur geschrieben haben könne. Der Täuschungsvorwurf wurde letztendlich abgewiesen, da der Anscheinsbeweis nicht begründbar sei. Da auch der Einsatz generativer KI in der Regel nicht sicher nachweisbar ist, stehen Hochschulen auch hier in einer komplizierten Beweispflicht. Bayerns Wissenschaftsminister Markus Blume schlägt daher ein Verbot für ein KI-Verbot in Hochschulprüfungen vor.

Kommen wir zur für die Hochschulen aktuell brennendsten Frage, da sie sie seit Februar 2025 beantworten können müssen. Was ist ein ausreichendes Maß an KI-Kompetenzen im Sinne der KI-Verordnung? Prof. Forgó sieht im Artikel 4 der KI-Verordnung direkt mehrere definitorische Unklarheiten, indem unklar sein, was in diesem Kontext eigentlich „Maßnahmen“, „nach besten Kräften“, „mit KI-Systemen befasst“, „ausreichendes Maß“ sowie die komplette zweite Hälfte des Artikels uneindeutig seien.

Diese Unklarheit zeigte sich auch in der anschließenden Diskussion, bei der ein Teilnehmer fragte, welche der anwesenden Hochschulen überhaupt schon Schulungen im Sinne des Artikel 4 anbieten. Zögerlich hoben sich ein paar Hände, mit den zusätzlichen Hinweis, dass man die Angebote zwar im Sinne des Artikels verstehen würde, aber niemand behaupten würde, damit das Gesetz an dieser Stelle rechtssicher zu erfüllen.

Trotz aller Unklarheiten bei Detailfragen ist es wichtig, den Sinn des Gesetzes nicht aus den Augen zu verlieren. Die Unterschiede zeigen sich auch in der zuvor skizzierten Diskussion um die Frage, was eigentlich mit KI im Sinne der KI-Verordnung gemeint ist. Gilt sie für alle mächtigen Datenverarbeitungssysteme oder nur für KI-Systeme, die auch aus einer technischen Perspektive als solche definiert würden?
Die Wichtigkeit des Sinnzusammenhangs wird auch an einem von Dr. Maxi Nebel eingebrachten praktischen Beispiel deutlich. In der deutschen Übersetzung des Anhang III Nr. 3 lit. d der KI-Verordnung wird die Überwachung und Erkennung von verbotenem Verhalten nur auf Schüler, also nicht auf Studierende oder andere Lernende, bezogen. Im Sinne der vorherigen Buchstaben ist allerdings anzunehmen, dass an dieser Stelle auch Studierende mit gemeint sind. Dies lassen auch die Übersetzungen in andere Sprachen vermuten.