Miniaturfotografie einer Schaltplatine, auf der Bauarbeiterfiguren arbeiten.

Work in Progress: Landesstrategie und Technikprojekte für Zugänge zu generativer KI an NRW-Hochschulen

Texte verfassen, Bilder generieren, übersetzen, … – die Anwendungsmöglichkeiten generativer Technologien sind in der Hochschulbildung vielfältig. Die datenschutzkonforme, kostenlose Bereitstellung ist daher eine wichtige Maßnahme für die Bildungsgerechtigkeit. Aber wie können Hochschulen Tools wie ChatGPT oder auch Open Source-Sprachmodelle zur Verfügung stellen?

NRW-Landesstrategie für gemeinsame Lösungen

Seit der Veröffentlichung von ChatGPT hat sich an den Hochschulen in Sachen Generative KI viel getan. Zu berücksichtigen sind u.a. Fragen zu Datenschutz und Prüfungsrecht sowie zur bildungsgerechten (kostenfreien) Nutzung und technischen Bereitstellung.

Da derzeit alle Hochschulen in NRW vor diesen Themen stehen, bietet sich eine gemeinsame Lösung an. Den Weg dahin skizziert das Kurzkonzept zur Bereitstellung Generativer KI an Hochschulen des Landes NRW, an dem auch unser Projekt KI:edu.nrw mitgearbeitet und die entsprechende Arbeitsgruppe koordiniert hat.

Deckblatt des Kurzkonzepts "Zugang zu generativer KI an Hochschulen in NRW." Stand: Mai 2024.

Zwei Projekte arbeiten an NRW-weiten Bereitstellungsoptionen

Zwei Projekte haben sich im Rahmen der NRW-Landesstrategie auf den Weg gemacht, kurz-, mittel- und langfristige Perspektiven für die Bereitstellung generativer Technologien zu eröffnen. Zwar sind KI:connect.nrw und Open-Source-KI.nrw parallel auf unterschiedlichen Pfaden unterwegs – aber das aus guten Gründen und im engen Austausch.

KI:connect.nrw – Zugang zu kommerziellen Diensten

Unternehmen wie OpenAI bieten kostenpflichtige, leistungsstarke Large Language Models für unterschiedliche Anwendungsfälle an. Über eine API-Schnittstelle können Hochschulen ihren Angehörigen einen datenschutzkonformen Zugriff zu diesen Tools ermöglichen. Die Pflege dieser Schnittstellen – insbesondere vor dem Hintergrund der rasanten Entwicklungsgeschwindigkeit – ist aufwändig.
Dieses Schaubild veranschaulicht den Zugriff via API. Der Benutzer gibt Daten an an das Web-Interface mit API. Aufgrund der Schnittstelle die das Web-Interface mit API darstellt, werden keine Benuterdaten übermittelt. Es werden dadurch lediglich Eingabedaten in geringerem Umfang für ChatGPT weiterverwendet.

Quelle:
ZfW

Das an der RWTH Aachen angesiedelte Projekt KI:connect.nrw arbeitet an einem Web-Interface zur Erschließung kommerzieller KI-Dienste, das alle Hochschulen in NRW nutzen können sollen. Dies kann zunächst so aussehen, dass Hochschulen das Interface lokal an ihrer eigenen Hochschule einrichten und dann auch lokal nutzen. Angedacht ist aber auch, im Fall eines entsprechenden Bedarfs einen landesweit ansteuerbaren, zentralen Zugriffspunkt zur Verfügung zu stellen. Der Zugriff soll sich dabei in beiden Fällen nicht auf ein einziges Modell wie z.B. ChatGPT beschränken müssen, sondern es sollen weitere kommerzielle Tools (wie z.B. Google Gemini) sowie kommerziell gehostete Open Source-Tools zugänglich gemacht werden. Wichtig ist allerdings zu wissen: Am Ende werden die Daten in diesem Szenario immer bei einem Unternehmen außerhalb der Hochschule verarbeitet.

Open-Source-KI.nrw – Bereitstellung von Open-Source-KI-Modellen

Eine Alternative zur Nutzung kommerzieller KI-Tools prüft das Projekt Open-Source-KI.nrw, um die Hochschulautonomie zu stärken. Auch wenn beispielsweise der Programmiercode von ChatGPT nicht öffentlich ist, gibt es inzwischen vortrainierte Open Source-Sprachmodelle, die frei zur Verfügung stehen und auf eigenen Servern betrieben werden können. Selbst gehostete Open Source-KI-Modelle wie Mistral, Llama 2 und GPTX haben im Vergleich zu kommerziellen Modellen einige Vorteile. Beispielsweise können diese Modelle auf spezielle Anwendungsfälle hin trainiert werden, sensible Forschungs- oder Verwaltungsdaten sind auf den eigenen Servern besser geschützt und es fallen keine Lizenzgebühren an. Gleichzeitig hat der Betrieb aber auch seine Tücken, denn es werden erhebliche Rechenkapazitäten für das eigene Hosting benötigt – zumindest dann, wenn sehr viele Menschen darauf zugreifen sollen.
Das Schaubild veranschaulicht Open Source. Der Benutzer interagiert nur mit dem eigenen Server und nicht mit ChatGPT.

Quelle:
ZfW

Das Projekt Open-Source-KI.nrw, das die Ruhr-Universität Bochum zusammen mit der Universität zu Köln umsetzt, arbeitet an der Pilotierung einer solchen Open Source-Lösung. Als Anwendungsfall dient die Implementierung eines Open Source-KI-Chatbots in das Lernmanagementsystem Moodle. Mit dem Bot, der prioritär auf die Lerninhalte eines jeweils festgelegten Kurses zugreift, können die Studierenden und auch Lehrenden dann flexibel interagieren. Mit der Integration in Moodle ist auch der Gedanke verbunden, dass dasselbe Prinzip im Erfolgsfall auch für andere Anwendungsfälle funktioniert. Da zur skalierten Implementierung von KI-Sprachmodellen enorme Rechenkapazitäten benötigt werden, kooperiert Open-Source-KI.nrw mit dem NRW-Kompetenznetzwerk zum Hochleistungsrechnen HPC.NRW.

KI:edu.nrw: Vernetzung, Beratung und Schulung

Das am ZfW beheimatete Projekt KI:edu.nrw kümmert sich in diesem Zusammenhang nicht um die Entwicklung technischer Lösungen zur Bereitstellung generativer Technologien, sondern schult Hochschulangehörige in NRW zum Umgang mit generativer KI, informiert zur rechtlichen und ethischen Bewertung des KI-Einsatzes in Studium und Lehre und organisiert ein Förderprogramm für Praxis- und Transferprojekte für die NRW-Hochschulen. Darüber hinaus vernetzt KI:edu.nrw Akteur*innen in unterschiedlichen KI-bezogenen Handlungsfeldern und veranstaltet die deutschlandweit bekannte Learning AID-Tagung. Diese flankierende Informationsaufgabe ist ebenso in der NRW-Landesstrategie verankert.

Am Projekt beteiligt sind die Ruhr-Universität Bochum (Konsortialführerin), die RWTH Aachen und die Heinrich-Heine-Universität Düsseldorf.

Intensive Kooperation im Sinne der NRW-Landesstrategie

Alle drei Projekte arbeiten eng zusammen und greifen letztlich ineinander. Denn perspektivisch sollen sie es möglich machen, dass in NRW sowohl kommerzielle als auch nicht-kommerzielle KI-Tools an Hochschulen verfügbar sind und auf ihnen weiterführende Dienstleistungen aufgebaut werden können, wie beispielsweise spezialisierte Chatbots in der Verwaltung. Zugleich sorgen Schulung, Beratung und Austausch für einen reflektierten und sinnvollen Einsatz der neuen Technologie. Wir sind gespannt auf die weiteren Entwicklungen, zumal KI-Technologie sich verändert und nicht auszuschließen ist, dass sich darüber auch die Anforderungen an Hochschulinfrastruktur weiter verändern.
Bleiben Sie auf dem Laufenden!
In unserem Blog informieren über aktuelle Entwicklungen im Bereich Generative Technologien in der Hochschulbildung. Wenn Sie sich in unsere Kontaktliste eintragen, erhalten Sie regelmäßig Neuigkeiten per E-Mail.

Mehr zum Thema

Neuigkeiten aus dem ZfW per E-Mail erhalten

Jessica Dudde
Jessica Dudde
Jessica Dudde kümmert sich im Zentrum für Wissenschaftsdidaktik und im Projekt KI:edu.nrw um die Öffentlichkeitsarbeit.

Archiv

Ältere Beiträge rund um das Thema E-Learning finden Sie im Net[t]working-Blog.
Logo des eLearning-Blogs der RUB.

RSS-Feed