Die Uni Heidelberg stellt ihren Studierenden seit Herbst drei datensichere KI-Modelle zur Verfügung. Aber was kann die unieigene Plattform „YoKI“ überhaupt?
Sie klingen ein bisschen wie ein Projekt bei Jugend forscht, einem Bumble Profil und die Hauptattraktion eines futuristischen Zoos: Qwen 2.5, Aya 23 und Meta-Llama. Stattdessen handelt es sich dabei um KI-Modelle, die das Universitätsrechenzentrum seit September dieses Jahres den Mitgliedern der Universität in Form eines neuen ChatBots namens „YoKI“ zur Verfügung stellt. Im Vordergrund steht dabei, den „Beschäftigten, Studierenden und Forschenden einen sicheren Zugang zu generativen KI-Modellen zu gewährleisten”, so informiert die Website der Universität. Dafür verwendet die Uni sogenannte Large-Language-Models (LLMs), deren Quellcodes frei zugänglich sind und kostenlos verwendet werden können. Bei einem LLM handelt es sich dabei um ein KI-Modell, das mit riesigen Textmengen trainiert wurde und geschriebene Sprache verstehen und produzieren kann – wie beispielsweise GPT, die KI, die hinter ChatGPT steckt. Um die Benutzung des KI-Modells zu ermöglichen, muss allerdings auch eine Benutzeroberfläche entwickelt werden.
Konkret stehen den Studierenden drei KI-Modelle zur Verfügung. Diese haben verschiedene Schwerpunkte, so ist „Qwen 2.5“ ein Code-Supporter, der über 90 verschiedene Programmiersprachen beherrscht, so die Angabe der Uni. Hingegen liegt der Fokus von „Aya 23“ auf Übersetzung und Sprachunterstützung, während Meta-Llama generalistische Fragen beantwortet. Sie sind keine Allrounder wie ChatGPT, dafür aber Expert:innen auf ihren jeweiligen Gebieten.
Um die KI zu nutzen, stellt man per Prompt eine Frage und die KI antwortet im Chatmodus. Dabei fallen Unterschiede bei der Qualität der Antworten auf. Die genauesten Ergebnisse erzielt man, wenn man die Fragen auf Englisch stellt. Wiederholt man die Frage auf Deutsch, wird die englische Antwort einfach übersetzt. Darüber hinaus ist es wichtig, für jedes Thema einen neuen Chat zu eröffnen. Ansonsten werden die Fragen automatisch auf den vorhergegangenen Inhalt bezogen, etwas, das mit ChatGPT nicht passiert. Die drei KIs stecken allerdings noch in den Kinderschuhen. Wenngleich sie durch Datenschutz bestechen, bieten sie noch nicht die Unterstützung, zu der sie das Potenzial hätten. Die Studierenden müssen sich also noch gedulden oder auf die Konkurrenz zurückgreifen. Dabei ist die Nachfrage hoch.
Die Universität hat sich nach Angaben des Universitätsrechenzentrums (URZ) zur Entwicklung des Chatbots entschieden, nachdem von allen Nutzer:innengruppen wie Studierenden, Forschenden und Beschäftigten Bedarf angemeldet wurde. Der Hauptvorteil gegenüber den etablierten und kommerziellen Chatbots wie etwa ChatGPT liegt darin, dass der Datenschutz und die Datensouveränität der Nutzer:innen bei YoKI gewahrt ist: Die Plattform wird allein auf universitätseigenen Servern betrieben und die Nutzer:inneneingaben und Antworten werden nicht wieder zum Training der KI-Modelle verwendet. Da der Bot nur im Universitätsnetz oder via VPN erreichbar ist, ist die Benutzung zusätzlich gesichert. Aus Gründen des Datenschutzes hat man sich zudem entschieden, dass die Eingaben nicht gespeichert werden, was allerdings wie oben erwähnt auch zu Lasten der Benutzer:innenfreundlichkeit geht.
Die sich noch in der Pilotphase befindende Plattform wurde vom Universitätsrechenzentrum in Zusammenarbeit mit Doktorand:innen der Forschungsgruppe Engineering Mathematics and Computing Lab, kurz EMCL am Interdisziplinären Zentrum für Wissenschaftliches Rechnen entwickelt. Unter der Vielzahl der quelloffenen zur Verfügung stehenden LLMs wurden laut URZ die drei ausgewählt, die in den internen Tests am besten abgeschnitten haben. Perspektivisch sollen aber noch weitere Modelle hinzukommen, die gezielt die Bedürfnisse in Lehre, Forschung und Verwaltung abdecken. So soll es beispielsweise dann auch möglich sein, direkt Informationen, die die Universität betreffen und Inhalte von universitären Websites zu erhalten. Das könnte für Studiernde und insbesondere Erstsemester interessant sein und würde einen entscheidenden Vorteil gegenüber anderen Chatbots bieten.
Auch wenn die zur Verfügung stehenden LLMs von Yoki gegenüber kommerziellen Anbietern wie ChatGPT noch Schwächen aufweisen, könnte sich das Chatbot-Angebot des Universitätsrechenzentrum durch die Weiterentwicklung der KI-Modelle und auch das Hinzufügen von weiteren Funktionen zu einer praktikablen und sicheren Alternative für Universitätsangehörige entwickeln.
Von Sara Haase und Maximilian Fülle
…studiert Germanistik im Kulturvergleich und Anglistik im Master. Sie schreibt seit dem Sommersemester 2024 für den ruprecht. Wenn sie nicht gerade schreibt oder liest, singt sie zu Taylor Swift mit, während sie Kekse backt.
...studiert Mathematik im Master und schreibt seit dem Sommersemester 2024 für den ruprecht. Neben Politik und Literatur interessiert er sich für alles, was in der Uni gerade wichtig ist.
...studiert Biowissenschaften und schreibt … nichts. Er layoutet und illustriert seit 2023 für den ruprecht.
