KI-Chatbot uniGPT: Spitzentechnologie für die Universität Graz

Künstliche Intelligenz (= KI) als Push für die „data driven transformation“: Für die Universität Graz hat Imendo uniGPT, einen maßgeschneiderten KI-Chatbot auf Basis von OpenAI.com, entwickelt. Sie ist damit die erste universitäre Einrichtung im deutschsprachigen Raum, die von ihrem eigenen KI-Chatbot profitiert. Seit Mai 2024 ist die Applikation für die Mitarbeitenden in Forschung, Lehre und Verwaltung freigeschaltet und wird bereits intensiv genutzt.

In 4 Schritten zum Erfolg

Herausforderung

Herausforderung

Konkrete Definition der Ziele und Nutzer:innen des Chatbots sowie Einhaltung von Datenschutz und IT-Sicherheit.

Lösung

Lösung

Kommunikationsstärke, Flexibilität und gemeinsame Weiterentwicklung des Konzepts zum fertigen uniGPT – einer perfekt auf die Bedürfnisse der Universität Graz zugeschnittenen ChatGPT-Applikation.

Technologie

Technologie

Maßgeschneiderte ChatGPT-Lösung auf Basis von OpenAI.com. Hosting in der Azure Cloud in Microsoft-Rechenzentren in Europa, damit alle datenschutzrechtlichen Anforderungen eingehalten und die Daten nicht zweckentfremdet verwendet werden können.

Technologie

Mehrwert

Nutzung von generativer KI unter Berücksichtigung von Datenschutz und IT-Sicherheit, Wissensmanagement, Steigerung der Produktivität, Beschleunigung von bürokratischen Prozessen, Benutzerfreundlichkeit, flexible Erweiterbarkeit, Transparenz & Kostenkontrolle.

Ausgangssituation

Künstliche Intelligenz als Innovationstreiber für heute & morgen

Die Universität Graz, die zweitgrößte Universität in Österreich, ist bekannt für ihre wissenschaftliche Exzellenz und den Mut, neue Wege zu gehen. Das spiegelt sich auch in ihrem Motto wider: „We work for tomorrow”. Dieses leitet die 4700 Wissenschafter:innen und Mitarbeiter:innen sowie die rund 30.000 Studierenden.

Bei der intensiven Auseinandersetzung mit Zukunftsfragen darf für die Uni Graz die Beschäftigung mit Künstlicher Intelligenz nicht fehlen. Denn ihr kommt eine Schlüsselrolle in der digitalen Transformation zu. KI ist ein entscheidender Faktor für Innovation und treibt diese voran. Mit der Investition in verschiedene Maßnahmen, die sich um KI drehen, übernimmt die Uni Graz eine Vorreiterrolle in der Hochschullandschaft. Als erste universitäre Einrichtung im deutschsprachigen Raum hat sie ihren eigenen KI-Chatbot, uniGPT, implementiert, um die Mitarbeitenden in Forschung, Lehre und Verwaltung mit dieser State of the Art-Technologie auszustatten und im IDea_Lab experimentelle Erfahrungen zu sammeln.

Das Imendo-Team freut sich mit der erfolgreichen Entwicklung des uniGPT ein Teil der digitalen Entdeckungsreise im Kontext von Wissenschaft und Forschung zu sein. „Es ist spannend, ein Projekt zu einem aktuellen Thema umzusetzen, das uns vermutlich ein Leben lang begleiten wird“, so Peter Gubo, Projektmanager bei Imendo.

Logo
Mit uniGPT haben wir gemeinsam mit der Universität Graz erfolgreich technologisches Neuland betreten. Wir freuen uns über dieses gelungene Prestigeprojekt mit hoher Außenwirkung.
Das Imendo-Projektteam

Anforderungen & Ziele

Verantwortungsbewusster Umgang mit KI im Fokus

Als langjähriger Microsoft Solutions Partner wurde Imendo von Microsoft Österreich der Uni Graz als einer der möglichen Umsetzungspartner empfohlen – und konnte überzeugen. Erste Meetings mit dem Neukunden sind im August 2023 über die Bühne gegangen. Der Projektstart erfolgte Anfang November desselben Jahres.

Ziel war die Entwicklung eines maßgeschneiderten KI-Chatbots für alle Angestellten der Uni Graz – als hilfreiche Ergänzung im Joballtag, um die Produktivität zu steigern und um bürokratische Prozesse zu beschleunigen. Größter Wert wurde auf die Einhaltung der Datenschutzgrundverordnung gelegt, um eine sichere und private Umgebung zu schaffen, in der die generative KI mit dem nötigen Verantwortungsbewusstsein genutzt und erkundet werden kann. Dabei sollten alle eingegeben Daten innerhalb der EU verarbeitet und nicht zur Schulung anderer KI-Modelle verwendet werden.

Univ.-Prof. Dr. Markus Fallenböck, LL. M ist Vizerektor für Digitalisierung und Personal an der Uni Graz und Leiter des IDea_Labs. Er beschäftigt sich seit mehr als 20 Jahren mit der rechtlichen und wirtschaftlichen Umsetzung der digitalen Transformation. Seit Dezember 2023 ist er auch im neuen KI-Beirat der Bundesregierung vertreten. Warum ihm das uniGPT-Projekt so wichtig ist? „uniGPT ist ein wichtiger Baustein für die KI Literacy der Bediensteten an der Universität Graz, aber auch für die Organisation selbst. Im Zuge des Projektes haben alle beteiligten Einheiten wesentliches Know-how in der Einführung eines KI-Systems aufgebaut“, erklärt er.

Logo
uniGPT ist ein wichtiger Baustein für die KI Literacy der Bediensteten an der Universität Graz, aber auch für die Organisation selbst. Im Zuge des Projektes haben alle beteiligten Einheiten wesentliches Know-how in der Einführung eines KI-Systems aufgebaut.
Vizerektor Univ.-Prof. Dr. Markus Fallenböck, LL. M

Herausforderungen

Technologisches Neuland & Konkretisierung der Anforderungen

In den 14 Jahren seit der Gründung hat das Imendo-Team bei zahlreichen Projekten bewiesen, dass es keine Herausforderungen scheut. Das Klagenfurter Unternehmen ist bekannt für seine Kompetenz und den Drive, neueste Technologien einzusetzen, um sie maßgeschneidert an die Anforderungen von Kund:innen anzupassen. Die größte Herausforderung für das Imendo-Team bei diesem Projekt lag darin, dass es das erste großangelegte ChatGPT-Projekt war und dass die Anforderungen zu Beginn vage definiert waren.

Dank des großen Einsatzes auf Kunden- und Imendo-Seite konnten diese Hürden erfolgreich überwunden werden. Das Imendo-Projektteam ist sich einig: „Aufgrund unserer jahrelangen Erfahrung haben wir die nötige Flexibilität mitgebracht, weil sich die Anforderungen im Laufe des Projektes entwickelt und geändert haben und auch erweitert wurden.“ Imendo-Projektmanager Peter Gubo ergänzt: „Wir waren immer lösungsorientiert und haben stets versucht, dem Kunden bei der Lösung von neuen Anforderungen proaktiv beizustehen. Es war immer die Motivation und Bereitschaft vorhanden, der Uni Graz ein gutes Endprodukt zu präsentieren und zu übergeben. Was uns auf ganzer Linie gelungen ist.“

Lösung

Das kann uniGPT

Seit Anfang Mai 2024 ist das maßgeschneiderte Tool uniGPT auf Basis von OpenAI.com an der Uni Graz für die Mitarbeiter:innen freigeschaltet und wird bereits intensiv genutzt. Die Kernfunktionen des uniGPT sind Chatten mit ChatGPT 3.5 und ChatGPT 4, ein Dokumenten-Upload und eine Suche im Internet über Bing Search. Die Lösung ist mit einer Tokenverwaltung ausgestattet, die sicherstellt, dass die Gesamtkosten im definierten Budget bleiben. Die generative KI kann durch individuelle Wissensquellen erweitert werden und beantwortet im Anschluss alle gestellten Fragen in Form eines ChatBots. Der Betrieb erfolgt in Microsoft-Rechenzentren in Europa, wodurch alle datenschutzrechtlichen Anforderungen eingehalten werden. Der Log-in funktioniert über das Uni-Konto.

Zusätzlich hat Imendo das IDea_Lab mit dem Aufbau von KI-Infrastruktur unterstützt. Das digitale Labor der Universität Graz bündelt interdisziplinäre Forschung zu den Themen Künstliche Intelligenz, Big Data und digitale Transformation. Hier sollen erste experimentelle Erfahrungen mit uniGPT und auf Basis von „User-Interface-basierten“-KI-Lösungen gesammelt werden.​

Das Data Lab ist operativer Teil des interdisziplinären IDea_Labs an der Uni Graz. Das Zentrum beschäftigt sich mit der Digitalen Transformation und hier insbesondere mit den aktuellen Herausforderungen zu KI und Datafizierung. „Use Cases mit Mehrwert im Forschungsbereich zu definieren, gehört zu unserer Hauptaufgabe“, erzählt Dipl.-Ing. (FH) MA Michael Freidl, Leiter des Data Labs. Er führt weiter aus: „Gerade hier sehen wir die Chance, KI-gestützte Systeme zum Support unterschiedlicher Forschungsprozesse zu nutzen und uniGPT ist ein Baustein dazu.“

Zusammenfassung

Vorteile des uniGPT

An der Uni Graz und bei Imendo ist man sich des großen Potenzials sowie der Verantwortung in Bezug auf Künstliche Intelligenz bewusst - Stichwörter: ethische und Sicherheits-Standards sowie gesetzliche Vorgaben. Hier punktet das uniGPT mit der Nutzung von generativer KI unter Berücksichtigung von Datenschutz und IT-Sicherheit. Das macht ein sicheres Arbeiten mit internen Dokumenten und sensiblen Daten möglich. Auch für Transparenz ist gesorgt: Alle Antworten des Chatbots basieren auf dem Wissen, das von der Uni Graz eingespeist wurde. Die KI verweist immer auf die Quelle. Die Datenhoheit liegt beim Kunden, da die Modelle im Azure-Enrollment innerhalb des EU-Datenraums (GDPR) gehostet werden. Während die Mitarbeiter:innen der Uni Graz die generative KI nutzen, bleiben ihre Daten geschützt und privat. Die Anzeige und Limitierung der ChatGPT-Token lässt die User:innen stets die Kosten im Auge behalten. Besonders spannend sind die Fähigkeiten zur Erweiterung – diese sind u. a. durch große Sprachmodelle (LLMs) gegeben.

Dass die Nutzer:innen an der Uni Graz beim Umgang mit uniGPT und mit der generativen KI nicht alleine gelassen werden, das versteht sich von selbst. Dazu wird auf die wachsende Zahl von Use Cases für den Einsatz der Technologie im Unialltag hingewiesen: „Mittels Orientierungsrahmen, Schulungen und Videos zur Anleitung soll die Alltagsnutzung in Lehre, Forschung und Verwaltung forciert werden“, fasst Vizerektor Univ.-Prof. Dr. Markus Fallenböck, LL. M zusammen.