GPT und AI sind in aller Munde. Wir haben für eine österreichische Universität eine inhouse MyGPT-Lösung auf Basis von OpenAI.com entwickelt.
Die generative KI kann durch individuelle Wissensquellen erweitert werden und beantwortet im Anschluss alle gestellten Fragen in Form eines ChatBots. Davon profitieren Studierende, Lehrende, Forschende und administrative Fachkräfte. Der Betrieb erfolgt in der unternehmenseigenen Cloud-Umgebung in Microsoft-Rechenzentren in Europa, wodurch alle datenschutzrechtlichen Anforderungen eingehalten werden und die Daten nicht für andere Zwecke verwendet werden können. Aus diesem Initialprojekt ist mit dem AI4EDU Blueprint eine wiederverwendbare Lösung entstanden, mit der wir schon weitere Kund:innen überzeugen konnten.
Die Kernfunktionen sind Chatten mit ChatGPT 3.5 und ChatGPT 4 sowie ein Dokumentenupload, mit dem hochgeladene Dokumente innerhalb einer Chat-Session ausgewertet bzw. zusammengefasst werden können. Da die Verwendung der OpenAI-Modelle bei Microsoft einem nutzungsabhängigen Pricing unterliegt, ist die von uns entwickelte Kostenkontrollfunktion ein wesentlicher Mehrwert. Hiermit kann die Nutzung reguliert und budgetär geplant werden.
Chat-Funktionalitäten GPT 3.5 & GPT 4 (Turbo- und Previewmodelle sind optional verfübgar.)
Chat-Historie
Kostenkontrolle per Tokenverwaltung
Dokumentenupload
User Interface-Anpassungen: Farben laut Ihren unternehmenseigenen Designvorgaben sowie Platzierung Ihres Logos
Zugriffskontrolle mit Benutzernamen (Single Sign on über Azure Entra)
Hosting im EU-Raum innerhalb Ihrer unternehmenseigenen Azure Cloud-Installation
Mögliche Technologien: GPT 3.5, GPT 4, GPT-4 Turbo, Mistral Large, DALL-E & Whisper
Über die Azure OpenAI Files und FineTuning API kommen die Trainingsdaten in einen temporären Speicher, damit diese dann weiterverarbeitet werden können.
Mit Hilfe der Individuellen Softwareentwicklung bei Imendo können auf Kundenwunsch auch neue Plugins für die Lösung sowie vielfältige Integrationen mit anderen Microsoft-Lösungen implementiert werden.