Die neuen Sprachmodelle können beim Programmieren und Übersetzen helfen. 

© RUB, Marquard

Künstliche Intelligenz Neue Sprachmodelle in GPT@RUB vorhanden

Im KI-Tool sind kostenlos verschiedene Open-Source-Sprachmodelle auswählbar. 

Wer bisher GPT@RUB genutzt hat, hatte bei der Modellwahl nur verschiedene Versionen des kommerziellen Anbieters OpenAI zur Auswahl. Ab sofort können im Chat aber auch mehrere Open-Source-Sprachmodelle ausgewählt werden. Diese sind zum Beispiel für Programmieraufgaben oder Übersetzungen nützlich. 

Die neuen Sprachmodelle machen die Ruhr-Universität unabhängiger von großen, kommerziellen Anbietern und sind dank öffentlich geförderter Services in ihrer Basis-Funktionalität zunächst kostenlos. Die Nutzung in GPT@RUB belastet deshalb vorerst auch das persönliche Token-Konto nicht. 

„Die Ruhr-Universität geht mit dem Zugang zu Open-Source-Sprachmodellen einen weiteren wichtigen Schritt in Richtung digitale Souveränität und wird auf dem Weg der Bereitstellung generativer KI-Technologien unabhängiger von externen, kommerziellen Anbietern“, sagt Martin Bovermann von IT.SERVICES

Vom Bundesministerium gefördert

Die Bereitstellung der Open Source-Modelle bei GPT@RUB erfolgt über die Gesellschaft für wissenschaftliche Datenverarbeitung mbH Göttingen (GWDG) und deren KI-Servicezentrum für sensible und kritische Infrastrukturen (KISSKI). Sie wird vom Bundesministerium für Bildung und Forschung gefördert.

Weitere Vorteile der neuen Modelle liegen auch im Datenschutz. Open Source-Modelle können lokal beziehungsweise mithilfe eigener technischer Infrastruktur betrieben werden. Daten werden nicht an kommerzielle Anbieter weitergegeben, sondern von der GWDG verarbeitet. Zudem sind die Quellcodes und Trainingsdaten der Modelle öffentlich zugänglich und somit transparenter als von OpenAI. 

Gut zu wissen

KI-Sprachmodelle sind eine experimentelle Technologie. Insbesondere Open-Source-Sprachmodelle sollten zweckgebunden genutzt und als Forschungsgegenstand begriffen werden. Die Ausgaben der Modelle können – genauso wie die Modelle kommerzieller Anbieter – Fehlinformationen erzeugen und gesellschaftliche Biases reproduzieren. Es wird daher empfohlen, Informationen über ein Modell vor der Nutzung gründlich zu recherchieren. 

Diese Open Source-Sprachmodelle sind verfügbar

  • LLaMA 3.1 70B Instruct ist ein Model für komplexere Aufgaben, wie die Erstellung detaillierter Berichte oder das Schreiben von Code Snippets. 
  • NVIDIA LLaMA 3.1 Nemotron 70B Instruct ist ein Reward-Modelling Fine-Tune von LLaMA 3.1 für komplexere Aufgaben, wie die Erstellung detaillierter Berichte oder das Schreiben von Code Snippets. 
  • Teuken 7B Instruct Research ist ein in der EU trainiertes Model, welches einen Fokus auf Multilingualität für Sprachen von EU-Mitgliedsländern hat. 
  • Mistral Large ist ein Model mit einem Fokus auf Multilingualität, darunter insbesondere Französisch, Italienisch und Spanisch. 
  • Codestral 22B ein Model für Programmierung und kann in über 80 verschiedenen Programmiersprachen behilflich sein. 
     

Veröffentlicht

Dienstag
14. Januar 2025
09:54 Uhr

Teilen