Einführung
maKI ist ein OpenAI-kompatibler API-Dienst, der vollständig auf Infrastruktur der Uni Mannheim läuft. Keine Anfragen oder Daten verlassen die Universität.
Überblick
Abschnitt betitelt „Überblick“Wie es funktioniert
Abschnitt betitelt „Wie es funktioniert“- Sie senden einen Request an
https://maki.uni-mannheim.de/v1/chat/completions— genau wie bei der OpenAI API. - maKI validiert Ihren API-Key und leitet die Anfrage an das gewählte Modell weiter.
- Das Modell läuft lokal auf GPUs der Uni Mannheim und erzeugt die Antwort.
- Die Antwort wird zurückgestreamt — der Token-Verbrauch wird pro Schlüssel protokolliert.
Prompts und Antworten werden nicht gespeichert (siehe Datenschutz).
Verfügbare Modelle
Abschnitt betitelt „Verfügbare Modelle“Eine aktuelle Liste mit Kontextfenstern und Einsatzempfehlungen finden Sie unter Verfügbare Modelle.
API-Schlüssel
Abschnitt betitelt „API-Schlüssel“Jede Anfrage an maKI muss einen API-Schlüssel mitsenden — eine zufällig erzeugte Zeichenkette, die Ihre Anwendung gegenüber maKI ausweist. Schlüssel werden vom Administrator ausgestellt und können jederzeit widerrufen werden. Details zu Typen, Beantragung und Umgang mit Schlüsseln finden Sie unter API-Schlüssel.
Eigenschaften
Abschnitt betitelt „Eigenschaften“- OpenAI-kompatibel: Jedes SDK oder Tool, das die OpenAI API unterstützt, funktioniert ohne Anpassung.
- Vollständig lokal: Alle Modelle laufen auf dedizierten GPUs der Uni Mannheim. Kein Drittanbieter ist beteiligt.
- Streaming: Antworten werden Token für Token gestreamt (
stream: true). - Structured Output: Modelle können JSON-Schema-konforme Ausgaben erzeugen (siehe Structured Output).
- Embeddings: Neben Chat-Modellen stehen auch Embedding-Modelle für Vektorsuche und RAG zur Verfügung.