API-Service

Mit dem API-Service des Hochschulrechenzentrums steht allen Angehörigen der JLU eine einfache Möglichkeit zur Verfügung, leistungsfähige Sprachmodelle direkt in eigene Anwendungen zu integrieren.

Mit dem API-Service des Hochschulrechenzentrums steht allen Angehörigen der JLU eine einfache Möglichkeit zur Verfügung, leistungsfähige Sprachmodelle direkt in eigene Anwendungen zu integrieren. Über die bereitgestellten API-Endpunkte können sowohl Open-Source-Modelle als auch kommerzielle Sprachmodelle flexibel genutzt werden.

Das Angebot des KI-Teams am HRZ schafft eine technische Grundlage, um generative KI-Funktionen sicher und datenschutzkonform in Forschung, Lehre und Verwaltung zu erproben.

Zugang zur HRZ-API

Um Zugang zur API zu erhalten melden sie sich bitte per Email bei:

ki@uni-giessen.de

Nach Absprache mit dem KI-Team können auch kostenpflichtige Sprachmodelle in Anspruch genommen werden.

API-Nutzung

Für Nutzer*innen steht unter folgendem Link die API-Referenz (Swagger UI) zur Verfügung. Diese enthält eine Übersicht über die verfügbaren Endpunkte.

🔗 API-Referenz des Hochschulrechenzentrums

API-Minimalbeispiel

Sie können Ihren API-Schlüssel verwenden, um direkt über das Terminal auf Chat AI zuzugreifen. Hier ist ein Beispiel, wie Sie mit der API eine Textvervollständigung durchführen können.

curl -i -X POST \
  --url https://api.hrz.uni-giessen.de/chat/completions
  --header 'Accept: application/json' \
  --header 'Authorization: Bearer <api_key>' \
  --header 'Content-Type: application/json'\
  --data '{                    
  "model": "meta-llama-3.1-8b-instruct",
  "messages":[{"role":"system","content":"You are an assistant."},{"role":"user","content":"What is the weather today?"}],
  "max_tokens": 7,
  "temperature": 0.5,
  "top_p": 0.5
}'

Stellen Sie sicher, <api-key> mit ihrem eigenen API-Schlüssel zu ersetzen.

Verfügbare API-Modellnamen abrufen

Mit dem folgenden Snippet können Sie die verfügbaren Modelle abrufen. Kopieren Sie den Codeblock und ersetzen Sie <api_key> durch Ihren persönlichen Schlüssel:

curl -X 'GET' \
  'https://api.hrz.uni-giessen.de/models' \
  -H 'accept: application/json' \
  -H 'x-litellm-api-key: <api_key>'

Liste der bereitgestellten Sprachmodelle

In der verlinkten Tabelle sehen Sie eine Übersicht der aktuell bereitgestellten Modelle:

https://api.hrz.uni-giessen.de/ui/model_hub_table/

HRZ API in Claude Code nutzen

Nutzen Sie folgende Anleitung für die Installation von Claude Code: https://code.claude.com/docs/en/overview

Tragen Sie folgende Werte in Ihrem Betriebssystem abhängigen Environment ein:

ANTHROPIC_BASE_URL="https://api.hrz.uni-giessen.de"
ANTHROPIC_API_KEY="sk-..."

#optional für die Nutzung kostenfreier lokaler Modelle
ANTHROPIC_MODEL="jlu/qwen3-coder-next"
CLAUDE_CODE_ENABLE_GATEWAY_MODEL_DISCOVERY=1

Beachten Sie bitte, dass Ihr API-Key Zugriff auf die "anthropic/*" Modellgruppe haben muss.
Kostenhinweis: Mit Claude Opus wird das Ihnen zugewiesene Budget sehr schnell aufgebraucht. Wir empfehlen die Nutzung der lokal gehosteten Qwen Modelle qwen3-coder-next (256k Kontext) bzw. qwen3.8-27b (1M Kontext) über den API Service. Sie können das Modell über den "/model" Befehl wechseln.

HRZ API in Open-Code nutzen

Die können unsere API in OpenCode (https://www.opencode.ai) nutzen. Tragen Sie dazu in folgendem Konfigurationstemplate Ihren API Key ein.

{
  "$schema": "https://opencode.ai/config.json",
  "provider": {
    "litellm": {
      "npm": "@ai-sdk/openai-compatible",
      "name": "LiteLLM",
      "options": {
        "baseURL": "https://api.hrz.uni-giessen.de",
        "apiKey": "sk-..."
      },
      "models": {
        "jlu/gemma-4-26b-it": {
          "name": "jlu/gemma-4-26b-it"
        },
        "jlu/qwen3-coder-next": {
          "name": "jlu/qwen3-coder-next"
        }
      }
    }
  }
}

Nutzungsbedingungen

Regeln und Bedingungen für die Nutzung des API-Service.

Zu den Bedingungen

Navigation