Zum Hauptinhalt springen
POST
LLM-Inferenz mit Beleg
Zeichnet einen einzelnen LLM-Inferenzaufruf auf, der innerhalb einer laufenden Orchestrierung erfolgte. Jeder Inferenzdatensatz erfasst das Modell, den Anbieter, die Token-Anzahl, die Latenz, die Kosten und die Inhalts-Hashes – was eine feingranulare Kostenattribution und Herkunftsprüfung jeder KI-Entscheidung ermöglicht. Dieser Endpunkt wird von Agent-Laufzeiten nach Abschluss jedes LLM-API-Aufrufs aufgerufen. Der Inferenzdatensatz wird mit der übergeordneten Orchestrierung verknüpft und in den endgültigen Transparenzprotokoll-Beleg aufgenommen.

Antwort

string
Eindeutiger Identifikator für diesen Inferenzdatensatz.
string
Übergeordneter Orchestrierungs-Identifikator.
string
Verwendetes LLM-Modell.
string
LLM-Anbieter.
integer
Anzahl der Eingabetoken.
integer
Anzahl der Ausgabe-Token.
number
Inferenzkosten in US-Cents.
string
ISO 8601 Zeitstempel, wann die Inferenz aufgezeichnet wurde.

Autorisierungen

X-API-Key
string
header
erforderlich

API-Schlüssel für die Maschine-zu-Maschine-Authentifizierung

Body

application/json
agent_id
string<uuid>
erforderlich

Agent wird aufgerufen

model_id
string
erforderlich
prompt_hash
string
erforderlich
provider
string
erforderlich
cost_usd
number
execution_id
string | null
input_tokens
integer
latency_ms
integer
metadata
any
output_tokens
integer
purpose
string | null
response_hash
string | null

Antwort

Inferenz-Ergebnis mit Beleg

response
string
receipt_id
string<uuid>
tokens_used
integer
cost
number<float>