Llama ai api: Schnellstart-Leitfaden

Authentifizierung & Basis-URL

Verbinden Sie sich, indem Sie die Client-Konfiguration aktualisieren, um auf unseren dedizierten Endpunkt zu verweisen. Ihr API-Schlüssel authentifiziert jede Anfrage, also halten Sie ihn sicher, aber für Ihre Anwendung zugänglich.

Die Base-URL lautet HTTPS://api.llamaaiapi.com/v1. Sie müssen Header nicht über den Standard-Authorization-Header hinaus ändern. Unser System überprüft Ihre Anmeldeinformationen sofort. Wenn Ihr Schlüssel fehlt oder abgelaufen ist, gibt der Server einen 401-Fehler zurück. Eine 402-Antwort bedeutet, dass Ihr bezahltes Guthaben aufgebraucht ist. Eine 429-Antzeige bedeutet, dass Sie das Limit von 300 Anfragen pro Minute erreicht haben.

Denken Sie daran, dass das Guthaben nur per Kryptowährung im Voraus bezahlt wird. Es gibt keine monatlichen Abonnements. Ihr Guthaben verfällt nie, sodass Sie die Nutzung unbegrenzt pausieren können.

Der Chat-Completions-Endpunkt

Senden Sie Ihre erste Anfrage an den Chat-Vervollständigungs-Endpunkt, um Textausgaben zu erhalten. Verwenden Sie die Modell-ID "uncensored", um auf unser spezifisches Open-Weight-Modell zuzugreifen. Es ist kein GPT, Claude oder ein anderes Modell eines anderen Anbieters.

Der Endpunkt akzeptiert Standard-JSON-Payloads. Sie geben einen System-Prompt und Benutzernachrichten an. Das Modell gibt eine Vervollständigung zurück. Dies ist eine Text-in, Text-out-Schnittstelle. Es werden keine Embeddings, Bilder oder Audio hier generiert.

Konfigurieren Sie Ihre Anfrage mit den erforderlichen Parametern. Das Modell unterstützt einen Kontextfenster von 100,000 Token. Dies umfasst sowohl den Eingabe-Prompt als auch die Ausgabe-Vervollständigung. Die maximale Ausgabe beträgt 16,000 Token pro Anfrage.

Python SDK-Integration

Verwenden Sie die offizielle OpenAI-Python-Bibliothek, um mit unserer API zu interagieren. Sie erfordert nur minimale Konfigurationsänderungen. Sie müssen lediglich die Basis-URL festlegen und Ihren API-Schlüssel angeben.

Initialisieren Sie den Client mit Ihrem Schlüssel. Legen Sie die Basis-URL auf unseren Endpunkt fest. Übergeben Sie Ihre Nachrichten an die Methode chat.completions.create. Die Bibliothek übernimmt die Serialisierung und Antwortanalyse.

Node SDK-Integration

Integrieren Sie Ihre Node.js-Anwendung, indem Sie das OpenAI-Paket installieren. Konfigurieren Sie den Client für die Verwendung unserer Basis-URL. So können Sie vertraute Methoden in Ihrem JavaScript- oder TypeScript-Code nutzen.

Legen Sie die Eigenschaften apiKey und baseURL fest. Rufen Sie die Funktion chat.completions.create auf. Die Antwort enthält den generierten Text. Sie können Fehler in Ihren async-Funktionen ordnungsgemäß behandeln.

Streaming-Antworten über SSE

Streaming für Echtzeit-Token-Generierung aktivieren. Dies ist nützlich für Chat-Schnittstellen, die Text anzeigen, während er erzeugt wird. Der Server sendet Server-Sent Events (SSE) für jeden Chunk.

Legen Sie den Parameter stream auf true in Ihrer Anfrage fest. Iterieren Sie über die Antwort-Chunks. Verketten Sie den Inhalt, um die endgültige Nachricht zu erstellen. Das letzte Chunk enthält die Token-Nutzungsstatistiken.

JSON-Modus und Parameter

Fordern Sie eine strukturierte Ausgabe an, indem Sie response_format auf json_object setzen. Dies zwingt das Modell, gültiges JSON zurückzugeben. Verwenden Sie Parameter wie temperature und top_p, um die Kreativität zu steuern. Mit dem Parameter stop können Sie Abbruchsequenzen definieren.

Function Calling wird ebenfalls unterstützt. Sie können Tools definieren und dem Modell überlassen, welche davon aufgerufen werden sollen. Dies erweitert den Nutzen des uncensored-Modells für komplexe Aufgaben.

cURL

Copycurl https://api.llamaaiapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Show me a list of 5 recent server errors."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llamaaiapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llamaaiapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)