Llama ai api: Quickstart-gids

Authenticatie & basis-URL

Verbind door je clientconfiguratie bij te werken zodat deze naar onze dedicated endpoint wijst. Je API-sleutel verifieert elk verzoek, dus houd deze veilig maar toegankelijk voor je applicatie.

De basis-URL is HTTPS://api.llamaaiapi.com/v1. Je hoeft de headers niet aan te passen buiten de standaard Authorization-header. Ons systeem valideert je referenties onmiddellijk. Als je sleutel ontbreekt of verlopen is, retourneert de server een 401-fout. Een 402-respons betekent dat je vooruitbetaalde krediet opgebruikt is. Een 429-respons geeft aan dat je de limiet van 300 verzoeken per minuut hebt bereikt.

Onthoud dat credit alleen vooraf betaald wordt via crypto. Er zijn geen maandelijkse abonnementen. Je credit verloopt nooit, dus je kunt het gebruik onbepaald pauzeren.

Het Chat Completions Endpoint

Stuur je eerste verzoek naar het chat-completie-eindpunt om tekstoutput te ontvangen. Gebruik de model-id "uncensored" om toegang te krijgen tot ons specifieke open-weight model. Het is geen GPT, Claude of een ander model van een leverancier.

Het endpoint accepteert standaard JSON-payloads. Je geeft een system prompt en user messages op. Het model retourneert een completion. Dit is een tekst-in, tekst-uit-interface. Er worden geen embeddings, afbeeldingen of audio gegenereerd hier.

Configureer uw verzoek met de benodigde parameters. Het model ondersteunt een contextvenster van 100.000 tokens. Dit omvat zowel de invoerprompt als de uitvoercompletie. Maximaal 16.000 tokens per verzoek.

Python SDK Integratie

Gebruik de officiële OpenAI Python-bibliotheek om verbinding te maken met onze API. Dit vereist minimale configuratiewijzigingen. U stelt eenvoudig de basis-URL in en verstrekt uw API-sleutel.

Initialiseer de client met je sleutel. Stel de basis-URL in op ons eindpunt. Geef je berichten door aan de chat.completions.create-methode. De bibliotheek verwerkt de serialisatie en response-parsing.

Node SDK-integratie

Integreer met uw Node.js-applicatie door het OpenAI-pakket te installeren. Configureer de client om onze basis-URL te gebruiken. Hiermee kunt u bekende methoden gebruiken in uw JavaScript- of TypeScript-code.

Stel de apiKey- en baseURL-eigenschappen in. Roep de functie chat.completions.create aan. De respons bevat de gegenereerde tekst. Je kunt fouten afhandelen binnen je async-functies.

Streaming-responsen via SSE

Schakel streaming in voor realtime tokengeneratie. Dit is nuttig voor chatinterfaces die tekst weergeven terwijl deze wordt gegenereerd. De server stuurt Server-Sent Events (SSE) voor elke chunk.

Stel de stream-parameter in op true in je request. Itereer over de response-chunks. Plak de inhoud om het bericht op te bouwen. De laatste chunk bevat de tokenverbruiksstatistieken.

JSON-modus en parameters

Vraag gestructureerde uitvoer op door de response_format in te stellen op json_object. Dit forceert het model om geldige JSON terug te geven. Gebruik parameters zoals temperature en top_p om creativiteit te sturen. De stop-parameter stelt u in staat om terminatiesequenties te definiëren.

Function calling wordt ook ondersteund. U kunt tools definiëren en het model laten kiezen om ze aan te roepen. Dit vergroot de bruikbaarheid van het uncensored-model voor complexe taken.

cURL

Copycurl https://api.llamaaiapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Show me a list of 5 recent server errors."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llamaaiapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llamaaiapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)