Llama ai api: Snabbstartsguide

Autentisering & bas-URL

Anslut genom att uppdatera din klientkonfiguration så att den pekar på vår dedikerade slutpunkt. Din API-nyckel autentiserar varje begäran, så håll den säker men tillgänglig för din applikation.

Bas-URL: HTTPS://api.llamaaiapi.com/v1. Du behöver inte modifiera headrar utöver standard Authorization-headern. Vårt system validerar dina uppgifter omedelbart. Om din nyckel saknas eller har löpt ut returnerar servern ett 401-fel. Ett 402-svar innebär att dina förbetalda krediter är slut. Ett 429-svar indikerar att du har nått hastighetsbegränsningen på 300 förfrågningar per minut.

Kom ihåg att kredit är förbetald via crypto endast. Det finns inga månadsprenumerationer. Din kredit går aldrig ut, så du kan pausa användningen under obestämd tid.

Chatkompletteringsendpointen

Skicka din första begäran till chattkompletteringsslutpunkten för att få textutdata. Använd modell-ID:et "uncensored" för att komma åt vår specifika open-weight-modell. Det är inte GPT, Claude eller någon annan leverantörs modell.

Slutpunkten accepterar standard JSON-payloads. Du anger en systemprompt och användarmeddelanden. Modellen returnerar en komplettering. Detta är ett text-in, text-ut-gränssnitt. Det finns inga inbäddningar, bilder eller ljud som genereras här.

Konfigurera din förfrågan med de nödvändiga parametrarna. Modellen stöder ett kontextfönster på 100,000 tokens. Detta inkluderar både inmatningsprompten och utmatningskompletteringen. Max utmatning är 16,000 tokens per förfrågan.

Python SDK-integration

Använd det officiella OpenAI Python-biblioteket för att interagera med vårt API. Det krävs minimala konfigurationsändringar. Du anger helt enkelt bas-URL:en och anger ditt API-nyckel.

Initiera klienten med din nyckel. Ställ in bas-URL:en till vår slutpunkt. Skicka dina meddelanden till metoden chat.completions.create. Biblioteket hanterar serialisering och svarsparsing.

Node SDK-integration

Integrera med din Node.js-applikation genom att installera OpenAI-paketet. Konfigurera klienten att använda vår bas-URL. Detta gör att du kan använda bekanta metoder i din JavaScript- eller TypeScript-kod.

Ställ in egenskaperna apiKey och baseURL. Anropa funktionen chat.completions.create. Svaret innehåller den genererade texten. Du kan hantera fel hanterbart inom dina async-funktioner.

Strömningsresponser via SSE

Aktivera strömning för realtidsgenerering av tokens. Detta är användbart för chattgränssnitt som visar text när den produceras. Servern skickar Server-Sent Events (SSE) för varje bit.

Ställ in stream-parametern till true i din förfrågan. Iterera över response-chunkarna. Konkatenera innehållet för att bygga det slutliga meddelandet. Den sista chunken innehåller tokenanvändningsstatistik.

JSON-läge och parametrar

Begär strukturerad utdata genom att ställa in response_format till json_object. Detta tvingar modellen att returnera giltig JSON. Använd parametrar som temperature och top_p för att kontrollera kreativitet. Stop-parametern låter dig definiera avslutningssekvenser.

Function calling stöds också. Du kan definiera verktyg och låta modellen välja att anropa dem. Detta utökar nyttan av den obegränsade modellen för komplexa uppgifter.

cURL

Copycurl https://api.llamaaiapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Show me a list of 5 recent server errors."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llamaaiapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llamaaiapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Strömning

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)