Llama ai api: Ghid de început rapid

Autentificare & URL de Bază

Conectați-vă actualizând configurația clientului pentru a indica către endpoint-ul nostru dedicat. Cheia API autentifică fiecare solicitare, așa că păstrați-o în siguranță, dar accesibilă aplicației dvs.

URL-ul de bază este HTTPS://api.llamaaiapi.com/v1. Nu trebuie să modificați antetele dincolo de antetul standard Authorization. Sistemul nostru validează acreditările dvs. instantaneu. Dacă cheia lipsește sau a expirat, serverul returnează o eroare 401. Un răspuns 402 înseamnă că creditul preplătit este epuizat. Un răspuns 429 indică faptul că ați atins limita de rată de 300 de solicitări pe minut.

Amintește că creditul este preplătit exclusiv prin crypto. Nu există abonamente lunare. Creditul tău nu expiră niciodată, așa că poți întrerupe utilizarea indefinit.

Endpoint-ul Chat Completări

Trimiteți prima solicitare către endpoint-ul de completări chat pentru a primi ieșiri text. Utilizați id-ul modelului "uncensored" pentru a accesa modelul nostru open-weight specific. Nu este GPT, Claude sau niciun alt model de furnizor.

Endpoint-ul acceptă parametri standard JSON. Furnizezi un prompt de sistem și mesaje de la utilizator. Modelul returnează un completament. Aceasta este o interfață text-in, text-out. Nu există embeddings, imagini sau audio generate aici.

Configurați solicitarea cu parametrii necesari. Modelul suportă o fereastră de context de 100,000 de tokeni. Acest lucru include atât promptul de intrare, cât și completarea de ieșire. Ieșirea maximă este de 16,000 de tokeni per solicitare.

Integrare SDK Python

Folosește biblioteca oficială Python OpenAI pentru a interacționa cu API-ul nostru. Necesită modificări minime de configurare. Trebuie doar să setezi URL-ul de bază și să furnizezi cheia API.

Inițializați clientul cu cheia. Setează URL-ul de bază la endpoint-ul nostru. Transmite mesajele tale metodei chat.completions.create. Biblioteca gestionează serializarea și analizarea răspunsului.

Integrare SDK Node

Integrare cu aplicația ta Node.js instalând pachetul OpenAI. Configurează clientul pentru a utiliza URL-ul nostru de bază. Acest lucru îți permite să folosești metode familiare în codul JavaScript sau TypeScript.

Stabilește proprietățile apiKey și baseURL. Apelați funcția chat.completions.create. Răspunsul conține textul generat. Poți gestiona erorile în mod elegant în funcțiile tale async.

Răspunsuri în streaming prin SSE

Activați streaming-ul pentru generarea tokenilor în timp real. Acest lucru este util pentru interfețele de chat care afișează text pe măsură ce este produs. Serverul trimite Server-Sent Events (SSE) pentru fiecare fragment.

Setează parametrul stream la true în solicitarea ta. Iterează peste bucățile de răspuns. Concatenează conținutul pentru a construi mesajul final. Ultima bucată conține statisticile de utilizare a tokenurilor.

Mod JSON și Parametri

Solicită output structurat setând response_format la json_object. Acest lucru forțează modelul să returneze JSON valid. Utilizează parametri precum temperature și top_p pentru a controla creativitatea. Parametrul stop îți permite să definești secvențe de terminare.

Se suportă funcționarea prin apeluri de funcții. Puteți defini instrumente și lăsați modelul să aleagă să le apeleze. Acest lucru extinde utilitatea modelului uncensored pentru sarcini complexe.

cURL

Copycurl https://api.llamaaiapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Show me a list of 5 recent server errors."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llamaaiapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llamaaiapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)