Llama ai api: Guida Rapida

Autenticazione & URL di Base

Connettiti aggiornando la configurazione del client per puntare al nostro endpoint dedicato. La tua chiave API autentica ogni richiesta, quindi mantienila sicura ma accessibile alla tua applicazione.

L'URL di base è HTTPS://api.llamaaiapi.com/v1. Non è necessario modificare le intestazioni oltre all'intestazione Authorization standard. Il nostro sistema convalida le tue credenziali istantaneamente. Se la tua chiave è mancante o scaduta, il server restituisce un errore 401. Una risposta 402 significa che il tuo credito prepagato è esaurito. Una risposta 429 indica che hai raggiunto il limite di velocità di 300 richieste al minuto.

Ricorda che il credito è prepagato solo tramite crypto. Non ci sono abbonamenti mensili. Il tuo credito non scade mai, quindi puoi interrompere l'uso indefinitamente.

L'endpoint Chat Completions

Invia la tua prima richiesta all'endpoint di completamento chat per ricevere output testuale. Usa l'ID del modello "uncensored" per accedere al nostro specifico modello open-weight. Non è GPT, Claude o alcun altro modello di un fornitore.

L'endpoint accetta parametri standard come. Fornisci un prompt di sistema e messaggi utente. Il modello restituisce un completamento. Questa è un'interfaccia text-in, text-out. Non ci sono embedding, immagini o audio generati qui.

Configura la tua richiesta con i parametri necessari. Il modello supporta una finestra di contesto di 100,000 token. Questo include sia il prompt di input che il completamento di output. L'output massimo è di 16,000 token per richiesta.

Integrazione SDK Python

Utilizza la libreria Python ufficiale di OpenAI per interagire con la nostra API. Richiede modifiche minime alla configurazione. Devi semplicemente impostare l'URL di base e fornire la tua chiave API.

Inizializza il client con la tua chiave. Imposta l'URL base sul nostro endpoint. Passa i tuoi messaggi al metodo chat.completions.create. La libreria gestisce la serializzazione e l'analisi della risposta.

Integrazione SDK Node

Integra con la tua applicazione Node.js installando il pacchetto OpenAI. Configura il client per utilizzare il nostro URL di base. Questo ti permette di utilizzare metodi familiari nel tuo codice JavaScript o TypeScript.

Imposta le proprietà apiKey e baseURL. Chiama la funzione chat.completions.create. La risposta contiene il testo generato. Puoi gestire gli errori in modo elegante all'interno delle tue funzioni async.

Risposte in streaming tramite SSE

Abilita lo streaming per la generazione in tempo reale dei token. È utile per le interfacce chat che visualizzano il testo man mano che viene prodotto. Il server invia Server-Sent Events (SSE) per ogni chunk.

Imposta il parametro stream su true nella richiesta. Itera sui chunk di risposta. Concatena il contenuto per costruire il messaggio finale. L'ultimo chunk contiene le statistiche di utilizzo dei token.

Modalità JSON e parametri

Richiedi output strutturato impostando response_format su json_object. Questo forza il modello a restituire JSON valido. Usa parametri come temperature e top_p per controllare la creatività. Il parametro stop ti permette di definire sequenze di terminazione.

Il function calling è supportato. Puoi definire gli strumenti e lasciare che il modello scelga di chiamarli. Questo amplia l'utilità del modello uncensored per attività complesse.

cURL

Copycurl https://api.llamaaiapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Show me a list of 5 recent server errors."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llamaaiapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llamaaiapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)