Llama ai api : Guide de démarrage rapide

Authentification & URL de base

Connectez-vous en mettant à jour la configuration de votre client pour pointer vers notre point de terminaison dédié. Votre clé API authentifie chaque requête, alors gardez-la sécurisée mais accessible à votre application.

L'URL de base est HTTPS://api.llamaaiapi.com/v1. Vous n'avez pas besoin de modifier les en-têtes au-delà de l'en-tête Authorization standard. Notre système valide vos identifiants instantanément. Si votre clé est manquante ou expirée, le serveur renvoie une erreur 401. Une réponse 402 signifie que votre crédit prépayé est épuisé. Une réponse 429 indique que vous avez atteint la limite de taux de 300 requêtes par minute.

N'oubliez pas que le crédit est prépayé uniquement via crypto. Il n'y a pas d'abonnements mensuels. Votre crédit n'expire jamais, vous pouvez donc suspendre l'utilisation indéfiniment.

L'endpoint Chat Completions

Envoyez votre première requête au point de terminaison de complétion de chat pour recevoir une sortie textuelle. Utilisez l'identifiant de modèle "uncensored" pour accéder à notre modèle spécifique à poids ouverts. Ce n'est pas GPT, Claude ou tout autre modèle de fournisseur.

Le point de terminaison accepte des charges utiles JSON standard. Vous fournissez une invite système et des messages utilisateur. Le modèle renvoie une complétion. Il s'agit d'une interface texte en entrée, texte en sortie. Il n'y a pas de génération d'embeddings, d'images ou d'audio ici.

Configurez votre requête avec les paramètres nécessaires. Le modèle prend en charge une fenêtre de contexte de 100,000 tokens. Cela inclut à la fois l'invite d'entrée et la complétion de sortie. La sortie maximale est de 16,000 tokens par requête.

Intégration du SDK Python

Utilisez la bibliothèque Python officielle d'OpenAI pour interagir avec notre API. Elle nécessite des modifications de configuration minimales. Vous devez simplement définir l'URL de base et fournir votre clé API.

Initialisez le client avec votre clé. Définissez l'URL de base sur notre point de terminaison. Transmettez vos messages à la méthode chat.completions.create. La bibliothèque gère la sérialisation et l'analyse de la réponse.

Intégration du SDK Node

Intégrer à votre application Node.js en installant le package OpenAI. Configurez le client pour utiliser notre URL de base. Cela vous permet d'utiliser des méthodes familières dans votre code JavaScript ou TypeScript.

Définissez les propriétés apiKey et baseURL. Appelez la fonction chat.completions.create. La réponse contient le texte généré. Vous pouvez gérer les erreurs de manière élégante dans vos fonctions async.

Réponses en streaming via SSE

Activez le streaming pour la génération de jetons en temps réel. Ceci est utile pour les interfaces de chat qui affichent le texte au fur et à mesure de sa production. Le serveur envoie des Server-Sent Events (SSE) pour chaque bloc.

Définissez le paramètre stream sur true dans votre requête. Itérez sur les chunks de réponse. Concaténez le contenu pour construire le message final. Le dernier chunk contient les statistiques d'utilisation des jetons.

Mode JSON et paramètres

Demandez une sortie structurée en définissant response_format sur json_object. Cela force le modèle à retourner du JSON valide. Utilisez des paramètres comme temperature et top_p pour contrôler la créativité. Le paramètre stop vous permet de définir des séquences d'arrêt.

L'appel de fonctions est également pris en charge. Vous pouvez définir des outils et laisser le modèle choisir de les appeler. Cela élargit l'utilité du modèle uncensored pour les tâches complexes.

cURL

Copycurl https://api.llamaaiapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Show me a list of 5 recent server errors."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llamaaiapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llamaaiapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)