Llama ai api: Guía de Inicio Rápido

Autenticación & URL base

Conéctate actualizando la configuración de tu cliente para apuntar a nuestro endpoint dedicado. Tu clave API autentica cada solicitud, así que mantenla segura pero accesible para tu aplicación.

La URL base es HTTPS://api.llamaaiapi.com/v1. No necesitas modificar los encabezados más allá del encabezado estándar Authorization. Nuestro sistema valida tus credenciales al instante. Si tu clave falta o está expirada, el servidor devuelve un error 401. Una respuesta 402 significa que tu crédito prepagado se ha agotado. Una respuesta 429 indica que has alcanzado el límite de velocidad de 300 solicitudes por minuto.

Recuerda que el crédito se prepagó solo mediante criptomonedas. No hay suscripciones mensuales. Tu crédito nunca vence, por lo que puedes pausar el uso indefinidamente.

El endpoint de finalización de chat

Envía tu primera solicitud al endpoint de finalización de chat para recibir salida de texto. Utiliza el id del modelo "uncensored" para acceder a nuestro modelo específico de peso abierto. No es GPT, Claude ni ningún otro modelo de proveedor.

El endpoint acepta parámetros estándar. Proporcionas un prompt del sistema y mensajes del usuario. El modelo devuelve una finalización. Esta es una interfaz de texto de entrada, texto de salida. No hay embeddings, imágenes ni audio generados aquí.

Configura tu solicitud con los parámetros necesarios. El modelo admite una ventana de contexto de 100,000 tokens. Esto incluye tanto el prompt de entrada como la completación de salida. La salida máxima es de 16,000 tokens por solicitud.

Integración del SDK de Python

Utiliza la biblioteca oficial de Python de OpenAI para interactuar con nuestra API. Requiere cambios mínimos en la configuración. Simplemente establece la URL base y proporciona tu clave de API.

Inicializa el cliente con tu clave. Establece la URL base en nuestro endpoint. Pasa tus mensajes al método chat.completions.create. La biblioteca maneja la serialización y el análisis de la respuesta.

Integración del SDK Node

Integra con tu aplicación Node.js instalando el paquete OpenAI. Configura el cliente para usar nuestra URL base. Esto te permite usar métodos familiares en tu código JavaScript o TypeScript.

Establece las propiedades apiKey y baseURL. Llama a la función chat.completions.create. La respuesta contiene el texto generado. Puedes manejar los errores de forma elegante dentro de tus funciones asíncronas.

Respuestas en streaming vía SSE

Habilita el streaming para la generación de tokens en tiempo real. Esto es útil para interfaces de chat que muestran el texto a medida que se produce. El servidor envía Server-Sent Events (SSE) para cada fragmento.

Establece el parámetro stream a true en tu solicitud. Itera sobre los fragmentos de respuesta. Concatena el contenido para construir el mensaje final. El último fragmento contiene las estadísticas de uso de tokens.

Modo JSON y parámetros

Solicita salida estructurada estableciendo response_format a json_object. Esto obliga al modelo a devolver JSON válido. Usa parámetros como temperature y top_p para controlar la creatividad. El parámetro stop te permite definir secuencias de terminación.

También se admite la llamada a funciones. Puedes definir herramientas y permitir que el modelo elija llamarlas. Esto amplía la utilidad del modelo uncensored para tareas complejas.

cURL

Copycurl https://api.llamaaiapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Show me a list of 5 recent server errors."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llamaaiapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llamaaiapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Transmisión

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)