Llama ai api：快速入门指南

认证与基础 URL

通过更新客户端配置以指向我们的专用端点进行连接。您的 API 密钥对每个请求进行身份验证，因此请确保其安全但可供您的应用程序访问。

基础 URL 为 HTTPS://api.llamaaiapi.com/v1。您无需修改标准 Authorization 请求头之外的其他请求头。我们的系统会即时验证您的凭据。如果缺少密钥或密钥已过期，服务器将返回 401 错误。402 响应表示您的预付费额度已耗尽。429 响应表示您已达到每分钟 300 次请求的速率限制。

请记住，信用额度仅通过加密货币预付。没有月度订阅。您的信用额度永不过期，因此您可以无限期暂停使用。

Chat Completions 端点

向聊天补全端点发送请求以获取文本输出。使用模型 ID "uncensored" 访问我们特定的开源模型。它不是 GPT、Claude 或其他供应商的模型。

端点接受标准的 JSON 负载。你提供系统提示和用户消息。模型返回补全内容。这是一个文本输入、文本输出的接口。这里没有嵌入、图像或音频生成。

使用必要的参数配置您的请求。该模型支持 100,000 个 token 的上下文窗口。这包括输入提示和输出补全。每次请求的最大输出为 16,000 个 token。

Python SDK 集成

使用官方 OpenAI Python 库与我们的 API 交互。它只需要极少的配置更改。您只需设置 base URL 并提供 API 密钥即可。

使用您的密钥初始化客户端。将基础 URL 设置为我们的端点。将消息传递给 chat.completions.create 方法。库处理序列化和响应解析。

Node SDK 集成

通过安装 OpenAI 包将 Node.js 应用接入。配置客户端以使用我们的基础 URL。这样你就可以在 JavaScript 或 TypeScript 代码中使用熟悉的方法。

设置 apiKey 和 baseURL 属性。调用 chat.completions.create 函数。响应包含生成的文本。你可以在异步函数中优雅地处理错误。

通过 SSE 实现流式响应

启用流式传输以实现实时 Token 生成。这对于按生成顺序显示文本的聊天界面非常有用。服务器为每个数据块发送服务器发送事件（SSE）。

在请求中将 stream 参数设置为 true。遍历响应 chunks。连接内容以构建最终消息。最后一个 chunk 包含 token 使用统计信息。

JSON 模式与参数

通过将 response_format 设置为 json_object 请求结构化输出。这会强制模型返回有效的 JSON。使用 temperature 和 top_p 等参数来控制创造性。stop 参数允许您定义终止序列。

同样支持函数调用。您可以定义工具，让模型选择调用。这扩展了无限制模型在复杂任务中的实用性。

cURL

Copycurl https://api.llamaaiapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Show me a list of 5 recent server errors."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llamaaiapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llamaaiapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

流式传输

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)