Llama ai api：快速入門指南

驗證與 Base URL

透過更新客戶端設定以指向我們的專屬端點來連線。您的 API 金鑰會驗證每個請求，因此請保持其安全性，但需讓應用程式可存取。

基礎網址為 HTTPS://api.llamaaiapi.com/v1。您無需修改標頭，只需使用標準的 Authorization 標頭即可。我們的系統會立即驗證您的憑證。如果缺少金鑰或金鑰已過期，伺服器將返回 401 錯誤。402 回應表示您的預付額度已耗盡。429 回應表示您已達到每分鐘 300 次請求的速率限制。

請記住，信用額僅透過加密貨幣預付。沒有月度訂閱。您的信用額永不過期，因此您可以無限期暫停使用。

Chat Completions 端點

向聊天完成端點發送第一個請求以接收文字輸出。使用模型 ID「uncensored」來存取我們特定的開放權重模型。它不是 GPT、Claude 或其他供應商提供的模型。

端點接受標準參數，如。你提供系統提示詞和使用者訊息。模型返回完成內容。這是一個文字輸入、文字輸出的介面。這裡沒有嵌入、影像或音訊生成。

使用必要的參數配置您的請求。該模型支援 100,000 個 token 的上下文窗口。這包括輸入提示和輸出補全。每次請求的最大輸出為 16,000 個 token。

Python SDK 集成

使用官方 OpenAI Python 函式庫與我們的 API 互動。它只需要極少的設定變更。您只需設定 base URL 並提供您的 API 金鑰即可。

使用您的金鑰初始化客戶端。將基礎 URL 設定為我們的端點。將您的訊息傳遞給 chat.completions.create 方法。該函式庫處理序列化和回應解析。

Node SDK 整合

透過安裝 OpenAI 套件，即可將您的 Node.js 應用程式進行整合。設定客戶端以使用我們的基礎 URL。這讓您在 JavaScript 或 TypeScript 程式碼中能夠使用熟悉的 API 方法。

設定 apiKey 和 baseURL 屬性。呼叫 chat.completions.create 函數。回應包含生成的文字。您可以在 async 函數中優雅地處理錯誤。

透過 SSE 的串流回應

啟用串流以即時生成 Token。這對於顯示即時生成文字的聊天介面很有用。伺服器會為每個區塊傳送伺服器發送事件（SSE）。

在您的請求中將 stream 參數設為 true。遍歷回應區塊。串連內容以建構最終訊息。最後一個區塊包含 token 用量統計。

JSON 模式與參數

請求透過將 response_format 設定為 json_object 來取得結構化輸出。這會強制模型返回有效的 JSON。使用 temperature 和 top_p 等參數來控制創造力。stop 參數允許您定義終止序列。

也支援函式呼叫。您可以定義工具並讓模型選擇呼叫它們。這擴大了無限制模型在複雜任務中的實用性。

cURL

Copycurl https://api.llamaaiapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Show me a list of 5 recent server errors."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llamaaiapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llamaaiapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

串流

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)