Llama ai api: Panduan Mula Pantas

Pengesahan & URL Asas

Sambungkan dengan mengemas kini konfigurasi klien untuk menunjuk ke hujung sambungan khusus kami. Kunci API anda mengesahkan setiap permintaan, jadi pastikan ia selamat tetapi boleh diakses oleh aplikasi anda.

URL asas ialah HTTPS://api.llamaaiapi.com/v1. Anda tidak perlu mengubah header selain daripada header Authorization standard. Sistem kami mengesahkan kelayakan anda serta-merta. Jika kunci anda tiada atau luput, pelayan akan memulangkan ralat 401. Respons 402 bermakna kredit pra-dibayar anda telah habis. Respons 429 menunjukkan anda telah mencapai had kadar 300 permintaan setiap minit.

Perhatikan bahawa kredit adalah pra-dibayar melalui kripto sahaja. Tiada langganan bulanan. Kredit anda tidak luput, jadi anda boleh menghentikan penggunaan secara tidak terhingga.

Penamat Chat Completions

Hantar permintaan pertama anda ke hujung penyelesaian chat untuk menerima output teks. Gunakan pengenal pasti model "uncensored" untuk mengakses model berat terbuka khusus kami. Ia bukan GPT, Claude, atau model vendor lain.

Titik akhir menerima parameter standard. Anda menyediakan arahan sistem dan mesej pengguna. Model mengembalikan penyelesaian. Ini adalah antara muka teks masuk, teks keluar. Tiada jalinan, imej, atau audio dihasilkan di sini.

Konfigurasikan permintaan anda dengan parameter yang diperlukan. Model menyokong tetingkap konteks 100,000 token. Ini termasuk prompt input dan penyelesaian output. Output maksimum ialah 16,000 token per permintaan.

Integrasi SDK Python

Gunakan pustaka Python rasmi OpenAI untuk berinteraksi dengan API kami. Ia memerlukan perubahan konfigurasi yang minimum. Anda hanya perlu menetapkan URL asas dan menyediakan kunci API anda.

Mulakan klien dengan kunci anda. Tetapkan URL asas ke hujung kami. Luluskan mesej anda ke kaedah chat.completions.create. Library mengendalikan serialisasi dan penguraian respons.

Integrasi SDK Node

Integrasi dengan aplikasi Node.js anda dengan memasang pakej OpenAI. Konfigurasikan klien untuk menggunakan URL asas kami. Ini membolehkan anda menggunakan kaedah yang biasa dalam kod JavaScript atau TypeScript anda.

Tetapkan sifat apiKey dan baseURL. Panggil fungsi chat.completions.create. Respons mengandungi teks yang dijana. Anda boleh mengendalikan ralat dengan baik dalam fungsi async anda.

Respons Streaming Melalui SSE

Dayakan penstriman untuk penjanaan token masa nyata. Ini berguna untuk antara muka sembang yang memaparkan teks sejurus ia dihasilkan. Pelayan menghantar Server-Sent Events (SSE) untuk setiap pecahan.

Tetapkan parameter stream kepada true dalam permintaan anda. Iterasi melalui chunk respons. Gabungkan kandungan untuk membina mesej akhir. Chunk terakhir mengandungi statistik penggunaan token.

Mod JSON dan Parameter

Minta output terstruktur dengan menetapkan response_format kepada json_object. Ini memaksa model untuk mengembalikan JSON yang sah. Gunakan parameter seperti temperature dan top_p untuk mengawal kreativiti. Parameter stop membolehkan anda menentukan jujukan penamatan.

Pemanggilan fungsi juga disokong. Anda boleh menentukan alat dan membiarkan model memilih untuk memanggilnya. Ini mengembangkan kegunaan model tanpa sensor untuk tugas-tugas kompleks.

cURL

Copycurl https://api.llamaaiapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Show me a list of 5 recent server errors."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llamaaiapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llamaaiapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Aliran

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)