Llama ai api: Panduan Cepat

Autentikasi & URL Dasar

Terhubung dengan memperbarui konfigurasi klien untuk mengarah ke endpoint khusus kami. Kunci API Anda mengautentikasi setiap permintaan, jadi jaga agar tetap aman tetapi dapat diakses oleh aplikasi Anda.

URL dasar adalah HTTPS://api.llamaaiapi.com/v1. Anda tidak perlu memodifikasi header selain header Authorization standar. Sistem kami memvalidasi kredensial Anda secara instan. Jika kunci Anda hilang atau kedaluwarsa, server mengembalikan kesalahan 401. Respons 402 berarti kredit prabayar Anda telah habis. Respons 429 menunjukkan Anda telah mencapai batas laju 300 permintaan per menit.

Ingat bahwa kredit adalah prabayar melalui crypto saja. Tidak ada langganan bulanan. Kredit Anda tidak pernah kedaluwarsa, sehingga Anda dapat menghentikan penggunaan secara tak terbatas.

Endpoint Chat Completions

Kirimkan permintaan pertama Anda ke endpoint penyelesaian obrolan untuk menerima output teks. Gunakan ID model "uncensored" untuk mengakses model bobot terbuka kami yang spesifik. Ini bukan GPT, Claude, atau model vendor lain.

Endpoint menerima parameter standar. Anda menyediakan prompt sistem dan pesan pengguna. Model mengembalikan penyelesaian. Ini adalah antarmuka teks masuk, teks keluar. Tidak ada embedding, gambar, atau audio yang dihasilkan di sini.

Konfigurasikan permintaan Anda dengan parameter yang diperlukan. Model ini mendukung jendela konteks sebesar 100,000 token. Ini mencakup baik prompt input maupun penyelesaian output. Output maksimum adalah 16,000 token per permintaan.

Integrasi SDK Python

Gunakan pustaka Python resmi OpenAI untuk berinteraksi dengan API kami. Ini memerlukan perubahan konfigurasi yang minimal. Anda cukup mengatur URL dasar dan menyediakan kunci API Anda.

Inisialisasi klien dengan kunci Anda. Tetapkan URL dasar ke endpoint kami. Leksankan pesan Anda ke metode chat.completions.create. Pustaka menangani serialisasi dan parsing respons.

Integrasi SDK Node

Integrasi dengan aplikasi Node.js Anda dengan menginstal paket OpenAI. Konfigurasikan klien untuk menggunakan URL dasar kami. Ini memungkinkan Anda menggunakan metode yang akrab dalam kode JavaScript atau TypeScript Anda.

Atur properti apiKey dan baseURL. Panggil fungsi chat.completions.create. Respons berisi teks yang dihasilkan. Anda dapat menangani error secara elegan dalam fungsi async Anda.

Respons Streaming melalui SSE

Aktifkan streaming untuk generasi token real-time. Hal ini berguna untuk antarmuka obrolan yang menampilkan teks saat teks tersebut dihasilkan. Server mengirim Server-Sent Events (SSE) untuk setiap potongan.

Atur parameter stream menjadi true dalam permintaan Anda. Iterasi melalui chunk respons. Gabungkan konten untuk membangun pesan akhir. Chunk terakhir berisi statistik penggunaan token.

Mode JSON dan Parameter

Meminta output terstruktur dengan mengatur response_format menjadi json_object. Ini memaksa model untuk mengembalikan JSON yang valid. Gunakan parameter seperti temperature dan top_p untuk mengontrol kreativitas. Parameter stop memungkinkan Anda menentukan urutan terminasi.

Pemanggilan fungsi juga didukung. Anda dapat mendefinisikan alat dan membiarkan model memilih untuk memanggilnya. Ini memperluas utilitas model uncensored untuk tugas-tugas kompleks.

cURL

Copycurl https://api.llamaaiapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Show me a list of 5 recent server errors."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llamaaiapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llamaaiapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)