Llama ai api: Quickstart Guide

احراز هویت و URL پایه

اتصال از طریق به‌روزرسانی پیکربندی کلاینت برای اشاره به اندپوینت اختصاصی ما. کلید API شما هر درخواست را احراز هویت می‌کند، بنابراین آن را امن نگه دارید اما در دسترس برنامه خود.

URL پایه HTTPS://api.llamaaiapi.com/v1 است. نیازی به تغییر هدرها فراتر از هدر استاندارد Authorization ندارید. سیستم ما اعتبارنامه‌های شما را به سرعت اعتبارسنجی می‌کند. اگر کلید شما موجود نباشد یا منقضی شده باشد، سرور خطای 401 برمی‌گرداند. پاسخ 402 به معنای تمام شدن اعتبار پیش‌پرداخت شماست. پاسخ 429 نشان می‌دهد که به محدودیت نرخ 300 درخواست در دقیقه رسیده‌اید.

به یاد داشته باشید که اعتبار از طریق کریپتو فقط از پیش پرداخت می‌شود. اشتراک ماهانه وجود ندارد. اعتبار شما هرگز منقضی نمی‌شود، بنابراین می‌توانید استفاده را برای همیشه متوقف کنید.

نقطه پایانی تکمیل گفتگو

اولین درخواست خود را به نقطه پایانی تکمیل چت ارسال کنید تا خروجی متنی دریافت کنید. از شناسه مدل "uncensored" برای دسترسی به مدل وزن‌باز خاص ما استفاده کنید. این مدل GPT، Claude یا هیچ مدل دیگری از فروشندگان دیگر نیست.

endpoint پارامترهای استاندارد JSON را می‌پذیرد. شما یک پرامپت سیستمی و پیام‌های کاربر ارائه می‌دهید. مدل یک تکمیل را برمی‌گرداند. این یک رابط متن-ورودی، متن-خروجی است. اینجا امبدینگ، تصویر یا صوتی تولید نمی‌شود.

درخواست خود را با پارامترهای ضروری پیکربندی کنید. مدل از پنجره زمینه 100,000 توکن پشتیبانی می‌کند. این شامل هم پرامپت ورودی و هم تکمیل خروجی است. حداکثر خروجی 16,000 توکن در هر درخواست است.

یکپارچه‌سازی SDK Python

از کتابخانه رسمی پایتون OpenAI برای ارتباط با API ما استفاده کنید. این روش نیاز به تغییرات پیکربندی اندکی دارد. شما به سادگی آدرس پایه را تنظیم کرده و کلید API خود را ارائه می‌دهید.

کلاینت را با کلید خود مقداردهی اولیه کنید. URL پایه را به endpoint ما تنظیم کنید. پیام‌های خود را به متد chat.completions.create ارسال کنید. کتابخانه سریال‌سازی و تجزیه پاسخ را مدیریت می‌کند.

یکپارچه‌سازی Node SDK

ادغام با برنامه Node.js خود با نصب بسته OpenAI. کلاینت را پیکربندی کنید تا از URL پایه ما استفاده کند. این به شما اجازه می‌دهد از روش‌های آشنا در کد JavaScript یا TypeScript خود استفاده کنید.

ویژگی‌های apiKey و baseURL را تنظیم کنید. تابع chat.completions.create را فراخوانی کنید. پاسخ شامل متن تولید شده است. می‌توانید خطاها را به صورت ایمن در توابع async خود مدیریت کنید.

پاسخ‌های استریم از طریق SSE

جریان‌سازی را برای تولید بلادرنگ توکن فعال کنید. این برای رابط‌های چتی که متن را به محض تولید نمایش می‌دهند مفید است. سرور برای هر قطعه از رویدادهای ارسال‌شده از سرور (SSE) استفاده می‌کند.

پارامتر stream را روی true در درخواست خود تنظیم کنید. روی قطعات پاسخ حلقه بزنید. محتوا را برای ساخت پیام نهایی به هم بچسبانید. قطعه آخر شامل آمار استفاده از توکن است.

حالت JSON و پارامترها

خروجی ساختاریافته را با تنظیم response_format به json_object درخواست کنید. این کار مدل را مجبور می‌کند تا JSON معتبر برگرداند. از پارامترهایی مانند temperature و top_p برای کنترل خلاقیت استفاده کنید. پارامتر stop به شما اجازه می‌دهد دنباله‌های پایان را تعریف کنید.

فراخوانی تابع پشتیبانی می‌شود. می‌توانید ابزارها را تعریف کنید و بگذارید مدل انتخاب کند که کدام‌یک را فراخوانی کند. این قابلیت کاربرد مدل بدون سانسور را برای وظایف پیچیده افزایش می‌دهد.

cURL

Copycurl https://api.llamaaiapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Show me a list of 5 recent server errors."}]
  }'

پایتون

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llamaaiapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llamaaiapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

جریان‌سازی

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)