Llama ai api: क्विकस्टार्ट गाइड

प्रमाणीकरण & बेस URL

अपने क्लाइंट कॉन्फ़िगरेशन को हमारे समर्पित एंडपॉइंट की ओर इशारा करने के लिए अपडेट करके कनेक्ट करें। आपकी API कुंजी हर अनुरोध को प्रमाणीकृत करती है, इसलिए इसे सुरक्षित रखें लेकिन अपने एप्लिकेशन के लिए सुलभ रखें।

बेस यूआरएल HTTPS://api.llamaaiapi.com/v1 है। आपको मानक Authorization हेडर के अलावा हेडर में कोई संशोधन करने की आवश्यकता नहीं है। हमारा सिस्टम तुरंत आपकी क्रेडेंशियल की जांच करता है। यदि आपकी कुंजी गायब है या समाप्त हो गई है, तो सर्वर एक 401 त्रुटि लौटाता है। एक 402 प्रतिक्रिया का अर्थ है कि आपकी पूर्व-भुगतान क्रेडिट समाप्त हो गई है। एक 429 प्रतिक्रिया संकेत देती है कि आप प्रति मिनट 300 अनुरोधों की दर सीमा पर पहुंच गए हैं।

याद रखें कि क्रेडिट केवल क्रिप्टो के माध्यम से पूर्व-भुगतान किया जाता है। कोई मासिक सदस्यता नहीं है। आपका क्रेडिट कभी समाप्त नहीं होता, इसलिए आप उपयोग को अनिश्चित काल के लिए रोक सकते हैं।

चैट कंप्लीशंस एंडपॉइंट

टेक्स्ट आउटपुट प्राप्त करने के लिए चैट कंप्लीशन एंडपॉइंट पर अपना पहला अनुरोध भेजें। हमारे विशिष्ट ओपन-वेइट मॉडल तक पहुँचने के लिए मॉडल आईडी "uncensored" का उपयोग करें। यह GPT, Claude या किसी अन्य वेंडर का मॉडल नहीं है।

एंडपॉइंट मानक JSON पेलोड स्वीकार करता है। आप सिस्टम प्रॉम्प्ट और उपयोगकर्ता संदेश प्रदान करते हैं। मॉडल एक पूर्ण प्रतिक्रिया (completion) लौटाता है। यह एक टेक्स्ट-इन, टेक्स्ट-आउट इंटरफ़ेस है। यहाँ कोई एम्बेडिंग, छवियां या ऑडियो उत्पन्न नहीं होते हैं।

अपने अनुरोध को आवश्यक पैरामीटर के साथ कॉन्फ़िगर करें। मॉडल 100,000 टोकन के संदर्भ विंडो का समर्थन करता है। इसमें इनपुट प्रॉम्प्ट और आउटपुट पूर्णता दोनों शामिल हैं। प्रति अनुरोध अधिकतम आउटपुट 16,000 टोकन है।

Python SDK इंटीग्रेशन

हमारे API के साथ इंटरैक्ट करने के लिए आधिकारिक OpenAI Python लाइब्रेरी का उपयोग करें। इसमें न्यूनतम कॉन्फ़िगरेशन परिवर्तनों की आवश्यकता होती है। आपको बस बेस URL सेट करना है और अपनी API कुंजी प्रदान करनी है।

अपनी कुंजी के साथ क्लाइंट को इनिशियलाइज़ करें। बेस URL को हमारे एंडपॉइंट पर सेट करें। अपने संदेशों को chat.completions.create विधि में पास करें। लाइब्रेरी सीरियलाइज़ेशन और response पार्सिंग को हैंडल करती है।

Node SDK एकीकरण

OpenAI पैकेज को इंस्टॉल करके अपने Node.js एप्लिकेशन के साथ एकीकृत करें। हमारे बेस यूआरएल का उपयोग करने के लिए क्लाइंट कॉन्फ़िगर करें। इससे आपको अपने JavaScript या TypeScript कोड में परिचित विधियों का उपयोग करने की अनुमति मिलती है।

apiKey और baseURL गुणों को सेट करें। chat.completions.create फ़ंक्शन को कॉल करें। प्रतिक्रिया में जनरेटेड टेक्स्ट होता है। आप अपने async फ़ंक्शंस के भीत्र त्रुटियों का प्रबंधन कर सकते हैं।

SSE के माध्यम से स्ट्रीमिंग रिस्पॉन्सेस

वास्तविक समय में टोकन जनरेशन के लिए स्ट्रीमिंग सक्षम करें। यह उन चैट इंटरफ़ेस के लिए उपयोगी है जो टेक्स्ट को उत्पादित होते ही प्रदर्शित करते हैं। सर्वर प्रत्येक चंक के लिए Server-Sent Events (SSE) भेजता है।

अपने अनुरोध में stream पैरामीटर को true पर सेट करें। response चंक पर पुनरावृत्ति करें। अंतिम संदेश बनाने के लिए सामग्री को कॉन्कैटिनेट करें। अंतिम चंक में टोकन उपयोग सांख्यिकी शामिल होती है।

JSON मोड और पैरामीटर

प्रतिक्रिया_फॉर्मेट को json_object पर सेट करके संरचित आउटपुट अनुरोध करें। यह मॉडल को वैध JSON लौटाने के लिए बाध्य करता है। रचनाशीलता को नियंत्रित करने के लिए तापमान और top_p जैसे पैरामीटर का उपयोग करें। stop पैरामीटर आपको समाप्ति अनुक्रम परिभाषित करने की अनुमति देता है।

फंक्शन कॉलिंग भी समर्थित है। आप टूल परिभाषित कर सकते हैं और मॉडल को चुनने दे सकते हैं कि किसे इन्वोक करना है। यह असींसर मॉडल की उपयोगिता को जटिल कार्यों के लिए बढ़ाता है।

cURL

Copycurl https://api.llamaaiapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Show me a list of 5 recent server errors."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llamaaiapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llamaaiapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

स्ट्रीमिंग

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)