Llama ai api: Οδηγός Γρήγορης Έναρξης

Πιστοποίηση & Base URL

Συνδεθείτε ενημερώνοντας τις ρυθμίσεις του πελάτη σας ώστε να κατευθύνονται στο αποκλειστικό μας endpoint. Το API key σας πιστοποιεί κάθε αίτημα, οπότε διατηρήστε το ασφαλές αλλά προσβάσιμο στην εφαρμογή σας.

Η βασική διεύθυνση URL είναι HTTPS://api.llamaaiapi.com/v1. Δεν χρειάζεται να τροποποιήσετε τις κεφαλίδες πέρα από την τυπική κεφαλίδα Authorization. Το σύστημά μας επαληθεύει τα διαπιστευτήριά σας άμεσα. Αν λείπει ή έχει λήξει το key σας, ο διακομιστής επιστρέφει σφάλμα 401. Μια απόκριση 402 σημαίνει ότι εξαντλήθηκαν τα προπληρωμένα κεφάλαιά σας. Μια απόκριση 429 υποδεικνύει ότι έχετε φτάσει στο όριο ρυθμού 300 αιτήσεων ανά λεπτό.

Θυμηθείτε ότι το πιστωτικό υπόλοιπο είναι προπληρωμένο μόνο μέσω crypto. Δεν υπάρχουν μηνιαίες συνδρομές. Το πιστωτικό σας υπόλοιπο δεν λήγει ποτέ, οπότε μπορείτε να διακόψετε τη χρήση για απεριόριστο διάστημα.

Το Τερματικό Chat Completions

Στείλτε το πρώτο σας αίτημα στο endpoint ολοκλήρωσης συνομιλίας για να λάβετε έξοδο κειμένου. Χρησιμοποιήστε το model id "uncensored" για να αποκτήσετε πρόσβαση στο συγκεκριμένο μοντέλο ανοιχτού βάρους. Δεν είναι GPT, Claude ή κάποιο άλλο μοντέλο προμηθευτή.

Το σημείο τερματισμού δέχεται τυπικά payloads JSON. Παρέχετε ένα system prompt και μηνύματα χρήστη. Το μοντέλο επιστρέφει μια συμπλήρωση. Αυτή είναι μια διεπαφή κείμενο-εισόδου, κείμενο-εξόδου. Δεν υπάρχουν embeddings, εικόνες ή ήχος που παράγονται εδώ.

Ρυθμίστε το αίτημά σας με τις απαραίτητες παραμέτρους. Το μοντέλο υποστηρίζει context window 100,000 tokens. Αυτό περιλαμβάνει τόσο το input prompt όσο και την output completion. Μέγιστη output είναι 16,000 tokens ανά αίτημα.

Ενσωμάτωση SDK Python

Χρησιμοποιήστε την επίσημη βιβλιοθήκη Python της OpenAI για να αλληλεπιδράσετε με το API μας. Απαιτεί ελάχιστες αλλαγές διαμόρφωσης. Απλώς ορίστε τη βάση URL και παρέχετε το API key σας.

Προσδιορίστε τον πελάτη με το key σας. Ορίστε το base URL στο endpoint μας. Διαβιβάστε τα μηνύματά σας στη μέθοδο chat.completions.create. Η βιβλιοθήκη διαχειρίζεται τη σειριοποίηση και την ανάλυση της απόκρισης.

Node SDK Integration

Ενσωμάτωση με την εφαρμογή Node.js σας εγκαθιστώντας το πακέτο OpenAI. Ρυθμίστε τον client να χρησιμοποιεί το base URL μας. Αυτό σας επιτρέπει να χρησιμοποιείτε εξοικειωμένες μεθόδους στον κώδικά σας JavaScript ή TypeScript.

Ορίστε τις ιδιότητες apiKey και baseURL. Καλέστε τη συνάρτηση chat.completions.create. Η απόκριση περιέχει το παραγόμενο κείμενο. Μπορείτε να χειριστείτε σφάλματα με ευγένεια εντός των async συναρτήσεών σας.

Streaming Αποκρίσεις μέσω SSE

Ενεργοποιήστε τη ροή για παραγωγή tokens σε πραγματικό χρόνο. Αυτό είναι χρήσιμο για διεπαφές συνομιλίας που εμφανίζουν κείμενο καθώς παράγεται. Ο διακομιστής στέλνει Server-Sent Events (SSE) για κάθε τμήμα.

Ορίστε την παράμετρο stream σε true στην αίτησή σας. Επαναλάβετε τα chunks απόκρισης. Συνδέστε το περιεχόμενο για να χτίσετε το τελικό μήνυμα. Το τελευταίο chunk περιέχει στατιστικά χρήσης tokens.

Λειτουργία JSON και Παράμετροι

Εκτελεί δομημένη έξοδο ρυθμίζοντας το response_format σε json_object. Αυτό αναγκάζει το μοντέλο να επιστρέψει έγκυρο JSON. Χρησιμοποιήστε παραμέτρους όπως temperature και top_p για τον έλεγχο της δημιουργικότητας. Η παράμετρος stop σας επιτρέπει να ορίσετε αλληλουχίες τερματισμού.

Υποστηρίζεται η κλήση συναρτήσεων. Μπορείτε να ορίσετε εργαλεία και να αφήσετε το μοντέλο να επιλέξει να τα καλέσει. Αυτό διευρύνει την αξιοπρέπεια του μοντέλου uncensored για σύνθετες εργασίες.

cURL

Copycurl https://api.llamaaiapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Show me a list of 5 recent server errors."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llamaaiapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llamaaiapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Ροή

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)