Llama ai api: Hızlı Başlangıç Rehberi

Kimlik Doğrulama & Base URL

İstemci yapılandırmanızı özel uç noktamıza işaret edecek şekilde güncelleyerek bağlanın. API anahtarınız her isteği doğrular, bu nedenle güvenli tutun ancak uygulamanızın erişebileceği şekilde bırakın.

Temel URL HTTPS://api.llamaaiapi.com/v1 şeklindedir. Standart Authorization başlığı dışında başlıkları değiştirmenize gerek yoktur. Sistemimiz kimlik bilgilerinizi anında doğrular. Anahtarınız eksikse veya süresi dolmuşsa sunucu 401 hatası döndürür. 402 yanıtı, ön ödemeli kredinizin tükendiğini gösterir. 429 yanıtı, dakikada 300 isteklik hız sınırına ulaştığınızı belirtir.

Bakiyenin yalnızca kripto ile ön ödemeli olduğunu unutmayın. Aylık abonelikler yoktur. Bakiyeniz süresiz olarak kullanılmayana kadar süresi dolmaz.

Chat Completions Endpoint

İlk isteğinizi gönderin

Uç nokta, standart JSON yüklerini kabul eder. Bir sistem prompt'u ve kullanıcı mesajları sağlarsınız. Model bir tamamlama döndürür. Bu, metni alır, metni verir bir arayüzdür. Burada gömme (embedding), görüntü veya ses üretilmez.

İsteğinizi gerekli parametrelerle yapılandırın. Model 100,000 token'lık bir bağlam penceresini destekler. Bu, hem girdi promptunu hem de çıktı tamamlamasını içerir. Maksimum çıktı isteği başına 16,000 token'dır.

Python SDK Entegrasyonu

Resmi OpenAI Python kütüphanesini kullanarak API'mizle etkileşim kurun. Minimum yapılandırma değişikliği gerektirir. Base URL'yi ayarlamanız ve API anahtarınızı sağlamanız yeterlidir.

İstemciyi anahtarınız ile başlatın. Temel URL'yi uç noktamıza ayarlayın. Mesajlarınızı chat.completions.create yöntemine iletin. Kütüphane seri hale getirmeyi ve yanıt ayrışmasını yönetir.

Node SDK Entegrasyonu

OpenAI paketini yükleyerek Node.js uygulamanıza entegre edin. İstemciyi temel URL'mizi kullanacak şekilde yapılandırın. Bu, JavaScript veya TypeScript kodunuzda tanıdık yöntemleri kullanmanızı sağlar.

apiKey ve baseURL özelliklerini ayarlayın. chat.completions.create işlevini çağırın. Yanıt, oluşturulan metni içerir. Hataları asenkron işlevleriniz içinde zarifçe yönetebilirsiniz.

SSE Üzerinden Akış Yanıtları

Gerçek zamanlı token üretimi için akış özelliğini etkinleştirin. Bu, metnin oluşturulurken görüntülendiği sohbet arayüzleri için faydalıdır. Sunucu, her parça için Sunucu Tarafından Gönderilen Etkinlikler (SSE) gönderir.

İsteğinizde stream parametresini true olarak ayarlayın. Yanıt parçaları üzerinde yineleme yapın. İçeriği birleştirerek son mesajı oluşturun. Son parça, belirteç kullanım istatistiklerini içerir.

JSON Modu ve Parametreler

Yanıt_formatını json_object olarak ayarlayarak yapılandırılmış çıktı sağlayın. Bu, modelin geçerli JSON döndürmesini zorlar. Yaratıcılığı kontrol etmek için sıcaklık ve top_p gibi parametreleri kullanın. stop parametresi, sonlandırma dizilerini tanımlamanıza olanak tanır.

Fonksiyon çağırma desteklenir. Araçları tanımlayabilir ve modelin bunları çağırıp çağırmayacağına karar vermesine izin verebilirsiniz. Bu, uncensored modelin karmaşık görevler için kullanım alanını genişletir.

cURL

Copycurl https://api.llamaaiapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Show me a list of 5 recent server errors."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llamaaiapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llamaaiapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Akış

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)