Llama ai api: Pika-aloitusopas

Todennus & Base URL

Yhdistä päivittämällä asiakasohjelman määritykset osoittamaan omistautuneeseen päätepisteeseemme. API-avaimesi todentaa jokaisen pyynnön, joten pidä se turvallisena mutta saatavilla sovelluksellesi.

Perus-URL on HTTPS://api.llamaaiapi.com/v1. Sinun ei tarvitse muuttaa otsikoita standardin Authorization-otsikon lisäksi. Järjestelmämme vahvistaa kirjautumistietosi välittömästi. Jos avaimesi puuttuu tai on vanhentunut, palvelin palauttaa virheen 401. Vastaus 402 tarkoittaa, että esimaksukrediti on loppu. Vastaus 429 tarkoittaa, että olet ylittänyt nopeusrajoituksen, joka on 300 pyyntöä minuutissa.

Muista, että luottokrediitti on esimaksu vain kryptorahalla. Kuukausimaksuja ei ole. Luottokreditiisi ei vanhene, joten voit keskeyttää käytön äärettömäksi ajaksi.

Chat Completions -päätepiste

Lähetä ensimmäinen pyyntö chat-completions-päätepisteeseen saadaksesi tekstitulosteen. Käytä mallin tunnistetietoa "uncensored" saadaksesi pääsyn tiettyyn avoimeen painotusmalliimme. Se ei ole GPT, Claude tai mikään muu toimittajan malli.

Pääte hyväksyy standardit JSON-payloadit. Tarjoat järjestelmäohjeen ja käyttäjäviestit. Malli palauttaa täydennyksen. Tämä on teksti sisään, teksti ulos -liittymä. Tässä ei generoida upotuksia, kuvia tai ääntä.

Määritä pyyntösi tarvittavilla parametreilla. Malli tukee 100 000 merkin kontekstiikkunaa. Tämä sisältää sekä syötepromptin että tuotetun täydennyksen. Maksimituotos on 16 000 merkkiä pyyntöä kohden.

Python SDK -integraatio

Käytä virallista OpenAI:n Python-kirjastoa API-käyttöön. Vaadittavat konfiguraatiomuutokset ovat minimaalisia. Sinun tarvitsee vain asettaa base URL ja toimittaa API-avaimesi.

Alusta asiakas avaimellasi. Aseta base URL osoittamaan päättelypisteeseemme. Välitä viestisi chat.completions.create-metodille. Kirjasto käsittelee serialisoinnin ja vastauksen jäsentämisen.

Node SDK -integraatio

Integroi Node.js-sovellukseesi asentamalla OpenAI-paketti. Määritä asiakasohjelma käyttämään base URL -arvoamme. Tämä mahdollistaa tutkujen metodien käytön JavaScript- tai TypeScript-koodissasi.

Aseta apiKey- ja baseURL-ominaisuudet. Kutsu chat.completions.create-funktiota. Vastaus sisältää luodun tekstin. Voit käsitellä virheet sujuvasti async-funktioiden sisällä.

Streamausvastaukset SSE:n kautta

Ota suoratoisto käyttöön reaaliaikaiseen tokenien tuottamiseen. Tämä on hyödyllistä chatrajapinnoissa, jotka näyttävät tekstin sen tuotannon aikana. Palvelin lähettää Server-Sent Events (SSE) -tapahtumia jokaisesta palikasta.

Aseta stream-parametri arvoksi true pyynnössäsi. Iteroi vastauksen lohkojen yli. Yhdistä sisältö rakentaaksesi lopullisen viestin. Viimeinen lohko sisältää token-käyttötilastot.

JSON-tila ja parametrit

Pyyntö strukturoitu tulos asettamalla response_format arvoksi json_object. Tämä pakottaa mallin palauttamaan kelvollisen JSON-tiedoston. Käytä parametreja kuten temperature ja top_p ohjataksesi luovuutta. Stop-parametri mahdollistaa päättymisjärjestysten määrittämisen.

Function calling -toiminto tuetaan. Voit määrittää työkalut ja antaa mallin valita, kutsutaanko niitä. Tämä laajentaa uncensored-mallin hyötyä monimutkaisissa tehtävissä.

cURL

Copycurl https://api.llamaaiapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Show me a list of 5 recent server errors."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llamaaiapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llamaaiapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Virtaus

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)