Llama ai api: คู่มือเริ่มต้นอย่างรวดเร็ว

Authentication & Base URL

เชื่อมต่อโดยการอัปเดตการตั้งค่าไคลเอนต์ของคุณให้ชี้ไปยังเอนด์พอยต์เฉพาะของเรา คีย์ API ของคุณจะตรวจสอบสิทธิ์ทุกคำขอ ดังนั้นจึงควรเก็บให้ปลอดภัยแต่สามารถเข้าถึงได้จากแอปพลิเคชันของคุณ

URL พื้นฐานคือ HTTPS://api.llamaaiapi.com/v1 คุณไม่จำเป็นต้องแก้ไข headers นอกเหนือจาก header Authorization มาตรฐาน ระบบของเราตรวจสอบข้อมูลประจำตัวของคุณทันที หากคีย์ของคุณหายไปหรือหมดอายุ เซิร์ฟเวอร์จะส่งข้อผิดพลาด 401 การตอบกลับ 402 หมายถึงเครดิตที่จ่ายล่วงหน้าของคุณหมดแล้ว การตอบกลับ 429 ระบุว่าคุณได้แตะขีดจำกัดอัตรา 300 คำขอต่อนาที

จำไว้ว่าเครดิตเป็นการชำระล่วงหน้าผ่านคริปโตเท่านั้น ไม่มีสมาชิกแบบรายเดือน เครดิตของคุณไม่มีวันหมดอายุ ดังนั้นคุณสามารถหยุดใช้งานได้อย่างไม่จำกัด

Chat Completions Endpoint

ส่งคำขอแรกของคุณไปยังจุดสิ้นสุด chat completions เพื่อรับเอาต์พุตข้อความ ใช้รหัสโมเดล "uncensored" เพื่อเข้าถึงโมเดล open-weight เฉพาะของเรา มันไม่ใช่ GPT, Claude หรือโมเดลของผู้จัดจำหน่ายรายอื่น

เอนด์พอยต์รับข้อมูลในรูปแบบ JSON มาตรฐาน คุณระบุระบบพรอมต์และข้อความของผู้ใช้ โมเดลจะส่งผลการสร้างข้อความกลับมา นี่คืออินเทอร์เฟซแบบข้อความเข้า-ข้อความออก ไม่มี embeddings รูปภาพ หรือเสียงที่สร้างที่นี่

กำหนดค่าคำขอของคุณด้วยพารามิเตอร์ที่จำเป็น โมเดลรองรับหน้าต่างบริบทขนาด 100,000 tokens ซึ่งรวมถึงคำขออินพุตและการเติมเอาต์พุต การเอาต์พุตสูงสุดคือ 16,000 tokens ต่อคำขอ

การผสานรวม SDK Python

ใช้ไลบรารี Python ทางการของ OpenAI เพื่อเชื่อมต่อกับ API ของเรา ซึ่งต้องการการเปลี่ยนแปลงการตั้งค่าเพียงเล็กน้อย คุณเพียงแค่ตั้งค่า base URL และระบุ API key ของคุณ

เริ่มต้นใช้งานไคลเอนต์ด้วยคีย์ของคุณ กำหนด URL ฐานเป็นจุดจบของเรา ส่งข้อความของคุณไปยังเมธอด chat.completions.create ไลบรารีจัดการการแปลงข้อมูลและการแยกวิเคราะห์การตอบสนอง

การผสานรวม Node SDK

ผสานรวมกับแอปพลิเคชัน Node.js ของคุณโดยการติดตั้งแพ็คเกจ OpenAI กำหนดค่าไคลเอนต์ให้ใช้ URL พื้นฐานของเรา สิ่งนี้ช่วยให้คุณใช้วิธีการที่คุ้นเคยในโค้ด JavaScript หรือ TypeScript ของคุณ

ตั้งค่าคุณสมบัติ apiKey และ baseURL เรียกฟังก์ชัน chat.completions.create การตอบกลับจะประกอบด้วยข้อความที่สร้าง คุณสามารถจัดการข้อผิดพลาดได้อย่างสง่างามภายในฟังก์ชัน async ของคุณ

การตอบกลับแบบสตรีมมิ่งผ่าน SSE

เปิดใช้งานการสตรีมเพื่อสร้างโทเค็นแบบเรียลไทม์ สิ่งนี้มีประโยชน์สำหรับอินเทอร์เฟซแชทที่แสดงข้อความขณะกำลังผลิต เซิร์ฟเวอร์จะส่ง Server-Sent Events (SSE) สำหรับแต่ละ chunk

ตั้งค่าพารามิเตอร์ stream เป็น true ในการร้องขอของคุณ วนซ้ำผ่าน chunk การตอบสนอง รวมเนื้อหาเพื่อสร้างข้อความสุดท้าย chunk สุดท้ายมีสถิติการใช้งานโทเค็น

โหมด JSON และพารามิเตอร์

ขอผลลัพธ์ที่มีโครงสร้างโดยตั้งค่า response_format เป็น json_object สิ่งนี้จะบังคับให้โมเดลส่งคืน JSON ที่ถูกต้อง ใช้พารามิเตอร์เช่น temperature และ top_p เพื่อควบคุมความคิดสร้างสรรค์ พารามิเตอร์ stop ช่วยให้คุณกำหนดลำดับการสิ้นสุดได้

รองรับ Function Calling ด้วย คุณสามารถกำหนดเครื่องมือและปล่อยให้โมเดลเลือกที่จะเรียกใช้งาน สิ่งนี้ขยายขีดความสามารถของโมเดลแบบ uncensored สำหรับงานที่ซับซ้อน

cURL

Copycurl https://api.llamaaiapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Show me a list of 5 recent server errors."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llamaaiapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llamaaiapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

การสตรีม

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)