Llama AI API：クイックスタートガイド

認証 & ベースURL

クライアントの設定を更新して専用エンドポイントに接続します。APIキーはすべてのリクエストを認証するため、安全に保ちつつアプリケーションからアクセス可能にしてください。

ベースURLは HTTPS://api.llamaaiapi.com/v1 です。標準的な Authorization ヘッダー以外にヘッダーを変更する必要はありません。当社のシステムは資格情報を即座に検証します。キーがない場合、または期限が切れている場合、サーバーは 401 エラーを返します。402 レスポンスは、前払いのクレジットが枯渇したことを意味します。429 レスポンスは、1 分あたり 300 リクエストのレート制限に達したことを示します。

クレジットは暗号通貨のみで前払いされることを覚えておいてください。月額サブスクリプションはありません。あなたのクレジットは期限が切れないため、無期限に使用を一時停止できます。

Chat Completionsエンドポイント

チャット完了エンドポイントに最初のリクエストを送信して、テキスト出力を受け取ります。モデルID「uncensored」を使用して、独自のオープンウェイトモデルにアクセスします。それはGPTでもClaudeでも、他のベンダーのモデルでもありません。

エンドポイントは標準的なJSONペイロードを受け取ります。システムプロンプトとユーザーメッセージを指定します。モデルは補完テキストを返します。これはテキスト入力・テキスト出力のインターフェースです。ここでは埋め込み、画像、音声は生成されません。

必要なパラメータでリクエストを構成します。モデルは100,000トークンのコンテキストウィンドウをサポートします。これには入力プロンプトと出力補完の両方が含まれます。1リクエストあたりの最大出力は16,000トークンです。

Python SDK統合

公式のOpenAI Pythonライブラリを使用して、当社のAPIと連携します。設定の変更は最小限で済みます。ベースURLを設定し、APIキーを提供するだけです。

キーでクライアントを初期化します。ベースURLをエンドポイントに設定します。メッセージをchat.completions.createメソッドに渡します。ライブラリはシリアライズとレスポンスパー싱を処理します。

Node SDKの統合

OpenAIパッケージをインストールしてNode.jsアプリケーションに統合します。クライアントを当社のベースURLに設定します。これにより、JavaScriptやTypeScriptのコードで一般的なメソッドを使用できます。

apiKeyとbaseURLプロパティを設定し、chat.completions.create関数を呼び出します。レスポンスには生成されたテキストが含まれます。async関数内でエラーを適切に処理できます。

SSE経由のストリーミングレスポンス

リアルタイムのトークン生成のためにストリーミングを有効にします。これは、テキストが生成される際に表示するチャットインターフェースに役立ちます。サーバーは各チャンクに対してServer-Sent Events (SSE)を送信します。

リクエストでstreamパラメータをtrueに設定します。レスポンスチャンクをイテレートします。コンテンツを連結して最終メッセージを構築します。最後のチャンクにはトークン使用量統計が含まれます。

JSONモードとパラメータ

レスポンス形式をjson_objectに設定して構造化出力をリクエストします。これによりモデルが有効なJSONを返すことが強制されます。temperatureやtop_pなどのパラメータを使用して創造性を制御します。stopパラメータにより終了シーケンスを定義できます。

関数呼び出しもサポートされています。ツールを定義し、モデルがそれらを呼び出すかどうかを選択させましょう。これにより、無制限モデルの複雑なタスクへの有用性が拡大します。

cURL

Copycurl https://api.llamaaiapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Show me a list of 5 recent server errors."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llamaaiapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llamaaiapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

ストリーミング

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)