Швидкий старт Dolphin ia

Базова URL-адреса та аутентифікація

Наш API знаходиться за адресою HTTPS://api.dolphinia.cc/v1 і вимагає простий API-ключ для кожного запиту. Ви отримуєте цей ключ одразу після реєстрації через Google або email на панелі керування, і він ніколи не закінчується. На відміну від агрегаторів, які ховають витрати за підписками, ми стягуємо плату лише за токени, які ви фактично споживаєте. Зберігайте свій ключ у змінних середовища, оскільки будь-хто, хто має ключ, може витратити ваш попередньо оплачений кредит. Сервіс встановлює суворий ліміт 300 запитів на хвилину на ключ для підтримки стабільності для всіх користувачів.

Надсилання запиту на завершення чату

Зробіть свій перший запит, використовуючи стандартну кінцеву точку завершення чату з ідентифікатором моделі "uncensored". Цей запит надсилає ваш промпт на наш сервер і повертає текстову відповідь без типових відмов, які зустрічаються в інших моделях. Ви можете надіслати до 8 МБ даних в одному тілі запиту, що достатньо для більшості стандартних випадків використання. Якщо ви перевищите ліміт частоти запитів, сервер повертає помилку 429, що вказує на необхідність тимчасово зменшити частоту запитів. Завжди перевіряйте, чи містить ваша відповідь дійсний об’єкт повідомлення, перш ніж продовжувати обробку.

Потокові відповіді та використання токенів

Увімкніть потокову передачу, встановивши параметр stream у true, що доставляє токени по мірі їх генерації через події, надіслані сервером. Цей підхід значно зменшує сприйняту затримку, особливо під час генерації довгих виводів до максимального ліміту 16,000 токенів на запит. Фінальний чанк у потоці містить повну статистику використання токенів, що дозволяє відстежувати витрати в реальному часі. Ви можете обробляти ці події у своїй програмі, щоб поступово відображати текст користувачеві, не чекаючи завершення повної генерації.

Function Calling та режим JSON

Використовуйте нативний виклик функцій, надавши масив tools у своєму запиті, що дозволяє моделі повертати структуровані дані для ваших додатків. Ви також можете примусово встановити суворий вихід JSON за допомогою параметра response_format, що ідеально підходить для інтеграції з нижчестоячими системами, які вимагають точного дотримання схеми. Модель підтримує опції tool_choice для контролю того, чи повинна вона викликати функцію, чи може генерувати текст вільно. Використовуйте ці функції для створення надійних агентів, які взаємодіють із зовнішніми API або базами даних без парсингу незграбного тексту.

Параметри: Temperature, Top P, Seeds

Керуйте креативністю та випадковістю виводу за допомогою параметрів temperature, top_p та seed так само, як ви робите це зі стандартними клієнтами OpenAI. Нижчий temperature дає більш детерміновані результати, тоді як вище значення сприяє більш різноманітним та креативним відповідям. Встановлення seed забезпечує відтворюваність, що є критично важливим для налагодження специфічної поведінки у ваших робочих процесах з uncensored LLM. Ви також можете визначити послідовності stop, щоб зупинити генерацію за певними маркерами, надаючи вам точний контроль над межами виводу.

Ліміти, помилки та контекстне вікно

Ваша модель підтримує масивне контекстне вікно розміром 100,000 токенів, яке охоплює як запит, так і відповідь разом. Це дозволяє передавати великі документи або обширні історії розмов, не втрачаючи ранішої інформації. Якщо ви надішлете недійсний ключ, ви отримаєте помилку 401, а помилка 402 вказує на вичерпання передоплаченого кредитного балансу. Ліміт швидкості 429 спрацьовує, якщо ви перевищуєте 300 запитів на хвилину або намагаєтеся одночасно виконати 8 запитів. Обробляйте ці помилки коректно у своєму коді, щоб забезпечити безперебійну роботу.

cURL

Copycurl https://api.dolphinia.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the three main benefits of using Redis for caching."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.dolphinia.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.dolphinia.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Потокова передача

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)