Быстрый старт Dolphin ia

Базовый URL и аутентификация

Наш API находится по адресу HTTPS://api.dolphinia.cc/v1 и требует простого API-ключа для каждого запроса. Вы получаете этот ключ сразу после регистрации с помощью Google или электронной почты в панели управления, и он никогда не истекает. В отличие от агрегаторов, которые скрывают стоимость за подписками, мы взимаем плату только за фактически потребленные токены. Храните ключ в переменных окружения, так как любой, у кого есть ключ, может потратить ваш предоплаченный кредит. Сервис устанавливает строгое ограничение в 300 запросов в минуту на ключ для обеспечения стабильности для всех пользователей.

Отправка запроса на завершение чата

Выполните свой первый вызов, используя стандартную конечную точку завершения чата с идентификатором модели "uncensored". Этот запрос отправляет ваш запрос на наш сервер и возвращает текстовый ответ без типичных отказов, характерных для других моделей. Вы можете отправить до 8 МБ данных в теле одного запроса, что достаточно для большинства стандартных случаев использования. Если вы превысите лимит частоты запросов, сервер вернет ошибку 429, указывающую на необходимость кратковременной паузы. Всегда проверяйте, что ваш ответ содержит действительный объект сообщения, прежде чем продолжать обработку.

Потоковые ответы и использование токенов

Включите потоковую передачу, установив параметр stream в true, что доставляет токены по мере их генерации через события, отправляемые сервером. Этот подход значительно снижает воспринимаемую задержку, особенно при генерации длинных ответов до максимального лимита в 16,000 токенов на запрос. Последний чанк в потоке содержит полную статистику использования токенов, позволяя отслеживать расходы в реальном времени. Вы можете обрабатывать эти события в своем приложении, чтобы отображать текст пользователю постепенно, не дожидаясь завершения всей генерации.

Function Calling и режим JSON

Используйте нативный вызов функций, предоставив массив tools в запросе, что позволяет модели возвращать структурированные данные для ваших приложений. Вы также можете обеспечить строгий вывод JSON с помощью параметра response_format, что идеально подходит для интеграции с системами, требующими точного соблюдения схемы. Модель поддерживает опции tool_choice для управления тем, должна ли она вызывать функцию или может генерировать текст свободно. Используйте эти функции для создания надежных агентов, взаимодействующих с внешними API или базами данных, без необходимости парсить неструктурированный текст.

Параметры: Temperature, Top P, Seeds

Управляйте креативностью и случайностью вывода с помощью параметров temperature, top_p и seed так же, как и со стандартными клиентами OpenAI. Более низкая температура даёт более детерминированные результаты, тогда как более высокое значение поощряет более разнообразные и креативные ответы. Установка seed обеспечивает воспроизводимость, что критически важно для отладки конкретного поведения в ваших рабочих процессах с uncensored LLM. Вы также можете определить последовательности stop, чтобы остановить генерацию в определённых маркерах, что даёт вам точный контроль над границами вывода.

Лимиты, Ошибки и Контекстное окно

Ваша модель поддерживает огромное контекстное окно на 100,000 токенов, включающее как запрос, так и завершение вместе. Это позволяет передавать большие документы или обширные истории разговоров без потери ранней информации. Если вы отправите недействительный ключ, вы получите ошибку 401, а ошибка 402 указывает на исчерпание предоплаченного баланса. Лимит частоты 429 срабатывает, если вы превысите 300 запросов в минуту или попытаетесь сделать 8 одновременных запросов. Обрабатывайте эти ошибки gracefully в своем коде, чтобы обеспечить бесперебойную работу.

cURL

Copycurl https://api.dolphinia.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the three main benefits of using Redis for caching."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.dolphinia.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.dolphinia.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Потоковая передача

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)