Rychlý start Dolphin ia

Základní URL a ověření

Naše API je na HTTPS://api.dolphinia.cc/v1 a vyžaduje jednoduchý klíč API pro každý požadavek. Tento klíč získáte okamžitě po registraci pomocí Google nebo e-mailu na dashboardu a nikdy nevyprší. Na rozdíl od agregátorů, kteří skrývají náklady za předplatným, účtujeme pouze za tokeny, které skutečně spotřebujete. Uchovávejte svůj klíč v bezpečí ve svých proměnných prostředí, protože každý, kdo má klíč, může utratit váš předplacený kredit. Služba vynucuje přísný limit 300 požadavků za minutu na klíč, aby udržela stabilitu pro všechny uživatele.

Odesílání požadavku na dokončení chatu

Odešlete svůj první požadavek pomocí standardního endpointu dokončení chatu s ID modelu "uncensored". Tento požadavek odesílá váš podnět na náš server a vrací textovou odpověď bez typických odmítnutí, která se vyskytují u jiných modelů. Do jednoho těla požadavku můžete odeslat až 8 MB dat, což stačí pro většinu standardních případů použití. Pokud překročíte limit rychlosti, server vrátí chybu 429, která označuje, že potřebujete na chvíli zpomalit. Vždy ověřte, že vaše odpověď obsahuje platný objekt zprávy, než budete pokračovat v zpracování.

Streamované odpovědi a spotřeba tokenů

Povolte streamování nastavením parametru stream na true, což dodává tokeny, jak jsou generovány prostřednictvím Server-Sent Events. Tento přístup výrazně snižuje vnímanou latenci, zejména při generování dlouhých výstupů až do maxima 16,000 tokenů na požadavek. Poslední chunk ve streamu obsahuje kompletní statistiky využití tokenů, což vám umožňuje sledovat náklady v reálném čase. Tyto události můžete zpracovávat ve své aplikaci pro postupné zobrazování textu uživateli bez čekání na dokončení celé generace.

Volání funkcí a režim JSON

Využijte nativní volání funkcí poskytnutím pole tools ve vašem požadavku, což umožňuje modelu vracet strukturovaná data pro vaše aplikace. Můžete také vynutit přísný výstup JSON pomocí parametru response_format, což je ideální pro integraci se systémy, které vyžadují přesné dodržování schématu. Model podporuje možnosti tool_choice k řízení toho, zda musí zavolat funkci, nebo může generovat text volně. Využijte tyto funkce k vytvoření robustních agentů, kteří interagují s externími API nebo databázemi bez parsování neuspořádaného textu.

Parametry: Teplota, Top P, Seeds

Ovládejte kreativitu a náhodnost výstupu pomocí parametrů temperature, top_p a seed stejně, jako byste postupovali se standardními klienty OpenAI. Nižší temperature vede k determinističtějším výsledkům, zatímco vyšší hodnota podporuje rozmanitější a kreativnější odpovědi. Nastavení seed zajišťuje reprodukovatelnost, což je klíčové pro ladění specifických chování ve vašich workflow s uncensored LLM. Můžete také definovat stop sekvence k zastavení generování při konkrétních značkách, což vám poskytne přesnou kontrolu nad hranicemi výstupu.

Limity, chyby a kontextové okno

Váš model podporuje masivní okno kontextu o velikosti 100 000 tokenů, které zahrnuje jak prompt, tak completion dohromady. To vám umožňuje předávat velké dokumenty nebo rozsáhlé historie konverzací bez ztráty dřívějších informací. Pokud odešlete neplatný klíč, získáte chybu 401 a chyba 402 znamená, že je vyčerpán váš předplacený kredit. Limit rychlosti 429 se spustí, pokud překročíte 300 požadavků za minutu nebo se pokusíte provést 8 souběžných požadavků najednou. Tyto chyby ošetřete v kódu elegantně, aby ste zajistili hladký chod.

cURL

Copycurl https://api.dolphinia.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the three main benefits of using Redis for caching."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.dolphinia.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.dolphinia.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streamování

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)