Dolphin ia API Quickstart

Perus-URL ja todennus

API:n osoite on HTTPS://api.dolphinia.cc/v1, ja se vaatii yksinkertaisen API-avaimen jokaiseen pyyntöön. Saat tämän avaimen välittömästi rekisteröitymisen jälkeen Google- tai sähköpostitilin kautta hallintapaneelissa, ja se vanhenee koskaan. Toisin kuin välittäjät, jotka piilottavat kustannukset tilausten taakse, me veloitamme vain todella kulutetuista tokenista. Säilytä avain turvallisesti ympäristömuuttujissasi, sillä kuka tahansa avaimen haltija voi käyttää esimaksukrediittisi. Palvelu noudattaa tiukkaa 300 pyynnin minuuttirajaa per avain käyttäjien vakauden ylläpitämiseksi.

Lähettämällä chat-completion-pyyntö

Tee ensimmäinen kutsusi käyttäen vakio chat-täydennyspäätepistettä mallitunnuksella "uncensored". Tämä pyyntö lähettää kehotteesi palvelimellemme ja palauttaa tekstimuotoisen vastauksen ilman tyypillisiä hylkäyksiä, joita löytyy muista malleista. Voit lähettää jopa 8 Mt dataa yhdessä pyyntöruudussa, mikä riittää useimpiin vakiotapauksiin. Jos ylität nopeusrajan, palvelin palauttaa virheen 429, joka ilmoittaa, että sinun tulee hidastaa hieman. Varmista aina, että vastauksesi sisältää kelvollisen message-objektin ennen lisäkäsittelyä.

Streamausvastaukset ja merkkikäyttö

Ota käyttöön streamaus asettamalla stream-parametri arvoksi true, joka toimittaa tokenit niiden tuotannon aikana Server-Sent Events -tapahtumien kautta. Tämä lähestymistapa vähentää havaittua viivettä merkittävästi, erityisesti tuotettaessa pitkiä tuloksia jopa 16 000 tokenin maksimirajaan saakka pyyntöä kohden. Virran viimeinen lohko sisältää täydet tokenkäyttotilastot, mikä mahdollistaa kustannusten seurauksen reaaliajassa. Voit käsitellä näitä tapahtumia sovelluksessasi näyttääksesi tekstiä asteittain käyttäjälle odottamatta koko tuotannon valmistumista.

Funktikutsut ja JSON-tila

Hyödynnä natiivia funktiokutsua tarjoamalla pyynnössäsi tools-taulukon, jonka avulla malli palauttaa sovelluksillesi rakenteellista dataa. Voit myös pakottaa tiukan JSON-tulosteen käyttämällä response_format-parametria, mikä on ihanteellista integroitavaksi alajärjestelmiin, jotka vaativat tarkkaa skeemien noudattamista. Malli tukee tool_choice-vaihtoehtoja, joilla voit hallita, pitääkö mallin kutsua funktion vai voidaanko sen tuottaa tekstiä vapaasti. Käytä näitä ominaisuuksia vahvojen agenttien rakentamiseen, jotka vuorovaikuttavat ulkoisten API-palveluiden tai tietokantojen kanssa ilman siistin tekstin jäsentämistä.

Parametrit: Lämpötila, Top P ja Seedit

Säädä tulosten luovuutta ja satunnaisuutta käyttämällä lämpötila-, top_p- ja seed-parametreja aivan kuten tavallisten OpenAI-asiakkaiden kanssa. Matalampi lämpötila tuottaa deterministisempiä tuloksia, kun taas korkeampi arvo kannustaa monipuolisempiin ja luovempiin vastauksiin. Seedin asettaminen varmistaa toistettavuuden, mikä on kriittistä tiettyjen käyttäytymisten silmukoimisessa (debuggaus) uncensored-LLM-työvuoroissasi. Voit myös määrittää stop-sekvenssit keskeyttämään tuotannon tietyissä merkeissä, jolloin saat tarkan hallinnan tulosten rajoista.

Rajoitukset, virheet ja kontekstiikkuna

Mallisi tukee valtavaa 100,000 tokenin konteksti-ikkunaa, joka kattaa sekä promptin että kompletion yhteensä. Tämä mahdollistaa suurten asiakirjojen tai laajojen keskusteluhistorioiden lähettämisen menettämättä aiempia tietoja. Jos lähetät virheellisen avaimen, saat 401-virheen, ja 402-virhe tarkoittaa, että esimaksukreditiittisi on loppunut. 429-nopeusraja aktivoituu, jos ylität 300 pyyntöä minuutissa tai yrität tehdä 8 samanaikaista pyyntöä. Käsittele nämä virheet hienovaraisesti koodissasi varmistaaksesi sujuvan toiminnan.

cURL

Copycurl https://api.dolphinia.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the three main benefits of using Redis for caching."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.dolphinia.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.dolphinia.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Virtaus

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)