Szybki start API Dolphin ia

Bazowy URL i autoryzacja

Nasz API działa pod adresem HTTPS://api.dolphinia.cc/v1 i wymaga prostego klucza API do każdego żądania. Otrzymujesz ten klucz natychmiast po rejestracji za pomocą Google lub e-mail na panelu, a nigdy nie wygasa. W przeciwieństwie do agregatorów, które ukrywają koszty za subskrypcjami, pobieramy opłaty tylko za faktycznie zużyte tokeny. Przechowuj swój klucz bezpiecznie w zmiennych środowiskowych, ponieważ każdy, kto go posiada, może wydać Twój zarezerwowany kredyt. Usługa narzuca ścisły limit 300 żądań na minutę na klucz, aby zapewnić stabilność dla wszystkich użytkowników.

Wysyłanie żądania Chat Completion

Wykonaj swoje pierwsze wywołanie używając standardowego endpointu uzupełniania czatu z identyfikatorem modelu "uncensored". To żądanie wysyła Twój prompt do naszego serwera i zwraca odpowiedź tekstową bez typowych odmów występujących w innych modelach. Możesz wysłać do 8MB danych w jednym ciele żądania, co wystarcza dla większości standardowych przypadków użycia. Jeśli przekroczysz limit szybkości, serwer zwróci błąd 429 wskazujący, że musisz krótko odczekać. Zawsze weryfikuj, czy Twoja odpowiedź zawiera prawidłowy obiekt wiadomości przed dalszym przetwarzaniem.

Odpowiedzi strumieniowe i zużycie tokenów

Włącz strumieniowanie, ustawiając parametr stream na true, co dostarcza tokeny, gdy są generowane za pośrednictwem zdarzeń wysyłanych serwerowo. Podejście to znacznie zmniejsza postrzeganą latencję, szczególnie podczas generowania długich odpowiedzi do maksymalnego limitu 16 000 tokenów na żądanie. Ostatni fragment w strumieniu zawiera kompletne statystyki użycia tokenów, pozwalając na śledzenie kosztów w czasie rzeczywistym. Możesz przetwarzać te zdarzenia w swojej aplikacji, aby wyświetlać tekst stopniowo użytkownikowi bez oczekiwania na zakończenie całej generacji.

Wywoływanie funkcji i tryb JSON

Wykorzystaj natywne wywoływanie funkcji, dostarczając tablicę narzędzi w swoim żądaniu, co pozwala modelowi zwracać dane strukturalne dla Twoich aplikacji. Możesz również wymusić ścisły output JSON za pomocą parametru response_format, co jest idealne do integracji z systemami downstreamowymi wymagającymi ścisłego dopasowania schematu. Model obsługuje opcje tool_choice, aby kontrolować, czy model musi wywołać funkcję, czy może generować tekst swobodnie. Wykorzystaj te funkcje do budowania solidnych agentów, które interagują z zewnętrznymi API lub bazami danych bez parsowania nieporządnego tekstu.

Parametry: Temperatura, Top P, Seeds

Kontroluj kreatywność i losowość wyjścia za pomocą parametrów temperature, top_p i seed, tak jak w przypadku standardowych klientów OpenAI. Niższa temperatura daje bardziej deterministyczne wyniki, podczas gdy wyższa wartość zachęca do bardziej zróżnicowanych i kreatywnych odpowiedzi. Ustawienie seed zapewnia powtarzalność, co jest kluczowe przy debugowaniu specyficznych zachowań w Twoich przepływach pracy z uncensored LLM. Możesz również zdefiniować sekwencje stop, aby zatrzymać generowanie w określonych markerach, dając Ci precyzyjną kontrolę nad granicami wyjścia.

Limity, Błędy i Okno Kontekstu

Twój model obsługuje ogromne okno kontekstowe o rozmiarze 100,000 tokenów, obejmujące zarówno prompt, jak i uzupełnienie łącznie. Pozwala to na przesyłanie dużych dokumentów lub rozległych historii konwersacji bez utraty wcześniejszych informacji. Jeśli wyślesz nieprawidłowy klucz, otrzymasz błąd 401, a błąd 402 oznacza wyczerpanie kredytu z góry zapłaconego. Limit szybkości 429 uruchamia się, jeśli przekroczysz 300 żądań na minutę lub spróbujesz wykonać 8 żądań równoległych jednocześnie. Obsługuj te błędy gracefulnie w swoim kodzie, aby zapewnić płynną pracę.

cURL

Copycurl https://api.dolphinia.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the three main benefits of using Redis for caching."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.dolphinia.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.dolphinia.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Strumieniowanie

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)