Hướng dẫn bắt đầu nhanh Dolphin ia

Base URL và Xác thực

API của chúng tôi nằm tại HTTPS://api.dolphinia.cc/v1 và yêu cầu một khóa API đơn giản cho mọi yêu cầu. Bạn nhận được khóa này ngay sau khi đăng ký bằng Google hoặc email trên bảng điều khiển, và nó không bao giờ hết hạn. Không giống như các bộ tổng hợp ẩn chi phí sau các gói đăng ký, chúng tôi chỉ tính phí cho các token bạn thực sự tiêu thụ. Giữ khóa của bạn an toàn trong các biến môi trường của bạn, vì bất kỳ ai có khóa đều có thể chi tiêu tín dụng trả trước của bạn. Dịch vụ áp dụng giới hạn nghiêm ngặt 300 yêu cầu mỗi phút cho mỗi khóa để duy trì sự ổn định cho tất cả người dùng.

Gửi Yêu cầu Hoàn thành Trò chuyện

Thực hiện lệnh gọi đầu tiên bằng điểm cuối hoàn thành trò chuyện tiêu chuẩn với ID mô hình "uncensored". Yêu cầu này gửi lời nhắc của bạn đến máy chủ của chúng tôi và trả về phản hồi văn bản mà không có các từ chối điển hình được tìm thấy trong các mô hình khác. Bạn có thể gửi tối đa 8MB dữ liệu trong một thân yêu cầu đơn lẻ, điều này đủ cho hầu hết các trường hợp sử dụng tiêu chuẩn. Nếu bạn vượt quá giới hạn tốc độ, máy chủ sẽ trả về lỗi 429 cho biết bạn cần tạm dừng trong thời gian ngắn. Luôn xác minh phản hồi của bạn bao gồm một đối tượng tin nhắn hợp lệ trước khi xử lý tiếp.

Phản hồi luồng và sử dụng token

Bật chế độ phát trực tiếp bằng cách đặt tham số stream thành true, điều này cung cấp các token khi chúng được tạo thông qua sự kiện gửi qua máy chủ. Cách tiếp cận này giảm đáng kể độ trễ cảm nhận, đặc biệt khi tạo các đầu ra dài lên tới giới hạn tối đa 16,000 token mỗi yêu cầu. Chunk cuối cùng trong luồng chứa thống kê sử dụng token đầy đủ, cho phép bạn theo dõi chi phí theo thời gian thực. Bạn có thể xử lý các sự kiện này trong ứng dụng của mình để hiển thị văn bản theo từng phần cho người dùng mà không cần chờ đợi quá trình tạo hoàn tất.

Function Calling và chế độ JSON

Tận dụng gọi hàm gốc bằng cách cung cấp mảng công cụ trong yêu cầu của bạn, cho phép mô hình trả về dữ liệu có cấu trúc cho các ứng dụng của bạn. Bạn cũng có thể buộc đầu ra JSON nghiêm ngặt bằng cách sử dụng tham số response_format, điều này rất lý tưởng để tích hợp với các hệ thống hạ lưu yêu cầu tuân thủ lược đồ chính xác. Mô hình hỗ trợ các tùy chọn tool_choice để kiểm soát xem nó có phải gọi một hàm hay có thể tạo văn bản tự do. Sử dụng các tính năng này để xây dựng các tác nhân mạnh mẽ tương tác với các API hoặc cơ sở dữ liệu bên ngoài mà không cần phân tích văn bản lộn xộn.

Tham số: Nhiệt độ, Top P và Seeds

Kiểm soát tính sáng tạo và độ ngẫu nhiên của đầu ra bằng các tham số temperature, top_p và seed giống như cách bạn sử dụng với các máy khách OpenAI tiêu chuẩn. Nhiệt độ thấp hơn mang lại kết quả mang tính xác định cao hơn, trong khi giá trị cao hơn khuyến khích các phản hồi đa dạng và sáng tạo hơn. Việc đặt seed đảm bảo khả năng tái lập, điều này rất quan trọng để gỡ lỗi các hành vi cụ thể trong các quy trình làm việc LLM uncensored của bạn. Bạn cũng có thể xác định các chuỗi dừng để dừng sinh văn bản tại các dấu hiệu cụ thể, mang lại cho bạn khả năng kiểm soát chính xác các ranh giới của đầu ra.

Giới hạn, Lỗi và Cửa sổ ngữ cảnh

Mô hình của bạn hỗ trợ cửa sổ ngữ cảnh khổng lồ 100.000 token, bao gồm cả prompt và kết hợp hoàn thành cùng nhau. Điều này cho phép bạn truyền các tài liệu lớn hoặc lịch sử hội thoại rộng rãi mà không mất thông tin trước đó. Nếu bạn gửi khóa không hợp lệ, bạn sẽ nhận được lỗi 401, và lỗi 402 cho biết số dư trả trước của bạn đã hết. Giới hạn tốc độ 429 sẽ kích hoạt nếu bạn vượt quá 300 yêu cầu mỗi phút hoặc cố gắng thực hiện 8 yêu cầu đồng thời. Hãy xử lý các lỗi này một cách khéo léo trong mã của bạn để đảm bảo hoạt động mượt mà.

cURL

Copycurl https://api.dolphinia.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the three main benefits of using Redis for caching."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.dolphinia.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.dolphinia.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Phát trực tiếp

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)