Szybki start dla użytkowników Ollama NSFW

Wymagania wstępne i uwierzytelnianie

Potrzebujesz klucza API i adresu Base URL, aby zacząć. Zarejestruj się na stronie Pobierz klucz API używając Google lub e-mail. Twój klucz pojawi się natychmiast; nie jest wymagana karta do wersji próbnej. Adres Base URL to https://api.ollamansfw.com/v1. Ustaw go w swoim środowisku lub konfiguracji SDK. Identyfikator modelu to uncensored. Jest to model o otwartych wagach działający na naszych serwerach, odrębny od GPT lub innych modeli dostawców.

Pierwsze zapytanie

Wyślij standardowe zapytanie o uzupełnienie czatu. API oczekuje tablicy messages z rolą i treścią. Użyj curl do przetestowania łączności. Zastąp YOUR_API_KEY swoim właściwym kluczem. Odpowiedź zwraca wygenerowany tekst w choices[0].message.content. Jeśli otrzymasz 401, sprawdź swój klucz. 402 oznacza, że potrzebujesz kredytu.

Integracja z Python SDK

Użyj oficjalnego pakietu openai dla Pythona. Zainstaluj go przez pip. Skonfiguruj klienta z niestandardowym adresem Base URL i kluczem API. Zapewnia to kompatybilność z naszym endpointem. Poniższy kod demonstruje prostą generację tekstu. Obsługuje zapytanie i wypisuje wynik. Obsługa błędów powinna przechwytywać wyjątki HTTP. To podejście działa dla dowolnego klienta kompatybilnego z OpenAI.

Integracja z Node.js SDK

Zainstaluj pakiet openai dla Node.js. Ustaw Base URL i klucz API w inicjalizacji klienta. Struktura odzwierciedla przykład w Pythonie. Przekaż identyfikator modelu uncensored. Odpowiedź zawiera dane uzupełnienia. Używaj async/await dla czystego kodu. Ta metoda jest idealna dla aplikacji serwerowych lub narzędzi CLI wymagających bezpośredniego dostępu do API.

Odpowiedzi strumieniowe

Włącz strumieniowanie, ustawiając stream: true. API zwraca strumień zdarzeń wysyłanych przez serwer (SSE). Każdy fragment zawiera częściowy tekst. Ostatni fragment zawiera statystyki użycia tokenów. Zmniejsza to postrzeganą opóźnienie dla długich odpowiedzi. Obsłuż błędy strumieniowania w sposób elegancki. SDK zapewniają wbudowane iteratory strumieni. Przetwarzaj każdy fragment, aby aktualizować interfejs użytkownika w czasie rzeczywistym.

Limity, błędy i kontekst

Okno kontekstu wynosi łącznie 100,000 tokenów. Wyjście może sięgać do końca okna. Limity zapytań to 300 zapytań na minutę. Równoległe zapytania są ograniczone do 8 na klucz. Ciała zapytań muszą być mniejsze niż 8 MB. Powszechne błędy: 401 (nieprawidłowy klucz), 402 (niewystarczający kredyt), 429 (limit zapytań). Błędy nie zużywają kredytu. Odrzucenia za treści nieprawne są darmowe. Kredyt nigdy nie wygasa.

cURL

Kopiujcurl https://api.ollamansfw.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Python

Kopiujfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamansfw.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Kopiujimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamansfw.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Strumieniowanie

Kopiujstream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)