Быстрый старт для пользователей Ollama NSFW

Требования и аутентификация

Вам нужен API-ключ и базовый URL для начала. Зарегистрируйтесь на странице Получить API-ключ с помощью Google или электронной почты. Ваш ключ появится сразу; карта для пробного периода не требуется. Базовый URL — https://api.ollamansfw.com/v1. Установите его в среде или конфигурации SDK. Идентификатор модели — uncensored. Это модель с открытыми весами, работающая на наших серверах, отличная от GPT или других моделей поставщиков.

Ваш первый запрос

Отправьте стандартный запрос завершения чата. API ожидает массив messages с role и content. Используйте curl для проверки подключения. Замените YOUR_API_KEY на ваш фактический ключ. Ответ возвращает сгенерированный текст в choices[0].message.content. Если вы получаете 401, проверьте ключ. 402 означает, что вам нужен баланс.

Интеграция Python SDK

Используйте официальный пакет openai для Python. Установите его через pip. Настройте клиент с пользовательским базовым URL и API-ключом. Это обеспечивает совместимость с нашим эндпоинтом. Приведенный ниже код демонстрирует простую генерацию текста. Он обрабатывает запрос и выводит результат. Обработка ошибок должна перехватывать HTTP-исключения. Этот подход работает для любого OpenAI-совместимого клиента.

Интеграция Node.js SDK

Установите пакет openai для Node.js. Установите базовый URL и API-ключ при инициализации клиента. Структура соответствует примеру на Python. Передайте идентификатор модели uncensored. Ответ содержит данные завершения. Используйте async/await для чистого кода. Этот метод идеален для серверных приложений или инструментов CLI, которым нужен прямой доступ к API.

Потоковые ответы

Включите потоковую передачу, установив stream: true. API возвращает поток событий, отправляемых сервером (SSE). Каждый фрагмент содержит частичный текст. Последний фрагмент включает статистику использования токенов. Это снижает воспринимаемую задержку для длинных ответов. Обработайте ошибки потока корректно. SDK предоставляют встроенные итераторы потока. Обрабатывайте каждый фрагмент, чтобы обновлять пользовательский интерфейс в реальном времени.

Лимиты, ошибки и контекст

Контекстное окно составляет 100,000 токенов. Вывод может занимать до конца окна. Лимит запросов — 300 запросов в минуту. Параллельные запросы ограничены 8 на ключ. Тело запроса должно быть менее 8 МБ. Распространённые ошибки: 401 (неверный ключ), 402 (недостаточно кредита), 429 (превышен лимит запросов). Ошибки не расходуют кредит. Отказы из-за незаконного контента бесплатны. Кредит не сгорает.

cURL

Копироватьcurl https://api.ollamansfw.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Python

Копироватьfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamansfw.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Копироватьimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamansfw.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Потоковая передача

Копироватьstream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)