Hướng dẫn nhanh cho người dùng Ollama NSFW

Yêu cầu tiên quyết và Xác thực

Bạn cần một khóa API và base URL để bắt đầu. Đăng nhập trên trang Lấy khóa API bằng Google hoặc email. Khóa của bạn xuất hiện ngay lập tức; không cần thẻ cho bản dùng thử. Base URL là https://api.ollamansfw.com/v1. Đặt giá trị này trong môi trường hoặc cấu hình SDK của bạn. Định danh mô hình là uncensored. Đây là mô hình trọng số mở chạy trên máy chủ của chúng tôi, khác biệt với GPT hoặc các mô hình của nhà cung cấp khác.

Yêu cầu đầu tiên của bạn

Gửi một yêu cầu hoàn thành trò chuyện tiêu chuẩn. API mong đợi một mảng messages với role và content. Sử dụng curl để kiểm tra kết nối. Thay thế YOUR_API_KEY bằng khóa thực của bạn. Phản hồi trả về văn bản được tạo trong choices[0].message.content. Nếu bạn nhận được mã 401, hãy kiểm tra khóa của bạn. Mã 402 có nghĩa là bạn cần tín dụng.

Tích hợp SDK Python

Sử dụng gói Python openai chính thức. Cài đặt nó qua pip. Cấu hình client với base URL tùy chỉnh và khóa API. Điều này đảm bảo tương thích với endpoint của chúng tôi. Đoạn mã bên dưới minh họa việc tạo văn bản đơn giản. Nó xử lý yêu cầu và in kết quả. Xử lý lỗi nên bắt các ngoại lệ HTTP. Cách tiếp cận này hoạt động cho bất kỳ client tương thích OpenAI nào.

Tích hợp SDK Node.js

Cài đặt gói Node.js openai. Đặt base URL và khóa API trong quá trình khởi tạo client. Cấu trúc giống với ví dụ Python. Truyền định danh mô hình uncensored. Phản hồi chứa dữ liệu hoàn thành. Sử dụng async/await cho mã sạch. Phương pháp này lý tưởng cho các ứng dụng phía máy chủ hoặc công cụ CLI cần truy cập API trực tiếp.

Phản hồi truyền phát

Bật truyền phát bằng cách đặt stream: true. API trả về luồng sự kiện do máy chủ gửi (SSE). Mỗi chunk chứa văn bản một phần. Chunk cuối cùng bao gồm thống kê sử dụng token. Điều này giảm độ trễ cảm nhận được cho các phản hồi dài. Xử lý lỗi luồng một cách nhẹ nhàng. Các SDK cung cấp bộ lặp luồng tích hợp. Xử lý từng chunk để cập nhật giao diện người dùng theo thời gian thực.

Giới hạn, Lỗi và Ngữ cảnh

Cửa sổ ngữ cảnh là 100,000 token tổng cộng. Đầu ra có thể chạy đến hết cửa sổ. Giới hạn tốc độ là 300 yêu cầu mỗi phút. Yêu cầu đồng thời bị giới hạn ở 8 mỗi khóa. Thân yêu cầu phải dưới 8 MB. Lỗi phổ biến: 401 (khóa không hợp lệ), 402 (tín dụng không đủ), 429 (giới hạn tốc độ). Lỗi không tiêu thụ tín dụng. Từ chối nội dung bất hợp pháp không tính phí. Tín dụng không bao giờ hết hạn.

cURL

Sao chépcurl https://api.ollamansfw.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Python

Sao chépfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamansfw.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Sao chépimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamansfw.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Truyền phát

Sao chépstream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)