เริ่มต้นใช้งานสำหรับผู้ใช้ Ollama NSFW

ข้อกำหนดเบื้องต้นและการตรวจสอบสิทธิ์

คุณต้องการคีย์ API และ Base URL เพื่อเริ่มต้น ลงทะเบียนที่หน้า รับคีย์ API โดยใช้ Google หรืออีเมล คีย์ของคุณจะปรากฏทันที ไม่ต้องใช้บัตรสำหรับการทดลองใช้ Base URL คือ https://api.ollamansfw.com/v1 ตั้งค่านี้ในสภาพแวดล้อมหรือการกำหนดค่า SDK ของคุณ ตัวระบุโมเดลคือ uncensored เป็นโมเดลแบบเปิดน้ำหนักที่ทำงานบนเซิร์ฟเวอร์ของเรา ซึ่งแตกต่างจาก GPT หรือโมเดลของผู้จัดจำหน่ายรายอื่น

คำขอแรกของคุณ

ส่งคำขอ chat completion มาตรฐาน API ต้องการอาร์เรย์ messages ที่มี role และ content ใช้ curl เพื่อทดสอบการเชื่อมต่อ แทนที่ YOUR_API_KEY ด้วยคีย์จริงของคุณ การตอบสนองจะส่งคืนข้อความที่สร้างแล้วใน choices[0].message.content หากได้ 401 ให้ตรวจสอบคีย์ของคุณ หากได้ 402 แสดงว่าคุณต้องการเครดิต

การผสานรวม Python SDK

ใช้แพ็กเกจ Python openai ติดตั้งผ่าน pip กำหนดค่าไคลเอนต์ด้วย Base URL และคีย์ API ที่กำหนดเอง สิ่งนี้ช่วยให้เข้ากันได้กับเอนด์พอยต์ของเรา โค้ดด้านล่างแสดงการสร้างข้อความแบบง่าย จัดการคำขอและพิมพ์ผลลัพธ์ การจัดการข้อผิดพลาดควรจับข้อยกเว้น HTTP วิธีนี้ใช้ได้กับไคลเอนต์ที่เข้ากันได้กับ OpenAI ใดๆ

การผสานรวม SDK Node.js

ติดตั้งแพ็กเกจ Node.js openai ตั้งค่า Base URL และคีย์ API ในการเริ่มต้นไคลเอนต์ โครงสร้างสะท้อนตัวอย่าง Python ส่งตัวระบุโมเดล uncensored การตอบกลับมีข้อมูลการตอบกลับ ใช้ async/await สำหรับโค้ดที่สะอาด วิธีนี้เหมาะสำหรับแอปพลิเคชันฝั่งเซิร์ฟเวอร์หรือเครื่องมือ CLI ที่ต้องการการเข้าถึง API โดยตรง

การตอบแบบสตรีมมิง

เปิดใช้งานสตรีมมิงโดยการตั้งค่า stream: true API จะส่งคืนสตรีมแบบ server-sent events (SSE) แต่ละชิ้นส่วนมีข้อความบางส่วน ชิ้นสุดท้ายรวมสถิติการใช้งานโทเคน สิ่งนี้ช่วยลดความล่าช้าที่รับรู้ได้สำหรับคำตอบที่ยาว จัดการข้อผิดพลาดของสตรีมอย่างเหมาะสม SDK มีตัววนซ้ำสตรีมในตัวอยู่แล้ว ประมวลผลแต่ละชิ้นส่วนเพื่ออัปเดต UI แบบเรียลไทม์

ขีดจำกัด ข้อผิดพลาด และบริบท

หน้าต่างบริบทคือ 100,000 โทเคนรวม เอาต์พุตสามารถรันจนสุดหน้าต่างได้ ขีดจำกัดอัตราคือ 300 คำขอต่อนาที คำขอพร้อมกันจำกัดไว้ที่ 8 ต่อคีย์ ร่างคำขอต้องอยู่ภายใต้ 8 MB ข้อผิดพลาดทั่วไป: 401 (คีย์ไม่ถูกต้อง), 402 (เครดิตไม่เพียงพอ), 429 (ขีดจำกัดอัตรา) ข้อผิดพลาดไม่ใช้เครดิต การปฏิเสธเนื้อหาผิดกฎหมายไม่คิดเงิน เครดิตไม่หมดอายุ

cURL

คัดลอกcurl https://api.ollamansfw.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Python

คัดลอกfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamansfw.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

คัดลอกimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamansfw.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

สตรีมมิง

คัดลอกstream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)