Cennik API Ollamansfw: Wyjaśnienie kosztów tokenów

Stawki

Oto odpowiedź dla każdego, kto szuka ceny API ollamansfw. Płacisz $0.15 za każde 1M tokenów wejściowych (twój prompt i historia rozmowy) i $0.50 za każde 1M tokenów wyjściowych (to, co model zwraca). Nic więcej nie jest doliczane: brak opłaty miesięcznej, brak ceny za konto, brak minimalnego zużycia.

Kupujesz kredyt z góry, a zapytania go zużywają. Kredyt nie wygasa, a nieudane lub odrzucone zapytania nie są rozliczane. Każda odpowiedź zawiera nagłówek X-Balance-USD, dzięki czemu Twoja aplikacja może odczytać pozostałe saldo bez dodatkowego wywołania. Nie ma darmowego planu bez limitów. Jedynym darmowym kredytem jest jednorazowa próba opisana poniżej.

Czym jest token, w przybliżeniu

Tokeny to fragmenty tekstu, zazwyczaj krótkie słowo lub jego część. W przypadku zwykłego tekstu angielskiego zasada jest taka, że token to nieco mniej niż jedno słowo, więc 1000 słów to około 1300 tokenów. Traktuj to jako szacunkowe. Kod, inne języki i nietypowe nazwy zazwyczaj zużywają więcej tokenów na słowo. Dokładna liczba tokenów zwracana jest w polu usage każdej odpowiedzi i na jej podstawie naliczane są opłaty.

Kluczową zasadą jest rozdzielenie tych dwóch stron. Wejście jest tanie. Wyjście kosztuje ponad trzy razy więcej za token ($0,50 w porównaniu do $0,15). Zadanie, które dużo czyta i mało pisze, jest tanie. Zadanie, które prosi o długie generowanie, kosztuje więcej za token, choć nadal jest to niewielka kwota w ujęciu absolutnym.

Przykładowe wyliczenia

Wszystkie poniższe dane są obliczane jako tokeny wejściowe x $0,15 / 1 mln plus tokeny wyjściowe x $0,50 / 1 mln.

Obciążenie	Wejście	Wyjście	Matematyka	Koszt
Jedna tura czatu	2,000	500	$0.0003 + $0.00025	$0.00055
1000 tur czatu	2,000,000	500,000	$0.30 + $0.25	$0.55
Długie dokumenty do odczytu	50,000	2,000	$0.0075 + $0.001	$0.0085
100 żądań opowiadań	600,000	40,000	$0.09 + $0.02	$0.11
Wsadowe przetwarzanie z dużą ilością wyjścia, 1 000 zapytań	500,000	1,500,000	$0.075 + $0.75	$0.825
Jeden pełny przebieg, 1M wejścia i 1M wyjścia	1,000,000	1,000,000	$0.15 + $0.50	$0.65

Wiersz z długim dokumentem wart jest uwagi. Wypełnienie połowy okna kontekstu 100 000 tokenów danymi wejściowymi kosztuje mniej niż centa. Dzięki temu praca z długim kontekstem jest opłacalna, o ile wyjście pozostaje skromne.

Co obejmuje kredyt próbny

Nowi użytkownicy mogą odebrać $0.50 kredytu próbnego jednym kliknięciem na stronie klucza API po zarejestrowaniu się przez Google lub za pomocą e-maila i hasła. Nie wymaga płatności, jest przydzielany raz na osobę i jest ważny przez 7 dni.

Przy koszcie rundy czatu powyżej, $0,50 / $0,00055 to około 909 rund po 2000 tokenów wejściowych i 500 wyjściowych. To wystarczy do przetestowania strumieniowania, wywoływania funkcji i trybu JSON oraz do sprawdzenia, czy styl pisania pasuje do Twojego projektu. Klucz próbny ma niższe limity niż pełny klucz: 2 równoległe zapytania i 60 zapytań na minutę w porównaniu do 8 i 300.

Doładowania i bonusy

Możesz dodać dowolną kwotę całkowitą od $20 do $500. Większe doładowania dodają bonus do Twojego kredytu:

Doładowanie	Bonus	Otrzymany kredyt
$20	brak	$20.00
$50	+5%	$52.50
$100	+10%	$110.00
$200	+15%	$230.00
$500	+15%	$575.00

Płatność na tej stronie jest tylko na kryptowaluty: USDT na TRC20 lub USDC na Base. Najmniejsze doładowanie $20 obejmuje 36 363 obrotów czatu po $0.00055 każda, co jest nieco mniej niż $20 zużycia. cennik to miejsce, w którym możesz sprawdzić aktualny widok doładowania.

Ponieważ kredyt nie wygasa, nie ma presji na jego wydanie do terminu. Saldo $20 może leżeć nieużywane przez miesiące i nadal będzie tam.

Oblicz swój własny miesiąc

Weź małą aplikację, która wysyła 10 000 zapytań miesięcznie, każde z około 3000 tokenami wejściowymi i 700 tokenami wyjściowymi. Wejście to 30 000 000 tokenów, co daje 30 x $0,15 = $4,50. Wyjście to 7 000 000 tokenów, co daje 7 x $0,50 = $3,50. Miesiąc kosztuje $8,00.

Teraz trudniejszy przypadek: interfejs do gry w role, w którym każda tura ponownie wysyła rosnącą historię. Jeśli średnie zapytanie zawiera 12 000 tokenów wejściowych i 400 tokenów wyjściowych, jedno zapytanie kosztuje 12 000 x $0,15 / 1M = $0,0018 plus 400 x $0,50 / 1M = $0,0002, czyli $0,002. Tysiąc takich tur kosztuje $2,00. Historia jest dominującym kosztem, więc przycinanie starych wiadomości lub ich podsumowanie to najlepszy sposób na oszczędność.

Oto krótki fragment kodu Python, który odczytuje zużycie raportowane przez API i zamienia je na dolary:

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamansfw.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Describe a rainy harbor town in four sentences."}],
)

u = resp.usage
cost = u.prompt_tokens * 0.15 / 1_000_000 + u.completion_tokens * 0.50 / 1_000_000
print(f"in={u.prompt_tokens} out={u.completion_tokens} cost=${cost:.6f}")

Zapisz tę liczbę dla każdego zapytania, a Twoje prognozy przestaną być zgadywaniem. Szczegóły konfiguracji i parametry znajdziesz w Szybki start.

Jak to się ma do innych list cenowych

Listy cenowe różnych usług trudno porównać, chyba że przeliczysz je na to samo obciążenie. Wybierz typowe zapytanie dla swojej aplikacji, policz jego tokeny wejściowe i wyjściowe oraz oblicz koszt w dolarach za 1000 zapytań. Dla tego API wzór to (tokeny wejściowe x 0,15 + tokeny wyjściowe x 0,50) / 1000, z tokenami liczonymi na zapytanie. Dla zapytania z 1500 tokenami wejściowymi i 600 wyjściowymi daje to (225 + 300) / 1000 = $0,525 za 1000 zapytań.

Następnie zrób to samo dla dowolnej alternatywy, używając liczb ze strony tego dostawcy, ponieważ ceny i wielkość modeli się zmieniają. Porównaj również to, co otrzymujesz za pieniądze: długość kontekstu (tutaj 100 000 tokenów), czy odrzucone zapytania są rozliczane i czy kredyt wygasa. Tutaj odrzucone i nieudane zapytania nic nie kosztują, a saldo nie wygasa, co ma znaczenie, jeśli doładujesz raz i powoli zużyjesz kredyt.

Sposoby na zmniejszenie rachunku

• Ogranicz historię. Wyślij ostatnie N tur plus krótkie podsumowanie, a nie całą historię rozmowy.
• Ustaw max_tokens, gdy potrzebujesz ograniczenia. Jest to opcjonalne, a uzupełnienia mogą w przeciwnym razie wykorzystać resztę okna 100 000 tokenów.
• Preferuj jeden jasny prompt zamiast kilku ponownych prób. Każda udana ponowna próba jest rozliczana ponownie.
• Szczególnie szanuj limity. Pełny klucz pozwala na 8 żądań równoczesnych i 300 na minutę. Odpowiedzi HTTP 429 nie są powodem do bombardowania endpointu; poczekaj na Retry-After.

Prompty nie są używane do trenowania. Model to jeden model o otwartych wagach uruchamiany przez niezależnego dostawcę i nie jest oficjalnym API dostawcy. Zastosowane są zasady dotyczące treści, w tym całkowity zakaz treści seksualnych z udziałem nieletnich.

Więcej przewodników

• Alternatywy oprogramowania Ollama: Hostowane API Uncensored
• Jak używać Ollama z GUI (i rezerwowym rozwiązaniem hostowanym)
• Przewodnik po API LLM Uncensored