Alternatives logicielles à Ollama : API hébergée sans censure

La réponse courte

Si vous cherchez des alternatives au logiciel Ollama, vous vous trouvez généralement dans l'une des trois situations suivantes. Vous souhaitez un autre moteur local avec une interface plus agréable, vous voulez quelque chose qui passe à l'échelle au-delà d'une seule station de travail, ou vous voulez cesser de gérer du matériel. Chaque situation pointe vers un outil différent.

Pour une application de bureau avec un navigateur de modèles, LM Studio est un choix courant. Pour un contrôle maximal sur la quantification et la mémoire, llama.cpp est le projet autour duquel sont construits la plupart des autres exécuteurs. Pour de nombreux utilisateurs simultanés sur un serveur GPU, vLLM est conçu pour cela. Et si vous préférez ne pas posséder de GPU, une API hébergée compatible OpenAI supprime toute la question du matériel. Ce site propose le dernier de ces outils, avec un seul modèle, uncensored, et sans refus de contenu pour une utilisation adulte légale.

Ce qu’Ollama offre et où les utilisateurs butent

Ollama télécharge des modèles à poids ouverts, les quantifie de manière appropriée et les sert sur votre machine via une petite API HTTP locale. Il expose également un endpoint de style OpenAI, ce qui explique pourquoi tant d’interfaces de chat peuvent s’y connecter. Idéal pour une expérience sur portable difficile à battre.

La friction apparaît plus tard. Un modèle qui tient dans 8 Go de VRAM est un petit modèle, et les petits modèles écrivent des scènes longues moins cohérentes et suivent moins fiablement des instructions complexes. Les modèles plus gros nécessitent plus de mémoire que la plupart des GPU grand public ne peuvent en offrir. L'exécution d'un modèle occupe également la machine : les ventilateurs tournent, le GPU est occupé, et vos propres jeux ou rendus entrent en concurrence pour la même mémoire. Si vous voulez le même modèle sur votre téléphone, sur un deuxième ordinateur ou à l'intérieur d'une application d'un ami, vous devez maintenant exposer votre réseau domestique, ce qui constitue une tâche de sécurité en soi.

Rien de tout cela ne fait de l’inférence locale une mauvaise idée. Cela signifie que la bonne question n’est pas quel outil est le meilleur, mais quel problème vous avez.

Les alternatives locales en un coup d’œil

Le tableau se limite aux informations publiquement connues sur chaque projet. Consultez le site de chaque projet pour les fonctionnalités actuelles.

Option	Ce que c'est	Idéal quand	Coût principal
LM Studio	Application de bureau pour télécharger et discuter avec des modèles locaux	Vous voulez une interface graphique et pas de travail en terminal	Votre propre GPU ou RAM
llama.cpp	Moteur d’inférence C/C++ et serveur pour modèles quantifiés	Vous voulez un contrôle fin sur la mémoire et la quantification	Votre temps pour les flags et les compilations
vLLM	Serveur d’inférence conçu pour servir de nombreuses requêtes sur des GPU	Vous gérez votre propre serveur multi-utilisateurs	Location ou achat de serveur GPU
text-generation-webui	Interface web chargeant des modèles via plusieurs back-ends	Vous aimez ajuster les paramètres de l’échantillonneur dans un navigateur	Votre propre matériel
API hébergée (ce site)	Endpoint compatible OpenAI, un seul modèle, paiement au token	Vous voulez aucun matériel et n’importe quel client OpenAI	Les tokens que vous utilisez réellement

La plupart des outils locaux peuvent également présenter un serveur compatible OpenAI, donc un client écrit pour l’un d’eux passe généralement à l’autre en changeant une URL. Cette portabilité rend la comparaison peu risquée.

En quoi l’API hébergée diffère

Une API hébergée change qui porte le travail. Vous envoyez une requête, un fournisseur indépendant exécute un modèle à poids ouverts ajusté pour répondre sans refus de contenu, et vous recevez des tokens en retour. Rien à télécharger, pas de budget VRAM, pas de pilote à mettre à jour.

L'interface est standard. L'URL de base est https://api.ollamansfw.com/v1, l'ID du modèle est uncensored, et l'authentification repose sur une clé Bearer classique. Les deux méthodes sont POST /v1/chat/completions et GET /v1/models. Le streaming, l'appel de fonctions et le mode JSON fonctionnent comme dans les SDK OpenAI. La fenêtre de contexte est de 100 000 tokens, prompts et complétions confondus.

Il est utile de clarifier ce que ce n’est pas. C’est un modèle unique, exécuté par un fournisseur indépendant. Ce n’est pas l’API officielle d’un éditeur de modèle ni un routeur entre plusieurs. Il ne gère que du texte, donc pas de génération d’images, pas d’embeddings et pas de fine-tuning. Une règle stricte s’applique : pas de contenu sexuel impliquant des mineurs.

Migration en cinq minutes

Si votre application parle déjà à un endpoint de style OpenAI, le changement est une modification de configuration. Voici le code complet en Python avec le SDK officiel.

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.ollamansfw.com/v1",
    api_key="YOUR_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarize the plot of a heist story in three lines."}],
)
print(resp.choices[0].message.content)

Et la même appel avec curl, utile pour vérifier que votre clé fonctionne avant de toucher au code de l’application.

Copycurl https://api.ollamansfw.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "uncensored", "messages": [{"role": "user", "content": "Hello"}]}'

Les nouveaux comptes peuvent réclamer 0,50 $ de crédit d'essai en un clic sur la page clé API. Aucun paiement n'est requis, cela dure 7 jours et est limité à un par personne. L'inscription se fait avec Google ou avec un e-mail et un mot de passe. Le démarrage rapide couvre les mêmes étapes avec plus de clients.

Si une requête échoue lors de votre première tentative, la page des erreurs courantes liste les causes habituelles, comme un /v1 manquant dans l’URL de base.

Coût : local versus hébergé

La tarification hébergée est simple. L’entrée coûte 0,15 $ par 1M de tokens et la sortie coûte 0,50 $ par 1M. Une requête avec 3 000 tokens d’entrée et 700 tokens de sortie coûte 3 000 x 0,15 $ / 1M = 0,00045 $ pour l’entrée plus 700 x 0,50 $ / 1M = 0,00035 $ pour la sortie, soit 0,0008 $ au total. Dix mille de ces requêtes coûtent 8,00 $.

L’inférence locale n’a pas de frais par token, mais elle n’est pas gratuite. Vous payez pour le GPU ou le serveur, l’électricité et votre temps. Si vous possédez déjà un GPU capable et que votre usage est léger, le coût marginal d’une requête locale est vraiment proche de zéro, et c’est un argument fort pour rester en local. Si vous deviez acheter ou louer du matériel juste pour exécuter un modèle de cette taille, dix mille requêtes pour 8,00 $ est un chiffre à comparer avec cette facture. Consultez les prix actuels pour toute location ou autre API que vous envisagez, car ils changent.

Voir la page de tarification pour les montants de recharge et les bonus. Le crédit est prépayé, n’expire jamais, et les requêtes échouées ou refusées ne sont pas facturées. Il n’y a pas de niveau gratuit illimité.

Quand rester en local et quand passer à une solution hébergée

Restez local si

• Vos prompts ne doivent jamais quitter votre machine, pour des raisons liées à votre propre politique.
• Vous avez déjà un GPU avec suffisamment de mémoire et le modèle que vous aimez tient dessus.
• Vous travaillez hors ligne ou sur une connexion peu fiable.
• Vous souhaitez essayer de nombreux modèles ouverts différents et les basculer quotidiennement.

Optez pour une solution hébergée si

• Vous ne disposez pas du matériel adapté, ou vous ne voulez pas qu'il soit occupé pendant votre travail.
• Vous avez besoin du même endpoint depuis plusieurs appareils ou depuis une application déployée.
• Vous souhaitez une fenêtre de contexte longue de 100 000 tokens sans ajuster les paramètres de mémoire.
• Votre utilisation est par rafales, donc payer au token est plus avantageux que de payer pour du matériel inactif.

Beaucoup font les deux. Un modèle local gère les brouillons privés rapides, et l'endpoint hébergé prend en charge les sessions lourdes. Comme les deux utilisent le format OpenAI, le code de l'application reste identique et seule l'URL de base change.

En matière de confidentialité pour la partie hébergée, les prompts ne sont pas utilisés pour l'entraînement. Ceci est une déclaration concernant uniquement ce service, et vous devriez lire les pages tarification et conditions avant d'envoyer des données sensibles.

Plus de guides

• Comment utiliser Ollama avec une interface graphique (et une solution de secours hébergée)
• Tarification de l'API Ollamansfw : explication des coûts par token
• Guide de l'API LLM sans censure