Modèles d’IA partagés : une API, toutes les machines
Des modèles d’IA ouverts servis par les cartes graphiques de tout le parc, derrière un seul point d’accès compatible OpenAI. Envoyez un appel de chat avec la clé de votre compte et recevez une réponse — aucun GPU à choisir, aucune instance à démarrer. Vous payez au token, compté sur notre serveur.
Chaque modèle démarre sur une machine du parc quand vous l’appelez.
Les modèles
| Modèle | Idéal pour | Contexte | Entrée, par million de tokens | Sortie, par million de tokens | Maintenant |
|---|---|---|---|---|---|
Bonsai 2 2Bbonsai-2:2b | Le plus petit : des poids ternaires qui tiennent sur n’importe quelle carte. Réponses courtes, tri, extraction. | 8 192 tokens | 0,01 $US | 0,04 $US | Démarre à l’appel |
Qwen3.5 0.8Bqwen3.5:0.8b | Minuscule et très rapide : classification, extraction, réponses courtes. | 8 192 tokens | 0,01 $US | 0,04 $US | Démarre à l’appel |
Qwen3.5 2Bqwen3.5:2b | Petit et rapide : discussion, résumés, questions simples. | 8 192 tokens | 0,02 $US | 0,06 $US | Démarre à l’appel |
Bonsai 2 9Bbonsai-2:9b | Un modèle 9B en 3 Go : de bonnes réponses au quotidien sur une petite carte. | 8 192 tokens | 0,03 $US | 0,10 $US | Démarre à l’appel |
Qwen3.5 4Bqwen3.5:4b | Petit et capable : discussion, résumés, code simple. | 8 192 tokens | 0,03 $US | 0,10 $US | Démarre à l’appel |
Qwen3.5 9Bqwen3.5:9b | Un polyvalent solide : discussion, rédaction, code et raisonnement. | 8 192 tokens | 0,05 $US | 0,15 $US | Démarre à l’appel |
Ornith 1.5 9Bornith-1.5:9b | Fait pour les agents et le code : appels d’outils et tâches en plusieurs étapes. | 8 192 tokens | 0,05 $US | 0,15 $US | Démarre à l’appel |
Nemotron 3.5 Bolt E4Bnemotron-3.5-bolt:e4b | Le plus récent petit modèle de NVIDIA : discussion rapide, raisonnement et outils. | 8 192 tokens | 0,04 $US | 0,12 $US | Démarre à l’appel |
Bonsai 2 27Bbonsai-2:27b | Un modèle 27B en 8 Go : les réponses d’un grand modèle sur une carte milieu de gamme. | 8 192 tokens | 0,08 $US | 0,25 $US | Démarre à l’appel |
gpt-oss 20Bgpt-oss:20b | Le modèle de raisonnement à poids ouverts d’OpenAI. | 8 192 tokens | 0,05 $US | 0,20 $US | Démarre à l’appel |
Qwen3.8 27Bqwen3.8:27b | Le plus fort ici : questions difficiles, code long, recherche et agents. | 8 192 tokens | 0,15 $US | 0,60 $US | Démarre à l’appel |
Nemotron 3.5 Lightning 30B-A3Bnemotron-3.5-lightning:30b | Le mélange d’experts de NVIDIA : les réponses d’un grand modèle à la vitesse d’un petit, sur une carte de 32 Go. | 8 192 tokens | 0,08 $US | 0,30 $US | Démarre à l’appel |
Les prix sont par million de tokens, comptés avec le tokenizer de chaque modèle. Répond maintenant : des machines le servent en ce moment. Démarre à l’appel : le premier appel le démarre sur une machine — quelques minutes — et dit quand revenir.
En appeler un
Pointez n’importe quel SDK OpenAI vers l’adresse ci-dessous avec la clé de votre compte (gpuapi_… depuis /developers) et demandez un modèle par son nom.
from openai import OpenAI
client = OpenAI(base_url="https://rentgpupower.com/api/v1/compute",
api_key="gpuapi_...")
r = client.chat.completions.create(model="qwen3.5:9b",
messages=[{"role": "user", "content": "Hello!"}])
print(r.choices[0].message.content, r.usage)
curl -N https://rentgpupower.com/api/v1/compute/chat/completions \
-H "Authorization: Bearer $GPURENT_API_KEY" -H "Content-Type: application/json" \
-d '{"model":"qwen3.5:9b","stream":true,"messages":[{"role":"user","content":"Hello!"}]}'
Ce que vous payez
Exactement les tokens
Votre prompt est compté avec le tokenizer du modèle sur notre serveur, tout comme chaque mot de la réponse qui vous parvient. Le usage de chaque réponse est ce compte — jamais un chiffre rapporté par la machine.
Une réponse ratée ne coûte rien
Si la machine qui sert une réponse échoue en cours de route, l’appel n’est pas facturé. Si elle échoue avant son premier mot, une autre machine répond à sa place. Si vous raccrochez, vous payez ce qui a été généré jusque-là.
Avec les crédits que vous avez achetés
Les modèles partagés se paient avec les crédits que vous avez achetés ou gagnés. Le crédit offert ne les paie pas : les machines qui répondent sont payées en argent réel.
Vos limites tiennent
Le maximum qu’un appel pourrait coûter — son prompt et max_tokens — est réservé sur votre solde, la limite de dépense de votre clé et votre plafond mensuel avant qu’il ne parte. Seul ce qu’il a utilisé est prélevé.
Comment ça grandit avec les appels
Chaque machine qui sert un modèle prend sa part des appels. Quand elles sont toutes occupées, le modèle est démarré sur une machine de plus ; quand les appels s’arrêtent, les machines reviennent à leurs propriétaires. Un locataire passe toujours en premier : une machine que quelqu’un loue cesse aussitôt de servir. Avant de prendre l’appel d’un client, chaque machine doit répondre juste à une question de contrôle — et on lui en pose d’autres tant qu’elle sert.
Travail privé : une machine à vous
Vos prompts et vos réponses passent par des machines qui appartiennent à d’autres personnes. N’envoyez rien de privé à un modèle partagé. Pour cela, louez une machine à vous et faites-y tourner le modèle — une instance répond sur la même API, facturée à la seconde.
Questions sur les modèles partagés
De quelle API s’agit-il ?
Les chat completions d’OpenAI : POST /api/v1/compute/chat/completions, en flux ou d’un bloc, avec les outils et la sortie JSON selon ce que chaque modèle prend en charge. GET /api/v1/compute/models liste les modèles avec leurs prix et leur état.
Pourquoi mon premier appel dit-il que le modèle se charge ?
Un modèle que personne n’a appelé récemment est démarré sur une machine quand vous le demandez — quelques minutes la première fois. La réponse est 503 model_loading avec un en-tête Retry-After qui dit quand revenir ; les SDK d’OpenAI attendent et réessaient d’eux-mêmes.
Quelle longueur peut avoir un prompt ?
Jusqu’au contexte indiqué plus haut, prompt et réponse ensemble. Une réponse fait au plus max_tokens, ou 2 048 tokens si vous ne le précisez pas.
Ma machine peut-elle gagner en les servant ?
Oui. Une machine du parc de l’API sert des modèles partagés tant que personne ne la loue, et son hôte reçoit de ce que les clients paient pour les tokens qu’elle sert. Les hôtes peuvent le désactiver dans les réglages de chaque machine.
Un énorme modèle peut-il tourner sur toutes les machines à la fois ?
Pas sur des ordinateurs domestiques reliés par internet : chaque mot d’une réponse attendrait chaque machine tour à tour, ce serait bien plus lent qu’une seule machine. Ce qui passe à l’échelle, ce sont de nombreuses copies d’un modèle, chacune sur une machine, qui se partagent les appels — c’est exactement cela. Un modèle trop grand pour une carte tourne sur une machine avec assez de mémoire, ou sur un cluster de machines reliées par un réseau rapide.
Besoin plutôt de votre propre GPU ?
Faites tourner le modèle de votre choix sur une machine à vous, à la seconde — les instances — ou louez plusieurs machines en un seul cluster.