API Open AI Python : utilisez le SDK OpenAI avec notre modèle

Pour le code Python de l'API OpenAI, vous n'avez pas besoin de bibliothèque spéciale. Le package openai officiel fonctionne avec ce service une fois que vous avez défini une base URL et une clé différentes, et l'ID du modèle est uncensored. Voici un guide complet avec des exemples à copier-coller.
Points clés
- Installez openai, puis passez base_url et api_key au client ; rien d'autre dans votre code ne change.
- Le streaming, le mode JSON et l'appel de fonctions fonctionnent tous via les mêmes méthodes SDK.
- Attrapez RateLimitError et réessayez ; les limites sont de 300 requêtes par minute et 8 requêtes simultanées pour une clé complète.
- Le coût est de 0,15 $ par 1 M de tokens d'entrée et de 0,50 $ par 1 M de tokens de sortie, facturé uniquement pour les requêtes réussies.
Installer et effectuer le premier appel
Vous avez besoin de Python 3.9 ou plus récent et du SDK officiel. Créez d'abord une clé API sur la page des clés ; les nouveaux comptes peuvent y réclamer 0,50 $ de crédit d'essai en un clic, sans carte.
pip install openai
export API_KEY="your-key-here"
Voici maintenant le plus petit script fonctionnel. Le client prend la base URL et la clé ; la requête utilise l'ID du modèle uncensored.
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.aiapisource.com/v1",
api_key=os.environ["API_KEY"],
)
resp = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "You are a concise writing assistant."},
{"role": "user", "content": "Give me three opening lines for a mystery novel."},
],
temperature=0.8,
)
print(resp.choices[0].message.content)
print(resp.usage.prompt_tokens, resp.usage.completion_tokens)
C'est toute l'intégration. Le service implémente POST /v1/chat/completions et GET /v1/models, ce qui couvre ce que la plupart des scripts utilisent. Ce n'est qu'un modèle de texte, donc les endpoints image, audio et embeddings ne sont pas disponibles.
Ce que c'est, et ce que ce n'est pas
Le SDK est créé par OpenAI, mais l'endpoint ici n'est pas celui d'OpenAI. Il s'agit d'un modèle à poids ouverts hébergé, géré par un fournisseur indépendant et ajusté pour répondre sans refus de contenu pour une utilisation adulte légale. Il n'y a pas de routage vers GPT ou le modèle d'un autre fournisseur. C'est pourquoi vous changez la base URL : vous parlez à un serveur différent qui accepte le même format de requête.
Si vous déplacez un projet existant, recherchez-y OpenAI( et les noms de modèle codés en dur. Ce sont les deux seuls endroits qui nécessitent une modification. La liste de contrôle de production de l'API GPT sur ce site couvre les habitudes qui s'appliquent à tout endpoint au format OpenAI, comme les délais d'attente et les nouvelles tentatives.
Diffuser la réponse
Pour les interfaces de chat, vous voulez les tokens au fur et à mesure de leur production. Définissez stream=True et itérez. Demandez l'utilisation à la fin si vous voulez les chiffres de facturation :
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Write a four-line poem about a night train."}],
stream=True,
stream_options={"include_usage": True},
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
if chunk.usage:
print("\ntokens:", chunk.usage.prompt_tokens, chunk.usage.completion_tokens)
La vérification sur chunk.choices est importante : le dernier chunk peut contenir des informations d'utilisation et aucun choix. De plus, une requête en streaming occupe l'un de vos slots de concurrence jusqu'à la fin du flux, donc lisez-le toujours jusqu'au bout ou fermez-le.
Mode JSON
Lorsque votre code doit analyser la réponse, activez le mode JSON et décrivez les clés dans le prompt :
import json
resp = client.chat.completions.create(
model="uncensored",
response_format={"type": "json_object"},
messages=[
{"role": "user", "content": "Return JSON with keys name (string) and traits (list of 3 strings) for a fictional ship captain."}
],
)
character = json.loads(resp.choices[0].message.content)
print(character["name"], character["traits"])
Un JSON valide est le résultat probable, pas une promesse de votre schéma exact, alors vérifiez les clés et réessayez une fois en cas d'échec.
Appel de fonctions
Décrivez les fonctions dans tools, exécutez ce que le modèle demande, et renvoyez le résultat avec role: "tool" :
import json
tools = [{
"type": "function",
"function": {
"name": "roll_dice",
"description": "Roll a die with the given number of sides",
"parameters": {
"type": "object",
"properties": {"sides": {"type": "integer"}},
"required": ["sides"],
},
},
}]
messages = [{"role": "user", "content": "Roll a 20-sided die for my character."}]
first = client.chat.completions.create(model="uncensored", messages=messages, tools=tools)
msg = first.choices[0].message
if msg.tool_calls:
messages.append(msg)
for call in msg.tool_calls:
args = json.loads(call.function.arguments)
result = {"value": 14, "sides": args["sides"]} # replace with real logic
messages.append({"role": "tool", "tool_call_id": call.id, "content": json.dumps(result)})
final = client.chat.completions.create(model="uncensored", messages=messages, tools=tools)
print(final.choices[0].message.content)
else:
print(msg.content)
Vous pouvez passer tool_choice pour forcer un appel de fonction. Les arguments arrivent sous forme de chaîne JSON, donc exécutez-les toujours via json.loads et validez-les avant utilisation.
Erreurs, tentatives et asynchrone
Le SDK réessaie automatiquement certains échecs, et vous pouvez définir le nombre de tentatives avec max_retries. Pour les limites de débit, capturez l'exception et attendez. L'API renvoie HTTP 429 avec le code rate_limited lorsque vous dépassez la limite par minute, avec concurrency lorsque trop de requêtes s'exécutent simultanément, et avec un en-tête Retry-After: 5 en cas de surcharge temporaire.
import time
from openai import RateLimitError
def ask(prompt, tries=4):
for attempt in range(tries):
try:
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": prompt}],
)
return r.choices[0].message.content
except RateLimitError:
time.sleep(5 * (attempt + 1))
raise RuntimeError("Still rate limited after retries")
Pour les lots, utilisez le client asynchrone et limitez le parallélisme en dessous de votre limite. Une clé complète permet 8 requêtes simultanées et 300 par minute ; une clé d'essai permet 2 et 60.
import asyncio, os
from openai import AsyncOpenAI
aclient = AsyncOpenAI(base_url="https://api.aiapisource.com/v1", api_key=os.environ["API_KEY"])
sem = asyncio.Semaphore(6)
async def one(prompt):
async with sem:
r = await aclient.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": prompt}],
)
return r.choices[0].message.content
async def main():
prompts = [f"Write a tagline for product number {i}." for i in range(20)]
results = await asyncio.gather(*(one(p) for p in prompts))
print(len(results), "done")
asyncio.run(main())
L'utilisation de 6 des 8 slots laisse de la place pour d'autre trafic sur la même clé.
Maintenir une conversation
L'API est sans état. Elle ne se souvient de rien entre les appels, donc une conversation n'est que la liste des messages que vous envoyez à chaque fois. Ajoutez la réponse à la liste et renvoyez toute la liste à nouveau :
history = [{"role": "system", "content": "You are a patient writing coach."}]
def chat(user_text):
history.append({"role": "user", "content": user_text})
r = client.chat.completions.create(model="uncensored", messages=history)
reply = r.choices[0].message.content
history.append({"role": "assistant", "content": reply})
return reply
print(chat("Give me a prompt for a short story."))
print(chat("Make it darker and set it in a harbour town."))
Chaque appel envoie plus de tokens que le précédent, et les tokens d'entrée sont facturés à chaque appel. Lorsque la liste devient longue, supprimez les anciens tours ou remplacez-les par un résumé court. La fenêtre de contexte est de 100 000 tokens pour le prompt plus la complétion, ce qui est beaucoup, mais un historique long rend chaque requête plus coûteuse et plus lente à initier.
Les paramètres d'échantillonnage sont transmis tels quels : temperature, top_p, stop, seed et les pénalités de fréquence et de présence. Définissez seed et une température faible lorsque vous voulez des exécutions de test reproductibles.
Estimer le coût avant une grande exécution
La facturation se fait par token à partir du crédit prépayé : 0,15 $ par 1 M de tokens d'entrée et 0,50 $ par 1 M de tokens de sortie. Les requêtes échouées ou refusées ne sont pas facturées, et le crédit n'expire jamais. Prenez un lot de 10 000 requêtes avec 1 500 tokens d'entrée et 400 tokens de sortie chacune. L'entrée représente 15 000 000 de tokens, soit 15 x 0,15 $ = 2,25 $. La sortie représente 4 000 000 de tokens, soit 4 x 0,50 $ = 2,00 $. Le lot coûte 4,25 $.
Les en-têtes de réponse incluent X-Balance-USD, vous pouvez ainsi lire votre solde restant dans le code via client.chat.completions.with_raw_response.create(...). Les recharges sont un montant entier quelconque de 20 $ à 500 $, avec +5 % à partir de 50 $, +10 % à partir de 100 $ et +15 % à partir de 200 $. La page tarifs liste les options de paiement, et le guide de démarrage rapide liste tous les paramètres pris en charge, y compris stop, seed et les pénalités.
Plus de guides
Questions et réponses
Puis-je utiliser le package Python officiel OpenAI avec cette API ?
Oui. Installez openai, définissez base_url sur l'endpoint du service et api_key sur votre clé, puis appelez chat.completions.create avec le modèle uncensored.
Ai-je besoin d'une bibliothèque différente pour le streaming ou les outils ?
Non. Le streaming, le mode JSON et l'appel de fonctions fonctionnent via les mêmes méthodes SDK, avec les paramètres habituels.
S'agit-il du modèle d'OpenAI ?
Non. Il s'agit d'un modèle à poids ouverts géré par un fournisseur indépendant. Le format de requête est identique, c'est pourquoi le SDK fonctionne.
Mes prompts entraînent-ils le modèle ?
Non. Les prompts envoyés via l'API ne sont pas utilisés pour l'entraînement.
Votre clé n'est qu'à un formulaire de distance
Créez un compte, copiez la clé, modifiez la base URL. C'est toute la configuration.