ID ▾

API Python Open AI: Gunakan SDK OpenAI dengan Model Kami

Kabel berbentuk ular bergaya yang terhubung ke server dengan gelembung obrolan, mewakili Python memanggil API

Untuk kode Python API OpenAI, Anda tidak memerlukan pustaka khusus. Paket openai resmi berfungsi dengan layanan ini setelah Anda mengatur base URL dan kunci yang berbeda, serta model ID-nya adalah uncensored. Di bawah ini adalah panduan lengkap dengan contoh salin-tempel.

Diperbarui

Poin utama

  • Instal openai, lalu teruskan base_url dan api_key ke klien; tidak ada perubahan lain dalam kode Anda.
  • Streaming, mode JSON, dan pemanggilan fungsi semuanya bekerja melalui metode SDK yang sama.
  • Tangkap RateLimitError dan coba lagi; batasnya adalah 300 permintaan per menit dan 8 permintaan paralel pada kunci penuh.
  • Biaya adalah $0.15 per 1M token input dan $0.50 per 1M token output, dibebankan hanya untuk permintaan yang berhasil.

Instal dan buat panggilan pertama

Anda memerlukan Python 3.9 atau lebih baru dan SDK resmi. Buat kunci API terlebih dahulu di halaman kunci; akun baru dapat mengklaim kredit uji coba senilai $0.50 di sana dengan satu klik, tanpa kartu.

pip install openai
export API_KEY="your-key-here"

Sekarang skrip terkecil yang berfungsi. Klien mengambil base URL dan kunci; permintaan menggunakan ID model uncensored.

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.aiapisource.com/v1",
    api_key=os.environ["API_KEY"],
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You are a concise writing assistant."},
        {"role": "user", "content": "Give me three opening lines for a mystery novel."},
    ],
    temperature=0.8,
)

print(resp.choices[0].message.content)
print(resp.usage.prompt_tokens, resp.usage.completion_tokens)

Itulah seluruh integrasi. Layanan mengimplementasikan POST /v1/chat/completions dan GET /v1/models, yang mencakup apa yang digunakan sebagian besar skrip. Ini adalah model teks saja, sehingga endpoint gambar, audio, dan embedding tidak tersedia.

Apa ini, dan apa yang bukan ini

SDK dibuat oleh OpenAI, tetapi endpoint di sini bukan milik OpenAI. Ini adalah model bobot terbuka yang di-hosting, dijalankan oleh penyedia independen dan disesuaikan untuk menjawab tanpa penolakan konten untuk penggunaan dewasa yang sah. Tidak ada pengalihan ke GPT atau model vendor lain. Itulah mengapa Anda mengubah base URL: Anda berbicara ke server berbeda yang menerima format permintaan yang sama.

Jika Anda memindahkan proyek yang ada, cari OpenAI( dan nama model yang ditulis secara hard-coded. Hanya dua tempat itu yang perlu diedit. Daftar periksa produksi API GPT di situs ini mencakup kebiasaan yang berlaku untuk endpoint format OpenAI apa pun, seperti timeout dan percobaan ulang.

Alirkan balasan

Untuk antarmuka obrolan, Anda menginginkan token saat diproduksi. Atur stream=True dan iterasi. Minta penggunaan di akhir jika Anda ingin angka penagihan:

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write a four-line poem about a night train."}],
    stream=True,
    stream_options={"include_usage": True},
)

for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)
    if chunk.usage:
        print("\ntokens:", chunk.usage.prompt_tokens, chunk.usage.completion_tokens)

Pemeriksaan pada chunk.choices penting: chunk terakhir dapat membawa penggunaan dan tidak ada pilihan. Selain itu, permintaan streaming memegang salah satu slot paralel Anda hingga stream berakhir, jadi selalu baca hingga akhir atau tutup.

Mode JSON

Ketika kode Anda perlu mengurai jawaban, aktifkan mode JSON dan jelaskan kunci dalam prompt:

import json

resp = client.chat.completions.create(
    model="uncensored",
    response_format={"type": "json_object"},
    messages=[
        {"role": "user", "content": "Return JSON with keys name (string) and traits (list of 3 strings) for a fictional ship captain."}
    ],
)
character = json.loads(resp.choices[0].message.content)
print(character["name"], character["traits"])

JSON valid kemungkinan besar didapat, tetapi bukan jaminan sesuai skema persis Anda, jadi periksa kunci dan coba lagi sekali jika gagal.

Pemanggilan alat

Jelaskan fungsi dalam tools, jalankan apa pun yang diminta model, dan kirimkan hasilnya kembali dengan role: "tool":

import json

tools = [{
    "type": "function",
    "function": {
        "name": "roll_dice",
        "description": "Roll a die with the given number of sides",
        "parameters": {
            "type": "object",
            "properties": {"sides": {"type": "integer"}},
            "required": ["sides"],
        },
    },
}]

messages = [{"role": "user", "content": "Roll a 20-sided die for my character."}]
first = client.chat.completions.create(model="uncensored", messages=messages, tools=tools)
msg = first.choices[0].message

if msg.tool_calls:
    messages.append(msg)
    for call in msg.tool_calls:
        args = json.loads(call.function.arguments)
        result = {"value": 14, "sides": args["sides"]}  # replace with real logic
        messages.append({"role": "tool", "tool_call_id": call.id, "content": json.dumps(result)})
    final = client.chat.completions.create(model="uncensored", messages=messages, tools=tools)
    print(final.choices[0].message.content)
else:
    print(msg.content)

Anda dapat meneruskan tool_choice untuk memaksa fungsi. Argumen datang sebagai string JSON, jadi selalu jalankan melalui json.loads dan validasi sebelum digunakan.

Error, percobaan ulang, dan async

SDK mencoba ulang beberapa kegagalan secara mandiri, dan Anda dapat mengatur jumlahnya dengan max_retries. Untuk batas laju, tangkap pengecualian dan tunggu. API mengembalikan HTTP 429 dengan kode rate_limited ketika Anda melewati batas per menit, dengan concurrency ketika terlalu banyak permintaan berjalan bersamaan, dan dengan header Retry-After: 5 saat kelebihan beban sementara.

import time
from openai import RateLimitError

def ask(prompt, tries=4):
    for attempt in range(tries):
        try:
            r = client.chat.completions.create(
                model="uncensored",
                messages=[{"role": "user", "content": prompt}],
            )
            return r.choices[0].message.content
        except RateLimitError:
            time.sleep(5 * (attempt + 1))
    raise RuntimeError("Still rate limited after retries")

Untuk batch, gunakan klien async dan batasi paralelisme di bawah batas Anda. Kunci penuh memungkinkan 8 permintaan paralel dan 300 per menit; kunci uji coba memungkinkan 2 dan 60.

import asyncio, os
from openai import AsyncOpenAI

aclient = AsyncOpenAI(base_url="https://api.aiapisource.com/v1", api_key=os.environ["API_KEY"])
sem = asyncio.Semaphore(6)

async def one(prompt):
    async with sem:
        r = await aclient.chat.completions.create(
            model="uncensored",
            messages=[{"role": "user", "content": prompt}],
        )
        return r.choices[0].message.content

async def main():
    prompts = [f"Write a tagline for product number {i}." for i in range(20)]
    results = await asyncio.gather(*(one(p) for p in prompts))
    print(len(results), "done")

asyncio.run(main())

Menggunakan 6 dari 8 slot menyisakan ruang untuk lalu lintas lain pada kunci yang sama.

Jaga percakapan tetap berjalan

API bersifat stateless. API tidak mengingat apa pun antara panggilan, sehingga obrolan hanyalah daftar pesan yang Anda kirim setiap kali. Tambahkan balasan ke daftar dan kirimkan seluruh daftar lagi:

history = [{"role": "system", "content": "You are a patient writing coach."}]

def chat(user_text):
    history.append({"role": "user", "content": user_text})
    r = client.chat.completions.create(model="uncensored", messages=history)
    reply = r.choices[0].message.content
    history.append({"role": "assistant", "content": reply})
    return reply

print(chat("Give me a prompt for a short story."))
print(chat("Make it darker and set it in a harbour town."))

Setiap panggilan mengirim lebih banyak token daripada sebelumnya, dan token input ditagih pada setiap panggilan. Ketika daftar menjadi panjang, hapus giliran tertua atau ganti dengan ringkasan singkat. Jendela konteks adalah 100.000 token untuk prompt plus completion, yang banyak, tetapi riwayat panjang membuat setiap permintaan lebih mahal dan lebih lambat untuk dimulai.

Pengaturan sampling diteruskan: temperature, top_p, stop, seed dan penalti frekuensi serta kehadiran. Atur seed dan suhu rendah ketika Anda ingin menjalankan pengujian yang dapat diulang.

Estimasi biaya sebelum menjalankan batch besar

Penagihan per token dari saldo prabayar: $0.15 per 1M token input dan $0.50 per 1M token output. Permintaan yang gagal atau ditolak tidak dikenakan biaya, dan saldo tidak pernah habis. Ambil batch 10.000 permintaan dengan 1.500 token input dan 400 token output masing-masing. Input adalah 15.000.000 token, yang merupakan 15 x $0.15 = $2.25. Output adalah 4.000.000 token, yang merupakan 4 x $0.50 = $2.00. Batch tersebut berharga $4.25.

Header respons mencakup X-Balance-USD, sehingga Anda dapat membaca sisa saldo Anda dalam kode melalui client.chat.completions.with_raw_response.create(...). Top up adalah jumlah bulat apa pun dari $20 hingga $500, dengan +5% dari $50, +10% dari $100 dan +15% dari $200. Halaman harga mencantumkan opsi pembayaran, dan quickstart mencantumkan setiap parameter yang didukung, termasuk stop, seed dan penalti.

Tanya jawab

Bisakah saya menggunakan paket Python resmi OpenAI dengan API ini?

Ya. Instal openai, atur base_url ke endpoint layanan dan api_key ke kunci Anda, lalu panggil chat.completions.create dengan model uncensored.

Apakah saya perlu pustaka berbeda untuk streaming atau alat?

Tidak. Streaming, mode JSON, dan pemanggilan fungsi bekerja melalui metode SDK yang sama dengan parameter yang biasa.

Apakah ini model milik OpenAI?

Tidak. Ini adalah model bobot terbuka yang dijalankan oleh penyedia independen. Format permintaan sama, itulah mengapa SDK ini bekerja.

Apakah prompt saya melatih model?

Tidak. Prompt yang dikirim melalui API tidak digunakan untuk pelatihan.

Kunci Anda hanya selangkah lagi dari satu formulir

Buat akun, salin kunci, ubah base URL. Itu saja seluruh proses pengaturannya.

Dapatkan kunci API