Proxy voor AI

Elk groot AI-platform beperkt het aantal verzoeken dat u kunt versturen. OpenAI, Anthropic, Google, DeepSeek — ze begrenzen allemaal uw gebruik per account, per minuut, per dag. Wanneer u producten bouwt, automatisering draait of data op grote schaal verwerkt, bereikt één account met één IP al snel het plafond. U krijgt 429-fouten, verzoeken hopen zich op in de wachtrij en uw pipeline komt tot stilstand.

Een AI-proxyserver bevindt zich tussen uw applicaties en de AI-provider. U stuurt verzoeken naar de proxy, die ze verdeelt over meerdere API-keys, elk via een eigen IP-adres. De provider ziet afzonderlijke gebruikers in plaats van één overbelast account. Uw totale capaciteit vermenigvuldigt zich, terwijl elke individuele key veilig binnen de limieten blijft. In de praktijk voegt een goed geconfigureerde proxy slechts 15–30 ms latentie per verzoek toe — verwaarloosbaar voor batchverwerking en nauwelijks merkbaar zelfs in realtime chatapplicaties, waar de generatietijd van het model zelf domineert met 500–3.000 ms.

Dit werkt omdat AI-platforms rate limits koppelen aan accounts, niet aan IP's — maar ze monitoren wel IP-patronen. Als één adres in snel tempo door 10 verschillende API-keys wisselt, is dat een rode vlag. Afzonderlijke dedicated proxy's per key zorgen ervoor dat alles er natuurlijk uitziet. U heeft ook een failover-strategie nodig: monitor de foutrate van elke key, en als een specifiek IP consistent 429- of 403-fouten retourneert, roteer het dan automatisch uit de pool en routeer het verkeer van die key via een reserve-IP. Healthchecks elke 60 seconden per key-IP-paar detecteren problemen voordat ze zich uitbreiden.

Hoe de configuratie er in de praktijk uitziet

De meeste AI API-proxysetups volgen hetzelfde patroon, ongeacht de provider. U draait een lichtgewicht proxyserver (FastAPI, Node, Go — wat uw stack ook is) die een pool met API-keys beheert. Wanneer er een verzoek binnenkomt, kiest de proxy de volgende beschikbare key, routeert het verzoek via het toegewezen IP van die key en stuurt het antwoord terug. Als een key een 429 (rate-limit-fout) ontvangt, schakelt de proxy over naar de volgende. Hier is een minimaal Python-voorbeeld met FastAPI en httpx:

import httpx, itertools
from fastapi import FastAPI, Request, Response

@app.post("/v1/chat/completions")
async def proxy(request: Request):
  body = await request.json()
  slot = next(keys)
  async with httpx.AsyncClient(proxy=slot["proxy"]) as client:
    r = await client.post(
      "https://api.openai.com/v1/chat/completions",
      json=body,
      headers={"Authorization": f"Bearer {slot['api_key']}"},
    )
  # TODO: Add retry logic on 429 — try next key/IP before returning error to caller
  return Response(content=r.content, status_code=r.status_code)

Opmerking: dit minimale voorbeeld gebruikt itertools.cycle voor de eenvoud, maar het probeert niet automatisch opnieuw bij 429-fouten. Voeg in productie retry-logica toe die de geblokkeerde key overslaat en het volgende beschikbare key-IP-paar probeert voordat er een fout wordt teruggestuurd naar de aanroeper. Aangezien vrijwel elke AI-provider inmiddels het OpenAI API-formaat ondersteunt, kan één proxy de formaatvertaling verzorgen die elke AI-provider vereist — routeer naar de juiste provider en uw applicatie hoeft het verschil niet te kennen. Wissel de base URL en keypool per provider, en dezelfde server van 20 regels bedient OpenAI, Anthropic, Google en DeepSeek.

Hoeveel IP's hebt u werkelijk nodig?

Dit is geen web scraping waarbij u duizenden adressen nodig heeft. Voor AI API-werk volstaan 3–15 dedicated proxy's voor de meeste setups. Eén IP per API-key of per provider-account. U betaalt voor stabiliteit en schone IP's, niet voor volume. Houd 1–2 reserve-IP's achter de hand voor failover — als een key wordt beperkt of een IP wordt gemarkeerd, schakelt uw proxy automatisch over naar de back-up zonder verzoeken te verliezen.

Platformspecifieke handleidingen

Elke AI-provider heeft eigen rate limits, eigenaardigheden en best practices. We hebben details voor elk afzonderlijk beschreven:

DeepSeek — geen gepubliceerde limieten, dynamische throttling op basis van serverbelasting. Uw verzoeken kunnen zonder waarschuwing een time-out krijgen tijdens piekuren. Meerdere keys over verschillende IP's verdeeld lossen dit op. → Proxy voor DeepSeek
Google Gemini — gratis tier met 50-80% verlaagd eind 2025. Nu slechts 5-10 verzoeken per minuut, afhankelijk van het model. Key-rotatie via meerdere Google Cloud-projecten is de standaard workaround. → Proxy voor Gemini
Anthropic Claude — gelaagde rate limits (RPM, input/output-tokens per minuut) die stijgen naarmate u meer besteedt. Burstverkeer wordt geweigerd, zelfs als uw gemiddelde binnen de limieten valt. → Proxy voor Claude
OpenAI ChatGPT — limieten per organisatie op RPM en tokens. Het meest gebruikte AI-chatproxydoel, met de meeste beschikbare tooling. → Proxy voor ChatGPT
Janitor AI — „proxy

Elk platform heeft andere limieten, andere detectielogica en andere optimale instellingen voor proxyconfiguratie. Begin met de handleiding voor uw primaire provider, stel health monitoring in voor elke key-IP-combinatie en houd reservecapaciteit aan voor failover.