OpenAI-compatible · Thunder Compute

Qwen3.8-27B Uncensored en RTX A6000

El primer request enciende la A6000. El snapshot se toma una vez, en caliente; el idle solo borra la instancia para cortar el cobro.

idle

Estado de la GPU

Fase
…
Modo
…
Modelo
…
Quant
…
Contexto
…
Idle restante
—
Instancia
apagada
Endpoint público
—

Playground

POST /v1/chat/completions · streaming

Cliente OpenAI