What AI-use

Actualizado el

SGLang (LMSYS)

Logo de SGLang

SGLang

Motor gratuito y de código abierto para servir modelos de IA con rapidez en tus propias GPU. Compatible con la API de OpenAI. Solo pagas tu hardware.

Prueba a pedirle

  • Ayúdame a servir un modelo abierto como si fuera una API propia
  • Ayúdame a dar respuestas rápidas a muchos usuarios a la vez
  • Ayúdame a montar un servicio de IA en servidores con GPU
Ir a la web

Ventajas

  • Gratuito y de código abierto
  • Imita la API de OpenAI, así que es fácil de conectar
  • Funciona con tarjetas NVIDIA, AMD, Intel y otras

Inconvenientes

  • Pensado para equipos técnicos
  • Necesitas GPU y conocimientos de servidores
  • No es una app para chatear
Precio
Open source
  • Plan gratisy de código abiertoGratis
  • solo pagas tu propio hardware o servidor
Verificado en nov 2026 · fuente
Plataformas
LinuxDocker
Open source
No
Empresa
SGLang (LMSYS)

Qué es

SGLang es un motor para ejecutar modelos de IA de forma rápida y eficiente. Lo mantiene la organización sin ánimo de lucro LMSYS. Su documentación dice que mueve billones de tokens al día en más de 400.000 GPU.

Cómo funciona

  • Lo instalas en un servidor con GPU.
  • Lo arrancas con el modelo que quieras.
  • Responde por una API compatible con OpenAI.
  • Tus apps le hablan igual que a ChatGPT, pero con tu modelo.

Para quién es (y para quién no)

Es para ti si administras servidores y quieres servir modelos abiertos con buen rendimiento.

Quizá no lo sea si solo quieres probar un modelo en tu ordenador (Ollama).

Conexión con otras IAs

Cómo usar SGLang desde tu código, la terminal o un agente de IA:

APIDocumentación oficial

Para usarla desde tu propio código o desde otra aplicación.

  1. 1Con el servidor arrancado, el puerto 30000 responde como la API de OpenAI. Prueba con el endpoint de chat:curl http://localhost:30000/v1/chat/completions -H "Content-Type: application/json" -d '{"model": "Qwen/Qwen3-0.6B", "messages": [{"role": "user", "content": "Hola"}]}'
  2. 2Usa el mismo identificador de modelo que pasaste a sglang serve.
CLIDocumentación oficial

Para usarla desde la terminal o en scripts.

  1. 1En un entorno con uv, instala SGLang.uv pip install --prerelease=allow sglang
  2. 2Arranca el servidor con el modelo de Hugging Face que quieras y espera al mensaje «The server is fired up and ready to roll!».sglang serve Qwen/Qwen3-0.6B --host 0.0.0.0 --port 30000
  3. 3Si prefieres Docker, la documentación ofrece la imagen lmsysorg/sglang:latest.

Alternativas a SGLang

vLLMOpen sourceOllamaOpen sourcellama.cppOpen source

Preguntas frecuentes

¿SGLang es gratis?

Sí, es de código abierto. El coste está en el servidor o las GPU donde lo ejecutes.

¿Qué diferencia hay con Ollama?

Ollama busca la sencillez en un ordenador personal. SGLang está pensado para producción, con muchas peticiones a la vez y varias GPU.

¿Qué modelos admite?

Su documentación cita Llama, Qwen, DeepSeek y más, y es compatible con modelos de Hugging Face.

¿Funciona en un portátil sin GPU?

Su guía de inicio indica Linux con una GPU NVIDIA. No es la opción para un equipo sin GPU.

¿En qué dispositivos se puede usar SGLang?

Está disponible en Linux y Docker.

¿SGLang es de código abierto?

No, es una herramienta de código cerrado de SGLang (LMSYS).

¿Se puede conectar SGLang con otras aplicaciones o agentes de IA?

Sí, tiene API y CLI oficial. Más arriba explicamos cómo conectarla.

Más IAs de modelos abiertos y locales

Ver todas las IAs de modelos abiertos y locales