Jun Kim (proyecto de código abierto)

oMLX

Servidor de modelos de IA para Mac con chip Apple, desde la barra de menú. Gratuito, de código abierto (Apache 2.0) y con API compatible con OpenAI.

Prueba a pedirle

Ventajas

Precio: Open source
Plan gratiscódigo abierto, licencia Apache 2.0Gratis
Orientativo: compruébalo en la web oficial
Plataformas: macOS
Open source: Sí
Empresa: Jun Kim (proyecto de código abierto)

oMLX es un servidor de modelos de IA hecho para el Mac. Lo controlas desde la barra de menú y sirve tus modelos en local.

Es para ti si tienes un Mac con chip Apple y quieres IA local rápida.

Quizá no lo sea si usas Windows o Linux (Ollama).

Cómo usar oMLX desde tu código, la terminal o un agente de IA:

Para usarla desde tu propio código o desde otra aplicación.

Tu códigoAPI

oMLX

1Arranca el servidor apuntando a la carpeta de tus modelos.omlx serve --model-dir ~/models
2Cualquier cliente compatible con OpenAI se conecta a esta dirección:http://localhost:8000/v1
3El chat web integrado está en http://localhost:8000/admin/chat.

Para usarla desde la terminal o en scripts.

Tu terminalCLI

oMLX

1Instala la app (.dmg desde Releases) o usa Homebrew.brew tap jundot/omlx https://github.com/jundot/omlx && brew install jundot/omlx/omlx
2Gestiona el servidor en segundo plano con estos comandos: omlx start, omlx stop, omlx restart.