IA LOCAL EN LINUX: CONTROL TOTAL
Linux es una de las plataformas más interesantes para trabajar con inteligencia artificial local, especialmente si buscas control, privacidad, automatización y la posibilidad de convertir tu PC en un verdadero servidor de IA.
Puedes utilizar distribuciones como Ubuntu, CachyOS u otras alternativas compatibles para ejecutar modelos de lenguaje, generar imágenes, trabajar con vídeo, crear agentes o desarrollar tus propias aplicaciones.
¿Por qué usar Linux para IA local?
Linux se utiliza ampliamente en desarrollo, servidores, machine learning y computación acelerada.
Esto hace que muchas herramientas de inteligencia artificial funcionen especialmente bien en este entorno y puedan integrarse con facilidad con Python, Docker, APIs, bases de datos, servicios en segundo plano y automatizaciones.
Con un equipo Linux puedes montar:
- Un servidor de modelos de lenguaje.
- Un sistema de generación de imágenes.
- Un entorno para ComfyUI.
- Un servidor de agentes.
- Una plataforma de programación asistida por IA.
- Un sistema de automatización.
- Un servidor privado accesible desde otros equipos.
Tu PC puede dejar de ser únicamente un ordenador convencional y convertirse en una máquina dedicada a inteligencia artificial.
AMD ROCm en Linux
Si utilizas una GPU AMD, una de las tecnologías más importantes es ROCm.
ROCm es la plataforma de computación de AMD destinada a acelerar cargas de inteligencia artificial y machine learning utilizando la GPU.
Gracias a ROCm, diferentes frameworks y aplicaciones pueden aprovechar determinadas GPUs Radeon para ejecutar modelos de IA, generación de contenido y otras cargas aceleradas.
La compatibilidad depende del modelo concreto de GPU, la versión de ROCm y la distribución utilizada, por lo que conviene comprobar siempre el soporte antes de montar un sistema dedicado.
CachyOS, Ubuntu y otras distribuciones
No existe una única distribución obligatoria para utilizar IA local.
Ubuntu es una opción muy interesante si buscas documentación, compatibilidad y un entorno más tradicional.
CachyOS puede resultar especialmente atractivo si quieres combinar rendimiento, gaming, escritorio e inteligencia artificial en un mismo sistema.
Otras distribuciones también pueden funcionar perfectamente siempre que dispongan de los drivers, librerías y versiones necesarias.
La elección depende principalmente de cuánto control quieras tener y de cuánto quieras complicar la configuración.
Ollama: modelos de lenguaje en tu propio PC
Ollama permite descargar y ejecutar modelos de lenguaje directamente en Linux.
Puedes utilizarlo para:
- Mantener conversaciones.
- Escribir textos.
- Resumir documentos.
- Programar.
- Generar código.
- Crear asistentes.
- Procesar información.
- Conectar modelos con otras aplicaciones.
Además, Ollama puede mantenerse funcionando como un servicio en segundo plano.
Esto permite que otros programas o incluso otros ordenadores de tu red utilicen el modelo mediante una API.
De esta forma, Ollama puede convertirse en el motor de inteligencia artificial de todo tu sistema.
ComfyUI: imágenes y vídeo con mayor control
ComfyUI es una de las herramientas más potentes para generación visual mediante inteligencia artificial.
Utiliza un sistema de nodos que permite construir workflows completos y controlar prácticamente todo el proceso de generación.
Puedes utilizarlo para:
- Generar imágenes.
- Transformar imágenes.
- Realizar upscaling.
- Modificar estilos.
- Controlar poses.
- Utilizar diferentes modelos.
- Automatizar generaciones.
- Crear animaciones.
- Trabajar con generación de vídeo.
Su principal ventaja es la flexibilidad.
Puedes crear workflows simples o sistemas complejos con múltiples modelos conectados entre sí.
IA local funcionando 24/7
Una de las mayores ventajas de Linux es la posibilidad de utilizar un ordenador como servidor de IA permanente.
Puedes dejar el equipo funcionando y acceder a él desde otros dispositivos de tu red.
Por ejemplo:
PC principal → envía una petición
Servidor Linux → ejecuta el modelo
GPU → procesa la tarea
Resultado → vuelve al PC principal
El ordenador dedicado a IA ni siquiera necesita estar conectado permanentemente a un monitor.
Puedes administrarlo remotamente y utilizarlo como una pequeña infraestructura de inteligencia artificial doméstica o profesional.
Docker y contenedores
Linux también ofrece una integración excelente con Docker.
Los contenedores permiten ejecutar aplicaciones con sus propias dependencias sin mezclar todas las librerías en el sistema principal.
Por ejemplo, puedes tener:
- Ollama en un contenedor.
- Una interfaz web en otro.
- Una base de datos vectorial en otro.
- Un agente en otro.
- Herramientas de automatización separadas.
Esto facilita mantener el sistema limpio y evita muchos conflictos entre versiones de Python, librerías o frameworks.
Agentes de IA en Linux
Una vez tienes un modelo funcionando, puedes utilizarlo como cerebro de diferentes agentes.
Un agente puede interpretar instrucciones y ejecutar tareas.
Por ejemplo:
- Leer documentos.
- Clasificar información.
- Consultar bases de datos.
- Generar informes.
- Crear código.
- Ejecutar scripts.
- Automatizar procesos.
- Interactuar con APIs.
- Analizar archivos.
- Gestionar información.
Aquí es donde la IA local empieza a convertirse en algo más que un chatbot.
Pasas de tener un modelo que responde preguntas a tener un sistema capaz de realizar tareas automáticamente.
Programación y desarrollo de aplicaciones
Linux también es una plataforma excelente para utilizar modelos locales como asistentes de desarrollo.
Puedes combinar IA con:
- Python.
- JavaScript.
- Node.js.
- Git.
- Docker.
- Bases de datos.
- APIs.
- Editores de código.
- Herramientas de automatización.
Un modelo local puede ayudarte a desarrollar:
- Páginas web.
- Aplicaciones.
- Scripts.
- APIs.
- Automatizaciones.
- Herramientas internas.
- Bases de datos.
- Prototipos.
Esto puede reducir mucho el tiempo necesario para probar ideas o desarrollar pequeñas aplicaciones.
Generación de imágenes, música y vídeo
La IA local en Linux no se limita al texto.
Dependiendo del software y los modelos que instales puedes trabajar con:
Imágenes: generación, edición, restauración y upscaling.
Vídeo: texto a vídeo, imagen a vídeo, animaciones y transformación de escenas.
Música: generación de música, audio y efectos.
Voz: síntesis, clonación y procesamiento de voz.
Código: generación y análisis de programación.
La capacidad real dependerá principalmente de tu GPU y de la memoria disponible.
La VRAM sigue siendo fundamental
La cantidad de VRAM es uno de los factores más importantes cuando trabajas con IA local.
Como orientación general:
8 GB: modelos pequeños y experimentación básica.
12-16 GB: un punto mucho más interesante para imágenes y modelos de lenguaje.
16 GB o más: mayor margen para workflows complejos.
24 GB o más: especialmente útil para modelos pesados, vídeo y cargas avanzadas.
Estas cifras no son límites absolutos, ya que existen técnicas de cuantización y optimización que permiten reducir los requisitos.
Privacidad y control
Una de las grandes ventajas de la IA local es que los modelos pueden ejecutarse directamente dentro de tu propio ordenador.
Esto permite trabajar con documentos, imágenes, código o proyectos sin tener que enviarlos necesariamente a servidores externos.
Aun así, debes revisar cada aplicación individualmente.
Que el modelo funcione en local no significa automáticamente que todo el software instalado sea completamente offline.
Ahorrar créditos y suscripciones
Muchas plataformas de inteligencia artificial cobran por:
- Tokens.
- Imágenes.
- Vídeo.
- Música.
- APIs.
- Generación de código.
- Procesamiento de documentos.
Con IA local, gran parte de ese coste pasa a depender de tu propio hardware, electricidad y tiempo de procesamiento.
Si utilizas inteligencia artificial de forma intensiva, esto puede reducir considerablemente la dependencia de servicios que cobran por cada generación.
¿Es Linux mejor que Windows para IA local?
No existe una respuesta única.
Windows suele ser más sencillo para empezar y dispone cada vez de más aplicaciones preparadas para usuarios que no quieren configurar demasiado.
Linux ofrece más control y resulta especialmente interesante cuando quieres crear servidores, automatizaciones, contenedores, agentes o entornos dedicados.
Podemos resumirlo así:
Windows: facilidad y aplicaciones de escritorio.
Linux: control, servidores, automatización y experimentación.
Por eso Linux puede ser una excelente opción para convertir un PC secundario en una máquina dedicada a inteligencia artificial funcionando 24/7.
INSTALAR IA LOCAL EN CACHYOS: OLLAMA + COMFYUI + MODELOS
CachyOS está basado en Arch Linux y puede utilizar ROCm para acelerar cargas de inteligencia artificial con determinadas GPU AMD. Antes de empezar conviene comprobar que tu tarjeta gráfica es compatible.
1. ACTUALIZAR CACHYOS
Abre una terminal y ejecuta:
sudo pacman -Syu
reboot
2. COMPROBAR QUE LA GPU AMD ESTÁ DETECTADA
lspci | grep -Ei "VGA|3D"
lsmod | grep amdgpu
Si aparece tu GPU y el módulo amdgpu, podemos continuar.
3. INSTALAR ROCm
sudo pacman -S rocm-hip-sdk
rocminfo
rocminfo | grep -i "Marketing Name"
Si rocminfo muestra tu GPU, ROCm está reconociendo correctamente el hardware.
4. INSTALAR OLLAMA CON SOPORTE AMD ROCm
sudo pacman -S ollama-rocm
sudo systemctl enable --now ollama
systemctl status ollama
5. DESCARGAR UN MODELO PARA OLLAMA
Por ejemplo, podemos instalar Llama 3.2:
ollama pull llama3.2
Para ejecutarlo:
ollama run llama3.2
Ya podemos hablar directamente con nuestra IA desde la terminal.
Para salir:
/bye
Para comprobar todos los modelos instalados:
ollama list
Para eliminar un modelo:
ollama rm llama3.2
6. INSTALAR COMFYUI EN CACHYOS
Instalamos primero las herramientas necesarias:
sudo pacman -S git python python-pip
Descargamos ComfyUI:
git clone https://github.com/Comfy-Org/ComfyUI.git
Entramos en su carpeta:
cd ComfyUI
Creamos un entorno virtual para mantener la instalación separada del sistema:
python -m venv venv
Lo activamos:
source venv/bin/activate
Actualizamos pip:
pip install --upgrade pip
7. INSTALAR PYTORCH CON ROCm
Instalamos PyTorch preparado para utilizar ROCm:
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/rocm7.2
Después instalamos las dependencias necesarias de ComfyUI:
pip install -r requirements.txt
8. EJECUTAR COMFYUI
python main.py
Una vez iniciado, abre en el navegador:
http://127.0.0.1:8188
Ya tendremos la interfaz de ComfyUI funcionando en nuestro propio PC.
9. INSTALAR MODELOS EN COMFYUI
Los modelos principales o checkpoints deben colocarse en:
ComfyUI/models/checkpoints/
Por ejemplo, los archivos .safetensors de modelos de generación de imágenes se copian dentro de esa carpeta.
ComfyUI dispone además de diferentes carpetas según el tipo de modelo:
ComfyUI/models/checkpoints/
ComfyUI/models/vae/
ComfyUI/models/loras/
ComfyUI/models/controlnet/
ComfyUI/models/upscale_models/
Después de copiar un nuevo modelo podemos reiniciar ComfyUI para que aparezca disponible.
10. VOLVER A EJECUTAR COMFYUI
Cuando reiniciemos el ordenador no necesitamos instalar nada otra vez.
Simplemente abrimos terminal y ejecutamos:
cd ~/ComfyUI
source venv/bin/activate
python main.py
Después entramos nuevamente desde el navegador en:
http://127.0.0.1:8188
Para cerrar ComfyUI podemos pulsar:
CTRL + C
============================================================
INSTALAR IA LOCAL EN UBUNTU: OLLAMA + COMFYUI + MODELOS
Ubuntu es una de las distribuciones Linux más utilizadas para inteligencia artificial y dispone de soporte oficial de AMD ROCm para determinadas versiones de Ubuntu y GPU compatibles.
Antes de comenzar debemos comprobar siempre que nuestra GPU aparece dentro del hardware soportado por ROCm.
1. ACTUALIZAR UBUNTU
sudo apt update
sudo apt upgrade -y
sudo reboot
2. COMPROBAR NUESTRA GPU AMD
lspci | grep -Ei "VGA|3D"
lsmod | grep amdgpu
Si aparece nuestra GPU y el módulo amdgpu podemos continuar.
3. INSTALAR HERRAMIENTAS NECESARIAS
sudo apt install wget curl gpg git python3 python3-pip python3-venv -y
4. INSTALAR ROCm
La instalación concreta de ROCm puede variar dependiendo de la versión de Ubuntu y de ROCm utilizada.
Una vez instalado ROCm podemos comprobar que nuestra GPU está siendo reconocida utilizando:
rocminfo
También podemos mostrar directamente el nombre de la GPU:
rocminfo | grep -i "Marketing Name"
Si aparece nuestra Radeon significa que ROCm puede detectar el dispositivo.
5. INSTALAR OLLAMA EN UBUNTU
Ejecutamos:
curl -fsSL https://ollama.com/install.sh | sh
Después iniciamos Ollama:
sudo systemctl enable --now ollama
Comprobamos que el servicio está funcionando:
systemctl status ollama
6. DESCARGAR NUESTRO PRIMER MODELO
Por ejemplo:
ollama pull llama3.2
Lo ejecutamos:
ollama run llama3.2
A partir de este momento ya podemos utilizar nuestro modelo de lenguaje directamente en local.
Para salir:
/bye
Para ver todos nuestros modelos:
ollama list
Para eliminar uno:
ollama rm llama3.2
7. INSTALAR COMFYUI EN UBUNTU
Descargamos ComfyUI:
git clone https://github.com/Comfy-Org/ComfyUI.git
Entramos en su carpeta:
cd ComfyUI
Creamos un entorno virtual:
python3 -m venv venv
Lo activamos:
source venv/bin/activate
Actualizamos pip:
pip install --upgrade pip
8. INSTALAR PYTORCH CON ROCm
Instalamos PyTorch preparado para utilizar AMD ROCm:
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/rocm7.2
Instalamos después las dependencias de ComfyUI:
pip install -r requirements.txt
9. EJECUTAR COMFYUI
python main.py
Una vez cargado podemos abrir:
http://127.0.0.1:8188
Ya tendremos ComfyUI ejecutándose directamente en nuestro equipo.
10. DESCARGAR E INSTALAR MODELOS
Los modelos principales deben copiarse dentro de:
ComfyUI/models/checkpoints/
Los modelos suelen utilizar archivos con extensión:
.safetensors
Dependiendo del tipo de modelo también existen otras carpetas:
ComfyUI/models/checkpoints/
ComfyUI/models/vae/
ComfyUI/models/loras/
ComfyUI/models/controlnet/
ComfyUI/models/upscale_models/
Una vez copiado el modelo reiniciamos ComfyUI y podremos seleccionarlo desde el workflow correspondiente.
11. VOLVER A ABRIR COMFYUI
Cada vez que queramos utilizarlo ejecutamos:
cd ~/ComfyUI
source venv/bin/activate
python main.py
Después abrimos:
http://127.0.0.1:8188
Para cerrar:
CTRL + C
OLLAMA Y COMFYUI: ¿PARA QUÉ SIRVE CADA UNO?
Ollama está pensado principalmente para ejecutar modelos de lenguaje en local.
Podemos utilizarlo para chat, programación, generación de código, análisis de documentos, asistentes y agentes de inteligencia artificial.
ComfyUI está orientado principalmente a inteligencia artificial generativa mediante workflows visuales.
Podemos utilizarlo para generar imágenes, modificar imágenes, utilizar LoRA, ControlNet, realizar upscaling y trabajar con diferentes modelos de generación de vídeo.
Ambas herramientas pueden coexistir en el mismo ordenador.
De esta manera podemos disponer de Ollama como nuestro servidor de modelos de lenguaje y ComfyUI como entorno de generación visual.
Una vez configurado todo, nuestro PC Linux puede convertirse en una auténtica estación de inteligencia artificial local sin necesidad de pagar créditos por cada generación.