Guía · Comandos de Hugging Face TRL verificados con su documentación · precios del 29 de octubre de 2026

¿Cómo hago fine-tuning de Llama en una GPU alquilada?

Un adaptador LoRA o QLoRA es la forma más barata de enseñarle Llama tus datos. Esta guía elige la GPU, ejecuta el entrenamiento con Hugging Face TRL y saca el adaptador de la máquina antes de que se borre el disco.

Última actualización: 29 de octubre de 2026 · 8 min de lectura

Respuesta rápida

¿Cómo hago fine-tuning de Llama en una GPU alquilada?

Para ajustar Llama con fine-tuning en una GPU alquilada, entrena un adaptador LoRA o QLoRA con Hugging Face TRL. Llama 3.1 8B necesita unos 6 GB en QLoRA y 19,2 GB en LoRA, así que una RTX 4090 de 24 GB es suficiente; Llama 3.1 70B en QLoRA necesita unos 52,5 GB, una A100 80GB. Copia el adaptador antes de eliminar la instancia. A 29 de octubre de 2026, GPUwithCrypto alquila la RTX 4090 a $0.28/hora, pagando con criptomonedas.

¿Qué GPU necesito para ajustar Llama con fine-tuning?

Memoria según las reglas de nuestra guía de VRAM: QLoRA ≈ 0,75 GB por cada mil millones de parámetros, LoRA = 2 bytes por parámetro × 1,2, fine-tuning completo 16–18 bytes por parámetro. Nuestros precios del 29 de octubre de 2026.

Modelo	Método	VRAM (regla)	GPU	GPUwithCrypto por hora
Llama 3.1 8B	QLoRA	6 GB	1× RTX 4090 (24 GB)	$0.28/hora
Llama 3.1 8B	LoRA (base BF16)	19.2 GB	1× RTX 4090 (24 GB)	$0.28/hora
Llama 3.1 8B	Fine-tuning completo	128–144 GB + activaciones	1× B200 (180 GB)	$4.61/hora
Llama 3.1 70B	QLoRA	52.5 GB	1× A100 80GB o 1× H100	$0.92/hora o $2,32/hora
Llama 3.1 70B	LoRA (base BF16)	168 GB	1× B200 o 2× H200	$4.61/hora o $6.14/hora

Precios comprobados el 29 de octubre de 2026

Disco: los pesos de Llama 3.1 8B Instruct ocupan 16,1 GB, los pesos de 70B Instruct 141,1 GB. Deja espacio para los checkpoints.

¿Cómo ejecuto un fine-tuning QLoRA de Llama 3.1 8B?

Comandos de la documentación de Hugging Face TRL y Hub. Cambia el id del modelo por meta-llama/Llama-3.1-70B-Instruct en una GPU de 80 GB para entrenar el modelo 70B de la misma forma. ¿Es tu primera vez con GPUs alquiladas? Cómo alquilar una GPU para IA cubre la cuenta, SSH y un primer trabajo.

Alquila la GPU
Inicia una instancia 1× RTX 4090 para el modelo 8B, o una 1× A100 80GB para 70B. Cada instancia te da GPU completas, nunca una porción compartida en el tiempo ni una partición MIG. Tienes acceso SSH con root a Ubuntu con el driver NVIDIA, CUDA y PyTorch instalados, o empieza desde tu propia imagen Docker.
Obtén acceso a Llama
Los repositorios de meta-llama en Hugging Face están restringidos: solicita acceso en la página del modelo y acepta la licencia de Meta, luego ejecuta hf auth login en la instancia con un token de lectura.
Instala TRL, PEFT y bitsandbytes
pip install "trl[peft]" bitsandbytes. bitsandbytes proporciona la carga en 4 bits que necesita QLoRA.
Elige un dataset
Usa un id de dataset de Hugging Face o tu propio archivo de conversaciones. El ejemplo usa trl-lib/Capybara, el dataset de los propios ejemplos de TRL.
Entrena el adaptador
Ejecuta el comando trl sft de abajo dentro de tmux. --load_in_4bit carga la base en 4 bits, --use_peft añade el adaptador LoRA y los checkpoints se guardan en --output_dir.
Prueba el adaptador
Carga el modelo base, adjunta el adaptador con PEFT y compara las respuestas con el modelo base usando tus propios prompts.
Copia el adaptador y luego elimina
Cada instancia tiene disco NVMe local, dimensionado para su GPU y mostrado antes de empezar. El disco se borra cuando eliminas la instancia, así que copia antes tus checkpoints. Copia la carpeta de salida a tu ordenador o súbela a un repositorio privado de Hugging Face, luego elimina la instancia.

train-qlora.sh

pip install "trl[peft]" bitsandbytes
hf auth login

trl sft \
  --model_name_or_path meta-llama/Llama-3.1-8B-Instruct \
  --dataset_name trl-lib/Capybara \
  --load_in_4bit \
  --use_peft \
  --lora_r 32 \
  --lora_alpha 16 \
  --lora_target_modules q_proj k_proj v_proj o_proj gate_proj up_proj down_proj \
  --learning_rate 2.0e-4 \
  --num_train_epochs 1 \
  --per_device_train_batch_size 1 \
  --gradient_accumulation_steps 16 \
  --gradient_checkpointing \
  --save_strategy steps \
  --save_steps 200 \
  --output_dir llama-3.1-8b-qlora

¿Qué hacen los principales flags de entrenamiento?

--lora_r 32 --lora_alpha 16: el rango y el escalado del adaptador, los valores de los ejemplos de PEFT de TRL. Rango 32 en las siete capas lineales de Llama 3.1 8B entrena unos 84 millones de parámetros, cerca del 1% del modelo.
--learning_rate 2.0e-4: la documentación de TRL recomienda unas 10 veces la tasa del fine-tuning completo (2.0e-5) para LoRA.
--per_device_train_batch_size 1 --gradient_accumulation_steps 16: un batch efectivo de 16 con la memoria de un batch de 1.
--gradient_checkpointing: recalcula las activaciones en vez de almacenarlas, cambiando tiempo por memoria.
--save_strategy steps --save_steps 200: escribe un checkpoint cada 200 pasos, así que un fallo cuesta como máximo 200 pasos.

save-adapter.sh

# from your computer: copy the adapter folder before you delete the instance
rsync -avP -e "ssh -p SSH_PORT" root@HOST:/root/llama-3.1-8b-qlora/ ./llama-3.1-8b-qlora/

# or, on the instance: create a private repo on huggingface.co first, then upload
hf upload your-name/llama-3.1-8b-qlora ./llama-3.1-8b-qlora .

# later, serve the base model with the adapter in vLLM
vllm serve meta-llama/Llama-3.1-8B-Instruct \
  --enable-lora --max-lora-rank 32 \
  --lora-modules my-adapter=./llama-3.1-8b-qlora

¿Cuánto cuesta ajustar Llama con fine-tuning en una GPU alquilada?

Coste = GPUs × horas de reloj × precio por GPU-hora. Las horas de abajo son suposiciones ilustrativas, no mediciones: el tiempo de ejecución depende de los tokens de tu dataset, la longitud de secuencia y el tamaño de batch. Elegimos horas que coinciden con nuestros bloques de 10 y 24 GPU-horas. Las GPU-horas se venden en bloques de 10, 24, 168 o 720 horas para un modelo de GPU, a la misma tarifa horaria; las instancias de esa GPU consumen de esos bloques por minuto, y las horas no usadas nunca caducan. Todas las GPUs y bloques están en Precios de GPU.

Una GPU pequeña es el mayor ahorro. Según la comprobación de precios de GPUwithCrypto del 29 de octubre de 2026, la RTX 4090 on-demand self-serve más barata costaba $0.33 por hora (Salad) y la H100 más barata $2.73 (Massed Compute): 8,3 veces más, para un trabajo QLoRA de 8B que cabe en 24 GB de cualquier forma. La página de precios de la RTX 4090 lista los proveedores que comprobamos.

Estimación del coste de ejecución con las horas asumidas

Trabajo	Configuración	Horas asumidas (no medidas)	GPU-horas	Coste de GPUwithCrypto
Llama 3.1 8B, QLoRA	1× RTX 4090	10	10	2,80 US$
Llama 3.1 8B, LoRA	1× RTX 4090	24	24	6,72 US$
Llama 3.1 70B, QLoRA	1× A100 80GB	24	24	22,08 US$
Llama 3.1 70B, LoRA	2× H200	12	24	73,68 US$

Precios comprobados el 29 de octubre de 2026

¿Cómo evito perder trabajo en una GPU alquilada?

Guarda a menudo, copia los resultados cuanto antes y vigila el saldo. Las instancias son bajo demanda, no spot: nadie puede quitarte la GPU mientras tu saldo la cubra, y la instancia sigue en marcha hasta que la detengas. Cuando se agotan las GPU-horas de una GPU, sus instancias se detienen y sus discos se conservan; un nuevo bloque de horas te permite volver a arrancarlas. Si un entrenamiento se detiene, el Trainer de Hugging Face reanuda desde el último checkpoint de la carpeta de salida cuando llamas a trainer.train(resume_from_checkpoint=True) desde Python. Unsloth y Axolotl son otras dos herramientas LoRA conocidas; esta guía usa TRL porque sus flags de línea de comandos están documentados en las propias páginas de Hugging Face.

Preguntas sobre fine-tuning de Llama

¿Cuánta VRAM necesito para hacer fine-tuning de Llama 3.1 8B?

Unos 6 GB con QLoRA y 19,2 GB con LoRA sobre una base BF16, así que una RTX 4090 de 24 GB puede con ambos. El fine-tuning completo necesita de 128 a 144 GB antes de las activaciones, una B200 de 180 GB.

¿Puedo hacer fine-tuning de Llama 70B en una sola GPU?

Sí, con QLoRA en una A100 u H100 de 80 GB: la estimación es de 52,5 GB. LoRA sobre una base BF16 necesita unos 168 GB, una B200 o dos H200. Más en la mejor GPU para hacer fine-tuning de Llama 70B.

¿Debo usar LoRA o QLoRA?

QLoRA cuando la memoria es el límite: carga el modelo base en 4 bits y divide la memoria aproximadamente por tres frente a LoRA. LoRA cuando la GPU tiene espacio: la base se queda en BF16. Compara ambos adaptadores con tu propio conjunto de evaluación.

¿Cuánto tarda el fine-tuning de Llama?

Depende del número de tokens de entrenamiento, de la longitud de secuencia y del tamaño de batch, y no hemos medido una ejecución, así que no damos tiempos. Un bloque de 10 horas basta para medir tus pasos por hora antes de una ejecución larga.

¿Puedo pagar la GPU con criptomonedas?

Sí. GPUwithCrypto acepta BTC, USDT, USDC, ETH, SOL, LTC de una recarga de 25 US$, sin identificación y sin tarjeta. Las instancias se facturan por minuto a la tarifa horaria mientras están en marcha, a partir de las GPU-horas que compraste para esa GPU. Detener una instancia detiene el cobro al instante.

Fuentes (12)

Interfaces de línea de comandos de TRL — Hugging Face (read 2026-10-29)
Integración de PEFT en TRL (LoRA, QLoRA, guardar adaptadores) — Hugging Face (read 2026-10-29)
Guía de la CLI de Hugging Face (hf auth login, hf upload) — Hugging Face (read 2026-10-29)
Trainer y TrainingArguments — Hugging Face (read 2026-10-29)
Model card de Llama 3.1 8B — Meta / Hugging Face (read 2026-10-29)
Ficha del modelo Llama 3.1 70B — Meta / Hugging Face (read 2026-10-29)
The Llama 3 Herd of Models (tabla 3) — arXiv (read 2026-10-29)
QLoRA: Efficient Finetuning of Quantized LLMs — arXiv (read 2026-10-29)
LoRA: Low-Rank Adaptation of Large Language Models — arXiv (read 2026-10-29)
Recetas de vLLM (flags de servicio LoRA) — vLLM project (read 2026-10-29)
Cambios de precios de SaladCloud, noviembre de 2026 blog.salad.com/saladcloud-price-changes-november-2026 — Salad (read 2026-10-29)
Precios de Massed Compute vm.massedcompute.com/pricing — Massed Compute (read 2026-10-29)