¿Funciona este modelo en mi GPU?

Un veredicto por cada combinación de modelo x GPU: si cabe en memoria, cálculo de memoria con la caché KV, velocidad estimada, mejor cuantización y opción de mejora. Son estimaciones, no resultados de pruebas.

GPU
10
Modelos
22
Páginas de veredicto
220
Tabla 1Modelo x GPU

Todas las comprobaciones

220 páginas
ModeloRTX 306012 GBRTX 40608 GBRTX 4060 Ti16 GBRTX 407012 GBRTX 4070 Ti SUPER16 GBRTX 309024 GBRTX 409024 GBRTX 5070 Ti16 GBRTX 508016 GBRTX 509032 GB
Qwen3 8B Q4_K_MQwen3 8B Q4_K_M en RTX 3060: FuncionaQwen3 8B Q4_K_M en RTX 4060: FuncionaQwen3 8B Q4_K_M en RTX 4060 Ti: FuncionaQwen3 8B Q4_K_M en RTX 4070: FuncionaQwen3 8B Q4_K_M en RTX 4070 Ti SUPER: FuncionaQwen3 8B Q4_K_M en RTX 3090: FuncionaQwen3 8B Q4_K_M en RTX 4090: FuncionaQwen3 8B Q4_K_M en RTX 5070 Ti: FuncionaQwen3 8B Q4_K_M en RTX 5080: FuncionaQwen3 8B Q4_K_M en RTX 5090: Funciona
Qwen3 14B Q4_K_MQwen3 14B Q4_K_M en RTX 3060: LentoQwen3 14B Q4_K_M en RTX 4060: NoQwen3 14B Q4_K_M en RTX 4060 Ti: FuncionaQwen3 14B Q4_K_M en RTX 4070: LentoQwen3 14B Q4_K_M en RTX 4070 Ti SUPER: FuncionaQwen3 14B Q4_K_M en RTX 3090: FuncionaQwen3 14B Q4_K_M en RTX 4090: FuncionaQwen3 14B Q4_K_M en RTX 5070 Ti: FuncionaQwen3 14B Q4_K_M en RTX 5080: FuncionaQwen3 14B Q4_K_M en RTX 5090: Funciona
GPT-OSS 20B MXFP4GPT-OSS 20B MXFP4 en RTX 3060: LentoGPT-OSS 20B MXFP4 en RTX 4060: NoGPT-OSS 20B MXFP4 en RTX 4060 Ti: FuncionaGPT-OSS 20B MXFP4 en RTX 4070: LentoGPT-OSS 20B MXFP4 en RTX 4070 Ti SUPER: FuncionaGPT-OSS 20B MXFP4 en RTX 3090: FuncionaGPT-OSS 20B MXFP4 en RTX 4090: FuncionaGPT-OSS 20B MXFP4 en RTX 5070 Ti: FuncionaGPT-OSS 20B MXFP4 en RTX 5080: FuncionaGPT-OSS 20B MXFP4 en RTX 5090: Funciona
Qwen3.8 27B Q4_K_MQwen3.8 27B Q4_K_M en RTX 3060: NoQwen3.8 27B Q4_K_M en RTX 4060: NoQwen3.8 27B Q4_K_M en RTX 4060 Ti: LentoQwen3.8 27B Q4_K_M en RTX 4070: NoQwen3.8 27B Q4_K_M en RTX 4070 Ti SUPER: LentoQwen3.8 27B Q4_K_M en RTX 3090: FuncionaQwen3.8 27B Q4_K_M en RTX 4090: FuncionaQwen3.8 27B Q4_K_M en RTX 5070 Ti: LentoQwen3.8 27B Q4_K_M en RTX 5080: LentoQwen3.8 27B Q4_K_M en RTX 5090: Funciona
Llama 3.3 70B Instruct Q4_K_MLlama 3.3 70B Instruct Q4_K_M en RTX 3060: NoLlama 3.3 70B Instruct Q4_K_M en RTX 4060: NoLlama 3.3 70B Instruct Q4_K_M en RTX 4060 Ti: NoLlama 3.3 70B Instruct Q4_K_M en RTX 4070: NoLlama 3.3 70B Instruct Q4_K_M en RTX 4070 Ti SUPER: NoLlama 3.3 70B Instruct Q4_K_M en RTX 3090: NoLlama 3.3 70B Instruct Q4_K_M en RTX 4090: NoLlama 3.3 70B Instruct Q4_K_M en RTX 5070 Ti: NoLlama 3.3 70B Instruct Q4_K_M en RTX 5080: NoLlama 3.3 70B Instruct Q4_K_M en RTX 5090: Lento
Qwen3.5 35B-A3B Instruct Q4_K_MQwen3.5 35B-A3B Instruct Q4_K_M en RTX 3060: NoQwen3.5 35B-A3B Instruct Q4_K_M en RTX 4060: NoQwen3.5 35B-A3B Instruct Q4_K_M en RTX 4060 Ti: LentoQwen3.5 35B-A3B Instruct Q4_K_M en RTX 4070: NoQwen3.5 35B-A3B Instruct Q4_K_M en RTX 4070 Ti SUPER: LentoQwen3.5 35B-A3B Instruct Q4_K_M en RTX 3090: FuncionaQwen3.5 35B-A3B Instruct Q4_K_M en RTX 4090: FuncionaQwen3.5 35B-A3B Instruct Q4_K_M en RTX 5070 Ti: LentoQwen3.5 35B-A3B Instruct Q4_K_M en RTX 5080: LentoQwen3.5 35B-A3B Instruct Q4_K_M en RTX 5090: Funciona
Gemma 4 26B-A4B Q4_K_MGemma 4 26B-A4B Q4_K_M en RTX 3060: LentoGemma 4 26B-A4B Q4_K_M en RTX 4060: NoGemma 4 26B-A4B Q4_K_M en RTX 4060 Ti: LentoGemma 4 26B-A4B Q4_K_M en RTX 4070: LentoGemma 4 26B-A4B Q4_K_M en RTX 4070 Ti SUPER: LentoGemma 4 26B-A4B Q4_K_M en RTX 3090: FuncionaGemma 4 26B-A4B Q4_K_M en RTX 4090: FuncionaGemma 4 26B-A4B Q4_K_M en RTX 5070 Ti: LentoGemma 4 26B-A4B Q4_K_M en RTX 5080: LentoGemma 4 26B-A4B Q4_K_M en RTX 5090: Funciona
Qwen3.5 4B Instruct Q4_K_MQwen3.5 4B Instruct Q4_K_M en RTX 3060: FuncionaQwen3.5 4B Instruct Q4_K_M en RTX 4060: FuncionaQwen3.5 4B Instruct Q4_K_M en RTX 4060 Ti: FuncionaQwen3.5 4B Instruct Q4_K_M en RTX 4070: FuncionaQwen3.5 4B Instruct Q4_K_M en RTX 4070 Ti SUPER: FuncionaQwen3.5 4B Instruct Q4_K_M en RTX 3090: FuncionaQwen3.5 4B Instruct Q4_K_M en RTX 4090: FuncionaQwen3.5 4B Instruct Q4_K_M en RTX 5070 Ti: FuncionaQwen3.5 4B Instruct Q4_K_M en RTX 5080: FuncionaQwen3.5 4B Instruct Q4_K_M en RTX 5090: Funciona
Gemma 4 E4B Q4_K_MGemma 4 E4B Q4_K_M en RTX 3060: FuncionaGemma 4 E4B Q4_K_M en RTX 4060: FuncionaGemma 4 E4B Q4_K_M en RTX 4060 Ti: FuncionaGemma 4 E4B Q4_K_M en RTX 4070: FuncionaGemma 4 E4B Q4_K_M en RTX 4070 Ti SUPER: FuncionaGemma 4 E4B Q4_K_M en RTX 3090: FuncionaGemma 4 E4B Q4_K_M en RTX 4090: FuncionaGemma 4 E4B Q4_K_M en RTX 5070 Ti: FuncionaGemma 4 E4B Q4_K_M en RTX 5080: FuncionaGemma 4 E4B Q4_K_M en RTX 5090: Funciona
Gemma 3 4B Instruct Q4_K_MGemma 3 4B Instruct Q4_K_M en RTX 3060: FuncionaGemma 3 4B Instruct Q4_K_M en RTX 4060: FuncionaGemma 3 4B Instruct Q4_K_M en RTX 4060 Ti: FuncionaGemma 3 4B Instruct Q4_K_M en RTX 4070: FuncionaGemma 3 4B Instruct Q4_K_M en RTX 4070 Ti SUPER: FuncionaGemma 3 4B Instruct Q4_K_M en RTX 3090: FuncionaGemma 3 4B Instruct Q4_K_M en RTX 4090: FuncionaGemma 3 4B Instruct Q4_K_M en RTX 5070 Ti: FuncionaGemma 3 4B Instruct Q4_K_M en RTX 5080: FuncionaGemma 3 4B Instruct Q4_K_M en RTX 5090: Funciona
Llama 3.1 8B Instruct Q4_K_MLlama 3.1 8B Instruct Q4_K_M en RTX 3060: FuncionaLlama 3.1 8B Instruct Q4_K_M en RTX 4060: FuncionaLlama 3.1 8B Instruct Q4_K_M en RTX 4060 Ti: FuncionaLlama 3.1 8B Instruct Q4_K_M en RTX 4070: FuncionaLlama 3.1 8B Instruct Q4_K_M en RTX 4070 Ti SUPER: FuncionaLlama 3.1 8B Instruct Q4_K_M en RTX 3090: FuncionaLlama 3.1 8B Instruct Q4_K_M en RTX 4090: FuncionaLlama 3.1 8B Instruct Q4_K_M en RTX 5070 Ti: FuncionaLlama 3.1 8B Instruct Q4_K_M en RTX 5080: FuncionaLlama 3.1 8B Instruct Q4_K_M en RTX 5090: Funciona
Qwen3.5 9B Instruct Q4_K_MQwen3.5 9B Instruct Q4_K_M en RTX 3060: FuncionaQwen3.5 9B Instruct Q4_K_M en RTX 4060: FuncionaQwen3.5 9B Instruct Q4_K_M en RTX 4060 Ti: FuncionaQwen3.5 9B Instruct Q4_K_M en RTX 4070: FuncionaQwen3.5 9B Instruct Q4_K_M en RTX 4070 Ti SUPER: FuncionaQwen3.5 9B Instruct Q4_K_M en RTX 3090: FuncionaQwen3.5 9B Instruct Q4_K_M en RTX 4090: FuncionaQwen3.5 9B Instruct Q4_K_M en RTX 5070 Ti: FuncionaQwen3.5 9B Instruct Q4_K_M en RTX 5080: FuncionaQwen3.5 9B Instruct Q4_K_M en RTX 5090: Funciona
Gemma 4 12B Q4_K_MGemma 4 12B Q4_K_M en RTX 3060: FuncionaGemma 4 12B Q4_K_M en RTX 4060: LentoGemma 4 12B Q4_K_M en RTX 4060 Ti: FuncionaGemma 4 12B Q4_K_M en RTX 4070: FuncionaGemma 4 12B Q4_K_M en RTX 4070 Ti SUPER: FuncionaGemma 4 12B Q4_K_M en RTX 3090: FuncionaGemma 4 12B Q4_K_M en RTX 4090: FuncionaGemma 4 12B Q4_K_M en RTX 5070 Ti: FuncionaGemma 4 12B Q4_K_M en RTX 5080: FuncionaGemma 4 12B Q4_K_M en RTX 5090: Funciona
Mistral Nemo 12B Q4_K_MMistral Nemo 12B Q4_K_M en RTX 3060: FuncionaMistral Nemo 12B Q4_K_M en RTX 4060: LentoMistral Nemo 12B Q4_K_M en RTX 4060 Ti: FuncionaMistral Nemo 12B Q4_K_M en RTX 4070: FuncionaMistral Nemo 12B Q4_K_M en RTX 4070 Ti SUPER: FuncionaMistral Nemo 12B Q4_K_M en RTX 3090: FuncionaMistral Nemo 12B Q4_K_M en RTX 4090: FuncionaMistral Nemo 12B Q4_K_M en RTX 5070 Ti: FuncionaMistral Nemo 12B Q4_K_M en RTX 5080: FuncionaMistral Nemo 12B Q4_K_M en RTX 5090: Funciona
Qwen3.5 9B Instruct (Q8) Q8_0Qwen3.5 9B Instruct (Q8) Q8_0 en RTX 3060: FuncionaQwen3.5 9B Instruct (Q8) Q8_0 en RTX 4060: LentoQwen3.5 9B Instruct (Q8) Q8_0 en RTX 4060 Ti: FuncionaQwen3.5 9B Instruct (Q8) Q8_0 en RTX 4070: FuncionaQwen3.5 9B Instruct (Q8) Q8_0 en RTX 4070 Ti SUPER: FuncionaQwen3.5 9B Instruct (Q8) Q8_0 en RTX 3090: FuncionaQwen3.5 9B Instruct (Q8) Q8_0 en RTX 4090: FuncionaQwen3.5 9B Instruct (Q8) Q8_0 en RTX 5070 Ti: FuncionaQwen3.5 9B Instruct (Q8) Q8_0 en RTX 5080: FuncionaQwen3.5 9B Instruct (Q8) Q8_0 en RTX 5090: Funciona
Gemma 4 12B (Q8) Q8_0Gemma 4 12B (Q8) Q8_0 en RTX 3060: LentoGemma 4 12B (Q8) Q8_0 en RTX 4060: NoGemma 4 12B (Q8) Q8_0 en RTX 4060 Ti: FuncionaGemma 4 12B (Q8) Q8_0 en RTX 4070: LentoGemma 4 12B (Q8) Q8_0 en RTX 4070 Ti SUPER: FuncionaGemma 4 12B (Q8) Q8_0 en RTX 3090: FuncionaGemma 4 12B (Q8) Q8_0 en RTX 4090: FuncionaGemma 4 12B (Q8) Q8_0 en RTX 5070 Ti: FuncionaGemma 4 12B (Q8) Q8_0 en RTX 5080: FuncionaGemma 4 12B (Q8) Q8_0 en RTX 5090: Funciona
LFM2 24B-A2B Instruct Q4_K_MLFM2 24B-A2B Instruct Q4_K_M en RTX 3060: LentoLFM2 24B-A2B Instruct Q4_K_M en RTX 4060: NoLFM2 24B-A2B Instruct Q4_K_M en RTX 4060 Ti: FuncionaLFM2 24B-A2B Instruct Q4_K_M en RTX 4070: LentoLFM2 24B-A2B Instruct Q4_K_M en RTX 4070 Ti SUPER: FuncionaLFM2 24B-A2B Instruct Q4_K_M en RTX 3090: FuncionaLFM2 24B-A2B Instruct Q4_K_M en RTX 4090: FuncionaLFM2 24B-A2B Instruct Q4_K_M en RTX 5070 Ti: FuncionaLFM2 24B-A2B Instruct Q4_K_M en RTX 5080: FuncionaLFM2 24B-A2B Instruct Q4_K_M en RTX 5090: Funciona
Qwen3.5 27B Instruct Q4_K_MQwen3.5 27B Instruct Q4_K_M en RTX 3060: LentoQwen3.5 27B Instruct Q4_K_M en RTX 4060: NoQwen3.5 27B Instruct Q4_K_M en RTX 4060 Ti: LentoQwen3.5 27B Instruct Q4_K_M en RTX 4070: LentoQwen3.5 27B Instruct Q4_K_M en RTX 4070 Ti SUPER: LentoQwen3.5 27B Instruct Q4_K_M en RTX 3090: FuncionaQwen3.5 27B Instruct Q4_K_M en RTX 4090: FuncionaQwen3.5 27B Instruct Q4_K_M en RTX 5070 Ti: LentoQwen3.5 27B Instruct Q4_K_M en RTX 5080: LentoQwen3.5 27B Instruct Q4_K_M en RTX 5090: Funciona
Qwen3.6 27B Q4_K_MQwen3.6 27B Q4_K_M en RTX 3060: NoQwen3.6 27B Q4_K_M en RTX 4060: NoQwen3.6 27B Q4_K_M en RTX 4060 Ti: LentoQwen3.6 27B Q4_K_M en RTX 4070: NoQwen3.6 27B Q4_K_M en RTX 4070 Ti SUPER: LentoQwen3.6 27B Q4_K_M en RTX 3090: FuncionaQwen3.6 27B Q4_K_M en RTX 4090: FuncionaQwen3.6 27B Q4_K_M en RTX 5070 Ti: LentoQwen3.6 27B Q4_K_M en RTX 5080: LentoQwen3.6 27B Q4_K_M en RTX 5090: Funciona
Gemma 4 31B Q4_K_MGemma 4 31B Q4_K_M en RTX 3060: NoGemma 4 31B Q4_K_M en RTX 4060: NoGemma 4 31B Q4_K_M en RTX 4060 Ti: LentoGemma 4 31B Q4_K_M en RTX 4070: NoGemma 4 31B Q4_K_M en RTX 4070 Ti SUPER: LentoGemma 4 31B Q4_K_M en RTX 3090: FuncionaGemma 4 31B Q4_K_M en RTX 4090: FuncionaGemma 4 31B Q4_K_M en RTX 5070 Ti: LentoGemma 4 31B Q4_K_M en RTX 5080: LentoGemma 4 31B Q4_K_M en RTX 5090: Funciona
Qwen3.6 35B-A3B Q4_K_MQwen3.6 35B-A3B Q4_K_M en RTX 3060: NoQwen3.6 35B-A3B Q4_K_M en RTX 4060: NoQwen3.6 35B-A3B Q4_K_M en RTX 4060 Ti: NoQwen3.6 35B-A3B Q4_K_M en RTX 4070: NoQwen3.6 35B-A3B Q4_K_M en RTX 4070 Ti SUPER: NoQwen3.6 35B-A3B Q4_K_M en RTX 3090: LentoQwen3.6 35B-A3B Q4_K_M en RTX 4090: LentoQwen3.6 35B-A3B Q4_K_M en RTX 5070 Ti: NoQwen3.6 35B-A3B Q4_K_M en RTX 5080: NoQwen3.6 35B-A3B Q4_K_M en RTX 5090: Funciona
Qwen3.8 27B (Q8) Q8_0Qwen3.8 27B (Q8) Q8_0 en RTX 3060: NoQwen3.8 27B (Q8) Q8_0 en RTX 4060: NoQwen3.8 27B (Q8) Q8_0 en RTX 4060 Ti: NoQwen3.8 27B (Q8) Q8_0 en RTX 4070: NoQwen3.8 27B (Q8) Q8_0 en RTX 4070 Ti SUPER: NoQwen3.8 27B (Q8) Q8_0 en RTX 3090: LentoQwen3.8 27B (Q8) Q8_0 en RTX 4090: LentoQwen3.8 27B (Q8) Q8_0 en RTX 5070 Ti: NoQwen3.8 27B (Q8) Q8_0 en RTX 5080: NoQwen3.8 27B (Q8) Q8_0 en RTX 5090: Funciona

Guías de GPU