Ce modèle tourne-t-il sur mon GPU ?

Un verdict par couple modèle x GPU : est-ce que ça tient en mémoire, calcul mémoire avec le cache KV, vitesse estimée, meilleure quantification et piste de mise à niveau. Ce sont des estimations, pas des résultats de tests.

GPU
10
Modèles
22
Pages de verdict
220
Tableau 1Modèle x GPU

Toutes les vérifications

220 pages
ModèleRTX 306012 GBRTX 40608 GBRTX 4060 Ti16 GBRTX 407012 GBRTX 4070 Ti SUPER16 GBRTX 309024 GBRTX 409024 GBRTX 5070 Ti16 GBRTX 508016 GBRTX 509032 GB
Qwen3 8B Q4_K_MQwen3 8B Q4_K_M sur RTX 3060 : TourneQwen3 8B Q4_K_M sur RTX 4060 : TourneQwen3 8B Q4_K_M sur RTX 4060 Ti : TourneQwen3 8B Q4_K_M sur RTX 4070 : TourneQwen3 8B Q4_K_M sur RTX 4070 Ti SUPER : TourneQwen3 8B Q4_K_M sur RTX 3090 : TourneQwen3 8B Q4_K_M sur RTX 4090 : TourneQwen3 8B Q4_K_M sur RTX 5070 Ti : TourneQwen3 8B Q4_K_M sur RTX 5080 : TourneQwen3 8B Q4_K_M sur RTX 5090 : Tourne
Qwen3 14B Q4_K_MQwen3 14B Q4_K_M sur RTX 3060 : LentQwen3 14B Q4_K_M sur RTX 4060 : NonQwen3 14B Q4_K_M sur RTX 4060 Ti : TourneQwen3 14B Q4_K_M sur RTX 4070 : LentQwen3 14B Q4_K_M sur RTX 4070 Ti SUPER : TourneQwen3 14B Q4_K_M sur RTX 3090 : TourneQwen3 14B Q4_K_M sur RTX 4090 : TourneQwen3 14B Q4_K_M sur RTX 5070 Ti : TourneQwen3 14B Q4_K_M sur RTX 5080 : TourneQwen3 14B Q4_K_M sur RTX 5090 : Tourne
GPT-OSS 20B MXFP4GPT-OSS 20B MXFP4 sur RTX 3060 : LentGPT-OSS 20B MXFP4 sur RTX 4060 : NonGPT-OSS 20B MXFP4 sur RTX 4060 Ti : TourneGPT-OSS 20B MXFP4 sur RTX 4070 : LentGPT-OSS 20B MXFP4 sur RTX 4070 Ti SUPER : TourneGPT-OSS 20B MXFP4 sur RTX 3090 : TourneGPT-OSS 20B MXFP4 sur RTX 4090 : TourneGPT-OSS 20B MXFP4 sur RTX 5070 Ti : TourneGPT-OSS 20B MXFP4 sur RTX 5080 : TourneGPT-OSS 20B MXFP4 sur RTX 5090 : Tourne
Qwen3.8 27B Q4_K_MQwen3.8 27B Q4_K_M sur RTX 3060 : NonQwen3.8 27B Q4_K_M sur RTX 4060 : NonQwen3.8 27B Q4_K_M sur RTX 4060 Ti : LentQwen3.8 27B Q4_K_M sur RTX 4070 : NonQwen3.8 27B Q4_K_M sur RTX 4070 Ti SUPER : LentQwen3.8 27B Q4_K_M sur RTX 3090 : TourneQwen3.8 27B Q4_K_M sur RTX 4090 : TourneQwen3.8 27B Q4_K_M sur RTX 5070 Ti : LentQwen3.8 27B Q4_K_M sur RTX 5080 : LentQwen3.8 27B Q4_K_M sur RTX 5090 : Tourne
Llama 3.3 70B Instruct Q4_K_MLlama 3.3 70B Instruct Q4_K_M sur RTX 3060 : NonLlama 3.3 70B Instruct Q4_K_M sur RTX 4060 : NonLlama 3.3 70B Instruct Q4_K_M sur RTX 4060 Ti : NonLlama 3.3 70B Instruct Q4_K_M sur RTX 4070 : NonLlama 3.3 70B Instruct Q4_K_M sur RTX 4070 Ti SUPER : NonLlama 3.3 70B Instruct Q4_K_M sur RTX 3090 : NonLlama 3.3 70B Instruct Q4_K_M sur RTX 4090 : NonLlama 3.3 70B Instruct Q4_K_M sur RTX 5070 Ti : NonLlama 3.3 70B Instruct Q4_K_M sur RTX 5080 : NonLlama 3.3 70B Instruct Q4_K_M sur RTX 5090 : Lent
Qwen3.5 35B-A3B Instruct Q4_K_MQwen3.5 35B-A3B Instruct Q4_K_M sur RTX 3060 : NonQwen3.5 35B-A3B Instruct Q4_K_M sur RTX 4060 : NonQwen3.5 35B-A3B Instruct Q4_K_M sur RTX 4060 Ti : LentQwen3.5 35B-A3B Instruct Q4_K_M sur RTX 4070 : NonQwen3.5 35B-A3B Instruct Q4_K_M sur RTX 4070 Ti SUPER : LentQwen3.5 35B-A3B Instruct Q4_K_M sur RTX 3090 : TourneQwen3.5 35B-A3B Instruct Q4_K_M sur RTX 4090 : TourneQwen3.5 35B-A3B Instruct Q4_K_M sur RTX 5070 Ti : LentQwen3.5 35B-A3B Instruct Q4_K_M sur RTX 5080 : LentQwen3.5 35B-A3B Instruct Q4_K_M sur RTX 5090 : Tourne
Gemma 4 26B-A4B Q4_K_MGemma 4 26B-A4B Q4_K_M sur RTX 3060 : LentGemma 4 26B-A4B Q4_K_M sur RTX 4060 : NonGemma 4 26B-A4B Q4_K_M sur RTX 4060 Ti : LentGemma 4 26B-A4B Q4_K_M sur RTX 4070 : LentGemma 4 26B-A4B Q4_K_M sur RTX 4070 Ti SUPER : LentGemma 4 26B-A4B Q4_K_M sur RTX 3090 : TourneGemma 4 26B-A4B Q4_K_M sur RTX 4090 : TourneGemma 4 26B-A4B Q4_K_M sur RTX 5070 Ti : LentGemma 4 26B-A4B Q4_K_M sur RTX 5080 : LentGemma 4 26B-A4B Q4_K_M sur RTX 5090 : Tourne
Qwen3.5 4B Instruct Q4_K_MQwen3.5 4B Instruct Q4_K_M sur RTX 3060 : TourneQwen3.5 4B Instruct Q4_K_M sur RTX 4060 : TourneQwen3.5 4B Instruct Q4_K_M sur RTX 4060 Ti : TourneQwen3.5 4B Instruct Q4_K_M sur RTX 4070 : TourneQwen3.5 4B Instruct Q4_K_M sur RTX 4070 Ti SUPER : TourneQwen3.5 4B Instruct Q4_K_M sur RTX 3090 : TourneQwen3.5 4B Instruct Q4_K_M sur RTX 4090 : TourneQwen3.5 4B Instruct Q4_K_M sur RTX 5070 Ti : TourneQwen3.5 4B Instruct Q4_K_M sur RTX 5080 : TourneQwen3.5 4B Instruct Q4_K_M sur RTX 5090 : Tourne
Gemma 4 E4B Q4_K_MGemma 4 E4B Q4_K_M sur RTX 3060 : TourneGemma 4 E4B Q4_K_M sur RTX 4060 : TourneGemma 4 E4B Q4_K_M sur RTX 4060 Ti : TourneGemma 4 E4B Q4_K_M sur RTX 4070 : TourneGemma 4 E4B Q4_K_M sur RTX 4070 Ti SUPER : TourneGemma 4 E4B Q4_K_M sur RTX 3090 : TourneGemma 4 E4B Q4_K_M sur RTX 4090 : TourneGemma 4 E4B Q4_K_M sur RTX 5070 Ti : TourneGemma 4 E4B Q4_K_M sur RTX 5080 : TourneGemma 4 E4B Q4_K_M sur RTX 5090 : Tourne
Gemma 3 4B Instruct Q4_K_MGemma 3 4B Instruct Q4_K_M sur RTX 3060 : TourneGemma 3 4B Instruct Q4_K_M sur RTX 4060 : TourneGemma 3 4B Instruct Q4_K_M sur RTX 4060 Ti : TourneGemma 3 4B Instruct Q4_K_M sur RTX 4070 : TourneGemma 3 4B Instruct Q4_K_M sur RTX 4070 Ti SUPER : TourneGemma 3 4B Instruct Q4_K_M sur RTX 3090 : TourneGemma 3 4B Instruct Q4_K_M sur RTX 4090 : TourneGemma 3 4B Instruct Q4_K_M sur RTX 5070 Ti : TourneGemma 3 4B Instruct Q4_K_M sur RTX 5080 : TourneGemma 3 4B Instruct Q4_K_M sur RTX 5090 : Tourne
Llama 3.1 8B Instruct Q4_K_MLlama 3.1 8B Instruct Q4_K_M sur RTX 3060 : TourneLlama 3.1 8B Instruct Q4_K_M sur RTX 4060 : TourneLlama 3.1 8B Instruct Q4_K_M sur RTX 4060 Ti : TourneLlama 3.1 8B Instruct Q4_K_M sur RTX 4070 : TourneLlama 3.1 8B Instruct Q4_K_M sur RTX 4070 Ti SUPER : TourneLlama 3.1 8B Instruct Q4_K_M sur RTX 3090 : TourneLlama 3.1 8B Instruct Q4_K_M sur RTX 4090 : TourneLlama 3.1 8B Instruct Q4_K_M sur RTX 5070 Ti : TourneLlama 3.1 8B Instruct Q4_K_M sur RTX 5080 : TourneLlama 3.1 8B Instruct Q4_K_M sur RTX 5090 : Tourne
Qwen3.5 9B Instruct Q4_K_MQwen3.5 9B Instruct Q4_K_M sur RTX 3060 : TourneQwen3.5 9B Instruct Q4_K_M sur RTX 4060 : TourneQwen3.5 9B Instruct Q4_K_M sur RTX 4060 Ti : TourneQwen3.5 9B Instruct Q4_K_M sur RTX 4070 : TourneQwen3.5 9B Instruct Q4_K_M sur RTX 4070 Ti SUPER : TourneQwen3.5 9B Instruct Q4_K_M sur RTX 3090 : TourneQwen3.5 9B Instruct Q4_K_M sur RTX 4090 : TourneQwen3.5 9B Instruct Q4_K_M sur RTX 5070 Ti : TourneQwen3.5 9B Instruct Q4_K_M sur RTX 5080 : TourneQwen3.5 9B Instruct Q4_K_M sur RTX 5090 : Tourne
Gemma 4 12B Q4_K_MGemma 4 12B Q4_K_M sur RTX 3060 : TourneGemma 4 12B Q4_K_M sur RTX 4060 : LentGemma 4 12B Q4_K_M sur RTX 4060 Ti : TourneGemma 4 12B Q4_K_M sur RTX 4070 : TourneGemma 4 12B Q4_K_M sur RTX 4070 Ti SUPER : TourneGemma 4 12B Q4_K_M sur RTX 3090 : TourneGemma 4 12B Q4_K_M sur RTX 4090 : TourneGemma 4 12B Q4_K_M sur RTX 5070 Ti : TourneGemma 4 12B Q4_K_M sur RTX 5080 : TourneGemma 4 12B Q4_K_M sur RTX 5090 : Tourne
Mistral Nemo 12B Q4_K_MMistral Nemo 12B Q4_K_M sur RTX 3060 : TourneMistral Nemo 12B Q4_K_M sur RTX 4060 : LentMistral Nemo 12B Q4_K_M sur RTX 4060 Ti : TourneMistral Nemo 12B Q4_K_M sur RTX 4070 : TourneMistral Nemo 12B Q4_K_M sur RTX 4070 Ti SUPER : TourneMistral Nemo 12B Q4_K_M sur RTX 3090 : TourneMistral Nemo 12B Q4_K_M sur RTX 4090 : TourneMistral Nemo 12B Q4_K_M sur RTX 5070 Ti : TourneMistral Nemo 12B Q4_K_M sur RTX 5080 : TourneMistral Nemo 12B Q4_K_M sur RTX 5090 : Tourne
Qwen3.5 9B Instruct (Q8) Q8_0Qwen3.5 9B Instruct (Q8) Q8_0 sur RTX 3060 : TourneQwen3.5 9B Instruct (Q8) Q8_0 sur RTX 4060 : LentQwen3.5 9B Instruct (Q8) Q8_0 sur RTX 4060 Ti : TourneQwen3.5 9B Instruct (Q8) Q8_0 sur RTX 4070 : TourneQwen3.5 9B Instruct (Q8) Q8_0 sur RTX 4070 Ti SUPER : TourneQwen3.5 9B Instruct (Q8) Q8_0 sur RTX 3090 : TourneQwen3.5 9B Instruct (Q8) Q8_0 sur RTX 4090 : TourneQwen3.5 9B Instruct (Q8) Q8_0 sur RTX 5070 Ti : TourneQwen3.5 9B Instruct (Q8) Q8_0 sur RTX 5080 : TourneQwen3.5 9B Instruct (Q8) Q8_0 sur RTX 5090 : Tourne
Gemma 4 12B (Q8) Q8_0Gemma 4 12B (Q8) Q8_0 sur RTX 3060 : LentGemma 4 12B (Q8) Q8_0 sur RTX 4060 : NonGemma 4 12B (Q8) Q8_0 sur RTX 4060 Ti : TourneGemma 4 12B (Q8) Q8_0 sur RTX 4070 : LentGemma 4 12B (Q8) Q8_0 sur RTX 4070 Ti SUPER : TourneGemma 4 12B (Q8) Q8_0 sur RTX 3090 : TourneGemma 4 12B (Q8) Q8_0 sur RTX 4090 : TourneGemma 4 12B (Q8) Q8_0 sur RTX 5070 Ti : TourneGemma 4 12B (Q8) Q8_0 sur RTX 5080 : TourneGemma 4 12B (Q8) Q8_0 sur RTX 5090 : Tourne
LFM2 24B-A2B Instruct Q4_K_MLFM2 24B-A2B Instruct Q4_K_M sur RTX 3060 : LentLFM2 24B-A2B Instruct Q4_K_M sur RTX 4060 : NonLFM2 24B-A2B Instruct Q4_K_M sur RTX 4060 Ti : TourneLFM2 24B-A2B Instruct Q4_K_M sur RTX 4070 : LentLFM2 24B-A2B Instruct Q4_K_M sur RTX 4070 Ti SUPER : TourneLFM2 24B-A2B Instruct Q4_K_M sur RTX 3090 : TourneLFM2 24B-A2B Instruct Q4_K_M sur RTX 4090 : TourneLFM2 24B-A2B Instruct Q4_K_M sur RTX 5070 Ti : TourneLFM2 24B-A2B Instruct Q4_K_M sur RTX 5080 : TourneLFM2 24B-A2B Instruct Q4_K_M sur RTX 5090 : Tourne
Qwen3.5 27B Instruct Q4_K_MQwen3.5 27B Instruct Q4_K_M sur RTX 3060 : LentQwen3.5 27B Instruct Q4_K_M sur RTX 4060 : NonQwen3.5 27B Instruct Q4_K_M sur RTX 4060 Ti : LentQwen3.5 27B Instruct Q4_K_M sur RTX 4070 : LentQwen3.5 27B Instruct Q4_K_M sur RTX 4070 Ti SUPER : LentQwen3.5 27B Instruct Q4_K_M sur RTX 3090 : TourneQwen3.5 27B Instruct Q4_K_M sur RTX 4090 : TourneQwen3.5 27B Instruct Q4_K_M sur RTX 5070 Ti : LentQwen3.5 27B Instruct Q4_K_M sur RTX 5080 : LentQwen3.5 27B Instruct Q4_K_M sur RTX 5090 : Tourne
Qwen3.6 27B Q4_K_MQwen3.6 27B Q4_K_M sur RTX 3060 : NonQwen3.6 27B Q4_K_M sur RTX 4060 : NonQwen3.6 27B Q4_K_M sur RTX 4060 Ti : LentQwen3.6 27B Q4_K_M sur RTX 4070 : NonQwen3.6 27B Q4_K_M sur RTX 4070 Ti SUPER : LentQwen3.6 27B Q4_K_M sur RTX 3090 : TourneQwen3.6 27B Q4_K_M sur RTX 4090 : TourneQwen3.6 27B Q4_K_M sur RTX 5070 Ti : LentQwen3.6 27B Q4_K_M sur RTX 5080 : LentQwen3.6 27B Q4_K_M sur RTX 5090 : Tourne
Gemma 4 31B Q4_K_MGemma 4 31B Q4_K_M sur RTX 3060 : NonGemma 4 31B Q4_K_M sur RTX 4060 : NonGemma 4 31B Q4_K_M sur RTX 4060 Ti : LentGemma 4 31B Q4_K_M sur RTX 4070 : NonGemma 4 31B Q4_K_M sur RTX 4070 Ti SUPER : LentGemma 4 31B Q4_K_M sur RTX 3090 : TourneGemma 4 31B Q4_K_M sur RTX 4090 : TourneGemma 4 31B Q4_K_M sur RTX 5070 Ti : LentGemma 4 31B Q4_K_M sur RTX 5080 : LentGemma 4 31B Q4_K_M sur RTX 5090 : Tourne
Qwen3.6 35B-A3B Q4_K_MQwen3.6 35B-A3B Q4_K_M sur RTX 3060 : NonQwen3.6 35B-A3B Q4_K_M sur RTX 4060 : NonQwen3.6 35B-A3B Q4_K_M sur RTX 4060 Ti : NonQwen3.6 35B-A3B Q4_K_M sur RTX 4070 : NonQwen3.6 35B-A3B Q4_K_M sur RTX 4070 Ti SUPER : NonQwen3.6 35B-A3B Q4_K_M sur RTX 3090 : LentQwen3.6 35B-A3B Q4_K_M sur RTX 4090 : LentQwen3.6 35B-A3B Q4_K_M sur RTX 5070 Ti : NonQwen3.6 35B-A3B Q4_K_M sur RTX 5080 : NonQwen3.6 35B-A3B Q4_K_M sur RTX 5090 : Tourne
Qwen3.8 27B (Q8) Q8_0Qwen3.8 27B (Q8) Q8_0 sur RTX 3060 : NonQwen3.8 27B (Q8) Q8_0 sur RTX 4060 : NonQwen3.8 27B (Q8) Q8_0 sur RTX 4060 Ti : NonQwen3.8 27B (Q8) Q8_0 sur RTX 4070 : NonQwen3.8 27B (Q8) Q8_0 sur RTX 4070 Ti SUPER : NonQwen3.8 27B (Q8) Q8_0 sur RTX 3090 : LentQwen3.8 27B (Q8) Q8_0 sur RTX 4090 : LentQwen3.8 27B (Q8) Q8_0 sur RTX 5070 Ti : NonQwen3.8 27B (Q8) Q8_0 sur RTX 5080 : NonQwen3.8 27B (Q8) Q8_0 sur RTX 5090 : Tourne

Guides GPU