Ce modèle tourne-t-il sur mon GPU ?
Un verdict par couple modèle x GPU : est-ce que ça tient en mémoire, calcul mémoire avec le cache KV, vitesse estimée, meilleure quantification et piste de mise à niveau. Ce sont des estimations, pas des résultats de tests.
- GPU
- 10
- Modèles
- 22
- Pages de verdict
- 220
Tableau 1Modèle x GPU