Un serveur local à 4x R9700 pour inférence multi-utilisateurs
Un développeur monte un serveur d'inférence local avec 4 cartes AMD R9700 pour servir plusieurs utilisateurs en parallèle, avec des benchmarks de latence et de débit en cours.
Dans la même veine
LongCat-2.5 : un modèle multimodal de 1,6T paramètres
4Lire
HOPE : élagage de experts pour des MoE plus légers
5Lire
Benchmark Qwen 3.8 Flash Next sur Mac M4 Pro et M5 Pro (24 Go)
3Lire
Rumeurs sur les prochains modèles Gemma
3Lire