À l'ère de l'intelligence artificielle et du big data, un serveur d'IA est une plate-forme matérielle de base qui prend en charge l'apprentissage profond, la reconnaissance d'images et le traitement du langage naturel. Contrairement aux serveurs traditionnels, les serveurs d'IA intègrent des cartes accélératrices GPU/TPU, une bande passante mémoire élevée et une technologie d'interconnexion à haut débit pour permettre l'entraînement et l'inférence de modèles avec des centaines de milliards de paramètres.