Benchmark des instances Tensorflow Tesla
Résumé des résultats du modèle de test pour la classification d'images avec les serveurs LeaderGPU Tesla
LeaderGPU est un nouvel acteur sur le marché du calcul GPU, et il a l'intention de changer les règles du jeu. Actuellement, le marché du calcul GPU comprend plusieurs grands acteurs tels qu'Amazon AWS, Google Cloud, etc. Cependant, un grand acteur ne signifie pas toujours la meilleure offre sur le marché. Le projet LeaderGPU, par rapport à Amazon AWS et Google Cloud, propose des serveurs physiques, pas des VPS, où les ressources matérielles peuvent être partagées entre plusieurs dizaines d'utilisateurs.
Des tests ont été effectués sur les systèmes de calcul Tesla de LeaderGPU sur des données synthétiques des modèles de réseau suivants : ResNet-50, ResNet-152, VGG16 et AlexNet. À la fin de cet article, vous trouverez les résultats des tests effectués sur d'autres modèles. Les tests sur des données synthétiques ont été effectués en utilisant tf.Variable en analogie avec les modèles configurés pour ImageNet.
Les commandes suivantes ont été utilisées pour exécuter le test :
# git clone https://github.com/tensorflow/benchmarks.git# python3.5 benchmarks/scripts/tf_cnn_benchmarks/tf_cnn_benchmarks.py --num_gpus=2 --model alexnet (vgg11, vgg16, etc.) --batch_size 32 (64, 128, 256, 512)Instances Tesla LeaderGPU
- Environnement de test :2 x Tesla P100 PCI (ltbv32), 2 x Tesla V100 PCI (ltbv20), 2 x Tesla V100 NVLink (ltbv46)
- Type d'instance :2 x Tesla P100 PCI (ltbv32), 2 x Tesla V100 PCI (ltbv20), 2 x Tesla V100 NVLink (ltbv46)
- GPUs :Nvidia Tesla cards
- Système d'exploitation :CentOS 7
- CUDA / cuDNN :9.0 / 7.0.5
- TensorFlow 1.7 from repo
- Benchmark GitHub hash :9165a70
- Date du test :25.04.2018
| Options | Inception V3 | VGG16 | ResNet-50 | ResNet-152 | Alexnet |
|---|---|---|---|---|---|
| Batch size on GPU | 64 | 32 | 64 | 32 | 512 |
| Optimization | sgd | sgd | sgd | sgd | sgd |
Test de données synthétiques (images / s)
| GPUs | InceptionV3 | VGG16 | ResNet-50 | ResNet-152 | Alexnet |
|---|---|---|---|---|---|
| GPUs | InceptionV3 | VGG16 | ResNet-50 | ResNet-152 | Alexnet |
| 2x P100 | 268.24 | 224.90 | 446.08 | 150.04 | 5252.43 |
| 2x PCI V100 | 430.77 | 309.82 | 667.62 | 213.04 | 7545.40 |
| 2x NVlink V100 | 450.75 | 417.22 | 698.97 | 236.90 | 8786.56 |
Autres résultats
Test de données synthétiques (images / s)
2x PCI Tesla P100
| Batch size | Alexnet | vgg11 | vgg16 | vgg19 | lenet | googlenet |
|---|---|---|---|---|---|---|
| 32 | 1411.48 | 378.47 | 224.90 | 199.87 | 14944.76 | 788.43 |
| 64 | 2460.54 | 473.82 | 256.68 | 225.58 | 29215.60 | 913.38 |
| 128 | 3576.26 | 539.08 | 278.83 | 243.67 | 47375.83 | 1035.37 |
| 256 | 4545.45 | 561.73 | - | - | 67116.75 | 1127.05 |
| 512 | 5252.43 | - | - | - | 83665.27 | 1165.75 |