Benchmark delle istanze Tesla di Tensorflow
Riepilogo dei risultati del modello di test per la classificazione delle immagini con i server Tesla LeaderGPU
LeaderGPU è un nuovo attore nel mercato del calcolo GPU, e intende cambiare le regole del gioco. Allo stato attuale, il mercato del calcolo GPU comprende diversi grandi attori come Amazon AWS, Google Cloud, ecc. Tuttavia, un grande attore non significa sempre la migliore offerta sul mercato. Il progetto LeaderGPU, rispetto ad Amazon AWS e Google Cloud, fornisce server fisici, non VPS, dove le risorse hardware possono essere condivise tra diverse decine di utenti.
I test sono stati condotti sui sistemi di calcolo LeaderGPU Tesla su dati sintetici dei seguenti modelli di reti: ResNet-50, ResNet-152, VGG16 e AlexNet. Alla fine di questo articolo, troverai i risultati dei test effettuati su altri modelli. Il test dei dati sintetici è stato eseguito utilizzando tf.Variable in analogia con i modelli configurati per ImageNet.
I seguenti comandi sono stati utilizzati per eseguire il test:
# git clone https://github.com/tensorflow/benchmarks.git# python3.5 benchmarks/scripts/tf_cnn_benchmarks/tf_cnn_benchmarks.py --num_gpus=2 --model alexnet (vgg11, vgg16, etc.) --batch_size 32 (64, 128, 256, 512)Istanze Tesla LeaderGPU
- Ambiente di test:2 x Tesla P100 PCI (ltbv32), 2 x Tesla V100 PCI (ltbv20), 2 x Tesla V100 NVLink (ltbv46)
- Tipo di istanza:2 x Tesla P100 PCI (ltbv32), 2 x Tesla V100 PCI (ltbv20), 2 x Tesla V100 NVLink (ltbv46)
- GPU:Nvidia Tesla cards
- Sistema operativo:CentOS 7
- CUDA / cuDNN:9.0 / 7.0.5
- TensorFlow 1.7 from repo
- Benchmark GitHub hash:9165a70
- Data del test:25.04.2018
| Options | Inception V3 | VGG16 | ResNet-50 | ResNet-152 | Alexnet |
|---|---|---|---|---|---|
| Batch size on GPU | 64 | 32 | 64 | 32 | 512 |
| Optimization | sgd | sgd | sgd | sgd | sgd |
Test dei dati sintetici (immagini / s)
| GPUs | InceptionV3 | VGG16 | ResNet-50 | ResNet-152 | Alexnet |
|---|---|---|---|---|---|
| GPUs | InceptionV3 | VGG16 | ResNet-50 | ResNet-152 | Alexnet |
| 2x P100 | 268.24 | 224.90 | 446.08 | 150.04 | 5252.43 |
| 2x PCI V100 | 430.77 | 309.82 | 667.62 | 213.04 | 7545.40 |
| 2x NVlink V100 | 450.75 | 417.22 | 698.97 | 236.90 | 8786.56 |
Altri risultati
Test dei dati sintetici (immagini / s)
2x PCI Tesla P100
| Batch size | Alexnet | vgg11 | vgg16 | vgg19 | lenet | googlenet |
|---|---|---|---|---|---|---|
| 32 | 1411.48 | 378.47 | 224.90 | 199.87 | 14944.76 | 788.43 |
| 64 | 2460.54 | 473.82 | 256.68 | 225.58 | 29215.60 | 913.38 |
| 128 | 3576.26 | 539.08 | 278.83 | 243.67 | 47375.83 | 1035.37 |
| 256 | 4545.45 | 561.73 | - | - | 67116.75 | 1127.05 |
| 512 | 5252.43 | - | - | - | 83665.27 | 1165.75 |