顯示卡驅動程式, CUDA, cuDNN, PyTorch, TensorFlow 全部都必須升級到新版或開發版才能使用。
測試使用版本如下:
顯示卡驅動程式 456.38
CUDA: 11.0
cuDNN: 8.0.4
torch: 1.8.0.dev20201005+cu110
torchvision: 0.8.0.dev20201007+cu110
tf-nightly: 2.4.0.dev20201007
LEADERG AppForAI 人工智慧開發工具: 2041
從 LEADERG AppForAI 200多種演算法中,挑選三個 AI 演算法進行訓練測試,結果如下:
Jupyter-Image-Classification-InceptionV3-PyTorch: RTX 3090 略快
Jupyter-Image-Segmentation-MaskRCNN-Keras: RTX 3090 略快
Jupyter-Image-Segmentation-UNet-Keras: RTX 3090 較慢(GPU CUDA 使用率只有一半)
結論:
1. 雖然 RTX 3090 的 CUDA core 比 Titan RTX 多一倍,但是目前的軟體還在開發中,沒有針對 RTX 3090 的硬體進行優化,因此 AI 訓練速度只有快一點點,甚至有較慢的情況。
2. 過一陣子升級 CUDA, cuDNN, PyTorch, TensorFlow 的版本應該可以再提升 RTX 3090 的速度。
3. Titan RTX 一張卡片8萬多元,RTX 3090 一張卡片5萬多元。RTX 3090 便宜很多,卻有接近的性能表現,算是很超值。