LEADERG AI Cluster 人工智慧叢集伺服器 (推論農場,可以同時使用 NVIDIA GPU, Intel VPU, Intel CPU 以及其他運算加速裝置)
LEADERG AI Cluster 人工智慧叢集伺服器 (推論農場),可以同時使用 NVIDIA GPU, Intel VPU, Intel CPU 以及其他運算加速裝置。使用網路分散式運算及可擴充架構設計,一秒鐘可以處理數萬筆推論需求,具有 HA (High Availability) 能力。
軟體採用 LEADERG AppForAI 人工智慧開發工具,大幅降低深度學習網絡訓練及推論的技術門檻。軟體經過優化,大幅提高伺服器推論性能。
[ 運作原理 ]
1. Client 端推論需求透過網路 http post 向 AI Portal Server 提出。
2. AI Portal Server 看哪一個 AI 推論裝置有空,將推論需求透過網路 http post 向 AI 推論裝置提出。
3. AI 推論裝置收到推論需求後,如果深度學習模型不同,透過網路 http post 向 AI Portal Server 索取深度學習模型。
4. AI 推論裝置推論完成後,將結果以 JSON 格式回傳給 AI Portal Server 。
5. AI Portal Server 將結果以 JSON 格式回傳給 Client 端。
[ 適用產業 ]
晶圓、封測、面板、銅箔、 PCB 、設備、安控等。
[ 訂購方式 ]
如果您需要 LEADERG AI Cluster 人工智慧叢集伺服器,請到以下網址購買:
上一篇: