<listing id="p8w7e"><dfn id="p8w7e"></dfn></listing>

    <mark id="p8w7e"></mark>
    <label id="p8w7e"></label>
    <big id="p8w7e"></big>
    <small id="p8w7e"><strong id="p8w7e"></strong></small>
    今戶網|撈蜜網,胎友網
    您現在的位置:首頁 >> 旅游推薦 >> 內容

    滴滴云IFX斬獲斯坦福DAWNBench深度學習推理榜單雙料冠軍

    時間:2020/11/5 15:00:01 點擊:

      核心提示: 滴滴云IFX斬獲斯坦福DAWNBench深度學習推理榜單雙料冠軍 近日,斯坦福大學發布了 DAWNBench 最新成績,在基于 ImageNet 圖像數據集上完成 top5 93% 以上計算精度的任...

    滴滴云IFX斬獲斯坦福DAWNBench深度學習推理榜單雙料冠軍

    近日,斯坦福大學發布了 DAWNBench 最新成績,在基于 ImageNet 圖像數據集上完成 top5 93% 以上計算精度的任務里,滴滴云研發的 AI 智能加速引擎 IFX獲得了 Inference Latency 以及 Inference Cost 雙料世界第一的成績。

    其中,IFX 所輸出的神經網絡推理性能以1.5439ms的成績領先當前第2名 21%;10000張圖片分類任務在滴滴云GPU實例(https://www.didiyun.com/production/gpu.html)上的平均成本僅為0.00美金,領先第2名0.01美金。這是當前所有競榜的參與者中,在 P4 GPU 上面獲取到的最佳成績。DAWNBench ImageNet Inference Latency ,DAWNBench ImageNet Inference Cost .近年來,神經網絡的需求越來越多,對性能,成本,服務能力的要求也越來越高,滴滴在此背景下,推出了 AI 智能加速引擎 IFX,專門為客戶提供端到端的 AI 解決方案。 

    IFX 可提供低延時,高吞吐的神經網絡實現方案,支持 tensorflow,pytorch,caffe,darknet 等神經網絡模型一鍵部署到 NVIDIA GPU,ARM 等異構設備。目前該引擎已經廣泛應用于滴滴內部人臉檢測、OCR、語音識別、ETA 等各項業務。 

    IFX 在滴滴內部已經得到了很好的落地,作為基礎推理引擎,為滴滴云簡樞、EIS、DDIVA 等多個產品提供了堅實的性能保證。 簡樞機器學習平臺

    (https://www.didiyun.com/solution/gpu-management.html):以主流深度學習框架為基礎,與 k8s 和Docker 容器技術相結合,提供實驗環境、離線任務和在線服務三大功能,支持業務從模型研究、批量訓練到在線預測的全流程打通,可以使用戶更加專注深度學習應用本身。

    [EIS](https://www.didiyun.com/production/eis.html): 可將用戶自定義深度學習模型一鍵發布為推理服務,并為推理服務提供托管環境,簡單易用,支持 TensorFlow,pytorch 等多種深度學習框架訓練出的模型。

    DDIVA: 面向海量智能視頻分析場景推出的一套完善的,高性能的視頻分析框架,集成基于NVIDIA GPU硬件和CPU軟件的視頻編解碼方案,最大限度增加視頻編解碼的吞吐。 

    IFX 適用的場景非常的豐富,我們不限制其只能運行在滴滴的平臺,更希望將此能力能夠賦能給外部客戶,產生更大的用戶價值:

    公有云部署:適用于部署在滴滴云等公有云上的AI服務,為用戶公有云服務提供AI智能加速解決方案。

    私有云部署:適用于部署在企業私有云環境的AI應用,提高AI服務效率、降低AI服務成本。

    IOT:IFX可應用于智能制造、智能家居、智能汽車、智能機器人、智能交通等各種IOT場景中,提高計算效率、降低應用時延。

    邊緣計算:業務對于邊緣計算的實時性要求更高,即更強的處理能力和更快的響應速度。IFX能夠幫助邊緣設備更快處理業務請求。 

    據悉,此次提交的成績其實并非IFX在 P4 GPU 上表現的最佳成績,但是我們預計,即使要超越這個成績,各個競榜對手很可能不得不采用 nvidia 下一代 GPU T4 或者其他更快硬件。

    那么,為什么滴滴云IFX能夠對AI推理性能做到如此極致的優化?滴滴云IFX 團隊后續將一一揭秘,敬請關注滴滴云公眾號。

    輸入AI大師碼【1122】,滴滴云GPU全線產品享9折優惠。

    作者:不詳 來源:網絡
    新跑狗图