GPU與CPU的性能PK

    在人工智能 (AI) 新時代，深度學習以不同于史上其他計算模型的方式改變著世界。搜索引擎、互動語音和視頻推薦顯然是我們日常使用的眾多 AI 服務中的幾項。采用 Pascal 架構的 NVIDIA GPU 為 AI 新時代提供計算引擎，可加快深度學習應用程序的訓練和部署速度，從而帶來卓越的用戶體驗。

    響應速度是決定用戶是否采用互動語音、視覺搜索和視頻分析等服務的關鍵因素。隨著深度學習模型的準確性和復雜性越來越高，CPU 已經無法再提供交互式用戶體驗。Tesla P4 可實現實時響應，推理性能為 CPU 的 40 倍。

    視頻結構化助力智慧城市建設

    從技術角度來說，智慧城市就是感知、分析和提取城市系統的各種信息并做出相對應反饋的一整套城市管理系統，其中，原始的視頻數據是城市系統信息的重要組成部分。現如今，海量視頻數據已成必然，需要一套可以自動從視頻中提取結構化信息的方案，把視頻、圖像“翻譯”成機器可以理解的語言，并進行保存，確保后續提供給上層應用平臺調用和處理的素材。

    視頻結構化的意義

    視頻或者圖像數據，從前端傳感器直接獲得，從技術上來說，是一種非結構化信息。只有在實現結構化處理之后，才能將其中有價值的數據直觀、高效的保存、處理和應用。在智慧城市建設中，有成千上萬路監控攝像頭或者傳感器，晝夜不停地監視或采集其他原始數據。其中，會產生海量的音視頻數據，需要監控管理平臺處理。即便人力充沛的情況下，面對龐大的視頻數據，要求快速、準確地從海量數據中找到有效的信息，幾乎是不可能的。受制于肉眼識別勞動強度的極限，在發生緊急事件時，人力調配和視頻資源往往存在矛盾，不依靠計算機自動進行篩選，必然造成貽誤戰機。

    視頻結構化就是實現將海量視頻中的人、車目標進行提取并識別的過程。一旦有重要事件發生，系統就可在數據庫中快速查找到關鍵的“人”、“車”、“物”等相關音視頻線索。針對海量監控視頻錄像的事后分析，傳統以人海戰術為主的視頻線索查找，顯然不能滿足高效查找，正面臨巨大挑戰，急需一種更為高效的、自動的、智能的系統實現上述需求。

    深度學習技術，助力視頻結構化

    在安防行業中，通過深度學習對視頻進行結構化信息提取，完成了傳統算法無法完成的功能，算法效果也得到大幅度提高。

    在安防大數據及深度學習的大背景下，具有研發實力的廠商紛紛基于GPU進行視頻相關產品（前端智能及后端服務器等）研發，之前被稱為視頻核彈的Jetson TX1 GPU模塊，已經廣泛應用于人工智能市場（包括無人機、機器人等設備）及安防監控市場（智能攝像機、人臉識別攝像機等），安防廠商海康、宇視、文安及格靈等公司，均已展示了相關的產品。

    NVIDIA的GPU形成了不同目標應用的產品體系，如在人工智能和自動駕駛領域，形成了以TeslaP100為核心的訓練體系，以P4/P40為核心的數據中心推理體系，以及以Jetson TX1為核心的智能設備體系。

    近日，安防領導企業大華首發推出了基于Tesla-P4的視頻結構化服務器，混搭E5系列CPU及8塊P4卡 GPU的服務器，具有超強的運算能力，據說其最大可支持192路1080P高清實時視頻分析，完成結構化信息提取，不可謂不強大。

    據相關資料，該服務器采用NVIDIA? Tesla? P4 GPUs作為核心處理負載，功耗低，性能強，相較于市場上同類別的產品，視頻處理能力將提高50倍以上。單塊Tesla P4可以取代13臺CPU服務器，與傳統的CPU方案相比，處理推理應用的能效比與CPU相比提高了40倍，節省成本（包括服務器成本和電力成本）超過800%。小編認為，基于GPU的優勢及視頻分析工作的特性，確實可能有如此強悍的運算能力提升，不過也很考驗廠商的優化能力。

    深度視頻服務器的發展

    安防監控的未來在智能，智能的實現在于大數據，大數據的核心是深度學習，深度學習的引擎是GPU(目前)，NVIDIA的GPU芯片Tesla P4發布不到半年，就有安防廠商推出了基于該芯片的視頻結構化服務器，不可謂不快速高效！

    從TX1到目前的P4/P40，伴隨GPU的快速升級，安防廠商能第一時間結合安防實際情況投入研發并落地產品，非常值得一贊。但是，相關產品的推出是借勢GPU進行自我營銷還是貨真價實的成果落地？Tesla P4 與 CPU 的協同配合真的能夠實現理論上的40倍性能提升還是僅僅是理論？安防AI的諸多問題，僅僅依靠一塊高性能的GPU能夠得到多大改善? 拭目以待！