GPU與CPU的性能PK

    在人工智能 (AI) 新時代，深度學(xué)習以不同于史上其他計算模型的方式改變著世界。搜索引擎、互動語音和視頻推薦顯然是我們?nèi)粘Ｊ褂玫谋姸?nbsp;AI 服務(wù)中的幾項。采用 Pascal 架構(gòu)的 NVIDIA GPU 為 AI 新時代提供計算引擎，可加快深度學(xué)習應(yīng)用程序的訓(xùn)練和部署速度，從而帶來卓越的用戶體驗。

    響應(yīng)速度是決定用戶是否采用互動語音、視覺搜索和視頻分析等服務(wù)的關(guān)鍵因素。隨著深度學(xué)習模型的準確性和復(fù)雜性越來越高，CPU 已經(jīng)無法再提供交互式用戶體驗。Tesla P4 可實現(xiàn)實時響應(yīng)，推理性能為 CPU 的 40 倍。

    視頻結(jié)構(gòu)化助力智慧城市建設(shè)

    從技術(shù)角度來說，智慧城市就是感知、分析和提取城市系統(tǒng)的各種信息并做出相對應(yīng)反饋的一整套城市管理系統(tǒng)，其中，原始的視頻數(shù)據(jù)是城市系統(tǒng)信息的重要組成部分。現(xiàn)如今，海量視頻數(shù)據(jù)已成必然，需要一套可以自動從視頻中提取結(jié)構(gòu)化信息的方案，把視頻、圖像“翻譯”成機器可以理解的語言，并進行保存，確保后續(xù)提供給上層應(yīng)用平臺調(diào)用和處理的素材。

    視頻結(jié)構(gòu)化的意義

    視頻或者圖像數(shù)據(jù)，從前端傳感器直接獲得，從技術(shù)上來說，是一種非結(jié)構(gòu)化信息。只有在實現(xiàn)結(jié)構(gòu)化處理之后，才能將其中有價值的數(shù)據(jù)直觀、高效的保存、處理和應(yīng)用。在智慧城市建設(shè)中，有成千上萬路監(jiān)控攝像頭或者傳感器，晝夜不停地監(jiān)視或采集其他原始數(shù)據(jù)。其中，會產(chǎn)生海量的音視頻數(shù)據(jù)，需要監(jiān)控管理平臺處理。即便人力充沛的情況下，面對龐大的視頻數(shù)據(jù)，要求快速、準確地從海量數(shù)據(jù)中找到有效的信息，幾乎是不可能的。受制于肉眼識別勞動強度的極限，在發(fā)生緊急事件時，人力調(diào)配和視頻資源往往存在矛盾，不依靠計算機自動進行篩選，必然造成貽誤戰(zhàn)機。

    視頻結(jié)構(gòu)化就是實現(xiàn)將海量視頻中的人、車目標進行提取并識別的過程。一旦有重要事件發(fā)生，系統(tǒng)就可在數(shù)據(jù)庫中快速查找到關(guān)鍵的“人”、“車”、“物”等相關(guān)音視頻線索。針對海量監(jiān)控視頻錄像的事后分析，傳統(tǒng)以人海戰(zhàn)術(shù)為主的視頻線索查找，顯然不能滿足高效查找，正面臨巨大挑戰(zhàn)，急需一種更為高效的、自動的、智能的系統(tǒng)實現(xiàn)上述需求。

    深度學(xué)習技術(shù)，助力視頻結(jié)構(gòu)化

    在安防行業(yè)中，通過深度學(xué)習對視頻進行結(jié)構(gòu)化信息提取，完成了傳統(tǒng)算法無法完成的功能，算法效果也得到大幅度提高。

    在安防大數(shù)據(jù)及深度學(xué)習的大背景下，具有研發(fā)實力的廠商紛紛基于GPU進行視頻相關(guān)產(chǎn)品（前端智能及后端服務(wù)器等）研發(fā)，之前被稱為視頻核彈的Jetson TX1 GPU模塊，已經(jīng)廣泛應(yīng)用于人工智能市場（包括無人機、機器人等設(shè)備）及安防監(jiān)控市場（智能攝像機、人臉識別攝像機等），安防廠商海康、宇視、文安及格靈等公司，均已展示了相關(guān)的產(chǎn)品。

    NVIDIA的GPU形成了不同目標應(yīng)用的產(chǎn)品體系，如在人工智能和自動駕駛領(lǐng)域，形成了以TeslaP100為核心的訓(xùn)練體系，以P4/P40為核心的數(shù)據(jù)中心推理體系，以及以Jetson TX1為核心的智能設(shè)備體系。

    近日，安防領(lǐng)導(dǎo)企業(yè)大華首發(fā)推出了基于Tesla-P4的視頻結(jié)構(gòu)化服務(wù)器，混搭E5系列CPU及8塊P4卡 GPU的服務(wù)器，具有超強的運算能力，據(jù)說其最大可支持192路1080P高清實時視頻分析，完成結(jié)構(gòu)化信息提取，不可謂不強大。

    據(jù)相關(guān)資料，該服務(wù)器采用NVIDIA? Tesla? P4 GPUs作為核心處理負載，功耗低，性能強，相較于市場上同類別的產(chǎn)品，視頻處理能力將提高50倍以上。單塊Tesla P4可以取代13臺CPU服務(wù)器，與傳統(tǒng)的CPU方案相比，處理推理應(yīng)用的能效比與CPU相比提高了40倍，節(jié)省成本（包括服務(wù)器成本和電力成本）超過800%。小編認為，基于GPU的優(yōu)勢及視頻分析工作的特性，確實可能有如此強悍的運算能力提升，不過也很考驗廠商的優(yōu)化能力。

    深度視頻服務(wù)器的發(fā)展

    安防監(jiān)控的未來在智能，智能的實現(xiàn)在于大數(shù)據(jù)，大數(shù)據(jù)的核心是深度學(xué)習，深度學(xué)習的引擎是GPU(目前)，NVIDIA的GPU芯片Tesla P4發(fā)布不到半年，就有安防廠商推出了基于該芯片的視頻結(jié)構(gòu)化服務(wù)器，不可謂不快速高效！

    從TX1到目前的P4/P40，伴隨GPU的快速升級，安防廠商能第一時間結(jié)合安防實際情況投入研發(fā)并落地產(chǎn)品，非常值得一贊。但是，相關(guān)產(chǎn)品的推出是借勢GPU進行自我營銷還是貨真價實的成果落地？Tesla P4 與 CPU 的協(xié)同配合真的能夠?qū)崿F(xiàn)理論上的40倍性能提升還是僅僅是理論？安防AI的諸多問題，僅僅依靠一塊高性能的GPU能夠得到多大改善? 拭目以待！