現(xiàn)如今的企業(yè)組織機(jī)構(gòu)正在大規(guī)模的采用AI人工智能應(yīng)用程序來解析不斷呈指數(shù)級(jí)增長(zhǎng)的龐大數(shù)據(jù)量，這不僅要求極高，并且需要具備強(qiáng)大的并行處理功能，因此原來的標(biāo)準(zhǔn)化CPU已然無法充分執(zhí)行許多AI解析任務(wù)了。有鑒于此，當(dāng)企業(yè)數(shù)據(jù)中心在接近或達(dá)到服務(wù)器性能的瓶頸局限時(shí)，究竟應(yīng)該相應(yīng)的采取哪些有效的應(yīng)對(duì)措施呢?

在本文中，我們將幫助您企業(yè)數(shù)據(jù)中心準(zhǔn)備并應(yīng)對(duì)由AI應(yīng)用程序?yàn)槠髽I(yè)本地部署環(huán)境和云基礎(chǔ)架構(gòu)所帶來的限制。同時(shí)，我們還采訪了數(shù)據(jù)中心業(yè)界的同行們，邀請(qǐng)他們提供了相關(guān)的指導(dǎo)性建議，其中包括著重強(qiáng)調(diào)了企業(yè)數(shù)據(jù)中心與服務(wù)器供應(yīng)商密切合作的重要性，這些服務(wù)器供應(yīng)商可以為您的企業(yè)從早期階段盡快過渡到穩(wěn)步的高級(jí)生產(chǎn)階段，進(jìn)而充分利用AI功能提供相應(yīng)的指導(dǎo)。

當(dāng)前的企業(yè)組織機(jī)構(gòu)正在積極努力的應(yīng)對(duì)眾多的變數(shù)，以確定他們對(duì)使用由深度學(xué)習(xí)時(shí)帶來的能夠提供新的洞察見解的人工智能(AI)應(yīng)用程序到底應(yīng)該采取怎樣的立場(chǎng)。而這一領(lǐng)域在當(dāng)下可以說是充滿了無限的商機(jī)，不采取積極的行動(dòng)可能會(huì)演變成商業(yè)災(zāi)難，因?yàn)槠髽I(yè)的競(jìng)爭(zhēng)對(duì)手們正在收集并分析處理海量以前無法獲得的數(shù)據(jù)信息，來擴(kuò)大其客戶群。大多數(shù)企業(yè)組織都已然意識(shí)到了這一嚴(yán)峻的挑戰(zhàn)，故而他們的業(yè)務(wù)部門、IT員工、數(shù)據(jù)科學(xué)家和開發(fā)人員們都在共同努力，以確定企業(yè)的人工智能戰(zhàn)略。

在某種程度上，采用AI戰(zhàn)略的企業(yè)將逐步體驗(yàn)到在利用AI應(yīng)用程序方面更為先進(jìn)的領(lǐng)軍企業(yè)們過往的經(jīng)歷：他們的服務(wù)器性能將遭遇到瓶頸局限問題。人工智能應(yīng)用程序，特別是深度學(xué)習(xí)系統(tǒng)可以對(duì)當(dāng)下呈指數(shù)級(jí)不斷增長(zhǎng)的海量數(shù)據(jù)信息進(jìn)行分析，但這些系統(tǒng)要求非常高，并且需要具備強(qiáng)大的并行處理能力，故而越來越多的標(biāo)準(zhǔn)化CPU已然無法充分執(zhí)行這些AI任務(wù)了。早期階段和高級(jí)階段的AI用戶在某些時(shí)候?qū)⒉坏貌粡氐赘脑炱浞��?wù)器基礎(chǔ)設(shè)施以實(shí)現(xiàn)所需的相關(guān)性能。

因此，IDC建議正在開發(fā)AI功能或擴(kuò)展現(xiàn)有AI功能的企業(yè)組織機(jī)構(gòu)應(yīng)以嚴(yán)格控制的方式解決這一服務(wù)器性能瓶頸問題。務(wù)必要在充分掌握相關(guān)細(xì)節(jié)的前提下實(shí)施下一步的基礎(chǔ)設(shè)施遷移。此外，我們建議他們務(wù)必要與其服務(wù)器供應(yīng)商密切合作，這些服務(wù)器供應(yīng)商可以為企業(yè)客戶從早期階段盡快過渡到穩(wěn)步的高級(jí)生產(chǎn)階段，進(jìn)而充分利用AI功能提供相應(yīng)的指導(dǎo)。

打破在數(shù)據(jù)中心服務(wù)器基礎(chǔ)設(shè)施上運(yùn)行AI的瓶頸

天下數(shù)據(jù)IDC發(fā)現(xiàn)，大多數(shù)處于概念驗(yàn)證(POC)測(cè)試或生產(chǎn)模式的人工智能和深度學(xué)習(xí)應(yīng)用程序的企業(yè)在某種程度上已經(jīng)達(dá)到了 “服務(wù)器基礎(chǔ)設(shè)施瓶頸限制”的水平——有時(shí)在這些企業(yè)遷移到不同的服務(wù)器基礎(chǔ)設(shè)施后，會(huì)不止一次的出現(xiàn)基礎(chǔ)設(shè)施瓶頸局限性的問題。

天下數(shù)據(jù)IDC采訪了相關(guān)的企業(yè)組織當(dāng)他們?cè)谄洮F(xiàn)有的企業(yè)內(nèi)部部署服務(wù)器基礎(chǔ)架構(gòu)上開始運(yùn)行AI應(yīng)用程序時(shí)所經(jīng)歷的情況。77.1%的受訪者表示他們?cè)趦?nèi)部服務(wù)器部署基礎(chǔ)設(shè)施上運(yùn)行AI遇到了一個(gè)或多個(gè)限制。在采用了認(rèn)知軟件的云用戶中，90.3%的企業(yè)遇到了這種限制。下表1列出了在企業(yè)內(nèi)部部署服務(wù)器環(huán)境和云基礎(chǔ)架構(gòu)中運(yùn)行AI應(yīng)用程序的相關(guān)限制。

表1：基礎(chǔ)架構(gòu)運(yùn)行AI應(yīng)用程序的瓶頸限制(排名分主次順序)

資料來源：《認(rèn)知服務(wù)器基礎(chǔ)架構(gòu)調(diào)查》2017年6月

正是由于這些基礎(chǔ)設(shè)施的瓶頸局限問題的出現(xiàn)，很多企業(yè)很快經(jīng)歷了代際轉(zhuǎn)變。盡管人工智能應(yīng)用程序和深度學(xué)習(xí)的興起僅僅只有幾年時(shí)間，但I(xiàn)DC發(fā)現(xiàn)，已有22.8%的企業(yè)在采用第三代服務(wù)器基礎(chǔ)設(shè)施來運(yùn)行其人工智能應(yīng)用程序了，而37.6%的企業(yè)在使用第二代服務(wù)器基礎(chǔ)設(shè)施，39.6%的企業(yè)則在使用第一代的服務(wù)器基礎(chǔ)設(shè)施。上述這些調(diào)查百分比表明了當(dāng)下的企業(yè)客戶正在尋找合適的基礎(chǔ)設(shè)施。而下表2則列出了AI服務(wù)器基礎(chǔ)架構(gòu)最常出現(xiàn)的代際。

表2：人工智能服務(wù)器基礎(chǔ)設(shè)施最常見的代際(排名分順序)

資料來源：《認(rèn)知服務(wù)器基礎(chǔ)架構(gòu)調(diào)查》2017年6月

轉(zhuǎn)向具有更高處理器性能(通常所采取的最常見的措施)、更大的I / O帶寬和加速器的系統(tǒng)是一個(gè)合理的決定。但是這些數(shù)據(jù)也表明了理想配置所存在的不確定性。一些企業(yè)已經(jīng)嘗試了橫向規(guī)�；瘮U(kuò)展，并縱向擴(kuò)展;而另外一些企業(yè)則采取了相反的方案。其他某些遷移從虛擬機(jī)開始，然后轉(zhuǎn)移到專用服務(wù)器，而其他一些同行卻與此相反。

這些矛盾的舉措其實(shí)并不像其看起來那么奇怪。當(dāng)前的企業(yè)組織不僅在AI軟件上進(jìn)行試驗(yàn)，而且同時(shí)也在基礎(chǔ)設(shè)施上進(jìn)行試運(yùn)行。一些企業(yè)已經(jīng)開始采用橫向的規(guī)�；瘮U(kuò)展配置，并且隨著解決方案的日趨成熟，他們決定需要更高的性能，而這些性能能夠在數(shù)據(jù)中心的現(xiàn)有擴(kuò)展系統(tǒng)中獲得。其他一些企業(yè)則在擴(kuò)展系統(tǒng)的一個(gè)分區(qū)上啟動(dòng)了POC，并在解決方案進(jìn)入下一階段時(shí)決定將其轉(zhuǎn)移到一個(gè)單插槽或雙插槽的服務(wù)器集群。同樣的，一款解決方案可能已經(jīng)在虛擬機(jī)中開發(fā)出來，然后被遷移到專用的服務(wù)器上，以便在有些絕緣隔熱的的環(huán)境中進(jìn)一步開發(fā)(很多企業(yè)更傾向于在早期階段如此進(jìn)行)。

天下數(shù)據(jù)IDC認(rèn)為，對(duì)于早期的實(shí)驗(yàn)和開發(fā)而言，所有這些遷移的舉措都是有道理的。利用現(xiàn)有的環(huán)境意味著延遲投資于新的服務(wù)器基礎(chǔ)設(shè)施，直到企業(yè)明確了什么是最為恰當(dāng)?shù)呐渲脼橹�。但是，一旦�?yīng)用程序接近運(yùn)行并準(zhǔn)備投入生產(chǎn)，就需要及時(shí)的做出合理的基礎(chǔ)架構(gòu)方面的決策了，以避免觸及基礎(chǔ)設(shè)施的瓶頸。

根據(jù)來自已經(jīng)運(yùn)行了AI應(yīng)用程序的企業(yè)用戶們的反饋，我們認(rèn)為：認(rèn)知應(yīng)用程序的理想基礎(chǔ)架構(gòu)配置是一組具有加速器的單路或雙路服務(wù)器，不過，企業(yè)也還可以根據(jù)實(shí)際業(yè)務(wù)需要在稍后階段添加加速器。中型系統(tǒng)集群也是可行的，但只有在工作負(fù)載迅速的規(guī)模化擴(kuò)展的情況下才是相關(guān)的。其他配置可能也是可行的。從對(duì)于企業(yè)用戶的研究中可以清楚地看出，超融合系統(tǒng)和虛擬機(jī)已被證明對(duì)認(rèn)知應(yīng)用的影響較小。

企業(yè)數(shù)據(jù)中心究竟應(yīng)該如何應(yīng)對(duì)?

天下數(shù)據(jù)IDC認(rèn)為，目前正在考慮實(shí)施人工智能計(jì)劃或正在從實(shí)驗(yàn)階段轉(zhuǎn)向更為成熟的人工智能部署階段的企業(yè)用戶可能需要隨著時(shí)間的推移逐步推進(jìn)其實(shí)施方案，以下，我們將與讀者朋友們討論幾種AI開發(fā)方法。

01、從小型到中型AI項(xiàng)目的逐步推進(jìn)

對(duì)于小型AI項(xiàng)目計(jì)劃逐步向中型過渡的企業(yè)用戶而言，我們建議在內(nèi)部開發(fā)解決方案。這種方法有很多優(yōu)點(diǎn)。通過協(xié)作實(shí)驗(yàn)，企業(yè)的開發(fā)人員、業(yè)務(wù)部門、數(shù)據(jù)分析師或數(shù)據(jù)科學(xué)家和基礎(chǔ)架構(gòu)團(tuán)隊(duì)將能夠獲得重要的新技能，同時(shí)為業(yè)務(wù)創(chuàng)建量身定制的解決方案。數(shù)據(jù)分析師和數(shù)據(jù)科學(xué)家沒呢可以準(zhǔn)備數(shù)據(jù)集和相關(guān)模型，開發(fā)人員則可以測(cè)試框架，而基礎(chǔ)架構(gòu)團(tuán)隊(duì)則可以評(píng)估要開發(fā)什么硬件以及用于生產(chǎn)的內(nèi)容，并且業(yè)務(wù)部門將有機(jī)會(huì)設(shè)置解決方案的參數(shù)。但是，我們建議僅僅將這種方法用于獨(dú)特的AI項(xiàng)目。如果企業(yè)所需的解決方案可以作為商業(yè)軟件在市場(chǎng)上可以隨時(shí)獲得，那么商業(yè)化的軟件包將通過實(shí)現(xiàn)快速部署的業(yè)務(wù)優(yōu)勢(shì)遠(yuǎn)遠(yuǎn)超過企業(yè)內(nèi)部開發(fā)所帶來的好處。

天下數(shù)據(jù)IDC建議，企業(yè)可以從小型和企業(yè)本地部署項(xiàng)目計(jì)劃開始著手。這種趨勢(shì)將是從一個(gè)與其他環(huán)境相隔離的專用服務(wù)器開始，但同時(shí)也需要意識(shí)到集成整合最終會(huì)變得重要。如果有AI培訓(xùn)組件的話，那么該環(huán)境將需要能夠訪問用于培訓(xùn)的數(shù)據(jù)，并且硬件需要能夠進(jìn)行強(qiáng)大的并行處理，理想情況下具有足夠數(shù)量的加速器，例如圖形處理單元(GPU)。環(huán)境可以由AI解決方案傾向于喜歡的集群，甚至包括具有多個(gè)節(jié)點(diǎn)的融合系統(tǒng)組成。但是，對(duì)于第一代AI基礎(chǔ)架構(gòu)而言，規(guī)模化橫向擴(kuò)展服務(wù)器中的硬分區(qū)也可以奏效。虛擬機(jī)或超融合系統(tǒng)則不太合適。如果數(shù)據(jù)對(duì)業(yè)務(wù)至關(guān)重要的話，那么承載數(shù)據(jù)的橫向擴(kuò)展企業(yè)級(jí)服務(wù)器中的硬分區(qū)則可能會(huì)很有用，因?yàn)槠髽I(yè)組織不需要將數(shù)據(jù)遷出其安全環(huán)境。請(qǐng)注意，只有在Linux上運(yùn)行的AI開發(fā)才有大量的開源框架。

一旦企業(yè)用戶得到基礎(chǔ)架構(gòu)團(tuán)隊(duì)、開發(fā)團(tuán)隊(duì)和數(shù)據(jù)科學(xué)家們對(duì)解決方案感到滿意之后，就可以運(yùn)行該解決方案進(jìn)行生產(chǎn)了，并能夠逐步體驗(yàn)檢測(cè)到軟件和硬件的功能和局限性，屆時(shí)企業(yè)將能夠更好地確定下一步何去何從。這些后續(xù)步驟可能包括繼續(xù)構(gòu)建內(nèi)部部署的內(nèi)部功能;實(shí)施升級(jí)或擴(kuò)展基礎(chǔ)架構(gòu);添加云組件或聘請(qǐng)其他服務(wù)商，例如VAR經(jīng)銷商或顧問等。

在這個(gè)反復(fù)試驗(yàn)階段，企業(yè)的基礎(chǔ)設(shè)施團(tuán)隊(duì)徹底調(diào)查新的基礎(chǔ)設(shè)施解決方案是至關(guān)重要的。如前所述，AI系統(tǒng)在單核和雙核服務(wù)器集群上運(yùn)行良好，每核具有較高的性能和I/O參數(shù)以及GPU等加速器。該團(tuán)隊(duì)不僅應(yīng)該考慮從其傳統(tǒng)供應(yīng)商處采購服務(wù)器產(chǎn)品，同時(shí)也應(yīng)該考慮其他的服務(wù)器供應(yīng)商，尤其是那些提供完整的AI硬件/軟件堆棧的服務(wù)器產(chǎn)品。其中一些供應(yīng)商在部署AI系統(tǒng)的所有階段均能夠?yàn)槠髽I(yè)用戶提供幫助，從硬件的選擇和優(yōu)化到軟件堆棧，直至后期的部署和咨詢服務(wù)。我們建議選擇企業(yè)客戶應(yīng)該對(duì)那些已經(jīng)展示出了對(duì)AI和深度學(xué)習(xí)的基礎(chǔ)架構(gòu)要求有著深入了解的供應(yīng)商。

確保您企業(yè)的服務(wù)器供應(yīng)商可以在第一個(gè)實(shí)驗(yàn)階段提供相關(guān)的建議，即使該階段是在企業(yè)現(xiàn)有的硬件設(shè)備上部署實(shí)施的，這些建議也可以指導(dǎo)企業(yè)組織進(jìn)行內(nèi)部的部署或混合內(nèi)部云擴(kuò)展。理想情況下，服務(wù)器供應(yīng)商可以通過幾個(gè)乃至所有的小型到大型的場(chǎng)景指導(dǎo)企業(yè)用戶的部署工作。換句話說，這些服務(wù)器供應(yīng)商擔(dān)任企業(yè)客戶小型項(xiàng)目計(jì)劃的顧問，同時(shí)也擔(dān)任其下一階段的更大的人工智能實(shí)施計(jì)劃的顧問。

02、更大規(guī)模的AI項(xiàng)目計(jì)劃的實(shí)施

企業(yè)實(shí)施更大的AI項(xiàng)目計(jì)劃將得益于外部的支持。開發(fā)全面的人工智能解決方案的時(shí)間、成本和復(fù)雜性旨在為企業(yè)組織帶來關(guān)鍵業(yè)務(wù)的創(chuàng)新，但除了擁有相當(dāng)足夠的資源的大型企業(yè)組織之外，一般的企業(yè)則可能不太適合采用內(nèi)部試錯(cuò)法。第三方人工智能解決方案提供商可以像增值經(jīng)銷商或系統(tǒng)集成商那樣，幫助企業(yè)客戶快速實(shí)施解決方案，但他們的靈活性會(huì)大大降低，并且并不適合獨(dú)特的業(yè)務(wù)需求。非常大型的項(xiàng)目計(jì)劃則可以從咨詢合作伙伴中受益。企業(yè)客戶咨詢其合作伙伴的成本往往很昂貴，并且可能會(huì)對(duì)這些合作伙伴產(chǎn)生長(zhǎng)期的依賴關(guān)系，其初始部署時(shí)間通常很長(zhǎng)。另一方面，最終的解決方案將完全根據(jù)企業(yè)組織的需求量身定制，并且如果執(zhí)行得當(dāng)，則可與數(shù)據(jù)中心實(shí)現(xiàn)完美的集成整合。

對(duì)于大型的項(xiàng)目計(jì)劃而言，與具有AI專業(yè)知識(shí)以及擁有涵蓋了整個(gè)硬件/軟件堆棧的一系列AI產(chǎn)品的服務(wù)器供應(yīng)商合作也能夠?yàn)槠髽I(yè)客戶帶來明顯的優(yōu)勢(shì)。服務(wù)器供應(yīng)商通常比第三方咨詢合作伙伴的咨詢成本便宜，并且比其他解決方案提供商對(duì)其自身硬件的優(yōu)化和擴(kuò)展有更多的了解。但請(qǐng)務(wù)必確保供應(yīng)商具有擴(kuò)展AI應(yīng)用程序基礎(chǔ)架構(gòu)和深度學(xué)習(xí)的能力，因?yàn)橐?guī)模化縮放加速的計(jì)算節(jié)點(diǎn)并不像僅僅使用CPU來擴(kuò)展計(jì)算節(jié)點(diǎn)那樣簡(jiǎn)單。

我們建議，企業(yè)的業(yè)務(wù)部門、開發(fā)團(tuán)隊(duì)和基礎(chǔ)架構(gòu)團(tuán)隊(duì)密切參與這一過程，盡可能確保其AI解決方案是定制化的，并通過培訓(xùn)開發(fā)相關(guān)技能。確保企業(yè)的該項(xiàng)目最終不會(huì)以只有服務(wù)器供應(yīng)商或解決方案提供商才理解的“黑盒”解決方案的方式結(jié)束，這種解決方案無法實(shí)現(xiàn)很好的擴(kuò)展，也無法與數(shù)據(jù)中心集成整合，并且會(huì)影響性能或在數(shù)據(jù)量開始增加時(shí)帶來局限性。換句話說，這些方法都不會(huì)讓企業(yè)基礎(chǔ)架構(gòu)團(tuán)隊(duì)的任務(wù)變得更加簡(jiǎn)單。AI服務(wù)器供應(yīng)商、解決方案提供商和顧問將提出硬件方面的建議，并對(duì)與企業(yè)內(nèi)部開發(fā)相同的參數(shù)進(jìn)行批判性的評(píng)估，包括：加速性能、I/O、可管理性和可擴(kuò)展性。

請(qǐng)注意，就方法和部署而言，可以將上述這些場(chǎng)景中的幾個(gè)組合起來。例如，企業(yè)內(nèi)部構(gòu)建的解決方案可以與云中的SaaS解決方案相結(jié)合以實(shí)現(xiàn)混合解決方案，或者企業(yè)內(nèi)部構(gòu)建的解決方案可以跟隨VAR經(jīng)銷商更大的方案的實(shí)施而實(shí)施。最后，IDC發(fā)現(xiàn)，大多數(shù)企業(yè)組織對(duì)于其AI項(xiàng)目計(jì)劃并沒有明確估算其基礎(chǔ)架構(gòu)或軟件的成本。企業(yè)需要為AI項(xiàng)目制定指標(biāo)，包括軟件、基礎(chǔ)設(shè)施和人工成本方面的目標(biāo)。他們還應(yīng)計(jì)算投資回報(bào)潛力(通過提高生產(chǎn)力，降低成本或增加收入等方面的計(jì)算)，并確保他們?cè)陧?xiàng)目開始時(shí)收集有關(guān)這些指標(biāo)的數(shù)據(jù)。

03、選擇企業(yè)內(nèi)部部署還是云服務(wù)?

對(duì)于一些較大的AI項(xiàng)目計(jì)劃，可能存在SaaS解決方案。但是與任何基于云計(jì)算的軟件解決方案一樣，可定制性將受到限制，可擴(kuò)展性將取決于提供商的基礎(chǔ)設(shè)施，性能也會(huì)如此。而且，當(dāng)數(shù)據(jù)量或交易數(shù)量快速增長(zhǎng)時(shí)，成本可能會(huì)變得不利。對(duì)于關(guān)鍵業(yè)務(wù)數(shù)據(jù)、敏感數(shù)據(jù)或需要遵守法規(guī)要求的數(shù)據(jù)而言，需要對(duì)SaaS解決方案的安全性進(jìn)行評(píng)估。

天下數(shù)據(jù)IDC發(fā)現(xiàn)，在部署了人工智能應(yīng)用出現(xiàn)加速基礎(chǔ)設(shè)施的企業(yè)中，有65%的企業(yè)在其內(nèi)部部署了這些解決方案：22%的企業(yè)選擇了僅僅只在企業(yè)內(nèi)部部署;而43%企業(yè)選擇了內(nèi)部部署和云部署的混合模式。大多數(shù)企業(yè)表示他們已經(jīng)發(fā)現(xiàn)到目前為止云計(jì)算體驗(yàn)是令人滿意的，并將把AI工作負(fù)載轉(zhuǎn)移到云服務(wù)。然而，這方面的遷移并不會(huì)影響未來24個(gè)月內(nèi)所有可能部署中認(rèn)知負(fù)載的整體分布;換句話說，企業(yè)內(nèi)部部署的比例將仍然保持不變。某些AI使用案例并不適用于企業(yè)內(nèi)部部署或云部署環(huán)境(但也存在一些例外情況)。基于數(shù)據(jù)安全問題的考慮，某些人工智能使用案例(例如醫(yī)療診斷和治療)采取企業(yè)內(nèi)部部署往往比云服務(wù)更為流行。然而，全渠道運(yùn)營(yíng)的商品化在云中的普及率稍高。盡管如此，企業(yè)內(nèi)部部署、云計(jì)算，當(dāng)然還有混合策略各自均有其明確的角色作用。后者很可能成為最有利的部署方法。

04、加速器

在本文中，我們?cè)�多次提及加速器作為克服AI系統(tǒng)基礎(chǔ)架構(gòu)性能瓶頸局限性的重要方法，這對(duì)于采用深度學(xué)習(xí)算法的AI系統(tǒng)尤其如此，需要大量的計(jì)算能力來訓(xùn)練。在某些情況下，使用加速器對(duì)深度學(xué)習(xí)算法進(jìn)行訓(xùn)練可以將迭代時(shí)間從幾天縮短到幾小時(shí)。

根據(jù)IDC的定義，加速計(jì)算是通過將部分處理卸載到鄰近的硅子系統(tǒng)——如圖形處理單元和現(xiàn)場(chǎng)可編程門陣列(FPGA)上來加速應(yīng)用程序和工作負(fù)載的能力。隨著企業(yè)尋求解決方案來克服CPU處理工作負(fù)載(如AI應(yīng)用程序)的局限性，加速計(jì)算正在進(jìn)一步獲得企業(yè)用戶的青睞。

GPU對(duì)于企業(yè)特別具有吸引力，因?yàn)樗鼈兛梢酝ㄟ^現(xiàn)成的方式獲得，并且可以使用標(biāo)準(zhǔn)庫，這些庫可以很容易地集成到應(yīng)用程序中。然而，其他可提供更高性能功耗比率的技術(shù)，如FPGA、多核處理器和專用集成電路(ASIC)也開始受到關(guān)注：

　　●一款GPU執(zhí)行基于神經(jīng)網(wǎng)絡(luò)層的矢量和矩陣計(jì)算。GPU以并行的方式實(shí)現(xiàn)，提供了訓(xùn)練速度的大幅改進(jìn)和更高的能效。

　　● 多核微處理器針對(duì)并行或矢量化進(jìn)行了優(yōu)化，無需使用外部加速器。多核微處理器擁有比典型多核CPU更多的內(nèi)核，并且是旨在最大化處理器、高速緩存和內(nèi)存之間的數(shù)據(jù)傳輸速率的體系架構(gòu)的一部分。其還執(zhí)行CPU的傳統(tǒng)功能。

　　●一款協(xié)處理器是用于加速并行工作負(fù)載的PCIe卡。它集成了多核處理器，并包含專用的高速緩存、內(nèi)存和操作系統(tǒng)內(nèi)核，但需要CPU進(jìn)行引導(dǎo)。

　　●FPGA是一種集成電路，設(shè)計(jì)成由客戶在制造后使用硬件描述或高級(jí)語言進(jìn)行配置。FPGA由一系列可編程邏輯塊、互連和I/O塊組成。它們也可以重新配置。

　　●ASIC是專用集成電路，不能在制造后重新配置。

　　●互連是GPU、FPGA或ASIC與CPU之間的數(shù)據(jù)連接。PCIe互連的最大單向帶寬約為16GBps，而NVIDIA的NVLink 2.0的最大單向帶寬則為150GBps。

大多數(shù)小型企業(yè)選擇從服務(wù)器供應(yīng)商處采購加速器作為服務(wù)器的一部分。這是一種方便的方法，因?yàn)榇蠖鄶?shù)主要的服務(wù)器供應(yīng)商都擁有加速服務(wù)器產(chǎn)品。較大的公司也會(huì)選擇VAR經(jīng)銷商或系統(tǒng)集成商或直接從加速器供應(yīng)商處采購。這種方法為他們提供了更大的靈活性，因?yàn)樵鲋到?jīng)銷商和系統(tǒng)集成商將能夠提供更加定制化的解決方案，同時(shí)直接從供應(yīng)商處采購可以提供安裝加速器的更好的靈活性。

在將加速器作為服務(wù)器的一部分進(jìn)行采購時(shí)，會(huì)有一定的價(jià)格溢價(jià)。迄今為止，還沒有幾項(xiàng)基準(zhǔn)來確定加速器作為既定服務(wù)器的一部分能夠提供多少額外的性能，但是根據(jù)IDC的研究表明，采購此類系統(tǒng)的企業(yè)平均發(fā)現(xiàn)，在既定的總體性能增長(zhǎng)的情況下，一定的價(jià)格溢價(jià)是可以接受的(請(qǐng)參閱下表3)。

加速固然非常有效，但其并不總是解決企業(yè)數(shù)據(jù)中心服務(wù)器基礎(chǔ)架構(gòu)瓶頸局限性的最終解決方案。這在很大程度上取決于服務(wù)器的核心性能、企業(yè)所選擇的加速的類型、互連的類型以及諸如軟件和數(shù)據(jù)等各種其他因素。因此，企業(yè)客戶不僅需要考慮采用哪些加速器和共計(jì)擁有多少臺(tái)服務(wù)器，還要考慮企業(yè)已經(jīng)安裝了哪種服務(wù)器，包括每個(gè)內(nèi)核的性能和I/O帶寬。選擇一款平衡系統(tǒng)是非常關(guān)鍵的，特別是對(duì)于處于嘗試各種模型的人工智能的實(shí)驗(yàn)階段的企業(yè)客戶來說，因?yàn)槊糠N模型都會(huì)以不同的方式為系統(tǒng)帶來壓力。

表3、既定性能增加的可接受價(jià)格溢價(jià)范圍

天下數(shù)據(jù)運(yùn)營(yíng)理念：歷經(jīng)15年，致力于構(gòu)建國(guó)內(nèi)海外規(guī)模最大、品質(zhì)最好、成本最低的互聯(lián)互通網(wǎng)絡(luò)，并根據(jù)客戶各種不同的業(yè)務(wù)需求，提供國(guó)內(nèi)海外服務(wù)器托管或租用、機(jī)柜租用、大帶寬租用、防御攻擊服務(wù)等多種增值服務(wù)及業(yè)務(wù)解決方案。機(jī)房資源遍布全球：數(shù)據(jù)中心分布全球200多個(gè)國(guó)家和地區(qū)，精選資源，密切合作。

本文鏈接：http://www.51huadong.com/cloundnews/11001894.html