隨著英偉達不斷推出Tesla V100 GPU產(chǎn)品，多家知名服務(wù)器制造商業(yè)推出相應(yīng)搭載的企業(yè)級服務(wù)器。但出現(xiàn)的一個很大的問題是，隨著企業(yè)越來越多轉(zhuǎn)向云，這些為機器學(xué)習(xí)而設(shè)計的服務(wù)器真的可以阻止企業(yè)服務(wù)器業(yè)務(wù)的下滑嗎?最近推出用于IoT的硬化工業(yè)服務(wù)器可能都在表達一個信息：服務(wù)器制造商正在尋求在垂直市場的增長突破。
將企業(yè)工作負(fù)載轉(zhuǎn)移到亞馬遜、谷歌、IBM和其他托管基礎(chǔ)設(shè)施方面是可以理解的，按需資源的可伸縮性、云規(guī)模的運營效率和安全性是其中的三個原因。例如，谷歌有90名工程師正在進行的是大多數(shù)企業(yè)人員不足的安全防范工作。
上個季度，除戴爾外，每個企業(yè)服務(wù)器公司的收入都有所下降。服務(wù)器業(yè)務(wù)正在增長，卻不在企業(yè)級領(lǐng)域。云供應(yīng)商并沒有購買太多，相反，他們購買了根據(jù)其規(guī)范構(gòu)建的組件，并為其龐大的24X7工作負(fù)載優(yōu)化了基礎(chǔ)架構(gòu)。谷歌、Facebook、IBM和其他云服務(wù)商，通過由Facebook創(chuàng)建的開放計算項目開展工程并指定新的硬件組件。這意味著云供應(yīng)商將直接從服務(wù)器廠商的供應(yīng)鏈購買。前幾季度的下降表明，這將會是一個難以扭轉(zhuǎn)的長期趨勢。
企業(yè)級機器學(xué)習(xí)市場還很年輕，但是這些服務(wù)器的利潤將會很高。為企業(yè)創(chuàng)新者的機器學(xué)習(xí)工作負(fù)載提供經(jīng)GPU優(yōu)化的服務(wù)器將是有利可圖的。隨著行業(yè)的成熟，及早獲得市場份額對企業(yè)來說很重要。
英偉達與英特爾
英偉達是機器學(xué)習(xí)和人工智能界的英特爾。在英偉達的Volta架構(gòu)上，還借鑒了英特爾的劇本。英特爾在PC和服務(wù)器平臺獲得了主導(dǎo)地位，通過為其他組件生產(chǎn)商如內(nèi)存、硬盤開放標(biāo)準(zhǔn)接口，為系統(tǒng)制造商如戴爾、聯(lián)想提供參考規(guī)范，以及為許多小型制造商設(shè)計系統(tǒng)幫助其優(yōu)化PC和服務(wù)器的性能及價格。
看看Volta架構(gòu)白皮書，英偉達與英特爾采取的方法十分相似，但是有一個不同的用例：神經(jīng)網(wǎng)絡(luò)。用神經(jīng)網(wǎng)絡(luò)應(yīng)用計算資源來解決具有非常大矩陣的機器學(xué)習(xí)線性代數(shù)問題，迭代以做出準(zhǔn)確的統(tǒng)計決策。神經(jīng)網(wǎng)絡(luò)是計算密集型的，因為它們需要多次更新數(shù)百萬個參數(shù)，以最小化誤差并產(chǎn)生準(zhǔn)確的模型。這些更新基本上是大型矩陣乘法運算。
雖然有許多不同類型的機器學(xué)習(xí)和AI，但是大多數(shù)應(yīng)用機器學(xué)習(xí)是受到監(jiān)督的。監(jiān)督意味著用標(biāo)記的數(shù)據(jù)集來訓(xùn)練機器學(xué)習(xí)模型。
機器學(xué)習(xí)是一種實證科學(xué)。工程師需要多次迭代才能學(xué)習(xí)如何訓(xùn)練神經(jīng)網(wǎng)絡(luò)來了解一個新的用例。即使是最有經(jīng)驗的機器學(xué)習(xí)專家也不能肯定地說，到底需要多少的矢量來訓(xùn)練一個模型。這意味著大量的實驗可以為新的用例創(chuàng)建一個模型，然后再進行優(yōu)化以適應(yīng)具有ROI的計算預(yù)算。
如今，大多數(shù)機器學(xué)習(xí)模式，都是從自然語言或圖像識別等學(xué)術(shù)界開始，由谷歌、Facebook、IBM和微軟的大型精湛的研究人員和工程團隊進一步研究。但這些問題與企業(yè)的用例、搜索排名、圖像和對象識別等相匹配，這些問題常常是開源的，可供企業(yè)使用，但可能不適用于企業(yè)用例。企業(yè)機器學(xué)習(xí)專家和數(shù)據(jù)科學(xué)家將不得不從頭開始研究，并迭代構(gòu)建新的高精度模型。
英偉達的Volta架構(gòu)
Volta架構(gòu)包括許多在超級計算機中使用的特性，用于加速計算并優(yōu)化以前的CPU和現(xiàn)在的GPU、內(nèi)存和互連帶寬。
Volta架構(gòu)使用流式多處理器進行深度學(xué)習(xí)，以混合計算和尋址計算進行優(yōu)化調(diào)整，并行處理通過并行線程之間的細粒度同步和協(xié)作得到改進。連接的L1數(shù)據(jù)緩存和共享內(nèi)存可以顯著提高性能并簡化編程。
·它具有更高帶寬實現(xiàn)高速互連。多GPU系統(tǒng)之間的更多連接增加了可擴展性和并行性。
·內(nèi)存子系統(tǒng)使用三星HBM2內(nèi)存快速存儲器提供900 GB /秒的峰值內(nèi)存帶寬，可以使用高達95%的內(nèi)存帶寬利用率運行許多工作負(fù)載。
·多進程服務(wù)提高了共享GPU的多個計算應(yīng)用程序的性能、隔離性和服務(wù)質(zhì)量。在多GPU應(yīng)用程序中，獲取接近GPU的數(shù)據(jù)執(zhí)行指令的速度性能。統(tǒng)一的內(nèi)存和地址轉(zhuǎn)換服務(wù)將內(nèi)存頁面遷移到最頻繁訪問它們的處理器，從而提高處理器之間共享的內(nèi)存范圍的效率。
英偉達已經(jīng)為其企業(yè)服務(wù)器合作伙伴設(shè)計了一個架構(gòu)，用于向致力于機器學(xué)習(xí)的企業(yè)銷售服務(wù)器產(chǎn)品。這是一個特殊業(yè)務(wù)，因為企業(yè)需要四種特性：大量的培訓(xùn)數(shù)據(jù)，高技能的數(shù)據(jù)科學(xué)家和機器學(xué)習(xí)專家，機器學(xué)習(xí)可以解決的一個戰(zhàn)略問題，以及不使用云服務(wù)的理由。
it168網(wǎng)站原創(chuàng) 作者: 李佳惠
川公網(wǎng)安備 51010702001250號