中文字幕国产91无码|AV成人手机在线|av成人先锋在线|911无码在线国产人人操|91蜜桃视频精品免费在线|极品美女A∨片在线看|日韩在线成人视频日韩|电影三级成人黄免费影片|超碰97国产在线|国产成人精品色情免费视频

  • +1

Nutanix CEO談混合云、AI和GPU Direct支持

2024-07-19 11:39
來源:澎湃新聞·澎湃號(hào)·湃客
聽全文
字號(hào)

Nutanix的增長得益于轉(zhuǎn)向混合云和生成式AI,以及即將支持Nvidia GPU Direct高速數(shù)據(jù)反饋協(xié)議。

Nutanix公司首席執(zhí)行官Rajiv Ramaswami在接受采訪時(shí)表示,他認(rèn)為Nutanix的兩位數(shù)增長還可以持續(xù)一段時(shí)間——因?yàn)镹utanix擁有卓越的混合云軟件,而且生成式AI是他們的另一個(gè)增長動(dòng)力。

Nutanix表示,已經(jīng)將自己的本地企業(yè)基礎(chǔ)架構(gòu)功能遷移到了公共云,以便為運(yùn)行虛擬機(jī)或容器的人員提供一致的混合云體驗(yàn)。我們探討了這些話題的方方面面。

您能描述一下Nutanix在本地環(huán)境和公有云環(huán)境中的Kubernetes設(shè)施嗎?

Rajiv Ramaswami:我們?cè)诙嘣剖澜缰泄芾鞬ubernetes,我們希望客戶在任何地方運(yùn)行這些應(yīng)用,應(yīng)用可能是在原生EKS或AKS上運(yùn)行的,而且我們?cè)谒羞@些(本地環(huán)境和公有云原生環(huán)境)上都擁有統(tǒng)一的管理平面,包括亞馬遜的服務(wù)、Kubernetes服務(wù)、我們的Azure Kubernetes服務(wù)程序,其中一些可能是運(yùn)行在我們自己的平臺(tái)上。

我們的愿景是人們可以在任何地方使用和運(yùn)行Kubernetes集群,我們將成為管理者。我們還為塊、文件和對(duì)象提供存儲(chǔ)?!绻腥嗽贏WS上構(gòu)建應(yīng)用,他們將能夠使用我們的存儲(chǔ),并且這種存儲(chǔ)完全是云原生的??蛻艨梢栽诠性浦惺褂梦覀兊拇鎯?chǔ)服務(wù)器作為EBS的替代方案。

優(yōu)勢是雙重的。首先,相同的Nutanix平臺(tái)可以在任何地方使用:云、跨多個(gè)云、本地等。因此,如果你考慮以這種方式工作的話,則不必重做平臺(tái)應(yīng)用。第二,AOS具有許多內(nèi)置的企業(yè)級(jí)彈性功能。我們跨云和全球進(jìn)行災(zāi)難恢復(fù),我們進(jìn)行同步復(fù)制?,F(xiàn)在,所有這些功能都可以在公共云中使用。而AWS(例如EBS)則不提供這些服務(wù)。

在這些情況下,通常發(fā)生的情況是,如果有人在云中構(gòu)建應(yīng)用,他們必須在應(yīng)用層管理所有彈性,必須將其構(gòu)建到應(yīng)用中,而典型的企業(yè)是依賴于底層基礎(chǔ)設(shè)施的。因此,我們基本上在公有云中提供了相同的企業(yè)關(guān)鍵任務(wù)存儲(chǔ),這與企業(yè)本地環(huán)境是相同的。

我相信您也希望讓企業(yè)更容易在混合云中運(yùn)行數(shù)據(jù)庫對(duì)嗎?

Rajiv Ramaswami:這是關(guān)于基礎(chǔ)設(shè)施層,也就是平臺(tái)的。這與大多數(shù)應(yīng)用需要使用數(shù)據(jù)庫的其他組件有關(guān),這些組件是使用緩存的,例如,使用消息傳遞或流媒體。這是我們的宏偉愿景,具有前瞻性。

目前,Nutanix已經(jīng)提供了數(shù)據(jù)庫管理服務(wù)。因此,人們可以使用我們的平臺(tái)管理各種數(shù)據(jù)庫,例如Oracle、SQL、Mongo、Postgres。我們想要做的就是擴(kuò)展它,首先,讓它在公有云中可用,然后擴(kuò)展服務(wù)范圍。

因此,我們可以管理Kafka流或Redis進(jìn)行緩存。展望未來,我們的想法是,我們要么自己提供,要么與外部合作。我們對(duì)EDB Postgres有很多了解,能夠提供一系列所謂的平臺(tái)層數(shù)據(jù)服務(wù),人們可以使用這些服務(wù)來構(gòu)建應(yīng)用。一旦我們這樣做了,這些服務(wù)就將是隨處可用的。

這些數(shù)據(jù)庫服務(wù)未來會(huì)包括矢量數(shù)據(jù)庫嗎?

Rajiv Ramaswami:愿景是很廣泛的。我們沒有涵蓋了一切事情的路線圖。我現(xiàn)在專注于事務(wù)型數(shù)據(jù)庫。而且,我知道人們關(guān)注什么,AI和GPT in a Box。所以,絕對(duì)是的——但從長遠(yuǎn)來看,我們還沒有宣布時(shí)間表或類似的東西,我們的愿景是真正打造一套隨處可用的服務(wù)。

我們不是數(shù)據(jù)庫引擎提供商。是的,我們可能會(huì)選擇在未來某個(gè)時(shí)候這樣做,但目前我們是和其他數(shù)據(jù)庫提供商合作的。

無論客戶的數(shù)據(jù)位于何處,您都會(huì)為客戶存儲(chǔ)大量信息,在本地環(huán)境或者是任何公有云中。大型語言模型將需要這些信息,檢索增強(qiáng)生成(RAG)會(huì)為其提供幫助。您將采取什么措施來幫助實(shí)現(xiàn)這一目標(biāo)?

Rajiv Ramaswami:我不會(huì)宣布新的路線圖,但愿景是正確的。

這正是我們的目標(biāo)。正如您所說的,我們的數(shù)據(jù)是可用的,我們可以成為管理數(shù)據(jù)的平臺(tái),我們確實(shí)認(rèn)為數(shù)據(jù)將無處不在——不僅僅是在公有云中,也不僅僅是在本地環(huán)境中,而整個(gè)GPT in a Box的推出,正是為了嘗試簡化我們平臺(tái)上AI應(yīng)用的部署。

目前,這個(gè)范圍稍微有限一些,也就是說,我們有一個(gè)平臺(tái),為我們提供所有存儲(chǔ)的部分。最重要的是,我們能夠提供的是自動(dòng)工作場所連接到模型存儲(chǔ)庫,這樣我們就可以接入Hugging Tree,可以連接到即時(shí)存儲(chǔ)庫。只需單擊一下,人們就可以下載他們想要的模型,在硬件上實(shí)例化,并將其與GPU連接。...創(chuàng)建一個(gè)推理端點(diǎn)并將其導(dǎo)出到API進(jìn)行開發(fā)——這樣人們就可以實(shí)現(xiàn)自動(dòng)化。

好的,這將承載AI推理和微調(diào),那么訓(xùn)練方面怎么樣?因?yàn)檫€是那一點(diǎn),你有大量的信息,你會(huì)把哪些信息給到GPU?

Rajiv Ramaswami:GPU Direct在我們的路線圖上,我們將擁有GPU Direct,特別是針對(duì)文件——這才是你真正需要GPU Direct的地方,它已經(jīng)在路線圖上了——我們知道需要什么。另一個(gè)需要的是高帶寬I/O。我們現(xiàn)在支持100千兆NIC。顯然,你需要能夠非??焖俚孬@取大量數(shù)據(jù)。我們理解這一點(diǎn),我們正在實(shí)現(xiàn)這一點(diǎn),我們正在做高帶寬,然后是一臺(tái)具有大內(nèi)存的機(jī)器,所有這些都將發(fā)揮作用。

您認(rèn)為AI推理必須提供準(zhǔn)確的、完整的、不是虛假的結(jié)果嗎?

Rajiv Ramaswami:當(dāng)然。你需要在模型中保持準(zhǔn)確性,當(dāng)然,要確保這種準(zhǔn)確性,就需要大量的工作。

生成式AI有很多早期用例都是輔助用例……也就是我們廣義上所說的Copilot。換句話說,使用它,但在實(shí)際使用之前要對(duì)其進(jìn)行驗(yàn)證。所以我給你舉一個(gè)我們內(nèi)部使用的例子,是在客戶支持方面的。

我們使用我們的設(shè)計(jì)文檔和知識(shí)庫文章部署了模型。當(dāng)支持工程師收到客戶請(qǐng)求的時(shí)候,他或她會(huì)將其輸入到我們的GPT引擎中,它會(huì)提出建議,比如“這可能是這里的問題,這是你可能想要做的?!彼涌炝宋覀兊捻憫?yīng)時(shí)間,提高了我們支持工程師的工作效率,這樣就可以更好地為客戶服務(wù),這對(duì)我們來說也是更好的。

而且效果很好。我們剛剛為他們完成了試點(diǎn),但我們?cè)谶@里要做的最重要的事情是繼續(xù)訓(xùn)練和微調(diào),直到我們能夠獲得合理的準(zhǔn)確性。

我的想法是,總的來說,RAG方法絕對(duì)必須有效,否則AI推理就會(huì)消亡。

    本文為澎湃號(hào)作者或機(jī)構(gòu)在澎湃新聞上傳并發(fā)布,僅代表該作者或機(jī)構(gòu)觀點(diǎn),不代表澎湃新聞的觀點(diǎn)或立場,澎湃新聞僅提供信息發(fā)布平臺(tái)。申請(qǐng)澎湃號(hào)請(qǐng)用電腦訪問http://renzheng.thepaper.cn。

            查看更多

            掃碼下載澎湃新聞客戶端

            滬ICP備14003370號(hào)

            滬公網(wǎng)安備31010602000299號(hào)

            互聯(lián)網(wǎng)新聞信息服務(wù)許可證:31120170006

            增值電信業(yè)務(wù)經(jīng)營許可證:滬B2-2017116

            ? 2014-2026 上海東方報(bào)業(yè)有限公司