站長(zhǎng)之家(ChinaZ.com)11 月 1 日消息：戴爾公司宣布與 Facebook 的母公司 Meta 合作，旨在簡(jiǎn)化客戶在本地部署 Llama 2 大語(yǔ)言模型（LLM）的過(guò)程，而不是通過(guò)云服務(wù)訪問(wèn)。戴爾表示，存在一個(gè)企業(yè)客戶市場(chǎng)，他們希望使用自己的 IT 基礎(chǔ)設(shè)施部署和運(yùn)行 Meta 的 AI 模型，戴爾的目標(biāo)是成為該設(shè)備的首選提供商。

這個(gè)合作主要圍繞戴爾為生成式 AI 設(shè)計(jì)的驗(yàn)證設(shè)計(jì)（Validated Design for Generative AI）組合 —— 該組合是今年與 GPU 制造商英偉達(dá)共同設(shè)計(jì)的經(jīng)過(guò)預(yù)測(cè)試的硬件構(gòu)建。結(jié)合這一點(diǎn)，戴爾提供了部署和配置指導(dǎo)，以幫助客戶在更短的時(shí)間內(nèi)啟動(dòng)并運(yùn)行。

例如，戴爾已將 Llama 2 模型集成到其系統(tǒng)型號(hào)工具中，以指導(dǎo)客戶找到他們想要實(shí)現(xiàn)的正確配置。

戴爾的首席 AI 官員 Jeff Boudreau 在一份聲明中說(shuō)，包括 Llama 2 在內(nèi)的生成式 AI 模型有可能「改變行業(yè)的運(yùn)營(yíng)和創(chuàng)新方式」。

他說(shuō)：「通過(guò)戴爾和 Meta 技術(shù)的合作，我們通過(guò)詳細(xì)的實(shí)施指導(dǎo)以及針對(duì)所有規(guī)模部署的最佳軟件和硬件基礎(chǔ)設(shè)施，使開(kāi)源 GenAI 對(duì)所有客戶更加可用?！?/p>

Llama 2 于 7 月份發(fā)布，提供了三種不同大小的預(yù)訓(xùn)練和微調(diào)語(yǔ)言模型，分別具有七十億、一百三十億和七百億的參數(shù)，這些模型具有不同的硬件要求。

該模型可供研究和部分商業(yè)用途免費(fèi)下載。Meta 已經(jīng)與微軟和亞馬遜合作，將其提供在 Azure 和 AWS 云平臺(tái)上。

戴爾的生成式 AI 驗(yàn)證設(shè)計(jì)于 8 月份發(fā)布，將該公司的服務(wù)器套件與英偉達(dá) GPU、存儲(chǔ)和英偉達(dá)的 AI 企業(yè)套件等軟件相結(jié)合。該公司確認(rèn)，這些設(shè)計(jì)旨在推動(dòng)推理工作，適用于涉及自然語(yǔ)言生成的應(yīng)用程序，如聊天機(jī)器人和虛擬助手，以及市場(chǎng)營(yíng)銷和內(nèi)容創(chuàng)建，盡管戴爾已擴(kuò)展了該組合，以支持模型的定制和調(diào)整。

戴爾表示，具有七十億參數(shù)的 Llama 2 可以通過(guò)單個(gè) GPU 運(yùn)行，而具有一百三十億參數(shù)的版本需要兩個(gè) GPU，七百億版本需要八個(gè)。戴爾在博客中概述了如何將七十億和一百三十億參數(shù)版本部署到 PowerEdge R760xa 系統(tǒng)，而七百億參數(shù)版本則需要像 PowerEdge XE9680 服務(wù)器這樣的設(shè)備，因?yàn)樗枰藗€(gè) GPU。

（舉報(bào)）