當(dāng)前，隨著終端應(yīng)用場(chǎng)景不斷擴(kuò)展，數(shù)據(jù)即時(shí)處理需求水漲船高。云端大模型落地行業(yè)逐漸面臨日趨明顯的數(shù)據(jù)缺失、反饋緩慢、成本過高等許多挑戰(zhàn)，與云端AI相輔相成又優(yōu)勢(shì)明顯的邊緣AI成為攻克瓶頸的關(guān)鍵。意識(shí)到這一點(diǎn)的科技巨頭們紛紛入局低成本、有效率且更具隱私性的邊緣 AI，也讓業(yè)內(nèi)驚呼，邊緣AI正進(jìn)入發(fā)展快車道。
以國內(nèi)搶先發(fā)力邊緣AI的領(lǐng)軍企業(yè)云天勵(lì)飛為列，其 8 月 26 日發(fā)布的 2024 年半年度報(bào)告顯示，云天勵(lì)飛 2024 上半年?duì)I業(yè)收入達(dá)到2. 89 億元，同比增長(zhǎng)97%。其主要業(yè)績(jī)均來自于基于邊緣AI平臺(tái)的智能硬件、智算運(yùn)營和智慧行業(yè)三大業(yè)務(wù)領(lǐng)域，也再次驗(yàn)證了邊緣AI未來的廣闊市場(chǎng)前景。
邊緣AI進(jìn)入加速發(fā)展期
和人們更為熟知的云端AI相比，邊緣AI發(fā)展初期并未受到同等的重視。不過，邊緣AI固有的更低成本、更好的數(shù)據(jù)隱私保護(hù)以及更快的響應(yīng)速度，使其在近年來吸引了越來越多行業(yè)巨頭的關(guān)注。大模型方面，谷歌、微軟、Meta以及云天勵(lì)飛都推出了輕量化大模型支撐邊緣AI的應(yīng)用;芯片方面，蘋果、英偉達(dá)等巨頭先后推出邊緣AI芯片，應(yīng)用在AI 手機(jī)和機(jī)器人上，云天勵(lì)飛也在 2022 年底推出DeepEdge10 系列芯片，以支撐邊緣端的大模型運(yùn)行。
有了成熟大模型的支撐以及性能不斷提升的芯片，邊緣AI的應(yīng)用變得更加廣泛和實(shí)用。邊緣設(shè)備需要處理更加復(fù)雜的任務(wù)，反過來也促進(jìn)了邊緣AI技術(shù)的發(fā)展。良性循環(huán)為邊緣AI的行業(yè)發(fā)展提供了加速度。
以既有自研大模型又有自研芯片的云天勵(lì)飛為例，其在今年 7 月由中國信息通信研究院承辦的WAIC 2024“邁向AGI:大模型煥新與產(chǎn)業(yè)賦能”論壇上公開的邊緣AI戰(zhàn)略即顯示，將依托多模態(tài)大模型、NPU加速計(jì)算平臺(tái)這兩大平臺(tái)，發(fā)展智能硬件、智算運(yùn)營、智慧行業(yè)三大主營業(yè)務(wù)，并確定了個(gè)人、家庭、城市三個(gè)應(yīng)用方向。
從云天勵(lì)飛剛剛發(fā)布的半年報(bào)來看，三大主營業(yè)務(wù)都有不錯(cuò)成績(jī)，其邊緣AI戰(zhàn)略初見成效。
邊緣智能硬件未來增長(zhǎng)態(tài)勢(shì)驚人
在邊緣AI應(yīng)用方面，邊緣智能硬件是最貼近廣大用戶，也是增長(zhǎng)態(tài)勢(shì)最為迅猛的智能設(shè)備領(lǐng)域之一。據(jù)市場(chǎng)研究報(bào)告顯示，預(yù)計(jì)到 2025 年，全球智能硬件市場(chǎng)規(guī)模將達(dá)到數(shù)千億美元規(guī)模，年復(fù)合增長(zhǎng)率保持在兩位數(shù)以上。特別是，隨著技術(shù)進(jìn)步和產(chǎn)品創(chuàng)新，物聯(lián)網(wǎng)升級(jí)成AIoT，加上國家相關(guān)產(chǎn)業(yè)政策的大力扶持，預(yù)計(jì)未來 3 年邊緣智能硬件設(shè)備將保持50%以上的復(fù)合增長(zhǎng)率。
從云天勵(lì)飛的半年報(bào)來看，如今市面上可應(yīng)用智能硬件的場(chǎng)景十分豐富，與從前相比實(shí)用領(lǐng)域也有了明顯擴(kuò)展。云天勵(lì)飛基于自研“云天天書”大模型和神經(jīng)網(wǎng)絡(luò)處理器，打造面向各類邊緣AI場(chǎng)景的各類硬件設(shè)備并對(duì)外銷售，包括 AI 芯片、與華為昇騰合作打造的“天舟”大模型一體機(jī)等。報(bào)告期內(nèi)，云天勵(lì)飛還推出了融合“云天天書”多模態(tài)大模型能力的警務(wù)安全智能終端，具備萬物識(shí)別、自然語言檢索、警務(wù)知識(shí)咨詢等功能，可全面助力基層警務(wù)人員提升執(zhí)法水平。
此外，云天勵(lì)飛還收購了智能穿戴方案設(shè)計(jì)頭部公司岍丞技術(shù)。岍丞技術(shù)主要產(chǎn)品包括智能藍(lán)牙耳機(jī)PCBA、智能手表PCBA、智能音箱PCBA等IoT產(chǎn)品，主要應(yīng)用在華為、榮耀、OPPO、VIVO、安克、boAt、Noise等品牌的終端產(chǎn)品上。行業(yè)領(lǐng)先企業(yè)對(duì)于“大模型+智能可穿戴”相關(guān)產(chǎn)品的積極探索和加速布局，也使得邊緣AI賦能下游終端應(yīng)用漸呈百花齊放。
自研大模型+自研芯片是云天勵(lì)飛邊緣AI業(yè)績(jī)?cè)鲩L(zhǎng)底氣
智慧行業(yè)是邊緣AI可發(fā)揮作用的重要領(lǐng)域之一。從云天勵(lì)飛半年報(bào)可見，目前云天勵(lì)飛已形成了城市治理、智慧交通、智慧應(yīng)急、智慧城管、智慧園區(qū)、智慧社區(qū)、智慧泛商業(yè)、智慧道路巡檢、智慧警務(wù)、低空經(jīng)濟(jì)、智慧教育等行業(yè)產(chǎn)品與解決方案體系，并結(jié)合多模態(tài)大模型技術(shù)特點(diǎn)和行業(yè)需求，持續(xù)拓展創(chuàng)新業(yè)務(wù)。
另一主營業(yè)務(wù)智算運(yùn)營也是相當(dāng)發(fā)展前景的潛力股。今年 6 月，云天勵(lì)飛與德元方惠簽署AI算力運(yùn)營合作協(xié)議。德元方惠將向云天勵(lì)飛購買AI訓(xùn)練及推理異構(gòu)算力服務(wù)，總算力規(guī)模約4000 PFLOPS，該協(xié)議在未來三年服務(wù)期內(nèi)將為云天勵(lì)飛貢獻(xiàn)約 16 億的營收。
無論是智慧行業(yè)，還是智算運(yùn)營，想要在邊緣AI領(lǐng)域有所建樹，都離不開成熟的大模型技術(shù)以及性能足夠強(qiáng)大的芯片支持。
以大模型為例，云天勵(lì)飛自主研發(fā)了千億級(jí)大模型“云天天書”。今年中國信通院發(fā)布《 2024 大模型示范應(yīng)用案例》，云天勵(lì)飛與深圳市龍崗區(qū)打造的數(shù)字政務(wù)行業(yè)大模型入選。在智慧交通和智慧警務(wù)解決方案中，云天天書大模型助力城市實(shí)現(xiàn)了交通的智能調(diào)控以及公共安全事件的有效預(yù)防;在智慧商業(yè)領(lǐng)域，大模型通過分析客流動(dòng)線等信息，為商業(yè)智能體的運(yùn)營決策提供了有力支撐;在智慧教育方面，云天勵(lì)飛提出了 Fly計(jì)劃，致力于構(gòu)建全面、立體的人工智能教育生態(tài)系統(tǒng)。
再以芯片為例，云天勵(lì)飛去年底發(fā)布了大模型推理芯片DeepEdge10;今年推出采用D2D Chiplet技術(shù)，基于DeepEdge10 芯片平臺(tái)打造的大算力芯片DeepEdge200，并打造了IPU-X6000 加速卡，可應(yīng)用于語言、視覺、多模態(tài)等各類大模型的推理加速，目前已適配云天天書、通義千問、百川智能、Llama2/ 3 等近 10 個(gè)主流大模型。
可以預(yù)見，未來云天勵(lì)飛會(huì)利用這些技術(shù)優(yōu)勢(shì)，將自研大模型與自研芯片更好結(jié)合，進(jìn)一步促進(jìn)行業(yè)邊緣AI發(fā)展。
長(zhǎng)遠(yuǎn)來看，我們必將進(jìn)入一個(gè)由云端AI+邊緣AI的混合式AI時(shí)代。而在這一過程中，離不開邊緣AI的重要支撐。目前，無論是從自動(dòng)駕駛、機(jī)器人/具身智能到 AI PC/phone，基于設(shè)備端智能化的邊緣 AI 正逐步發(fā)展壯大，并顯現(xiàn)出蓬勃發(fā)展的積極活力。顯然，把握邊緣AI的發(fā)展趨勢(shì)，加速其技術(shù)與產(chǎn)業(yè)的深度融合，將是推動(dòng)未來智能科技革命的重要力量。而如何更好地制訂邊緣AI戰(zhàn)略，在這一過程中分到更多的蛋糕，正是業(yè)內(nèi)應(yīng)該深入思考的重要議題。
（推廣）