劃重點(diǎn):

?? Lightning AI發(fā)布了名為“Thunder”的下一代AI編譯器，可在實(shí)際場(chǎng)景中將大型語言模型（LLMs）的訓(xùn)練速度提高高達(dá)40%。

?? 該編譯器采用多個(gè)GPU以提高效率，并已在與Nvidia合作的開源機(jī)器學(xué)習(xí)框架PyTorch上發(fā)布。

?? “Thunder”開源且免費(fèi)，可在Apache2.0許可下使用。

站長之家（ChinaZ.com）3月29日 消息:開源人工智能平臺(tái)Lightning AI宣布與Nvidia合作，發(fā)布了名為“Thunder”的下一代AI編譯器，旨在加速人工智能模型的訓(xùn)練速度。據(jù)Lightning AI稱，該編譯器在實(shí)際場(chǎng)景中相比未優(yōu)化的代碼，可將大型語言模型（LLMs）的訓(xùn)練速度提高高達(dá)40%。這一利好消息為AI領(lǐng)域帶來了新的技術(shù)突破。

“Thunder”編譯器的發(fā)布標(biāo)志著Lightning AI在PyTorch開源機(jī)器學(xué)習(xí)框架上邁出的一大步。該公司表示，通過利用多個(gè)GPU，這一新工具旨在提高模型訓(xùn)練的效率，并為開發(fā)者提供更快速的訓(xùn)練體驗(yàn)。與此同時(shí)，“Thunder”采用開源模式，遵循Apache2.0許可，為用戶提供了免費(fèi)使用的機(jī)會(huì)，這意味著更多開發(fā)者可以利用其強(qiáng)大功能。

此前作為Grid AI的Lightning AI，早在2022年就開始了與Nvidia的合作，致力于為PyTorch打造下一代深度學(xué)習(xí)技術(shù)。他們的目標(biāo)是提供與Nvidia系列產(chǎn)品兼容的解決方案，其中包括torch.compile、nvFuser、Apex、CUDA深度神經(jīng)網(wǎng)絡(luò)庫（cuDNN）以及OpenAI的Triton等。

除了技術(shù)層面的突破，Lightning AI還注重團(tuán)隊(duì)建設(shè)。他們邀請(qǐng)了PyTorch核心開發(fā)者Thomas Viehmann領(lǐng)導(dǎo)“Thunder”編譯器項(xiàng)目，以確保其能夠?yàn)槎郍PU環(huán)境下的生成式AI模型提供支持。這一舉措體現(xiàn)了Lightning AI對(duì)技術(shù)創(chuàng)新和人才培養(yǎng)的重視。

繼該公司于2月份發(fā)布 Lightning2.2后，Thunder 現(xiàn)已可供使用。 Lightning Studios 的產(chǎn)品可以按四個(gè)定價(jià)級(jí)別購買:個(gè)人開發(fā)者免費(fèi)，工程師、研究人員和科學(xué)家專業(yè)級(jí);初創(chuàng)公司和團(tuán)隊(duì)的團(tuán)隊(duì)級(jí)別，以及大型組織的企業(yè)級(jí)別。

產(chǎn)品入口：https://top.aibase.com/tool/lightning-ai

（舉報(bào)）