?
投資 干貨 消費(fèi) 評(píng)論 學(xué)院 滾動(dòng)
風(fēng)投 科技 創(chuàng)業(yè) 業(yè)內(nèi) 要聞
一座玉帶橋,盤(pán)古通天下
發(fā)布日期: 2023-08-31 16:44:51 來(lái)源: 騰訊網(wǎng)

北京最著名的橋是哪座?這個(gè)問(wèn)題有很多答案,但頤和園昆明湖上的玉帶橋絕對(duì)榜上有名。有趣的是,全國(guó)各地有無(wú)數(shù)座橋叫做“玉帶橋”。這或許是因?yàn)?,古人非常喜歡將貫通兩岸,聯(lián)接彼此的橋想象成一道由天而降的“玉帶”。


(資料圖片)

就這樣,在無(wú)數(shù)玉帶橋聯(lián)成的網(wǎng)絡(luò)中,貨能通南北,人可行天下。在今天,當(dāng)AI大模型走向行業(yè)成為共識(shí),以大模型推進(jìn)產(chǎn)業(yè)智能化成為趨勢(shì)。而此時(shí)迫切需要的,就是大模型和行業(yè)之間建起一座“玉帶橋”。

同樣是在北京,我們剛剛就見(jiàn)證了這樣一座AI大模型之橋的奠基。

今年的華為開(kāi)發(fā)者大會(huì)(Cloud)當(dāng)中,華為云盤(pán)古大模型3.0正式發(fā)布,同時(shí)公布了其為行業(yè)而生的價(jià)值定位。而想讓大模型走向行業(yè),不能僅僅依靠技術(shù)體系,還需要一連貫的工作作為配合。

8月30日,主題為“開(kāi)放同飛,共贏行業(yè)AI新時(shí)代”的華為云盤(pán)古大模型主題論壇在北京召開(kāi),就AI大模型發(fā)展趨勢(shì)、技術(shù)創(chuàng)新實(shí)踐、產(chǎn)業(yè)發(fā)展機(jī)會(huì)展開(kāi)了交流。

(華為云EI服務(wù)產(chǎn)品部部長(zhǎng)尤鵬)

會(huì)上,華為云EI服務(wù)產(chǎn)品部部長(zhǎng)尤鵬表示,大模型正在重塑千行百業(yè),華為云將充分發(fā)揮大模型領(lǐng)域積累的技術(shù)和工程能力優(yōu)勢(shì),讓客戶、伙伴快速構(gòu)建起盤(pán)古大模型的開(kāi)發(fā)和應(yīng)用能力,讓盤(pán)古大模型成為每個(gè)企業(yè)實(shí)現(xiàn)戰(zhàn)略轉(zhuǎn)型和智能升級(jí)的核心動(dòng)力。

打個(gè)比方,大模型的技術(shù)能力只是橋柱,大模型的價(jià)值真正走向行業(yè),還需要筑起工程化的橋身,開(kāi)通生態(tài)體系的橋路。而這次論壇的核心信息,就在于分享了華為云如何基于盤(pán)古大模型的技術(shù)架構(gòu),連續(xù)構(gòu)筑其工程化平臺(tái)與生態(tài)策略。

這些動(dòng)作聯(lián)接起來(lái),一座大模型通往行業(yè)的玉帶橋正在建成。

盤(pán)古大模型,以此通天下。

大模型到行業(yè),究竟有多遠(yuǎn)?

目前階段,全球范圍內(nèi)大模型風(fēng)起云涌,國(guó)內(nèi)也已經(jīng)來(lái)到了“百模大戰(zhàn)”的火爆階段。而這些大模型發(fā)揮價(jià)值的最終路徑無(wú)非兩種,一種是孵化C端的大模型原生應(yīng)用,另一則就是走向行業(yè),帶來(lái)產(chǎn)業(yè)智能化價(jià)值。

但作為大模型未來(lái)核心出路的B端需求,實(shí)際卻距離大模型非常遙遠(yuǎn)??偨Y(jié)起來(lái),從大模型到行業(yè),需要跨越三道河:

第一道河,通用能力和專業(yè)需求不匹配。

大語(yǔ)言模型火爆全球,靠的是通用性很強(qiáng)的內(nèi)容理解與生成能力。但具體到某個(gè)行業(yè),通用大模型的知識(shí)專業(yè)度與需求滿足度卻并不強(qiáng)。這就造成了大模型走向行業(yè)時(shí),技術(shù)層面的供需不匹配。

第二道河,缺乏應(yīng)用落地能力。

大模型雖好,但行業(yè)用戶最終需要的是以我為主,打造自己需要的模型、應(yīng)用、解決方案。這就需要一系列工程化能力,讓行業(yè)用戶能夠根據(jù)需求和自身能力來(lái)實(shí)現(xiàn)大模型落地。但業(yè)界目前普遍更關(guān)心大模型算法本身,而較少注意工程化的配合。

第三道河,產(chǎn)業(yè)生態(tài)依舊薄弱。

無(wú)論是行業(yè)數(shù)字化還是軟件開(kāi)發(fā),歸根結(jié)底都需要繁榮的生態(tài)來(lái)配合。就像大模型形成具體的用戶解決方案,需要有專業(yè)的集成商、軟硬件供應(yīng)商、ISV來(lái)參與。但大模型走向行業(yè)屬于新生事物,生態(tài)中各個(gè)角色都還需要補(bǔ)充。這導(dǎo)致很多大模型在行業(yè)落地時(shí),出現(xiàn)了想法很好,但大量需求根本無(wú)法滿足的尷尬。

總而言之,大模型走向行業(yè)看起來(lái)很近,其實(shí)很遠(yuǎn)。因?yàn)樗^不僅僅是個(gè)技術(shù)問(wèn)題,而是一系列因素編織成的產(chǎn)業(yè)問(wèn)題。

而盤(pán)古大模型已經(jīng)在建起一座橋,跨越這些橫亙?cè)诖竽P团c行業(yè)之間的江河。

筑橋基:為落地而生的大模型體系

大模型行業(yè)落地,首先需要解決的是大模型體系與行業(yè)需求之間,“共性與個(gè)性”不匹配的問(wèn)題。

想要解決這個(gè)問(wèn)題,就需要在大模型基礎(chǔ)能力與個(gè)性方案之間找到一個(gè)平衡點(diǎn),既不能困守于基礎(chǔ)技術(shù),也不能在無(wú)盡的個(gè)性需求中大量消耗研發(fā)成本。

盤(pán)古大模型采取了一個(gè)極具創(chuàng)新性與實(shí)用主義的解決方案,構(gòu)建了一個(gè)從底層開(kāi)始即面向行業(yè)的大模型體系。這個(gè)體系,就是盤(pán)古大模型筑造的橋基,以此承托起大模型和行業(yè)之間的通衢。

具體而言,盤(pán)古大模型采取了5+N+X的三層架構(gòu)

L0層提供五大基礎(chǔ)模型,包括語(yǔ)言大模型、視覺(jué)大模型、多模態(tài)大模型、預(yù)測(cè)大模型、科學(xué)計(jì)算大模型,以此來(lái)提供行業(yè)場(chǎng)景中具有通用價(jià)值的模型與技能需求,奠定整個(gè)大模型行業(yè)落地體系的基礎(chǔ)。

接下來(lái),在L1層則基于基礎(chǔ)大模型+行業(yè)知識(shí),提供適配行業(yè)特征的行業(yè)大模型,包括政務(wù)、金融、制造、藥物分子、礦山、鐵路、氣象等,滿足重點(diǎn)行業(yè)的訂制化模型需求,打通大模型的行業(yè)接駁點(diǎn)。

而在L2層,則提供大量細(xì)分的場(chǎng)景模型,做到開(kāi)發(fā)AI應(yīng)用時(shí)開(kāi)箱即用,以此來(lái)滿足大量垂直行業(yè)的海量大模型應(yīng)用。

這樣的三層解耦架構(gòu),天然具備良好的生態(tài)開(kāi)放性?;诜謱咏怦钤O(shè)計(jì),盤(pán)古大模型可以提供調(diào)用集成和定制聯(lián)創(chuàng)兩種應(yīng)用模式,進(jìn)而快速適配和滿足場(chǎng)景訴求。首先在調(diào)用集成模式下,華為云L0盤(pán)古基礎(chǔ)大模型可以提供超過(guò)100個(gè)能力集,這些能力集可以通過(guò)API直接調(diào)用。企業(yè)可以根據(jù)自身需求使用盤(pán)古大模型工作流,快速開(kāi)發(fā)行業(yè)場(chǎng)景應(yīng)用。在定制聯(lián)創(chuàng)模式下,企業(yè)可以在L0或L1盤(pán)古大模型的基礎(chǔ)上,通過(guò)對(duì)自有數(shù)據(jù)二次訓(xùn)練,快速訓(xùn)練出專屬的行業(yè)大模型。 舉個(gè)例子,某行業(yè)用戶在引入盤(pán)古大模型時(shí),既可以通過(guò)獨(dú)立數(shù)據(jù)集的模式微調(diào)基礎(chǔ)模型,也可以直接復(fù)用行業(yè)模型、場(chǎng)景模型,完全根據(jù)自身需求來(lái)勾勒大模型落地方案。

同時(shí),根據(jù)用戶不同的數(shù)據(jù)安全與合規(guī)訴求,盤(pán)古大模型還提供了公有云、大模型云專區(qū)、混合云多樣化的部署形態(tài),從而讓大模型成為行業(yè)的“零部件”,而非高不可攀的技術(shù)務(wù)虛。

這樣的體系設(shè)計(jì),還僅僅是基礎(chǔ)。想要筑橋過(guò)河,盤(pán)古大模型還需要做出更多努力。

鋪橋路:以工程化能力加速大模型落地

在實(shí)際的產(chǎn)業(yè)智能化發(fā)展中,企業(yè)需要秉持的是工程師思維,要考慮到一切智能化創(chuàng)新是否可信、可靠、可持續(xù),是否能夠在成本與價(jià)值間取得最優(yōu)解。

以這樣的判斷方式為核心,行業(yè)就不能僅僅獲得大模型的基礎(chǔ)支持,然后一切開(kāi)發(fā)、調(diào)參工作都自己來(lái)完成,那會(huì)帶來(lái)過(guò)大的技術(shù)與資源成本,對(duì)于絕大部分企業(yè)來(lái)說(shuō)都是不現(xiàn)實(shí)的。因此,想要將大模型引入行業(yè),必須考慮工程化問(wèn)題,盡量降低行業(yè)對(duì)大模型的使用門(mén)檻,加速行業(yè)應(yīng)用大模型的效率。

在這方面,華為云不僅提供深耕行業(yè)的盤(pán)古大模型,更提供盤(pán)古大模型工程套件,包括數(shù)據(jù)工程、模型開(kāi)發(fā)和應(yīng)用開(kāi)發(fā)三大套件。在論壇中我們可以看到,通過(guò)盤(pán)古大模型工程套件,用戶可以實(shí)現(xiàn)5倍速開(kāi)發(fā)行業(yè)大模型,從而達(dá)成在引入大模型過(guò)程中的降本增效。

其中,盤(pán)古大模型的數(shù)據(jù)工程套件相比傳統(tǒng)標(biāo)注平臺(tái),專門(mén)為SFT訓(xùn)練提供了基于模板的Prompt在線輔助撰寫(xiě)功能,為RLHF訓(xùn)練提供了多人Rank在線標(biāo)注和任務(wù)分撥功能。與離線對(duì)比,這兩種任務(wù)實(shí)測(cè)效率可提升3倍。同時(shí)針對(duì)數(shù)據(jù)清洗,數(shù)據(jù)工程套件內(nèi)置了50+數(shù)據(jù)清洗算子,能夠覆蓋90%以上的清洗場(chǎng)景,大幅提升清洗效率。

模型開(kāi)發(fā)套件,則可以為用戶提供自監(jiān)督預(yù)訓(xùn)練、有監(jiān)督微調(diào)、強(qiáng)化學(xué)習(xí)訓(xùn)練3種工作流,覆蓋了從超參配置到模型訓(xùn)練、評(píng)測(cè)、管理、部署的全流程。套件中凝結(jié)了華為大模型專家的實(shí)踐經(jīng)驗(yàn),從而可以幫助行業(yè)用戶一站式開(kāi)發(fā)專屬大模型。同時(shí)通過(guò)模型量化和多種推理加速手段將模型吞吐量提升10倍,大幅優(yōu)化模型推理性能。模型開(kāi)發(fā)套件,可以極大提升模型開(kāi)發(fā)效率,讓行業(yè)用戶更高效完成模型開(kāi)發(fā)的核心工作。

應(yīng)用開(kāi)發(fā)套件,則將傳統(tǒng)軟件工程與大模型相結(jié)合,提供靈活的基于SDK的開(kāi)發(fā)方式,2行代碼即可完成大模型接入,5分鐘完成大模型應(yīng)用開(kāi)發(fā),支撐企業(yè)分鐘級(jí)構(gòu)建大模型原生應(yīng)用,且支持更加廣泛的兼容能力。行業(yè)用戶對(duì)大模型的最終訴求是應(yīng)用化,而應(yīng)用開(kāi)發(fā)套件則為此提供了豐富的工具與技能。

整體而言,盤(pán)古大模型工程套件關(guān)注到了大模型落地中的各個(gè)環(huán)節(jié),重視實(shí)踐性解決每個(gè)關(guān)鍵環(huán)節(jié)中冗長(zhǎng)、耗時(shí)、開(kāi)發(fā)難度大等挑戰(zhàn)。這條工程化之路,讓大模型的玉帶橋順利建成,但想讓這座橋深度發(fā)揮價(jià)值,還是離不開(kāi)生態(tài)的車水馬龍。

通車馬:建設(shè)大模型全域協(xié)同生態(tài)

大模型的出現(xiàn),可以改變AI的行業(yè)應(yīng)用范式,極大提升產(chǎn)業(yè)智能化的水平。但這項(xiàng)全新的事業(yè),不是僅僅依靠最終用戶與模型提供方。其中從算力、算法、平臺(tái),到應(yīng)用、服務(wù)、人才培養(yǎng),全鏈條都需要不同角色、不同能力定位的企業(yè)參與。大模型行業(yè)落地,必須以生態(tài)繁榮作為前提。

為此,華為云宣布將全面建設(shè)盤(pán)古大模型全域協(xié)同的生態(tài)系統(tǒng),與千行百業(yè)的客戶、伙伴攜手,共創(chuàng)共享盤(pán)古大模型帶來(lái)的行業(yè)AI新機(jī)遇。

為了實(shí)現(xiàn)這個(gè)目標(biāo),華為云基于盤(pán)古大模型、昇騰AI云服務(wù),構(gòu)建算力、算法黑土地,對(duì)生態(tài)伙伴發(fā)展也提供配套的支持。以此為基礎(chǔ),面向軟件伙伴、服務(wù)伙伴、數(shù)字化轉(zhuǎn)型咨詢與系統(tǒng)集成伙伴開(kāi)放了模型聯(lián)創(chuàng)、解決方案構(gòu)建和插件集成等多樣的生態(tài)合作模式。

比如說(shuō),針對(duì)軟件伙伴,華為云開(kāi)放了三種生態(tài)合作路徑,包括模型聯(lián)創(chuàng)、解決方案構(gòu)建和插件集成。對(duì)于有數(shù)據(jù)沉淀和行業(yè)經(jīng)驗(yàn)的企業(yè)來(lái)說(shuō),可以選擇與華為云一起構(gòu)建行業(yè)模型、場(chǎng)景模型;對(duì)于有行業(yè)實(shí)踐經(jīng)驗(yàn)大模型集成和開(kāi)發(fā)技術(shù)的企業(yè),可以與華為云一起構(gòu)建面向行業(yè)的細(xì)分場(chǎng)景模型,提供可復(fù)制的軟件解決方案;對(duì)于企業(yè)服務(wù)軟件、工具軟件領(lǐng)域的企業(yè),則可以用豐富的插件完善盤(pán)古大模型技能集,拓寬大模型的能力邊界。

針對(duì)服務(wù)伙伴,華為云開(kāi)放項(xiàng)目機(jī)會(huì),通過(guò)賦能、認(rèn)證、技術(shù)支持、激勵(lì)等各種權(quán)益,幫助專業(yè)服務(wù)伙伴快速提升大模型服務(wù)能力,構(gòu)建新的業(yè)務(wù)模式,獲得可持續(xù)性的快速發(fā)展,通過(guò)服務(wù)來(lái)推進(jìn)和實(shí)現(xiàn)大模型的商業(yè)閉環(huán)。

針對(duì)數(shù)字化轉(zhuǎn)型咨詢與系統(tǒng)集成伙伴,華為云與具備系統(tǒng)資質(zhì)的伙伴進(jìn)行BP互鎖和Offering共建,讓盤(pán)古大模型成為用戶系統(tǒng)集成的更優(yōu)選擇。

論壇中,高等教育出版社、今日人才、陽(yáng)光云視等客戶、伙伴先后分享了與華為云基于盤(pán)古大模型的合作歷程與合作價(jià)值,充分展示了華為云在大模型時(shí)代的生態(tài)打造決心與客戶、伙伴賦能意愿。

在盤(pán)古大模型通往行業(yè)的這座橋上,如今已經(jīng)能夠看到車水馬龍的生態(tài)盛景。

如今,華為云秉承著AI for Industries方向,盤(pán)古大模型深耕行業(yè),已經(jīng)打造出了金融、政務(wù)、制造、礦山、氣象、鐵路等領(lǐng)域行業(yè)的大模型和能力集,將行業(yè)知識(shí)know-how與大模型能力結(jié)合,為每個(gè)企業(yè)、每個(gè)人提供專家助手。

回顧盤(pán)古大模型能夠走通這條路,筑起這座橋的原因,會(huì)發(fā)現(xiàn)站在用戶角度考慮問(wèn)題,是決定此后所有動(dòng)作的根源。

為天下行業(yè)思考,為天下客戶努力。所以盤(pán)古大模型這座玉帶橋,才能讓智能通天下。

關(guān)鍵詞:
24小時(shí)熱點(diǎn) 精彩推薦
資訊新聞
?