美譽度品牌管理
作者 | jojo
編輯 | jonyle

AI大模型正迎來應(yīng)用“奇點”。

在一個電商交易平臺上，對話機器人正像真人一樣為顧客推薦產(chǎn)品；在一場特殊學(xué)校課堂上，屏幕上的虛擬手語老師實時語音轉(zhuǎn)手語完成教學(xué)；在一個腦部手術(shù)臺上，一臺手術(shù)機器人正抵達(dá)顱內(nèi)腦室深部進行精準(zhǔn)手術(shù)……

▲基于AI大模型的虛擬人手語教學(xué)

在這些AI大模型應(yīng)用背后，一個為國內(nèi)20+大模型提供支持的“秘密武器”也浮出水面。

根據(jù)人工智能框架生態(tài)峰會2023最新消息：國內(nèi)已有超20個大模型是基于昇思MindSpore AI框架孵化。昇思MindSpore AI框架開源于2020年3月，同時成立開源社區(qū)。圍繞昇思社區(qū)展開的AI學(xué)習(xí)與產(chǎn)業(yè)化實踐，在過去三年里飛速生長，目前已支持超5500家企業(yè)、與290+高?？蒲性核献魍七MAI創(chuàng)新。而在AI大模型方面，昇思提供大模型全流程使能體系，覆蓋從大模型開發(fā)、訓(xùn)練、微調(diào)、部署的全流程服務(wù)支持。

從產(chǎn)業(yè)來看，AI框架處于AI技術(shù)體系的核心中堅。通俗來講，它既像汽車方向盤一般，給AI用戶提供便捷的操作接口；又如同變速箱和傳動軸一般，將算力合理高效的調(diào)度。比如國外的Pytorch、TensorFlow，國內(nèi)的昇思等，都是AI框架的代表。

近日，正值A(chǔ)I大模型及AIGC（生成式AI）在全球范圍內(nèi)加速發(fā)展，昇思公布了一系列重磅升級。

6月16日，在上海舉辦的人工智能框架生態(tài)峰會2023上，昇思MindSpore 2.0全新升級，升級覆蓋易用性提升、原生大模型支持、科學(xué)智能、多后端統(tǒng)一推理、數(shù)據(jù)處理提升機領(lǐng)域擴展庫六大方面。與此同時，昇思MindSpore開源社區(qū)理事會成立、上海昇思AI框架&大模型創(chuàng)新中心啟動等生態(tài)舉措也隨之發(fā)布。

▲昇思MindSpore開源社區(qū)理事會成立

我們?nèi)绾慰炊@些技術(shù)和生態(tài)更新？昇思2.0會給AI開發(fā)者們帶來什么樣的實際影響？從更大層面來看，AI大模型時代將如何改變AI開發(fā)模式、乃至全球AI生態(tài)格局？本文對此進行了深入探討。

一、孵化20+大模型后，昇思“工具包”豪華大升級

隨著國內(nèi)“百模大戰(zhàn)”打響，一些走在前面的大模型已經(jīng)在行業(yè)中初步驗證效果。

以開篇中提到的手語一體機、手術(shù)機器人應(yīng)用為例，其正是基于中科院自動化所旗下的紫東.太初全模態(tài)大模型打造。

在近日的人工智能框架生態(tài)峰會2023上的采訪中，中科院自動化所紫東太初大模型研究中心常務(wù)副主任、武漢人工智能研究院院長王金橋告訴美譽度等記者，紫東.太初在2020年時就選擇了跟昇思在大模型方面展開合作，利用昇思MindSpore AI框架打造了全球首個三模態(tài)大模型紫東.太初，當(dāng)下，紫東.太初演進至2.0全模態(tài)大模型，擁有了更強的認(rèn)知、理解和創(chuàng)作能力。

▲新推出的紫東.太初2.0具備認(rèn)知增強多模態(tài)技術(shù)

根據(jù)昇思在會上公布的數(shù)據(jù)，目前其已使能孵化了超20個大模型，包括紫東.太初2.0、秦嶺.翔語、CodeGeeX等基礎(chǔ)大模型，以及鵬程.神農(nóng)、空天.靈眸等行業(yè)大模型。

根據(jù)中關(guān)村論壇、科技部中信所最新發(fā)布的《中國人工智能大模型地圖研究報告》等，國內(nèi)有20+大模型都是基于昇思孵化。

▲昇思已使能孵化超20個大模型

強大的模型離不開先進的AI框架，同時，不斷迭代的模型也會反推AI框架進化升級。

近日，昇思宣布從1.0到2.0的全新升級，面向新一波AI大模型浪潮交出“答卷”。這些升級覆蓋原生大模型支持、易用性提升、科學(xué)智能等多個方面，引起眾多開發(fā)者關(guān)注。

1、推出一站式大模型開發(fā)部署平臺

首先，在最新版昇思2.0中，大模型全流程解決方案正式面世。據(jù)悉，這套方案此前在鵬城實驗室曾創(chuàng)下28天無中斷，一舉完成2000億參數(shù)規(guī)模大模型訓(xùn)練的實踐記錄。

具體來看，昇思2.0大模型平臺覆蓋大模型開發(fā)的全流程，以LLaMA作為基礎(chǔ)模型作開發(fā)為例：

（1）在腳本開發(fā)階段，用戶只需從Transformer模型庫中一鍵導(dǎo)入LLaMA模型，大概10行代碼就可完成算法腳本的開發(fā)。

（2）在訓(xùn)練階段，面向算力有限的用戶，昇思2.0基于一臺服務(wù)器、8張訓(xùn)練卡即可支持千億參數(shù)大模型的訓(xùn)練；面向大規(guī)模集群方案，昇思原生支持九種數(shù)據(jù)和模型并行模式及高可靠方案，據(jù)稱算力資源利用率高于業(yè)界15%。

（3）在場景微調(diào)階段，昇思2.0已集成LoRA，Adapter等多種低參微調(diào)的算法，一行代碼即可運行LLaMA的低參微調(diào)；同時支持千億模型進行RLHF（人類反饋強化學(xué)習(xí)），并正式開源。

（4）在推理部署階段，昇思2.0提供模型壓縮工具，并且支持分布式、增量推理，為模型部署降本增效。

可以看到，昇思大模型平臺是要為大模型開發(fā)部署的全流程提供一條“快車道”。

▲昇思2.0大模型解決方案

2、進一步豐富場景化套件，開箱即用、降低門檻

除了提供端到端的大模型訓(xùn)練、開發(fā)與部署能力支持，昇思2.0還在平臺的易用性上加強對大模型的支持。

一方面，昇思2.0推出大量場景化開發(fā)套件，開箱可用。例如，昇思2.0為用戶提供OCR、Yolo、Audio等套件，據(jù)稱在應(yīng)用中已助客戶將票據(jù)識別準(zhǔn)確率提升到近99%，客戶訓(xùn)練周期從周降到天級。

另一方面，如何迎接PyTorch的生態(tài)用戶是昇思重點考慮的一個問題。為此，昇思采取了一系列措施，比如與啟智社區(qū)配合，通過MSAdapter套件完成超70個主流模型遷移，據(jù)稱能助開發(fā)者代碼修改量小于15%，遷移周期從一個月降低到一周。

AI框架是下接多樣性算力、上承創(chuàng)新應(yīng)用的“橋梁”，工具的易用性成為昇思2.0的“第二板斧”。

3、加強AI與科學(xué)計算融合，以科學(xué)智能新范式促進科研創(chuàng)新難題突破

科學(xué)智能是昇思關(guān)注的另一大領(lǐng)域。據(jù)悉，昇思2.0一方面聯(lián)合產(chǎn)學(xué)研構(gòu)建領(lǐng)域的套件，包括電磁仿真、生物計算、流體力學(xué)等套件；另一方面，其將框架能力升級，提供函數(shù)式微分、計算圖、編譯加速等能力，支持科研創(chuàng)新難題突破。

比如，在電磁仿真領(lǐng)域，昇思與東南大學(xué)合作，通過MindSpore ELEC使能套件打造業(yè)界首個電磁仿真大模型“金陵.電磁腦”，據(jù)悉天線陣列仿真效率提升10倍以上。

▲昇思AI+科學(xué)計算領(lǐng)域套件

總的來說，昇思2.0在大模型領(lǐng)域進一步加強了原生支持能力，針對易用性進行了全面提升，同時提升了對科學(xué)智能的支持，出現(xiàn)了一些“里程碑式”進展。

當(dāng)下，大模型時代正改變AI開發(fā)范式，從“小模型-大樣本”轉(zhuǎn)向“大模型-小樣本”。這種變化催促著AI框架加速迭代，以適應(yīng)市場需求。升級后的昇思2.0有望成為企業(yè)抓住AI大模型機遇的“趁手武器”，也反向促進自身平臺的技術(shù)加速迭代。

二、生態(tài)聚力，一個AI大模型“孵化器”誕生

昇思2.0的升級不局限于工具層面，更重要的是在產(chǎn)業(yè)生態(tài)維度。

根據(jù)官方數(shù)據(jù)，昇思MindSpore開源社區(qū)已開源了超15個基礎(chǔ)大模型以及訓(xùn)練腳本，包括當(dāng)下業(yè)界最具備代表性的BLOOM、LLAMA等。開發(fā)者可以在社區(qū)獲取開源模型作為基礎(chǔ)原型，然后通過昇思完成大模型“開發(fā)-訓(xùn)練-微調(diào)-部署”的全過程。

發(fā)展AI框架需要完整的產(chǎn)業(yè)生態(tài)，僅在技術(shù)上的布局是不夠的。

正如昇思MindSpore開源社區(qū)理事長丁誠所說：“單靠一個團隊的力量，無法撐起整個AI框架的演進與發(fā)展?！睘榱藢N思打造成一個AI大模型“孵化器”，昇思2.0從運營、人才、產(chǎn)品化推廣等多個方面促進開源社區(qū)服務(wù)的升級。

1、運營促活：開放管理架構(gòu)，融入全球開源生態(tài)

AI大模型浪潮促使昇思MindSpore開源社區(qū)活躍度大大提升，如何讓這一熱度轉(zhuǎn)化為持續(xù)技術(shù)創(chuàng)新？

6月16日，昇思MindSpore開源社區(qū)理事會成立、上海昇思AI框架&大模型創(chuàng)新中心啟動，超20家單位入駐，這標(biāo)志著昇思將與上海的企業(yè)和產(chǎn)業(yè)加深結(jié)合，加快大模型的研發(fā)；同時，昇思開源社區(qū)理事會成立，構(gòu)建充分開放的治理架構(gòu)以匯聚產(chǎn)學(xué)研眾力。

接著，昇思與產(chǎn)學(xué)研用伙伴聯(lián)合提出了“共建人工智能框架生態(tài)，繁榮中國人工智能產(chǎn)業(yè)”的倡議；此外，昇思還采取了眾多措施，包括建立專業(yè)委員會、與六大業(yè)界開源基金會合作、與業(yè)界開源社區(qū)合作等，以此開放匯聚眾力。

▲昇思與產(chǎn)學(xué)研聯(lián)合提出“共建人工智能框架生態(tài)，繁榮中國人工智能產(chǎn)業(yè)”倡議

2、人才培養(yǎng)：升級開發(fā)者培養(yǎng)方案，覆蓋三大階段

要推動中國AI繁榮發(fā)展，離不開充足的人才發(fā)展，昇思在為開發(fā)者提供工具的同時也加碼人才培養(yǎng)。

昇思針對不同階段的開發(fā)者，提供不同成長路徑的培養(yǎng)方案。在入門階段，昇思提供系列教材和認(rèn)證課程，走進高校支持學(xué)生入門AI學(xué)習(xí)；面向?qū)嵺`階段，昇思提供系列化的實習(xí)、眾智和競賽任務(wù)，給開發(fā)者提供實踐機會；面向研究創(chuàng)新階段，昇思提供學(xué)術(shù)激勵基金和算力支持，激發(fā)原創(chuàng)科學(xué)研究。

根據(jù)官方數(shù)據(jù)，目前昇思已與全球高校和科研機構(gòu)開展合作，培養(yǎng)2500名老師、超20萬學(xué)生；與全球超290個Top科研團隊合作，基于昇思發(fā)表的AI頂會論文達(dá)超900篇，居于國內(nèi)第一、全球第二。

3、產(chǎn)業(yè)推廣：推出硬件加速計劃，促進端邊云全場景協(xié)同

當(dāng)下，AI大模型在軟件領(lǐng)域落地順利，但在涉及云邊端協(xié)同的更廣泛場景面臨阻礙。

為此，昇思積極擁抱多芯生態(tài)，啟動硬件加速計劃，舉措主要包括：為適配的硬件廠商提供聯(lián)合開發(fā)支持與協(xié)同運作，結(jié)合不同硬件設(shè)備開展多樣化的推廣賽事、聯(lián)合營銷宣傳工作等。

回顧昇思自2020年3月開源至今，昇思不僅已擁有超1.3萬貢獻(xiàn)者，超400多個開源模型，服務(wù)企業(yè)數(shù)量超過5500家；其在大模型方面，也于2020年的首版本中就率先推出了面向大模型自動并行特性，至今逐漸形成大模型技術(shù)使能平臺的定位。

可以預(yù)測，隨著新的生態(tài)舉措加碼，昇思MindSpore開源社區(qū)在大模型時代吸引更多開發(fā)者，從而為中國AI產(chǎn)業(yè)繁榮形成一股生態(tài)聚力。

結(jié)語：AI落地深水區(qū)，中國AI開源再進擊

當(dāng)下，大模型正在改變過去AI落地面臨的碎片化困境，降低AI落地的成本和門檻。而隨著AI落地進入深水區(qū)，用戶的生態(tài)錨點逐步從API走向預(yù)訓(xùn)練模型，AI框架及開源社區(qū)也需要同步迭代。

本次昇思公布的技術(shù)和生態(tài)重大升級，一方面正是其面向AI大模型機遇的強勁出擊，匯聚產(chǎn)學(xué)研力量加速AI大模型落地；另一方面，是其自2020年就開始布局大模型以來，沉淀出一套全流程大模型孵化實踐方案的自然結(jié)果。

中國AI框架要想突破現(xiàn)有格局并不容易，AI大模型新賽道為之提供了彎道超車機會點。通過技術(shù)、運營、人才培養(yǎng)、產(chǎn)品化推廣等多方面創(chuàng)新，以昇思為代表的AI框架項目有望加速開源社區(qū)繁榮，從而推動中國通用人工智能產(chǎn)業(yè)健康發(fā)展。