NEWS
新聞動(dòng)態(tài)
昇騰AI基礎(chǔ)軟硬件全面升級(jí)，以更開(kāi)放易用的平臺(tái)使能百模千態(tài)
發(fā)布時(shí)間：
2023-09-28
華為全聯(lián)接大會(huì)2023期間，華為計(jì)算產(chǎn)品線(xiàn)總裁張熙偉發(fā)表了“算力為基，共筑智能新生態(tài)”主題演講。他表示，華為深耕算力底座，聚焦鯤鵬、昇騰基礎(chǔ)軟硬件創(chuàng)新，攜手伙伴開(kāi)發(fā)者，打造更放易用的平臺(tái)，共筑更高效協(xié)同的生態(tài)，使能百模千態(tài)，共贏智能未來(lái)。
華為全聯(lián)接大會(huì)2023期間，華為計(jì)算產(chǎn)品線(xiàn)總裁張熙偉發(fā)表了“算力為基，共筑智能新生態(tài)”主題演講。他表示，華為深耕算力底座，聚焦鯤鵬、昇騰基礎(chǔ)軟硬件創(chuàng)新，攜手伙伴開(kāi)發(fā)者，打造更放易用的平臺(tái)，共筑更高效協(xié)同的生態(tài)，使能百模千態(tài)，共贏智能未來(lái)。
華為計(jì)算產(chǎn)品線(xiàn)總裁張熙偉發(fā)表主題演講
昇騰全面、深度開(kāi)放，選擇更靈活，使能開(kāi)發(fā)者構(gòu)筑差異化競(jìng)爭(zhēng)力
昇騰面向算子、框架、加速庫(kù)和大模型全面開(kāi)放，廣泛支持、兼容業(yè)界生態(tài)，為大模型創(chuàng)新提供更多靈活選擇。提供豐富的融合算子，如主流的FlashAttention、FFN等，可在昇騰上實(shí)現(xiàn)性能倍級(jí)提升；全面支持PyTorch、飛槳、昇思等業(yè)界框架，同時(shí)PyTorch社區(qū)今年10月將發(fā)布2.1版本，原生支持昇騰；除了兼容業(yè)界主流的DeepSpeed、Megatron外，昇騰自主構(gòu)建了大模型加速庫(kù)AscendSpeed，提供豐富的大模型訓(xùn)練并行能力。同時(shí)，HuggingFace社區(qū)最新的Transformers、Accelerate等代碼倉(cāng)已原生支持昇騰，開(kāi)發(fā)者直接下載，安裝即用。目前已有50+主流的基礎(chǔ)大模型基于昇騰訓(xùn)練迭代，9家伙伴發(fā)布了大模型訓(xùn)推一體機(jī)，為行業(yè)提供更加豐富的選擇。
昇騰以開(kāi)放移動(dòng)的平臺(tái)使能百模千態(tài)，高效協(xié)同的生態(tài)賦能千行萬(wàn)業(yè)
為支撐開(kāi)發(fā)者孵化出更高性能的自定義算子、加速庫(kù)，昇騰進(jìn)一步開(kāi)放平臺(tái)能力，將于年底新增開(kāi)放底層運(yùn)行時(shí)，開(kāi)發(fā)者可直接使用NPU上的核資源、控制流、任務(wù)調(diào)度等接口，原生構(gòu)建差異化競(jìng)爭(zhēng)力。在編程上，今年5月發(fā)布的Ascend C編程語(yǔ)言，簡(jiǎn)化開(kāi)發(fā)邏輯，匹配開(kāi)發(fā)習(xí)慣。通過(guò)持續(xù)迭代，當(dāng)前支持混合編程與編譯，增加歸一化、三角函數(shù)等API，300余行大算子的開(kāi)發(fā)周期從2人月降到2人周，大幅提升大模型創(chuàng)新效率。
ModelZoo 2.0發(fā)布上線(xiàn)
為更好的發(fā)育大模型生態(tài)，昇騰社區(qū)全新升級(jí)ModelZoo 2.0，在已提供數(shù)百個(gè)預(yù)訓(xùn)練模型的基礎(chǔ)上，年底前將持續(xù)上線(xiàn)40多個(gè)昇騰親和的預(yù)訓(xùn)練大模型，同時(shí)支持各類(lèi)大模型在線(xiàn)的功能體驗(yàn) 與性能對(duì)比，開(kāi)放全流程的大模型開(kāi)發(fā)工具與套件，支撐開(kāi)發(fā)者快速實(shí)現(xiàn)大模型的二次開(kāi)發(fā)。
ModelZoo2.0正式上線(xiàn)昇騰社區(qū)
超級(jí)流水線(xiàn)全流程使能大模型創(chuàng)新落地
大模型開(kāi)發(fā)是一個(gè)復(fù)雜的系統(tǒng)工程，昇騰大模型超級(jí)流水線(xiàn)，以友好的大模型開(kāi)發(fā)環(huán)境和統(tǒng)一的全流程工具鏈，使能大模型易開(kāi)發(fā)、易遷移、易部署。昇騰大模型開(kāi)發(fā)套件，輕量代碼使能大模型極簡(jiǎn)開(kāi)發(fā)；MindStudio全流程工具鏈?zhǔn)鼓艽竽Ｐ兔艚葸w移，周級(jí)實(shí)現(xiàn)精度調(diào)試和性能調(diào)優(yōu)；昇騰推理引擎統(tǒng)一推理業(yè)務(wù)全流程入口，支持多種推理方式使能應(yīng)用快速部署。
鼓勵(lì)昇騰原生創(chuàng)新，加速伙伴商業(yè)共贏
華為持續(xù)圍繞科研創(chuàng)新使能和大模型促進(jìn)兩大計(jì)劃，鼓勵(lì)開(kāi)發(fā)者基于昇騰進(jìn)行根技術(shù)原生創(chuàng)新，賦能伙伴打造更具競(jìng)爭(zhēng)力的大模型場(chǎng)景解決方案，共同打造更緊密協(xié)同的人工智能新生態(tài)。
以AI賦能openEuler更智能，以openEuler使能AI更高效
大模型讓歐拉更智能。歐拉作為首個(gè)廣泛支持AI的開(kāi)源操作系統(tǒng)，正在顛覆傳統(tǒng)的命令行交互方式。華為使用ChatGLM基礎(chǔ)模型，基于大量歐拉操作系統(tǒng)的代碼和數(shù)據(jù)，訓(xùn)練出EulerCopilot，初步帶來(lái)代碼輔助生成、問(wèn)題智能分析、系統(tǒng)輔助運(yùn)維等功能。以前需要多領(lǐng)域?qū)＜覅f(xié)同解決的問(wèn)題，未來(lái)都可以交給EulerCopilot
歐拉使能AI更高效。歐拉通過(guò)異構(gòu)資源統(tǒng)一管理與調(diào)度，實(shí)現(xiàn)CPU和XPU的深度融合，以更全局、更均衡和更精細(xì)化的視角統(tǒng)籌內(nèi)存和算力，充分挖掘空閑資源，提升有效利用率，進(jìn)而提升AI訓(xùn)練和推理性能。
鯤鵬軟硬件平臺(tái)進(jìn)行創(chuàng)新升級(jí)
華為持續(xù)升級(jí)鯤鵬軟硬件平臺(tái)。天池架構(gòu)支持伙伴面向千行萬(wàn)業(yè)，快速推出差異化機(jī)型?；A(chǔ)軟件方面，openEuler全場(chǎng)景協(xié)同能力持續(xù)增強(qiáng)，進(jìn)一步提供負(fù)載動(dòng)態(tài)感知等關(guān)鍵能力，做到開(kāi)箱即優(yōu)。同時(shí)，升級(jí)鯤鵬BoostKit和DevKit 兩大套件，八大主流場(chǎng)景性能持續(xù)提升，通過(guò)四大場(chǎng)景化SDK助力鯤鵬高效原生開(kāi)發(fā)，更好的賦能伙伴，服務(wù)用戶(hù)。
華為全聯(lián)接大會(huì)2023（HUAWEI CONNECT 2023）以“加速行業(yè)智能化”為主題，邀請(qǐng)思想領(lǐng)袖、商業(yè)精英、技術(shù)專(zhuān)家、合作伙伴、開(kāi)發(fā)者等業(yè)界同仁，從商業(yè)、產(chǎn)業(yè)、生態(tài)等方面共同探討如何加速行業(yè)智能化。更多信息，請(qǐng)參閱華為全聯(lián)接大會(huì)官網(wǎng)：https://www.huawei.com/cn/events/huaweiconnect
相關(guān)新聞
掃描訪(fǎng)問(wèn)手機(jī)版