2024 / 12 / 18
元腦伙伴攜手,神州數(shù)碼聯(lián)合浪潮信息共推神州問學(xué)AI一體機(jī)解決方案

生成式AI的浪潮,為各行各業(yè)帶來了前所未有的機(jī)遇和挑戰(zhàn)。在制造業(yè),AI技術(shù)的應(yīng)用使得生產(chǎn)過程更加自動(dòng)化、智能化,提高了生產(chǎn)效率;在醫(yī)療領(lǐng)域,AI通過深度學(xué)習(xí)技術(shù),能夠輔助醫(yī)生進(jìn)行疾病診斷和治療方案制定;在金融領(lǐng)域,AI則通過大數(shù)據(jù)分析和模型預(yù)測(cè),為投資者提供更加精準(zhǔn)的投資建議。

企業(yè)必須對(duì)自身所擁有的核心數(shù)據(jù),借助私域大模型方式進(jìn)行專門“訓(xùn)練”,才能真正發(fā)揮出數(shù)據(jù)價(jià)值,并讓生成式AI切實(shí)為企業(yè)解決業(yè)務(wù)所面臨的實(shí)際問題。而要實(shí)現(xiàn)這一目標(biāo),企業(yè)必須解決生成式AI的私域部署問題,以及由此帶來的安全問題。

面對(duì)企業(yè)級(jí)客戶對(duì)生成式AI敏捷落地和本地化、私有化部署的安全性需求,神州數(shù)碼聯(lián)合浪潮信息,結(jié)合神州數(shù)碼AI原生賦能平臺(tái)——神州問學(xué),正式推出了神州問學(xué)AI一體機(jī)解決方案,以一站式交付的形式幫助企業(yè)更快實(shí)現(xiàn)生成式AI的落地應(yīng)用。

承接“AI驅(qū)動(dòng)的數(shù)云融合”戰(zhàn)略持續(xù)推動(dòng)生成式AI落地

基于過去20年在IT行業(yè)的深耕,以及服務(wù)產(chǎn)業(yè)數(shù)字化的實(shí)踐,神州數(shù)碼提出“AI驅(qū)動(dòng)的數(shù)云融合”戰(zhàn)略和技術(shù)體系框架。

著力在云原生、數(shù)字原生、AI原生和信創(chuàng)產(chǎn)業(yè)上架構(gòu)產(chǎn)品和服務(wù)能力,為處在不同數(shù)字化轉(zhuǎn)型階段的行業(yè)客戶提供泛在的敏捷IT能力和融合的數(shù)據(jù)驅(qū)動(dòng)能力,助力企業(yè)級(jí)客戶建立面向未來的核心能力和競(jìng)爭(zhēng)優(yōu)勢(shì)。

近年來,伴隨著人工智能技術(shù)的快速崛起,神州數(shù)碼在“AI驅(qū)動(dòng)的數(shù)云融合”戰(zhàn)略的支撐下,堅(jiān)定布局生成式AI,并推動(dòng)AI原生與云原生、數(shù)字原生的融合。神州問學(xué)的推出,可以有效解決大模型安全、應(yīng)用場(chǎng)景創(chuàng)新、數(shù)據(jù)&語料問題、AI應(yīng)用敏捷開發(fā)、模型統(tǒng)一管理、模型與應(yīng)用的持續(xù)發(fā)布與管理等諸多問題,大大降低企業(yè)AI應(yīng)用的開發(fā)門檻及落地成本。

神州問學(xué)AI一體機(jī)解決方案高效融合了神州問學(xué)軟件平臺(tái)和基于浪潮信息元腦人工智能服務(wù)器的算力平臺(tái)優(yōu)勢(shì)所長,為企業(yè)提供私有化部署生成式AI敏捷落地的軟硬一體解決方案,以及豐富的大模型應(yīng)用,助力企業(yè)客戶用自己的數(shù)據(jù)定制專屬AI模型,實(shí)現(xiàn)業(yè)務(wù)創(chuàng)新。

強(qiáng)大算力為敏捷業(yè)務(wù)創(chuàng)造廣闊空間

神州問學(xué)AI一體機(jī)解決方案采用浪潮信息最新一代的元腦人工智能服務(wù)器,針對(duì)不同使用場(chǎng)景,分為“訓(xùn)練型一體機(jī)”和“推理型一體機(jī)”兩種產(chǎn)品型號(hào),其中,“訓(xùn)練型一體機(jī)”適用于大規(guī)模集群的大模型訓(xùn)練集群搭建和超大規(guī)模LLM推理,及大模型訓(xùn)推一體功能驗(yàn)證實(shí)驗(yàn)室研究場(chǎng)景;“推理型一體機(jī)”適用于企業(yè)內(nèi)部不同場(chǎng)景的AI應(yīng)用部署及大模型推理服務(wù),支持多模型混合部署,最高支持200B模型推理。

20221210003345.jpg

神州問學(xué)AI一體機(jī)

有了強(qiáng)大的計(jì)算能力作為支撐,神州問學(xué)AI一體機(jī)不僅能夠支持多個(gè)大模型的并行訓(xùn)推,用戶可以根據(jù)自身業(yè)務(wù)進(jìn)展與變化,靈活安排模型訓(xùn)推任務(wù);還可以實(shí)現(xiàn)對(duì)模型訓(xùn)練推理的無縫切換,訓(xùn)練得出的模型能第一時(shí)間運(yùn)用到推理和應(yīng)用中,并通過新一輪數(shù)據(jù)對(duì)模型進(jìn)行高效的驗(yàn)證和迭代。

對(duì)企業(yè)用戶來說,神州問學(xué)AI一體機(jī)強(qiáng)大的算力可以有效縮短模型的訓(xùn)練周期,并提高模型的適用性和準(zhǔn)確度,節(jié)省用戶大量成本。同時(shí),企業(yè)用戶也能夠更從容的安排訓(xùn)推任務(wù),更高效、更優(yōu)質(zhì)的完成模型訓(xùn)練,更敏捷應(yīng)對(duì)業(yè)務(wù)變化和挑戰(zhàn)。

軟硬件一體交付定制打造企業(yè)的專屬大模型

神州問學(xué)AI一體機(jī)解決方案實(shí)現(xiàn)了浪潮信息元腦AI服務(wù)器與神州問學(xué)平臺(tái)的一體化設(shè)計(jì),底層的深度適配能在客戶端實(shí)現(xiàn)軟硬一體交付,節(jié)省客戶軟硬件調(diào)試成本,解決兼容問題,達(dá)到開箱即用的效果,滿足客戶私域算力的便捷部署。對(duì)于很多企業(yè)用戶而言,自身的關(guān)鍵業(yè)務(wù)數(shù)據(jù)無疑是核心資產(chǎn),神州問學(xué)AI一體機(jī)解決方案確保所有數(shù)據(jù)資產(chǎn)以及核心算法模型都運(yùn)行在企業(yè)本地,有效保障客戶數(shù)據(jù)和模型安全。

20221210003345.jpg

神州問學(xué)AI一體機(jī)中搭載的神州問學(xué)軟件平臺(tái)優(yōu)選了全球主流大模型,搭配用戶業(yè)務(wù)測(cè)試框架,為企業(yè)提供了一個(gè)全面評(píng)估模型性能的平臺(tái)。通過直觀的控制面板,算法團(tuán)隊(duì)能夠?qū)崟r(shí)監(jiān)控訓(xùn)練進(jìn)度,靈活調(diào)整訓(xùn)練策略,快速迭代模型,達(dá)到最佳性能。這一特性不僅縮短了模型從實(shí)驗(yàn)室到生產(chǎn)環(huán)境的路徑,也為企業(yè)持續(xù)優(yōu)化私有模型集群、構(gòu)建私域知識(shí)體系提供了強(qiáng)大支撐,加速了AI創(chuàng)新的規(guī)?;瘧?yīng)用。

同時(shí),神州問學(xué)AI一體機(jī)內(nèi)置神州問學(xué)AI PaaS云原生集成平臺(tái),能幫助客戶實(shí)現(xiàn)自身私域知識(shí)庫的快速構(gòu)建,支持客戶專屬大模型定制,最快5分鐘即可實(shí)現(xiàn)AI應(yīng)用的靈活構(gòu)建與開發(fā),加速價(jià)值轉(zhuǎn)化效率。針對(duì)模型定制化開發(fā)的用戶而言,神州問學(xué)AI一體機(jī)通過內(nèi)置多行業(yè)語料數(shù)據(jù)集及多類型向量數(shù)據(jù)庫、內(nèi)置AI應(yīng)用低代碼開發(fā)平臺(tái)和RAG、Agent等多種能力以及內(nèi)置標(biāo)準(zhǔn)化AI應(yīng)用開發(fā)框架,幫助企業(yè)用戶對(duì)應(yīng)用場(chǎng)景、行業(yè)發(fā)展以及內(nèi)部數(shù)字化進(jìn)行AI應(yīng)用的定制化開發(fā),從而打造專屬大模型,這將更貼合企業(yè)用戶的業(yè)務(wù)實(shí)際,幫助實(shí)現(xiàn)業(yè)務(wù)創(chuàng)新與價(jià)值飛躍。