8月15日
，科大訊飛在合肥舉辦了“訊飛星火認知大模型V2.0升級發布會”。在此次發布會上，科大訊飛與華為共同發布用於構建專屬大模型的軟硬件一體化設備“星火一體機”。

科大訊飛董事長劉慶峰表示，“科大訊飛和華為已在聯合攻關算力卡脖子的問題。”在單卡算力上，“星火一體機”對標A100
，同時還正在和華為一道打造麵向超大規模大模型訓練的國產算力集群，形成集群化優勢。

據了解，在大模型的研發過程中
，需要可以支撐千億參數規模大模型並行訓練的算力和框架
，這通常需要幾千張高算力的AI加速卡同時連續運行。基於此，係統架構以及並行訓練的集群能力成為大模型研發的關鍵。

據了解


，星火一體機基於鯤鵬CPU＋昇騰GPU，另外還采用了華為存儲和網絡提供整機櫃方案
，FP16（半精度浮點數格式）算力2.5 petaFLOPS（1 petaFLOPS為每秒運行一千萬億次浮點運算）。在大模型訓練中最為流行的英偉達DGX A100，其單節點包含8塊GPU，可以輸出5 PetaFLOPS的FP16算力。

（星火一體機采用的昇騰芯片疑似為昇騰910。官網資料顯示，昇騰910的FP16算力為320TFLOPS。）

據介紹，星火一體機的訓練和推理一體化部署
，可用於問答係統、對話生成、知識圖譜構建、智能推薦等多個領域的應用，具備大模型預訓練、多模態理解與生成、多任務學習和遷移等能力。

星(xing)火(huo)一(yi)體(ti)機(ji)還(hai)針(zhen)對(dui)星(xing)火(huo)認(ren)知(zhi)智(zhi)能(neng)大(da)模(mo)型(xing)的(de)訓(xun)練(lian)算(suan)法(fa)和(he)推(tui)理(li)應(ying)用(yong)進(jin)行(xing)了(le)硬(ying)件(jian)的(de)量(liang)身(shen)定(ding)製(zhi)，可(ke)大(da)大(da)降(jiang)低(di)企(qi)業(ye)的(de)使(shi)用(yong)成(cheng)本(ben)。可(ke)直(zhi)接(jie)提(ti)供(gong)對(dui)話(hua)開(kai)發(fa)、任務編排、插件執行、知識接入、提示工程等5種定製優化模式，以及辦公、代碼
、客服
、運維
、營銷、采購等10種以上即開即用的豐富場景包
，支持3種模型尺寸供用戶選擇。

值得注意的是，上個月，科大訊飛就宣布訊飛星火將與昇騰AI聯合
，打造基於中國自主創新的通用智能新底座。一方麵
，訊飛星火認知大模型基於訓練推理一體化設計，實現大模型稀疏化、低精度量化的技術突破
，能高效適配昇騰AI
，加速大模型的行業落地應用和迭代；另一方麵，以昇騰AI為核心，軟硬件協同優化
，構建算力集中

、性能優越、供給穩定、數據安全的大模型訓練集群。

在當天的“訊飛星火認知大模型V2.0升級發布會”演講中，劉慶峰更為細致地講解道
，“華為跟科大訊飛共同在昇騰AI的軟硬件平台和軟件的支撐工具上，把高算力AI芯片、高性能的算子庫、多(duo)卡(ka)高(gao)速(su)互(hu)聯(lian)以(yi)及(ji)分(fen)布(bu)式(shi)存(cun)儲(chu)結(jie)合(he)起(qi)來(lai)，尤(you)其(qi)是(shi)我(wo)們(men)聯(lian)合(he)針(zhen)對(dui)人(ren)工(gong)智(zhi)能(neng)所(suo)需(xu)要(yao)的(de)最(zui)重(zhong)要(yao)的(de)算(suan)子(zi)庫(ku)進(jin)行(xing)甄(zhen)別(bie)和(he)打(da)磨(mo)。然(ran)後(hou)在(zai)此(ci)基(ji)礎(chu)上(shang)
，架(jia)構(gou)科(ke)大(da)訊(xun)飛(fei)的(de)訓(xun)練(lian)和(he)數(shu)據(ju)閉(bi)環(huan)全(quan)流(liu)程(cheng)設(she)計(ji)

，以(yi)及(ji)訓(xun)練(lian)和(he)推(tui)理(li)一(yi)體(ti)化(hua)設(she)計(ji)的(de)自(zi)研(yan)大(da)模(mo)型(xing)訓(xun)練(lian)平(ping)台(tai)，中(zhong)間(jian)是(shi)支(zhi)持(chi)大(da)規(gui)模(mo)的(de)異(yi)構(gou)算(suan)力(li)兼(jian)容(rong)，也(ye)支(zhi)持(chi)混(hun)合(he)雲(yun)架(jia)構(gou)易(yi)拓(tuo)展(zhan)，使(shi)得(de)我(wo)們(men)今(jin)天(tian)所(suo)看(kan)到(dao)的(de)訊(xun)飛(fei)星(xing)火(huo)V2.0的演示以及所有產品
，架構在安全可控的平台上。”

據悉，“訊飛星火認知大模型V2.0”除了持續提升通用能力基礎外，重點突破代碼能力和多模態交互能力。據劉慶峰介紹，在OpenAI構建的代碼能力的公開測試集HumanEval上
，訊飛星火大模型V2.0基於Python和C 進行代碼寫作的能力接近ChatGPT水平
，差距僅為1%和2%，預計將於今年10月24日全麵超越ChatGPT
，明年上半年將正式對標GPT-4。

目前，訊飛星火大模型擁有130億、650億和1750億3個版本的模型參數可選。圍繞星火大模型，科大訊飛正在構建開發者生態，目前有4000多個助手開發者團隊加入星火平台。