螞蟻集團(tuán)何征宇呼吁行業(yè)加強(qiáng)軟硬協(xié)同與生態(tài)建設(shè)
11月9日消息，在2023世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)“數(shù)字化綠色化協(xié)同轉(zhuǎn)型發(fā)展”分論壇上，螞蟻集團(tuán)首席技術(shù)官何征宇表示，AI和大模型的爆發(fā)推高了智能算力需求，數(shù)字化、綠色化協(xié)同發(fā)展的使命，要求行業(yè)亟需構(gòu)建綠色、高質(zhì)量的計(jì)算基礎(chǔ)設(shè)施。
他呼吁行業(yè)加強(qiáng)軟硬協(xié)同與生態(tài)建設(shè)，共同提升計(jì)算基礎(chǔ)設(shè)施算力規(guī)模、可用性與寬容度。
何征宇認(rèn)為，AI大模型時(shí)代，行業(yè)智能化的深度和廣度在擴(kuò)展，雙化協(xié)同也迎來(lái)提速。“大語(yǔ)言模型與生成式AI讓計(jì)算機(jī)開(kāi)始具備語(yǔ)言與內(nèi)容生產(chǎn)能力，將我們帶入了通用人工智能時(shí)代，承載這種能力的智能計(jì)算資源需求也隨之井噴，算力基礎(chǔ)設(shè)施的效率提升和綠色化是必經(jīng)之路。”
據(jù)何征宇介紹，上周螞蟻百靈大模型正式通過(guò)了備案，螞蟻集團(tuán)搭建的綠色計(jì)算體系，也正在為百靈大模型提供綠色化的計(jì)算能力。螞蟻建設(shè)了萬(wàn)卡異構(gòu)集群，其中硬件算力效率(HFU)超過(guò)60%，集群有效訓(xùn)練時(shí)長(zhǎng)占比90%以上，RLHF訓(xùn)練在同等模型效果下訓(xùn)練吞吐性能相較于業(yè)界方案提升3.59倍，推理性能相較于業(yè)界方案提升約2倍，處于業(yè)界先進(jìn)水平。
螞蟻集團(tuán)首席技術(shù)官何征宇
圖源新浪科技
值得一提的是，11月7日，由上海人工智能實(shí)驗(yàn)室與商湯科技聯(lián)合主辦的IEEE“人工智能大模型”標(biāo)準(zhǔn)大會(huì)在深圳市工業(yè)和信息化局、IEEE標(biāo)準(zhǔn)協(xié)會(huì)指導(dǎo)下和深圳市市場(chǎng)監(jiān)督管理局支持下順利召開(kāi)，近300位產(chǎn)業(yè)專(zhuān)家參加大會(huì)。會(huì)上，中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院、上海人工智能實(shí)驗(yàn)室、華為云、百度、騰訊、螞蟻、商湯科技、360、中興通訊、美的、海信集團(tuán)等國(guó)內(nèi)首批11家單位發(fā)起成立了IEEE大模型工作組。
據(jù)介紹，此次大會(huì)上發(fā)起成立的IEEE大模型標(biāo)準(zhǔn)工作組，將協(xié)同國(guó)內(nèi)外大模型產(chǎn)業(yè)力量，制定大模型技術(shù)規(guī)范、測(cè)評(píng)方法、安全可信、可靠決策等領(lǐng)域國(guó)際先進(jìn)標(biāo)準(zhǔn)，為全球大模型產(chǎn)業(yè)技術(shù)創(chuàng)新和發(fā)展提供更好支撐。IEEE國(guó)際標(biāo)準(zhǔn)體系也將首次新增人工智能大模型領(lǐng)域國(guó)際標(biāo)準(zhǔn)。會(huì)后，由首批成員單位代表組成的編寫(xiě)組，連同國(guó)際專(zhuān)家，正式立項(xiàng)IEEE大模型標(biāo)準(zhǔn)工作組的首個(gè)標(biāo)準(zhǔn)《大規(guī)模深度學(xué)習(xí)模型評(píng)估框架及流程》。
IEEE大模型標(biāo)準(zhǔn)工作組正式成立
圖源商湯科技SenseTime公眾號(hào)
