支付寶CTO陳亮：AI大規(guī)模落地，需要解決算力、成本和用戶(hù)體驗(yàn)
2月21日消息，支付寶在今年春節(jié)推出了AI創(chuàng)新玩法。據(jù)支付寶透露，2024支付寶五福節(jié)活動(dòng)期間，有近6億人次通過(guò)支付寶AI科技體驗(yàn)新年味，年輕人涌入支付寶玩“飆戲小劇場(chǎng)”，“大家來(lái)找福”……五福熱度不減。其中，“大家來(lái)找福”成為最受歡迎的集福卡方式，共有近30億個(gè)AI生成的福字被用戶(hù)找到。《熱辣滾燙》換臉片段上線五福“飆戲小劇場(chǎng)”后，一天吸引近百萬(wàn)網(wǎng)友AI“參演””。
“今年的五福節(jié)，是支付寶首次由AI全面驅(qū)動(dòng)的五福活動(dòng)，推動(dòng)AI在支付寶上規(guī)模化落地應(yīng)用的同時(shí)，也推動(dòng)了支付寶的第二次技術(shù)迭代。”支付寶方面表示。
圖源：支付寶APP
近日，新浪科技《科創(chuàng)100人》與支付寶CTO陳亮(花名俊義)進(jìn)行一場(chǎng)深入訪談，探討支付寶技術(shù)迭代方法論等。據(jù)介紹，從技術(shù)角度，支付寶成立迄今，主要經(jīng)歷了兩輪技術(shù)迭代。其中，第一次技術(shù)迭代是由雙11倒逼發(fā)生的，主要是解決海量高并發(fā)數(shù)據(jù)場(chǎng)景下的安全順滑問(wèn)題，過(guò)程中逼出了以O(shè)ceanBase和綠色計(jì)算為代表的分布式技術(shù)和架構(gòu)。第二輪技術(shù)變革，則是支付寶加速布局AI應(yīng)用，推動(dòng)解決AI應(yīng)用大規(guī)模落地過(guò)程中產(chǎn)生的算力、成本可控等問(wèn)題，目的在于為用戶(hù)和商家打造一個(gè)全面AI化的“新支付寶”。
而此時(shí)此刻，“支付寶正經(jīng)歷第二輪技術(shù)迭代”。在俊義看來(lái)，今年的五福節(jié)，便是一屆由AI全面驅(qū)動(dòng)的五福節(jié)，“整個(gè)AI在支付寶上已融入了日常生活中，不僅僅是對(duì)用戶(hù)，對(duì)我們?nèi)粘９ぷ鞫加蟹浅４蟮挠绊懞万?qū)動(dòng)。”
在前后兩輪技術(shù)迭代過(guò)程中，支付寶所采用的是一種“開(kāi)飛機(jī)換引擎”的方式。此前的技術(shù)并沒(méi)有瞬間被拋棄，而是會(huì)沿用到當(dāng)下的場(chǎng)景中，與新的AI技術(shù)進(jìn)行融合，然后在不斷地實(shí)踐和場(chǎng)景打磨中，不斷融合淬煉，迭代進(jìn)步。
圖源：支付寶官微
以本屆AI驅(qū)動(dòng)的五福為例，據(jù)俊義介紹，在有了第一輪技術(shù)迭代中產(chǎn)生的分布式技術(shù)支撐后，“當(dāng)開(kāi)獎(jiǎng)時(shí)候數(shù)億人涌入支付寶時(shí)，也不再擔(dān)心宕機(jī)的風(fēng)險(xiǎn)。與此同時(shí)，此時(shí)忽然出現(xiàn)的大量用戶(hù)密集體驗(yàn)AI創(chuàng)新玩法，也能夠得到很好地支撐”。
“9年前第一次集五福遇到最大的挑戰(zhàn)是這么多人一起開(kāi)獎(jiǎng)，這在中國(guó)歷史上是沒(méi)有過(guò)的，技術(shù)上想了非常多的辦法，改造了非常多。”俊義表示，支付寶五福期間同時(shí)在線用戶(hù)有幾億，這是一般沒(méi)遇到過(guò)的，“所以這幾年五福很好地繼承了支付寶分布式的技術(shù)”。
“螞蟻集團(tuán)自主研發(fā)的硬核科技，如分布式數(shù)據(jù)庫(kù)、云原生分布式計(jì)算架構(gòu)、智能風(fēng)控等，一直引領(lǐng)行業(yè)的技術(shù)方向，也都是被國(guó)民級(jí)項(xiàng)目倒逼出來(lái)。可以說(shuō)，支付寶的技術(shù)淬煉，是在一個(gè)又一個(gè)‘大型戰(zhàn)場(chǎng)’上磨煉升級(jí)突破的。”俊義表示。
圖源：支付寶官博
俊義透露，他作為在支付寶工作了17年的老員工，從第一屆雙11開(kāi)始，已完整經(jīng)歷雙11十余年的支付壓測(cè)與技術(shù)保障，他身上的一個(gè)大標(biāo)簽就是“雙11技術(shù)總指揮”。也主導(dǎo)了支付寶小程序云的技術(shù)和產(chǎn)品上線。在用AI改造支付寶業(yè)務(wù)這條路徑上，俊義也是技術(shù)的總指揮。
在他看來(lái)，由AI驅(qū)動(dòng)的五福，不管面向To C也好，還是To企業(yè)級(jí)用戶(hù)和內(nèi)部員工，本質(zhì)都是解決大規(guī)模落地的問(wèn)題。而在AI大規(guī)模落地應(yīng)用過(guò)程中，目前需要解決以下兩個(gè)關(guān)鍵問(wèn)題：第一，算力支撐得住、成本可控;第二，用戶(hù)體驗(yàn)好。
據(jù)他介紹，在保證算力支撐得住上，目前螞蟻基礎(chǔ)大模型平臺(tái)已具備萬(wàn)卡異構(gòu)集群，其中千卡規(guī)模訓(xùn)練MFU可達(dá)40%，集群有效訓(xùn)練時(shí)長(zhǎng)占比達(dá)90%以上。此外，數(shù)據(jù)層面，除了全網(wǎng)通用語(yǔ)料與金融領(lǐng)域的優(yōu)質(zhì)語(yǔ)料，螞蟻還注入了優(yōu)質(zhì)的研判分析數(shù)據(jù)，以及大規(guī)模知識(shí)工程所帶來(lái)的超過(guò)270億Token的知識(shí)量;模型層面，螞蟻也從真實(shí)場(chǎng)景萃取了超60萬(wàn)條以上的專(zhuān)屬指令。
圖源：支付寶官網(wǎng)
為控制成本，螞蟻集團(tuán)在軟件解決GPU焦慮上做了很多探索實(shí)踐。目前，螞蟻的CPU利用率從2017年的不到10%，提升到了2022年的33%。此外，螞蟻萬(wàn)卡異構(gòu)集群的硬件算力效率(HFU)也超過(guò)了60%，集群有效訓(xùn)練時(shí)長(zhǎng)占比90%以上，RLHF訓(xùn)練在同等模型效果下吞吐性能較業(yè)界方案提升3.59倍。與此同時(shí)，目前約50%的螞蟻程序員，也在寫(xiě)代碼時(shí)通過(guò)自研的CodeFuse提升代碼開(kāi)發(fā)效率，AI生成代碼占比超過(guò)10%。
據(jù)了解，目前，支付寶已實(shí)踐出了一套完整的AI Copilot的解決方案。這些被倒逼出來(lái)的技術(shù)突破，在扛住國(guó)民級(jí)項(xiàng)目后，開(kāi)始運(yùn)用到支付寶日常的技術(shù)支持，再又通過(guò)開(kāi)源和對(duì)外商業(yè)化，服務(wù)外部合作伙伴和更多普通人。
“AI應(yīng)用能否大規(guī)模落地，關(guān)系到AI是否能夠真正服務(wù)社會(huì)并走向真正的AGIC時(shí)代，支付寶在解決這個(gè)行業(yè)難題，并提出了一些解決方案。未來(lái)百靈大模型將會(huì)被用于全面改造支付寶的應(yīng)用場(chǎng)景，期待一個(gè)全新的支付寶。”俊義表示。
