火山引擎總裁譚待主題演講：以多云多模型，迎接體驗(yàn)創(chuàng)新的新時(shí)代
6月30日消息,2023火山引擎V-Tech體驗(yàn)創(chuàng)新峰會(huì)于28日在北京召開。會(huì)上,火山引擎發(fā)布了大模型服務(wù)平臺(tái)“火山方舟”,面向企業(yè)提供模型精調(diào)、評(píng)測(cè)、推理等全方位的平臺(tái)服務(wù),希望打通大模型上下游鏈條,共建“多模型”行業(yè)生態(tài),共同服務(wù)好千行百業(yè)。
火山引擎總裁譚待以《多云多模型,迎接體驗(yàn)創(chuàng)新的新時(shí)代》為主題,分享了火山引擎在大模型領(lǐng)域的洞察與探索。未來的大模型市場(chǎng)將是一個(gè)百花齊放的多模型生態(tài),企業(yè)自身對(duì)大模型的應(yīng)用將會(huì)呈現(xiàn)“1+N”的模式。
圖片來源: 火山引擎,下同
如何做好、用好大模型?一直以來,火山引擎致力于通過云和智能技術(shù),幫助企業(yè)實(shí)現(xiàn)更好的數(shù)字化增長(zhǎng)。火山引擎將云上增長(zhǎng)的動(dòng)力總結(jié)成了3個(gè)核心要素,即“體驗(yàn)創(chuàng)新”、“數(shù)據(jù)驅(qū)動(dòng)”和“敏捷迭代”。
譚待認(rèn)為:“在云上增長(zhǎng)三要素中,‘體驗(yàn)創(chuàng)新’能夠直接為企業(yè)創(chuàng)造巨大的用戶價(jià)值和商業(yè)價(jià)值。回顧歷史,每次技術(shù)大變革,都會(huì)帶來體驗(yàn)創(chuàng)新的巨大機(jī)會(huì)。現(xiàn)在,大模型已經(jīng)當(dāng)仁不讓地捧起了技術(shù)創(chuàng)新和體驗(yàn)創(chuàng)新的接力棒。”
大模型的語言對(duì)話能力,第一次能夠讓機(jī)器去適應(yīng)和理解人類的交互方式。大模型以seq2seq(Sequence-to-Sequence,序列到序列)的預(yù)測(cè)為基礎(chǔ),語言、圖像、視頻、計(jì)算機(jī)操作和指令都可以序列化,這也讓大模型在各個(gè)行業(yè)落地呈現(xiàn)出成千上萬種可能性。
火山引擎總裁譚待
目前,國(guó)內(nèi)的大模型市場(chǎng)呈現(xiàn)出如火如荼的態(tài)勢(shì)。做好大模型,算法、數(shù)據(jù)和算力三要素缺一不可,安全與信任、性價(jià)比、生態(tài)系統(tǒng)等問題也一樣值得關(guān)注。安全與信任指的是雙向信任,大模型服務(wù)商希望模型方案和代碼不被泄露;模型的應(yīng)用企業(yè)也需要保障調(diào)用大模型時(shí),自身Prompt或精調(diào)數(shù)據(jù)不被泄露。
性價(jià)比方面,從更長(zhǎng)的時(shí)間維度來看,后期模型推理計(jì)算才是成本更高的環(huán)節(jié)。只有推理成本足夠低,才能讓大模型被廣泛使用。生態(tài)系統(tǒng)方面,生成式模型并不清楚自身所擅長(zhǎng)的領(lǐng)域。因此需要被告知其自身優(yōu)劣勢(shì),并在其不擅長(zhǎng)的地方提供下游模型、API和插件。
此外,企業(yè)應(yīng)該如何用好大模型,設(shè)計(jì)好企業(yè)在智能時(shí)代的技術(shù)路線?譚待認(rèn)為,選擇合適的大模型、做好提示工程、對(duì)接好插件和工具鏈,是三個(gè)關(guān)鍵。
火山引擎總裁譚待
首先,在選擇合適的大模型之前,需要制定可量化的評(píng)估指標(biāo)。是關(guān)注模型的邏輯推理能力?還是文本生成能力?還是風(fēng)險(xiǎn)控制能力?有了量化的評(píng)估指標(biāo)作為依據(jù),就可以針對(duì)不同的模型進(jìn)行全方位的能力測(cè)評(píng),選擇性價(jià)比最合適的。
然后,需要做好提示工程(Prompt Engineering)。可以讓Prompt盡可能全面地包含詳細(xì)的任務(wù)內(nèi)容、相關(guān)信息和說明。也可以通過Few-Shot Prompt的方式,盡可能地給大模型一些樣本和示例。或者通過“step by step”這樣CoT的方式,進(jìn)一步加強(qiáng)模型的性能。
最后是對(duì)接好插件和工具鏈。大模型自己并不知道自己擅長(zhǎng)什么,不擅長(zhǎng)什么。所以需要通過工具并且?guī)椭Ｐ驮诤线m的場(chǎng)景下更好地使用它們,帶來更好的應(yīng)用效果。
