數(shù)據(jù)交易導(dǎo)航網(wǎng)是一個數(shù)據(jù)要素市場相關(guān)的數(shù)據(jù)交易、數(shù)據(jù)管理、數(shù)據(jù)服務(wù)等數(shù)商企業(yè)商業(yè)生態(tài)導(dǎo)航平臺。
字節(jié)跳動旗下的火山引擎召開發(fā)布會，首次正式公布在大模型領(lǐng)域的研發(fā)布局和合作進(jìn)展，并發(fā)布大模型服務(wù)平臺“火山方舟”，提供模型訓(xùn)練、推理、評測、精調(diào)等全方位功能與服務(wù)。
“火山方舟”由字節(jié)跳動旗下火山引擎搭建，提供了一個大模型服務(wù)平臺，供開發(fā)者和企業(yè)使用。其運(yùn)營模式是，在一個平臺內(nèi)提供多個模型，企業(yè)可同步試用多個大模型，選用更適合自身業(yè)務(wù)需要的模型組合。
對模型提供方，通過 “火山方舟”能夠以更低的成本觸達(dá)海量客戶，更小的代價在ToB市場實(shí)現(xiàn)規(guī)模化；嚴(yán)謹(jǐn)?shù)陌踩バ艡C(jī)制，兼顧靈活性與安全性；源源不斷的算力，形成最具競爭力的性價比。對模型使用者來說，通過 “火山方舟”可以便捷地接觸到眾多高質(zhì)量的基座模型，一站式對接多家模型提供商，為不同場景選擇最合適的模型。
具體來看，“火山方舟”基于大模型應(yīng)用的工作習(xí)慣，打造了多個核心部分。“模型廣場”會有不同的模型供應(yīng)商提供不同版本和尺寸的模型，用戶可以直接與模型交互，調(diào)用推理API，接入生產(chǎn)環(huán)境；“模型評估”是“火山方舟”重點(diǎn)打造的環(huán)節(jié)入口，用戶可以基于業(yè)務(wù)需求設(shè)計(jì)一套可量化的評估指標(biāo)，在模型評估后挑選最合適的模型；“模型精調(diào)”可以幫助客戶利用自有數(shù)據(jù)進(jìn)行持續(xù)訓(xùn)練，建設(shè)和積累自己的精調(diào)數(shù)據(jù)集，降低推理成本。
目前，抖音集團(tuán)內(nèi)部已有十多個業(yè)務(wù)團(tuán)隊(duì)試用“火山方舟”，在代碼糾錯等研發(fā)提效場景，文本分類、總結(jié)摘要等知識管理場景，以及數(shù)據(jù)標(biāo)注、歸因分析等方面探索，利用大模型能力促進(jìn)降本增效。這些內(nèi)部實(shí)踐在快速打磨“火山方舟”，推動平臺能力的進(jìn)一步完善。
此外，為促進(jìn)模型提供方和模型使用方的互信，“火山方舟”上線了基于安全沙箱的大模型安全互信計(jì)算方案，利用計(jì)算隔離、存儲隔離、網(wǎng)絡(luò)隔離、流量審計(jì)等方式，實(shí)現(xiàn)了模型的機(jī)密性、完整性和可用性保證，適用于對訓(xùn)練和推理延時要求較低的客戶。
