字節(jié)跳動旗下的火山引擎召開發(fā)布會，首次正式公布在大模型領域的研發(fā)布局和合作進展，并發(fā)布大模型服務平臺“火山方舟”，提供模型訓練、推理、評測、精調(diào)等全方位功能與服務。

“火山方舟”由字節(jié)跳動旗下火山引擎搭建，提供了一個大模型服務平臺，供開發(fā)者和企業(yè)使用。其運營模式是，在一個平臺內(nèi)提供多個模型，企業(yè)可同步試用多個大模型，選用更適合自身業(yè)務需要的模型組合。

對模型提供方，通過 “火山方舟”能夠以更低的成本觸達海量客戶，更小的代價在ToB市場實現(xiàn)規(guī)模化；嚴謹?shù)陌踩バ艡C制，兼顧靈活性與安全性；源源不斷的算力，形成最具競爭力的性價比。對模型使用者來說，通過 “火山方舟”可以便捷地接觸到眾多高質量的基座模型，一站式對接多家模型提供商，為不同場景選擇最合適的模型。

具體來看，“火山方舟”基于大模型應用的工作習慣，打造了多個核心部分。“模型廣場”會有不同的模型供應商提供不同版本和尺寸的模型，用戶可以直接與模型交互，調(diào)用推理API，接入生產(chǎn)環(huán)境；“模型評估”是“火山方舟”重點打造的環(huán)節(jié)入口，用戶可以基于業(yè)務需求設計一套可量化的評估指標，在模型評估后挑選最合適的模型；“模型精調(diào)”可以幫助客戶利用自有數(shù)據(jù)進行持續(xù)訓練，建設和積累自己的精調(diào)數(shù)據(jù)集，降低推理成本。

目前，抖音集團內(nèi)部已有十多個業(yè)務團隊試用“火山方舟”，在代碼糾錯等研發(fā)提效場景，文本分類、總結摘要等知識管理場景，以及數(shù)據(jù)標注、歸因分析等方面探索，利用大模型能力促進降本增效。這些內(nèi)部實踐在快速打磨“火山方舟”，推動平臺能力的進一步完善。

此外，為促進模型提供方和模型使用方的互信，“火山方舟”上線了基于安全沙箱的大模型安全互信計算方案，利用計算隔離、存儲隔離、網(wǎng)絡隔離、流量審計等方式，實現(xiàn)了模型的機密性、完整性和可用性保證，適用于對訓練和推理延時要求較低的客戶。