數(shù)據(jù)交易導航網(wǎng)是一個數(shù)據(jù)要素市場相關(guān)的數(shù)據(jù)交易、數(shù)據(jù)管理、數(shù)據(jù)服務(wù)等數(shù)商企業(yè)商業(yè)生態(tài)導航平臺。
聯(lián)邦學習隱私計算開源平臺FATE (Federated AI Technology Enabler)正式發(fā)布聯(lián)邦大模型FATE-LLM功能模塊。通過將聯(lián)邦學習和大模型結(jié)合,F(xiàn)ATE-LLM在各參與方的敏感數(shù)據(jù)不出本地域的前提下,根據(jù)各方實際數(shù)據(jù)量進行算力投入,聯(lián)合進行大模型訓練。基于此技術(shù)方案,多個機構(gòu)可以通過FATE內(nèi)置的預(yù)訓練模型進行橫向聯(lián)邦,利用各自隱私數(shù)據(jù)進行聯(lián)邦大模型微調(diào),從而提升自身大模型應(yīng)用的效果。
近期發(fā)布的FATE-LLM為聯(lián)邦大模型初步版本,未來FATE開源社區(qū)還將針對聯(lián)邦大模型的算法、效率、安全等方面進行持續(xù)優(yōu)化,并持續(xù)推出后續(xù)版本,提升聯(lián)邦大模型的安全性、易用性和通用性。
在技術(shù)創(chuàng)新層面,聯(lián)邦大模型將有機會充分利用分散在各個組織的算力和數(shù)據(jù),融合聯(lián)邦學習和AIGC相關(guān)技術(shù),實現(xiàn)異構(gòu)數(shù)據(jù)分布式安全訓練。這將為自然語言處理,語音識別,機器視覺等AI領(lǐng)域帶來全新的技術(shù)范式。
在行業(yè)應(yīng)用方面,聯(lián)邦大模型未來將有機會重塑金融、零售、工業(yè)等多行業(yè)的數(shù)字化形態(tài)。相關(guān)應(yīng)用場景包括在金融領(lǐng)域的智能客服、內(nèi)容風控、金融資訊情感分析、文本意圖識別、營銷場景智能創(chuàng)意生成和優(yōu)化等。即使機構(gòu)自身擁有的數(shù)據(jù)量和算力可能不足,仍能發(fā)揮聯(lián)邦大模型的優(yōu)勢,安全合規(guī)地提升客服、營銷、風控的效果。