百度:“文心千帆大模型平臺”未來將成為大模型生產和分發集散地
新京報貝殼財經訊(記者孫文軒)5月9日下午,百度智能云在北京舉行文心大模型技術交流會。百度智能云方面表
(資料圖)
貝殼財經訊(記者孫文軒)5月9日下午,百度智能云在北京舉行文心大模型技術交流會。百度智能云方面表示,正在內測的“文心千帆大模型平臺”,是全球首個一站式企業級大模型生產平臺,不但提供包括文心一言在內的大模型服務及第三方大模型服務,還提供大模型開發和應用的整套工具鏈。
未來,文心千帆將提供兩種服務:第一,文心千帆將以文心一言為核心,提供大模型服務,幫助客戶改造產品和生產流程。第二,作為一個大模型生產平臺,企業可以在文心千帆上基于任何開源或閉源的大模型,開發自己的專屬大模型。現場,百度智能云與聯想集團、用友、寶蘭德等14家文心千帆生態伙伴舉行簽約儀式。
目前企業應用大模型面臨諸多難點:模型體積大,訓練難度高;算力規模大,性能要求高;數據規模大,數據質量參差不齊。百度智能云方面認為,大模型產業化需要云計算廠商將模型開發、訓練、調優、運營等復雜過程封裝起來,通過低門檻、高效率的企業級服務平臺深入產業,為千行百業提供服務。
百度集團副總裁侯震宇表示,文心千帆大模型平臺是全球首個一站式的企業級大模型平臺。之所以稱為全球首個一站式平臺,是因為它不但提供包括文心一言在內的大模型服務,還提供大模型開發和應用的整套工具鏈。此外,該平臺還支持各類第三方大模型,未來將成為大模型生產和分發的集散地。
目前,文心千帆大模型平臺提供公有云服務、私有化部署兩大交付模式。在公有云服務方面,將提供:推理(直接調用大模型的推理能力)、微調(通過高質量精標業務數據,高效訓練出特定行業的大模型)、托管(將模型發布在百度智能云,以實現更加穩定高效的運行)三種服務,大幅降低企業部署大模型的門檻。百度智能云AI與大數據平臺總經理忻舟在現場演示了如何微調大模型,這也是國內首次演示如何微調行業專屬大模型的全過程。文心千帆大模型平臺提供了可視化開發工具鏈,提供了數據生成、標注、回流的數據閉環管理功能。客戶以少量數據即可發起模型微調,最快幾分鐘就可獲得自己的專屬大模型。
在私有化部署方面,文心千帆大模型平臺支持軟件授權(提供在企業環境中運行的大模型服務)、軟硬一體(提供整套大模型服務及對應的硬件基礎設施)、租賃服務(提供機器和平臺的租賃滿足客戶低頻需求)三種方式。私有化部署能夠滿足對數據監管有嚴格要求的企業客戶需求。
此外,記者了解到,百度內部產品也正在基于文心一言升級。比如,百度員工內部的智能工作平臺“如流”現在增添了文心千帆AI小助手,可以代替同事自動回答各種問題,平均5秒就可以解答一個難題,大幅提升了工作效率。同時,百度智能云的金融行業應用、政務行業應用、智能創作平臺、智能客服、企業知識管理、數字人直播平臺等六大智能產品系列,將基于文心大模型全面升級,未來將在安全評估完成后上線。此外, 文心千帆大模型平臺面向首批企業客戶內測以來,正在與不同領域客戶聯合研發,在智能辦公、旅行服務、電商直播、政務服務、金融服務五大領域打造行業樣板間。百度集團副總裁袁佛玉表示:“截至目前,已有超過300家生態伙伴參與文心一言內測,在400多個企業內部場景取得測試成效。”
國內大公司紛紛推出大模型,對于企業來說,如何挑選一個合適的大模型成為新難題。在百度看來,企業選擇大模型可以從三個標準評判:大模型本身的能力、大模型企業服務的能力、全棧技術積累程度。