從ChatGPT到AI大模型私有化部署到底誰才是企業的技術救贖？

特邀专栏作者

2023-08-23 10:01

本文約2524字，閱讀全文需要約4分鐘

隨著LLaMa2等大語言模型顛覆了越來越多的生產領域，企業如何應用大模型、如何私有化AI部署成為熱度越來越高的話題。未來，AI大模型私有化部署的現狀與發展潛力如何？

Meta 在最近推出了免費開源商用、可以媲美GhatGPT 3.5 的自然語言大模型LLaMa 2 。除了宣布LLaMa 2 將免費開源商用之外，Meta 官方也公佈了一些關於LLaMa 2 的相關數據。在參數版本方面，LLaMa 2 一共提供了三種不同的版本，分別是70 億參數、 130 億參數以及700 億參數。

隨著像LLaMa 2 這樣的大型語言模型顛覆了越來越多的生產領域，企業如何應用大模型、如何私有化AI 部署成為了一個熱度越來越高的話題。近日，資金實力比較強的央國企和行業客戶正在找尋私有化大模型方案，幫助行業客戶構建基於行業專用數據的專用大模型，這是大模型商業落地的另外一種方式，也具備較大的市場空間。

目前許多公司可以佈局AI 大模型私有化部署，比如Contextual AI 正在進行企業私有化部署的增強生成（RAG）的技術研究，Cohere 也正根據客戶的要求訓練模型，再如Reka 公司的模型提煉技術為客戶提供業界領先的私有化代碼能力平台，大幅度提升企業的研發效率。 R 3 PO 本次來拆解這一賽道，與大家分享AI 大模型私有化部署的現狀與發展潛力。

一、企業的數字化未來離不開AI 大模型私有化部署

許多大型傳統企業，由於數據安全等方面的考慮，無法使用公有云的AI 服務。而這些企業的AI 基礎能力比較薄弱，缺少技術和人才的沉澱，但是智能化升級又是企業的剛需，甚至是迫切的需求，這時候借助AI 技術公司在企業內部進行AI 中台的私有化部署，是比較經濟而高效的策略。

騰訊湯道生近期在一次演講中指出：“通用大模型可以在100 個場景中解決70% -80% 的問題，但未必能夠完全滿足企業某個具體場景的需求。”通用大模型通常基於廣泛的公開文獻和網絡信息訓練，缺乏許多專業知識和行業數據的積累，因此在行業針對性和精準度方面存在不足。然而，用戶對企業提供的專業服務要求較高，容錯性較低，一旦企業向公眾提供了錯誤信息，可能會引發嚴重後果。通過基於行業大模型並結合自身數據進行精細調整，企業可以構建出高度可用的智能服務。此外，與通用大模型相比，專屬模型具有較少的參數，訓練和推理成本更低，模型的優化也更容易。

同時，行業大模型和模型開發工具可以通過私有化部署、權限管控和數據加密等方式，防止對企業敏感數據的洩露。此外，將大模型應用於實際場景還需要經過算法構建和模型部署等一系列環節，而每個環節都不能出現失誤。模型需要不斷迭代和調優，這需要使用系統化和工程化的工具。

二、AI 大模型私有化部署究竟有何意義？

近日，為企業提供大模型定制化處理服務的Reka 公司也獲得了5800 萬美元的融資，反映出企業私有化AI 模型這一市場正在逐漸擴大規模。

雖然像GPT-4 這樣的大型語言模型分析文本和生成文本的能力已經非常強了，但它們的訓練成本高且在垂直領域訓練困難，目前難以完成類似按照品牌風格撰寫廣告文案這樣的特定任務。在這方面，它們的“通用性質”反而成為了一種負擔。

針對企業垂直領域的應用與AI 的結合困難問題，企業私有化部署方案成為首選的解決之策。企業AI 私有化部署是將AI 技術從公共雲平台遷移到企業自有的私有基礎設施上的過程。這種部署方式使得企業能夠擁有更高的數據安全性和隱私保護，同時也更好地掌控和定制AI 應用。企業AI 私有化部署通常涉及構建內部AI 基礎設施、數據存儲和處理能力，以及擁有AI 專業人員來管理和運維整個系統。

Reka 公司在提及企業AI 私有化部署的必要意義時主要從以下五個方面展開了行業闡述：

l 增強數據隱私與安全性

通過在企業內部部署AI 系統，敏感數據不必離開企業的安全邊界，減少了數據洩露和安全漏洞的風險。這為企業處理涉及敏感信息的任務提供了更高的可信度和保護。

l 實現定制化和靈活性的提高

企業AI 私有化部署允許組織根據自身需求定制AI 應用程序。這種定制化能力使企業能夠更好地適應特定業務場景，並根據需要進行靈活調整和擴展。

l 高性能和低延遲

將AI 系統部署在企業內部基礎設施上，可以實現更快的數據傳輸和處理速度。這對於需要實時決策和快速響應的業務非常重要，提高了整體的效率和競爭力。

l 增加成本效益

儘管企業AI 私有化部署需要一定的初始投資，但長期來看，它可以在成本上產生積極影響。相對於長期依賴公共雲平台，企業私有化部署可以降低運營成本，並且更好地控制和規劃預算。

l 數據治理和合規性

企業AI 私有化部署使企業能夠更好地管理和控制數據治理，以滿足監管和合規性要求。這對於在涉及個人隱私保護和數據使用合規性方面的行業尤為重要。

三、個性化定制與優化：Reka 的模型提煉技術為企業推薦模型帶來巨大潛力

來自DeepMind、谷歌、百度和Meta 的研究人員成立了Reka 公司，該公司目前由DST Global Partners 和Radical Ventures 領投，戰略合作夥伴Snowflake Ventures 以及包括GitHub 前首席執行官Nat Friedman 在內的投資者也參與了此次融資。

Reka 目前已經開發了第一款商業產品Yasa。雖然沒有完全實現最初的目標，但Yasa 已經在定制化模型方面小有突破。 Yogatama 表示，Yasa 是一個多模態的AI 助手，經過訓練之後，除了單詞和短語之外，它還可以理解圖像、視頻和表格數據；另外，它還可以自動產生想法和回答基本問題，也可以對公司的內部數據發表一些自己的觀點。

與GPT-4 等模型不同的是，Yasa 可以很容易地針對專有數據和應用程序進行個性化處理。除了文本之外，Yasa 還是一個多模態人工智能“助手”，經過訓練，除了單詞和短語外，還可以理解圖像、視頻和表格數據。 Yogatama 說，它可以用來產生想法和回答基本問題，以及從公司的內部數據中獲得見解。

Reka 的下一步計劃是將注意力轉向可以接受和生成更多類型數據並不斷自我完善的人工智能，在不需要再培訓的情況下保持最新狀態。為此，Reka 還提供了一項服務，使其開發的模型能夠適應定製或專有的公司數據集，客戶可以在他們自己的基礎設施上或通過Reka 的API 運行定制化處理後的模型，這取決於應用程序和項目限制。