摘要:“大模型”無疑是2023年最熱的關(guān)鍵詞之一，隨著大模型概念的崛起和廣泛傳播，金融行業(yè)因被視作最優(yōu)落地場景也同步掀起了一輪熱潮。大模型究竟會給金融行業(yè)帶來什么？它會在何種程度上重塑技術(shù)和業(yè)務(wù)，會衍生出怎樣的商業(yè)價值？21世紀(jì)資管研究院調(diào)研了三十多家金融機(jī)構(gòu)和科技公司相關(guān)負(fù)責(zé)人，形成了這份《大模型重塑金融業(yè)態(tài)報(bào)告》，通過梳理機(jī)構(gòu)布局情況以及這些領(lǐng)軍者們的觀點(diǎn)，描繪行業(yè)發(fā)展趨勢。

21世紀(jì)資管研究院研究員李覽青、楊夢雪

在金融機(jī)構(gòu)基礎(chǔ)設(shè)施升級后，當(dāng)金融機(jī)構(gòu)決定嘗試大模型的落地應(yīng)用，擺在其面前的首要問題是，如何部署大模型從而享受其帶來的涌現(xiàn)能力與服務(wù)能力？

據(jù)21世紀(jì)資管研究院調(diào)研，大模型落地實(shí)現(xiàn)AI應(yīng)用的路徑有三個方向，一是基于現(xiàn)有開源大模型、基礎(chǔ)大模型進(jìn)行微調(diào)落地，二是與廠商聯(lián)合創(chuàng)新自研大模型，三是通過API接口接入商用大模型或通過外掛知識庫實(shí)現(xiàn)部分功能的使用。

但在企業(yè)AI應(yīng)用的架構(gòu)中，僅有大模型顯然是不夠的，大模型中間件、向量數(shù)據(jù)庫等基礎(chǔ)設(shè)施軟件迎來新風(fēng)口，而RPA技術(shù)也在與AI Agent融合后實(shí)現(xiàn)了新飛躍。

連接器:中間件

一直以來，金融機(jī)構(gòu)不同系統(tǒng)間的互聯(lián)互通與數(shù)據(jù)交換，都離不開中間件。如果說大模型是AI決策的“大腦”，那么中間件就是鏈接大腦與應(yīng)用場景之間的“四肢”。

作為位于AI應(yīng)用與大模型之間的中間層基礎(chǔ)軟件，這些組件在輸入輸出、數(shù)據(jù)轉(zhuǎn)換、模型部署時發(fā)揮重要作用，解決了大模型落地過程中資源調(diào)度、數(shù)據(jù)集成、模型訓(xùn)練、應(yīng)用集成、知識庫與大模型融合等問題。在解決大模型商用化問題方面，中間件行業(yè)再次受到市場關(guān)注。

一方面，在計(jì)算機(jī)“分層”架構(gòu)的基礎(chǔ)上，引入中間層，可以實(shí)現(xiàn)不同業(yè)務(wù)中技術(shù)共性與服務(wù)共性的凝練，從而簡化開發(fā)流程。雖然業(yè)務(wù)應(yīng)用系統(tǒng)開發(fā)的邏輯有差異，但基礎(chǔ)功能與系統(tǒng)服務(wù)是存在相似性的，基于這些相似性，可以盡可能凝練共性并復(fù)用，特別是在工程開發(fā)中基礎(chǔ)、底層、公用的服務(wù)邏輯，通過中間件包裝成簡單、一致、集成的開發(fā)環(huán)境，從而實(shí)現(xiàn)程序設(shè)計(jì)、功能與服務(wù)編排的簡化。大模型中間件的應(yīng)用，可以幫助企業(yè)迅速構(gòu)建出基于大模型的AI應(yīng)用。

可以說，大模型中間件解決了大模型落地的“最后一公里”，既為上層應(yīng)用訪問大模型與知識庫提供入口，也為大模型的應(yīng)用部署提供橋梁。

21世紀(jì)資管研究院在調(diào)研中了解到，目前大模型中間件的生態(tài)在底層的動態(tài)資源調(diào)度之外，還有以AI Ops為代表提供一整套工具，幫助機(jī)構(gòu)解決私有環(huán)境中大模型訓(xùn)練的工程問題，通過提供全自動化訓(xùn)練環(huán)境配置與構(gòu)建，以低代碼一站式完成數(shù)據(jù)接入、標(biāo)注、監(jiān)督微調(diào)、反饋強(qiáng)化學(xué)習(xí)和模型發(fā)布全流程，同時，可以支持?jǐn)?shù)據(jù)回流及模型的持續(xù)迭代。

記憶體:向量數(shù)據(jù)庫

在大模型“四肢”中間件之外，向量數(shù)據(jù)庫作為大模型的“記憶體”成為大模型時代的必備基礎(chǔ)設(shè)施工具之一。

向量數(shù)據(jù)庫是專門用于存儲和查詢向量的數(shù)據(jù)庫。在數(shù)學(xué)定義中，向量是有大小和方向的量，可以用帶箭頭的線段表示，箭頭指向代表向量的方向，線段的長度代表向量的大小，兩個向量之間的距離或相似性可以通過公式求得。到計(jì)算機(jī)領(lǐng)域，文本、圖像、語音、視頻等非結(jié)構(gòu)化數(shù)據(jù)的向量化，可以存儲到向量數(shù)據(jù)庫中，從而實(shí)現(xiàn)對非結(jié)構(gòu)化數(shù)據(jù)的相似性檢索與搜索。

無論是通用大模型還是金融行業(yè)經(jīng)過微調(diào)部署落地的垂直行業(yè)模型，都會出現(xiàn)信息時效性受限、大模型輸入token受限、算力不足以及胡言亂語的“幻覺”等問題。

在信息時效性方面，由于機(jī)器學(xué)習(xí)訓(xùn)練需要一段時間，在這段時間內(nèi)實(shí)時發(fā)生的資訊、新聞、市場行情等等快速變化，這些實(shí)時數(shù)據(jù)難以內(nèi)置到模型中，需要一個外部的工具來存儲這些實(shí)時信息，實(shí)現(xiàn)及時調(diào)用。

大模型的token限制是指，在大模型訓(xùn)練或推理時需要消耗大量計(jì)算資源，而這些資源是有限的，因此大模型輸入的token是有限的，一旦突破這個設(shè)置，模型就會忘記上下文。根據(jù)每個大模型算力能力與工程化難度的不同，其token輸入上限也有差異，如GPT-3限制2018個token、1024個漢字，GPT-4限制32000個token、16000個漢字。在輸入限制下，需要一個外掛工具來存放諸多歷史信息，為大模型提供長期記憶，避免上下文信息丟失等問題。

同時，向量數(shù)據(jù)庫對于大模型專用顯卡沒有強(qiáng)依賴性，通過優(yōu)化存儲與索引方式，就可以在普通的硬件上實(shí)現(xiàn)高效向量處理，在金融機(jī)構(gòu)算力有限的情況下，可以有效節(jié)約算力成本。

最后是大模型的“幻覺”問題。通用大模型出現(xiàn)“一本正經(jīng)的胡說八道”的情況，在要求絕對準(zhǔn)確的金融領(lǐng)域是不被允許的，在大模型精確度尚未達(dá)標(biāo)的情況下，需要外掛知識庫來補(bǔ)充大模型存在的知識缺陷，來使其可以給出準(zhǔn)確的答案與更實(shí)時化的信息。

此外，對合規(guī)要求最嚴(yán)格的金融行業(yè)而言，出于對用戶隱私數(shù)據(jù)與個人金融數(shù)據(jù)保護(hù)要求，向量數(shù)據(jù)庫的訪問權(quán)限設(shè)置也可以AI大模型將這些數(shù)據(jù)作為訓(xùn)練語料。

向量數(shù)據(jù)庫具備低延遲查詢、高可用、高性能、高擴(kuò)展性等特性，成為金融機(jī)構(gòu)部署大模型探索中的主流工具。特別是在圖像搜索、問答交互、文本分類、智能推薦、語義分析、模糊數(shù)據(jù)匹配等場景下，應(yīng)用前景廣泛。

未來人工智能新形態(tài):AI Agent

基于人工智能的RPA解決方案并不新鮮，金融機(jī)構(gòu)通過RPA技術(shù)，讓軟件機(jī)器人代替業(yè)務(wù)人員完成各類軟件系統(tǒng)操作與業(yè)務(wù)處理，實(shí)現(xiàn)業(yè)務(wù)流程鏈接與自動化處理，從而讓人工專注于更有價值的工作任務(wù)。RPA的應(yīng)用提高了員工的工作效率，減少了因人工疏漏導(dǎo)致的流程錯誤，也滿足了跨系統(tǒng)流程連接與數(shù)據(jù)集成的需求。

但在金融機(jī)構(gòu)的實(shí)踐過程中，RPA的落地應(yīng)用也存在挑戰(zhàn)，其中最核心的問題是，業(yè)務(wù)流程并不是按預(yù)期一樣一成不變的，面對動態(tài)業(yè)務(wù)環(huán)境，特別是對于不熟悉的場景，RPA可能出現(xiàn)崩潰，無法實(shí)現(xiàn)自適應(yīng)變化，使得業(yè)務(wù)流程的穩(wěn)定性難以保障。

AI Agent為RPA的進(jìn)一步智能化提供了新的解決方案。AI Agent是一種能夠感知環(huán)境、進(jìn)行決策、執(zhí)行動作的智能實(shí)體，相比傳統(tǒng)的AI，AI Agent可以通過獨(dú)立思考、調(diào)用工具來逐步完成給定目標(biāo)。這與原本大語言模型的學(xué)習(xí)能力一脈相承，基于GPT-4等大語言模型規(guī)劃與用戶設(shè)定的目標(biāo)，AI Agent可以在完成并添加新任務(wù)后，根據(jù)此前任務(wù)的結(jié)果為自己的工作流設(shè)置優(yōu)先級，同時調(diào)用“記憶”，基于歷史記錄存儲過去結(jié)果，在錯誤中學(xué)習(xí)更新知識，并自主調(diào)整任務(wù)。

這切中了傳統(tǒng)RPA機(jī)器人工作中的業(yè)務(wù)痛點(diǎn)。當(dāng)AI Agent+RPA，AI智能體獲得了不斷適應(yīng)變化環(huán)境的能力，同時可以學(xué)習(xí)并實(shí)時洞察業(yè)務(wù)流程，根據(jù)用戶需求自主完成工作流構(gòu)建，將動態(tài)決策自動編排進(jìn)入工作流程中，并主動執(zhí)行處理完成相應(yīng)的復(fù)雜決策。

未來，基于大模型驅(qū)動的AI Agent，被普遍認(rèn)為是人工智能應(yīng)用的新形態(tài)，相比于過去人工智能技術(shù)的相關(guān)應(yīng)用，AI Agent表現(xiàn)出驚人的自主性與智能性，數(shù)據(jù)顯示過去兩年間針對AI Agent的研究投入增幅達(dá)到300%。

21世紀(jì)資管研究院梳理各大銀行科技投入與科技人員數(shù)量發(fā)現(xiàn)，近兩年來銀行科技投入已開始出現(xiàn)下滑態(tài)勢，科技人員新增數(shù)量也逐步減少。在云平臺等基礎(chǔ)設(shè)施建設(shè)已初步完成后，下一步是釋放科技人員生產(chǎn)力。

AI Agent與RPA等傳統(tǒng)技術(shù)結(jié)合，應(yīng)用于金融服務(wù)的各類場景，以自主學(xué)習(xí)的能力可以及時解決非給定流程中的其他問題，在金融數(shù)據(jù)合規(guī)與隱私安全保護(hù)合規(guī)的情況下，有望成為金融從業(yè)人員與客戶未來的AI助手。

免責(zé)聲明：此文內(nèi)容為本網(wǎng)站轉(zhuǎn)載企業(yè)宣傳資訊，僅代表作者個人觀點(diǎn)，與本網(wǎng)無關(guān)。僅供讀者參考，并請自行核實(shí)相關(guān)內(nèi)容。