最有錢、也最肯在科技上花錢的金融業，怎么落地大模型?

　　文|周享玥

　　ChatGPT問世以來，立刻在金融業引發了焦慮感，這個對技術有信仰的行業唯恐被一個飛奔中的時代洪流甩在身后。這種焦灼氛圍，甚至一度卷到清凈的寺廟。一位業內人士告訴數智前線，她在5月份去到大理出差時，在寺廟里都能碰到和她談論大模型的金融人。

　　不過，這種焦慮正在慢慢歸于尋常，大家的思路也開始清晰和理性。軟通動力銀行業務CTO孫洪軍向數智前線描述了今年金融業對大模型態度的幾個階段：二三月，大家都很焦慮，怕落后;四五月，紛紛組建團隊去做;之后幾個月，大家在找方向、落地上遇到了困難，開始變得理性;現在，他們看標桿，把驗證過的場景拿來試用。

　　一個更新的趨勢是，不少金融機構都已將大模型從戰略層面重視起來。據不完全統計，A股上市公司中，至少有工商銀行、農業銀行、中國銀行、交通銀行等11家銀行，都已在最新半年報中明確提出正在探索大模型的應用。從近期動作看，他們也正在從戰略層面和頂層設計層面有更清晰的思考和路徑規劃。

　　01

　　從熱情高漲到理性回歸

　　“比起幾個月前，現在能明顯感覺金融客戶對大模型的理解好了很多。”一位大廠金融行業資深人士告訴數智前線，年初ChatGPT剛出來時，大家的熱情雖高，但對于大模型究竟是什么、該怎么用，其實了解得非常有限。

　　這一階段，一方面一些大行率先行動，開始做各種“蹭熱度”的宣傳。比如早在今年3月，農行上線了類ChatGPT的大模型應用ChatABC。但業界評價不一。其時，一度有人認為，ChatABC這個名字強調了ChatGPT里不那么重要的Chat，反而忽略了GPT這個真正重要的部分。

　　另一方面，隨著百度等多家廠商陸續發布大模型，一些頭部金融機構的科技部門開始積極去跟大廠談論大模型建設的事情。上述資深人士透露，這些金融機構的普遍訴求是，要自己去做一個大模型，希望廠商告訴他數據集怎么做，買多少服務器，怎么去訓練。建行旗下的金融科技公司建信金科甚至提出，完成后是不是還能去做一些同業輸出。

　　5月份以后，情況逐漸變化。受制于算力資源緊缺、成本高昂等大背景，很多金融機構開始從單純希望自己建算力、建模型，轉變到更加關心應用的價值。“現在每一家金融機構都在關心其他人用大模型做了什么，實現了怎樣的效果。”

　　具體到不同規模的企業，也分出了兩條路徑。手握海量金融數據和應用場景的大型金融機構，可引入業界領先的基礎大模型，自建企業大模型，同時采用微調形式，形成專業領域的任務大模型，快速賦能業務，以彌補大模型建設周期過長的缺點;而中小金融機構可綜合考慮ROI，按需引入各類大模型的公有云API或私有化部署服務，直接滿足賦能訴求。

　　不過，由于金融行業本身對數據合規性、安全性、可信性等存在高要求，部分人士認為，這一行業的大模型落地進展，實際略滯后于年初預期。軟通動力孫洪軍介紹，他們最初預測金融行業可能會最先大規模使用大模型，但從最終對接客戶的情況來看，金融行業不如法律、招聘等行業走得快。

　　一些金融機構已經開始想辦法，解決大模型落地過程中的各種“桎梏”。

　　比如在算力方面，業內人士觀察，金融業目前涌現出了幾種解決思路：

　　其一，直接自建算力，成本相對高昂，但好處是安全性足夠高。適用于實力雄厚、希望自建行業或企業大模型的金融機構，典型如建行、工行等國有大行。

　　知情人士告訴數智前線，為了搭建算力，建行在前不久剛下單了一筆H800的算力大單。

　　其二，算力混合部署，即在敏感數據不出域的情況下，接受從公有云上調用大模型服務接口，同時通過私有化部署的方式處理本地的數據服務。這種方式成本相對較低，只需投入幾十萬元買上幾張卡即可滿足需求，適用于資金相對薄弱，只按需進行應用的中小型金融機構。

　　不過，即便如此，很多中小機構仍然會面臨買不到也買不起大模型所需的GPU卡的難題。針對這個問題，上述資深人士向數智前線透露，證監會最近正在進行一些課題研究，探索是否能夠以一種折中的方式，牽頭搭建一個面向證券行業的大模型基礎設施，集中算力、通用大模型等資源，讓行業里的中小金融機構也能用上大模型的服務，以防止它們“技術掉隊”。

　　不僅是算力上，隨著最近半年多大家對大模型的落地探索，不少金融機構也逐漸加強了對數據的治理。

　　騰訊云副總裁胡利明介紹，目前除了在數據治理領域有成熟實踐的頭部大行，越來越多的腰部金融機構也在開始陸續去構建數據中臺和數據治理的體系，像今年上半年的北部灣銀行、湖南農信等等，都是腰部機構。胡利明認為，構建一個完善的數據治理體系和數據湖技術平臺，將會是未來金融機構IT建設非常重要的主旋律。

　　也有銀行正通過大模型+MLOps的方式解決數據問題。比如農業銀行，通過采用MLOps模式建立大模型數據閉環體系，實現了整個流程的自動化，以及多源異構數據的統一管理和高效處理，據悉目前已構建和沉淀2.6TB高質量訓練數據集。

　　02

　　從外圍場景切入

　　過去半年多，不管是大模型的服務商們，還是各大金融機構，大家都在瘋狂找場景，智慧辦公、智能開發、智慧營銷、智能客服、智慧投研、智能風控、需求分析等都被一一探索。

　　正如螞蟻集團副總裁、金融大模型負責人王曉航在外灘大會所說，“金融業務鏈條上每一個關鍵職能，都值得用大模型技術重做一次。”螞蟻前不久剛發布了金融大模型，并正與螞蟻平臺合作機構內測共建面向金融產業的大模型產品支小助，目標是要為理財顧問、保險代理、投研、金融營銷、保險理賠等金融從業專家打造全鏈條的AI 業務助手。

　　每家金融機構，也都對大模型有著豐富的暢想和構思。建行稱內部已有20多個場景投放應用，農行說他們在30多個場景中進行了試點，廣發證券則表示，正在探索將大模型和此前推出的虛擬數字人平臺打通……

　　但當要真正將大模型落地進行業里，大家的一個共識是，先內部后外部。畢竟，當前階段而言，大模型技術并不成熟，比如幻覺問題，而金融行業卻是一個強監管、高安全、高可信的行業。

　　“短期內不建議直接對客使用。”中國工商銀行首席技術官呂仲濤認為，金融機構應優先將大模型面向金融文本和金融圖像分析理解創作的智力密集型場景，以助手形式，人機協同來提升業務人員工作質效。

　　胡利明也告訴數智前線，很多金融客戶都認為代碼助手和客服助手是前期能直接出一些成果的場景。而像投研、投顧等場景，價值很大，但很難快速出來效果，對數據的要求也高。

　　目前，代碼助手已在不少金融機構落地。比如工行，構建了基于大模型的智能研發體系，編碼助手生成代碼量占總代碼量的比值達到40%。又比如在保險領域，陽光保險研發了基于大模型的常青藤輔助編程插件，直接嵌入內部開發工具。

　　基于此，一部分廠商也在圍繞大模型代碼生成的能力，直接為金融客戶提供開箱即用的產品。軟通動力孫洪軍介紹，他們的一款產品，就是在大模型本身的代碼補全能力上，補充任務分解、精準回答、突破上下文限制等一系列工作，實現用戶的開箱即用。目前，該產品在匯豐銀行已為3000多人所使用，代碼自動補全率為50%~90%。

　　智慧辦公領域，也有不少落地案例。負責華為盤古金融行業大模型產品的祝博士介紹，他們基于盤古金融大模型推出的網點問答，7月在工行上線后，已經陸續推廣了幾百個網點，答案采納率超過85%。目前，文檔問答孵化成的標準解決方案，又快速復制到交行、農行、銀聯以及上交所等。

　　不過，業內人士判斷，這些已經廣泛落地的場景，實際都還不是金融機構的核心應用，大模型距離深入金融行業的業務層面還有一定距離。

　　“我們自己判斷，在業務應用場景這塊兒做的難度還是挺大的。”孫洪軍說，營銷、風控、合規等場景都是大模型可能帶來變革，同時也是金融客戶需求點所在的部分，但就目前的情況而言，這些工作，還要取決于底層大模型廠商們的能力提升情況，再去把業務場景做起來。

　　上述大廠大模型資深人士則向數智前線預測，到今年底之前，會有一批真正在金融機構核心業務場景里，用上大模型的項目建設或招標信息出來。

　　而在此之前，一些頂層設計層面的改變正在進行。

　　9月初螞蟻集團主辦的外灘大會上，復旦大學教授、上海市數據科學重點實驗室主任肖仰華做出這樣一個判斷：未來的整個智能化、數字化系統，都將重新建立在大模型的基礎之上。這就要求金融行業在推動大模型落地過程中，要重新架構系統。同時，也不能忽視傳統小模型的價值，而應該讓大模型、小模型協同起來。

　　這一趨勢已在金融行業得到廣泛體現。“現在金融機構試點做大模型，基本上會采取分層的模式。”胡利明介紹，不同于過去一個場景需要搭建一個平臺的煙囪化模式，大模型其實給了金融機構們一個從零開始，更加科學地去做整體的系統規劃的機會。

　　可以看到，目前已經有多家頭部金融機構，都已經基于大模型，搭建了包含基礎設施層、模型層、大模型服務層、應用層等多個層級的分層系統框架，如農行、華夏銀行、廣發證券、陽光保險等。

　　這些框架體系，普遍有兩大突出特點：其一，大模型發揮中樞能力，將傳統模型作為技能進行調用;其二，大模型層采用多模型策略，內部賽馬，選出最優效果。

　　實際上，不止金融機構，在當前格局未定的情況下，一些大模型應用提供商，也在采用多模型策略，優選服務效果。孫洪軍透露，軟通動力的底層模型層也融合了大量大語言模型，他們會根據每個大模型返回的回答，組裝優選后給到用戶。

　　03

　　人才缺口依然龐大

　　大模型的應用，已經開始對金融行業的人員結構帶來一些挑戰和變革。

　　此前，上海一家金融科技公司的人士曾告訴數智前線，隨著ChatGPT的出現，從今年初到5月底，他所在的公司已經裁掉了300多位大數據分析師。而在幾年前，這還是一個炙手可熱的職業。這一度引發他的焦慮，甚至開始提前考慮起自己女兒將來的擇業問題。

　　來自工行的金融領域資深人士，也分享了大模型對人的替代效應。工行原來每天早上都會有實習生將各方面的信息歸納匯總，再給到投研部門的人，但現在實習生的這些工作通過大模型即可完成。

　　不過，一些銀行其實并不希望大模型帶來減員。比如擁有20萬網點員工的工行，就明確向華為提出，他們不希望員工被大模型取代，而應該是大模型帶來新的機會，提升員工的服務質量和工作效率，同時也釋放出部分員工，做更多高價值的事情。

　　這其中不乏人員和結構穩定的考量。但另一方面，也是因為行內很多崗位還有人才缺口。

　　孫洪軍告訴數智前線，大行有一堆干不完的活，部分IT需求的工期甚至排到了明年年底，他們的期望是，大模型能助力員工干更多的活，把效率和速度“卷”起來，而不是帶來人員的縮減。

　　更重要的是，大模型的火來得又急又烈，短時間內，稀缺的人才供給難以匹配上激增的需求。這就好比當初iPhone手機剛出來時，大家想做應用，滿世界找一個iOS程序員，又貴又難。

　　9月初的一場金融科技大會上，中國農業銀行研發中心副總經理趙煥芳總結了金融行業目前在將大模型能力用到核心業務流程中會遇到的6大挑戰，其中之一正是人才。趙煥芳稱，他們最近招了一些新員工，同時也在做校招，一問是不是學AI這個領域的，占比非常高，再問大模型，“寥寥無幾”。

　　孫洪軍對此同樣深有體會，國慶前一周，他們才剛收到過一家銀行客戶的人才支援請求。這家銀行因自行搭建的大模型團隊中有一人需暫時請假，模型訓練工作一時面臨人手不足問題，不得不臨時對外尋求支持。

　　“現在這方面的人才確實很少，還需一定時間來進行培育。”孫洪軍認為，直接應用大模型的人才需求相對簡單，需要的是會提問題的人。但如果自建行業或企業大模型，則需要金融機構有一支精干得力的垂直大模型技術隊伍。

　　騰訊云副總裁胡利明也坦言，AI大模型這塊兒的人才缺口非常之大，頭部機構目前都在招一些AI專業相關人才，如算法博士等。這是因為，金融客戶雖然能從大模型廠商處獲得一定的技術支持，但他們畢竟才是最終的使用方和創新的主導方，需要一定的人才積累，來支撐它整個AI大平臺的構建，各項AI應用的規劃，以及在整個建模、調優和精調的過程中，和大模型廠商一起去做場景疊加、模型疊加等相關優化，不斷去拓展AI模型應用的面和效果。

　　一些玩家已經采取行動。華為祝博士介紹，他們專門聯合工行實驗室的人力資源團隊，梳理了大模型在企業應用的人員轉身實踐，設計出系列培訓課程，如Prompt調優、微調、大模型運營等，并與遠程銀行、UX設計、網點等部門合作，建立聯合項目組，驅動企業人員能力提升。

　　“大模型是半生品，離成品還差得很遠，必須是領域的人一塊努力才能做成成品。”一位業內資深人士總結稱，大廠的大模型會對企業現有傳統方面的才能帶來某種提升，但不會產生范式的改變，范式的改變必須是金融體系內部有一支隊伍要深入融合內部需求，做出很大的變量才有可能做出來。

　　值得一提的是，在這個過程中，金融機構的人員結構也會迎來一些調整和變革。“會用大模型的開發人員，肯定會比不會用的人，更容易在這個環境中留存下來。”孫洪軍說。