百度文心一言將在3月16日發布，類ChatGPT大模型之間的商業落地戰已經開啟。人工智能落地就像一座大冰山，產業落地“最后一公里”只是浮在海面上的那個冰山一角。目前圍繞“冰山之下”的種種布局和競爭早已開啟，實際上頭部企業已經進入備戰狀態。

　　類ChatGPT大模型之間的商業落地戰已經開啟。

　　僅在開放測試3個月后，3月2日，OpenAI宣布，對外提供ChatGPT的API接口，允許開發者將其集成到自己的應用和服務中。

　　同時，價格還直接打了個骨折。此前一個月，微軟已開始拜訪客戶，向企業推廣旗下云平臺Azure提供的OpenAI調用服務。

　　在國內，百度文心一言將在3月16日發布。此前百度已密集與400多家企業達成戰略合作，百度智能云也已官宣，將對外提供文心一言的調用服務。

　　但人工智能應用落地就像一座大冰山，產業落地“最后一公里”只是浮在海面上的那個冰山一角。落地成敗將取決于冰山之下自底而上的層層技術棧，以及人工智能研發運營一體化(MLOps)。其中任何一環沒有做好，產業落地都很難實現。

　　如今，圍繞“冰山之下”的種種布局競爭也早已開啟，頭部企業進入備戰狀態。

　　01

　　一個模型和它的產業化之旅

　　過去幾年，在一批行業人士眼中，某種程度上人工智能在產業中的落地在變慢。“我們每年可以發表幾萬篇論文，但卻很難做出幾萬個好案例。”一位行業人士感嘆。

　　這其中最本質的原因是AI開發范式，它在很大程度上決定了產業落地的成本。當人工智能人士王曄還在IBM Research工作時，業界針對每一個AI應用，都要堆一批全棧算法工程師，從頭到尾做一遍算法開發。這種方式是行不通的。因為它人力成本高，嚴重依賴AI算法研究者;數據標注和訓練成本高，占到AI項目的60%~80%;算力成本也高。

　　于是，在過去10年，業界一直在尋找人工智能開發落地新范式，想擺脫人力密集的狀況。先是10年前，開始探索一種預訓練模型+微調的開發范式。從2017年開始，隨著大模型理論的提出，AI開發進入第三種范式。國外如OpenAI、谷歌，國內如百度、華為，通過數以千億級的token(字符串)、上億級圖文、上千個節點來訓練大模型。有了通用大模型，再疊加行業數據變成行業大模型，之后用少量數據就可以得到場景模型。

　　“我們認為這是一種基于大模型的新應用范式。”幾年前開始轉向2B市場的百度AI中臺總監忻舟告訴數智前線。業內認為，預訓練大模型和AIGC(人工智能生成內容)將有望帶領產業落地走向下一個拐點。它極大降低了開發和產業化門檻，現實中大量高價值和長尾問題，都能一站式解決。

　　不過，不管開發范式怎么變化 ，人工智能開發落地的流程長且復雜，缺乏規范，無論小模型、中模型還是大模型的落地，都面臨大量實際問題。

　　比如，內部場景挖掘難。百度AI中臺總監忻舟去拜訪銀行客戶時，被客戶問的最多的是“別的銀行做過什么場景，能不能給我們也做一遍?”再如，成本高企。僅數據標注，動輒就能花掉企業幾千萬甚至幾個億。百度AI中臺產品架構師靳偉舉例，一張小小的增值稅發票，人工標注就要15元。AI開發工具門檻高。尤其是央國企對自主可控訴求越來越多，他們要求人工智能平臺要降低開發門檻。

　　此外，還有集成部署、龐雜的系統對接、數據安全、效果評估、風險管控......人工智能落地就像一座大冰山，實際上，要想讓模型在產業中發出“洪荒之力”，就更要關注冰山之下，它的層層技術棧，各種模態的預訓練大模型，各種海量數據集，各種評測方法，以及開發運維規范和工具。沒有這些從底到上的支撐，冰山將會崩解。所以，近兩年，人工智能研發運營一體化(MLOps)在AI產業界廣受關注。

　　什么是MLOps?它是一套方法論和實踐指南，覆蓋了AI開發運營的全生命周期管理，解決的是AI工程化的事。百度智能云主任架構師謝永康把AI模型比作一輛汽車的“發動機”，但只有發動機無法滿足出行需求。AI工程化就是圍繞“發動機”去開展一系列工程，如數據采集、模型開發、服務部署、運營評估、迭代優化等，讓“發動機”最終變成一輛“車”，在場景中發揮價值。而MLOps提供的實踐指南，讓這個過程變得高效平順。

　　02

　　人工智能研發運營標準推出

　　在做了不少人工智能產業化落地后，忻舟感受到，原來被認為人工智能三大核心的算法、數據、算力，“其實只是核心的一小部分，人工智能落地是個龐大復雜的過程，有一大堆工程性和流程性的工作”。這個流程很長，每一個環節出現問題，都會導致最終效果與預期相差甚遠。

　　面對人工智能產業化出現的各種急迫問題，2022年，中國信息通信研究院聯合30家頭部企業，包括百度、華為云、商湯、中國電信、中國工商銀行等展開了MLOps標準編制工作。

　　“這就像我們日常生活中的ISO9001質量管理體系一樣。”忻舟告訴數智前線。MLOps源自實踐，這次標準制定更像是將散落在“民間”的實踐，提煉并體系化、規范化。百度也在此過程中，將曾趟過的坑以及產業落地的經驗，都貢獻到了標準中。

　　百度智能云的AI中臺解決方案符合MLOps標準，并通過了信通院旗艦級認證。這意味著百度智能云AI中臺在AI開發的服務能力和管理能力均達到國內領先水平。

　　目前，國外頭部公司如微軟、谷歌，也在MLOps展開布局競爭，推出類似平臺。不過，忻舟認為，不像傳統軟件開發的DevOps，MLOps國內外幾乎處于同一起跑線，國內有機會做得更好。

　　有了MLOps標準和實踐，企業在AI落地的每個環節上都變得有章可循，可以少走彎路，AI開發和運營的整體效能得到提升，并降低了成本，保障了質量。

　　比如，銀行客戶追問場景的事情，MLOps有環節支撐。如預制場景，相當于是預制菜，當預制一個通用票據識別場景后，可以為客戶提供“樣板”，在此基礎上，客戶再做一些細微調整，就可以用在銀行票據、回單、發票識別等不同細分場景。

　　針對企業CEO關注的成本，MLOps也有辦法。人工智能在哪些地方最能吞金?業界共識是數據標注、模型訓練和推理這三塊。以數據標注為例，現在，符合MLOps規范的百度AI中臺，提供了智能標注，標注成本節省了70%，一些情況下甚至節省90%。

　　再如，模型上線后也不是萬事大吉了。幾年前，山東電力引入了人工智能系統，對電力供給側與需求側進行精細化匹配，避免“電有時多得用不掉，有時又少了沒電用”。但人工智能模型在運行過程中，會隨環境變化，出現漂移，就沒法實現供需側精準匹配了。MLOps有模型效果監測環節，自動檢測模型，并回溯查找原因，收集新數據進行訓練，保障模型的效果。

　　模型風險管理也是重要一環。在與銀行的合作中，靳偉他們發現，這對金融行業尤為重要，于是研發產品，將全過程自動化地記錄下來，必要時重現回塑。這些產品和規范最終也沉淀到MLOps中。

　　大模型出來后，也給行業帶來新挑戰。大模型猶如龐然大物，每做一次微調，都幾乎要消耗幾百萬元。針對大模型的所有微調都會慎之又慎，這也更需要MLOps實踐指南的指導和協助。

　　而針對大模型未來的加速落地，忻舟透露，百度計劃在2023年下半年在業界陸續推出符合MLOps標準的完整工具鏈，包括數據準備、數據質量控制、中間效果分析、模型可解釋性工具、模型的量化、壓縮等配套工具，從而讓大模型，包括即將推出的文心一言，能快速在產業落地。

　　03

　　冰山之下

　　你可能想象不到，業界一個重大的變化發生在2021年。這一年，AI場景的算力增速已遠超算力的平均增速。業界多個市場調研公司也預測，到2026年，AI算力將占到整個算力的50%。

　　忻舟他們早已感知到了這個變化。“我兩三年前去某央企時，他們整個集團好幾萬人當中，所有做人工智能相關的人只有45位。但現在你到任何一個部門，都有幾十位做人工智能。”

　　行業正在掀起數智化浪潮，MLOps也正在發揮更大的作用。在百度，通過MLOps旗艦認證的AI中臺，是通過AI大底座對外提供服務的。

　　什么是AI大底座?它是一個包含從芯片、框架、到大模型再到應用的AI生產全要素的AI基礎設施，因此可以進行端到端優化。它實際上支撐了AI落地的最后一公里。而通過MLOps賦能，AI大底座能更有質量地推動AI產業化。

　　具體而言，AI的底座的芯片層的是昆侖芯，聚焦解決算力問題。它是百度自研的人工智能芯片，100%自研XPU架構。就像蘋果芯片和軟件的結合能讓蘋果產品更為順滑，昆侖芯在設計時要考慮大模型核心網絡結構Transformer，以及未來可能的變種，從而更順滑地處理大模型。

　　昆侖芯之上是框架層——深度學習框架飛槳，它是人工智能時代的操作系統，是連接底層芯片和上層算法的中間層。飛槳在大模型并行訓練上，申請了專利，有更好的大模型訓練效能。值得關注的是，人工智能所比拼的生態，歸根到底是框架的生態。

　　飛槳之上是文心大模型。大模型是數據、算力和算法的集大成者，只有在這三個維度上深入積累，才能誕生優秀的大模型。文心一言就是基于文心大模型而生。

　　在大模型之上，是各種產業AI應用生態。

　　百度是全球為數不多、進行全棧布局的人工智能公司，各個層面都有領先的關鍵自研技術，可以實現端到端優化，大幅提升效率。

　　以能源領域為例，對高壓線纜進行巡檢是必不可少的工作，但很多高壓線纜處于深山密林中，巡檢人員很難進去，并且巡檢人員需要爬上線纜做各種各樣的檢查，非常危險。基于AI大底座，百度幫國網福建建設了AI中臺，在此基礎上，協同打造電力大模型，構建了AI電力關鍵業務數據的全鏈條智能處理能力。這一方法已幫他們將識別準確率提升了30%，識別效率提升了5倍。變電端效率提升了40—60倍，啟動送電時間縮短了80%。另外，由于不同省市自然環境不一樣，借助AI大底座，將其他地方收集的數據，灌到大模型中，實現了對通用大模型和具體到場景中模型的再訓練，加強了大模型泛化的能力。

　　忻舟看到，有更多的人投身人工智能行業，也有更多的人工智能人士進入傳統行業。未來，在大模型時代下，人們對于規律的發現方式和協作方式，將可能被刷新。在AI大底座的協助下，在科技界和產業界的協作下，千行百業中那些主流的、長尾的、高頻的、低頻的場景和數據，將在虛擬空間實現鏈接，生出巨大價值。