一般而言，企業不會主動構建自有的云計算基礎設施是有原因的。過去十年，IT 基礎架構團隊試圖構建自己的私有云，因為他們認為與公共云相比，私有云會以性價比更高的方式支撐他們的業務。但事與愿違，最終花費在私有云上的的時間和成本都超過了預期，建成私有云以后反而需要更多的資源來對其進行維護，并且在安全和擴展方面都比公共云略遜一籌。這導致那些自建私有云的企業最終沒有更多的資源投資于核心業務，而是將大量的時間和人員投入到無法擴展業務需求的基礎設施上。

　　現在，許多企業通過各種開源工具(如 Apache Spark)生成解決方案，但對于 MLOps 的大多數行為都需要進行重復地手動操作。

　　這會導致模型部署需要數周甚至數月的時間、低效的運行時間(通過計算和所需時間運行的推理來衡量)，同時還缺乏對模型測試和監控的觀察。并且，所用方法過于定制化，無法為企業的不同部門的多個用例提供可擴展、可復用的業務流程。

　　誤診問題的案例

　　此外，通過與業務線負責人、首席數據分析官的對話得出這樣的結論，雖然組織雇用了很多的數據科學家，但并沒有看到任何回報。隨著研究的深入，他們會不斷提出各種問題，通過這些問題去識別人工智能面臨的困難和障礙。他們很快意識到關鍵問題在“最后一英里”——部署模型并應用于實時數據，有效地執行它們，這樣一來才能使收益大于成本，從而更好地衡量其性能。

　　為了解決業務問題和制定業務決策，數據科學家將數據轉化為模型。這一過程需要兩類技能的支持，其一是，構建出色模型所需的專業知識和技能;其二是，使用代碼在現實世界中推動模型，同時監控和更新模型的技能。然而這兩類技能卻完全不同。

　　正因為這種差異就有了ML 工程師的用武之地。ML 工程師負責將工具和框架進行集成，以確保數據、管道和基礎設施協同工作，在此前提下大規模生產 ML 模型。

　　那么，現在怎么辦?雇用更多的機器學習工程師?

　　即使擁有最好的 ML 工程師，企業在擴展 AI 時仍面臨兩個主要問題：

　　無法快速雇用 ML 工程師：對 ML 工程師的需求變得非常強烈，ML 工程師的職位空缺增長速度比 IT 服務增長的速度快了 30 倍。有時需要等待數月甚至數年來填補崗位空缺，由此MLOps 團隊需要找到一種高效的方式支持更多的 ML 模型和用例，而無需通過增加 ML 工程師的人數來滿足對ML應用的需求。但這一措施又會帶來了第二個瓶頸……

　　無論在何處以及如何構建模型，都缺乏部署模型的可重復、可擴展的最佳實踐：現代企業數據生態系統的現狀是，不同的業務部門根據數據和技術的要求會使用不同的數據平臺(例如，產品團隊可能需要支持流數據，而財務需要為非技術用戶提供簡單的查詢界面)。此外，數據科學還需要將應用分散到各個業務部門而不是集中應用。換句話說，不同的數據科學團隊中針對他們關注的用例(領域)都有一套特有的模型訓練框架，這意味著一刀切的訓練框架針對整個企業(包含多個部門/領域)而言是無法成立的。

　　如何從人工智能中獲得最大價值

　　為了提高自動化能力;為了提供大規模的用戶個性化體驗;為了兌現更準確、更精細、可預測的用戶承諾，企業已經向人工智能投入了數十億美元。但到目前為止，人工智能的承諾和結果之間存在巨大差距，只有大約 10%的人工智能投資產生了可觀的投資回報率。

　　最后，為了解決 MLOps 問題，首席數據分析官需要圍繞業務核心的數據科學構建自己的能力，同時也要投資其他的與 MLOps自動化相關的技術。這是常見的“構建與購買”困境，不僅從運營的角度(成本收益)去考量，更多地需要考慮人工智能投資在整個企業中滲透的速度和效率，以及是否通過更好的方式產生新的收入產品和客戶群，或通過提高自動化程度和減少浪費來削減成本。