為了幫助全球開發者、企業更好的開發定制大模型和生成式AI產品，例如，聊天機器人、編程代碼助手等。

　　NVIDIA宣布推出了NeMo Curator、NeMo Customizer和NeMo Evaluator等微服務的早期訪問計劃。這些微服務涵蓋了從數據整理、定制到評估的所有開發階段，簡化了用戶構建自定義生成式AI模型的流程。

　　NVIDIANeMo是一個端到端的平臺，可用于在任何地方開發定制的生成式AI，包括用于訓練、微調、檢索增強生成、防護欄、數據策劃和預訓練模型的工具。它在技術堆棧的各個層面提供服務，從框架到高級API端點。

　　作為NVIDIA CUDA-X微服務的一部分，NeMo API端點是建立在NVIDIA庫之上的，為企業提供了一個簡單的路徑，可以開始構建定制的生成式AI。

　　在早期訪問計劃中，開發人員可以請求訪問NeMo Curator、NeMo Customizer和NeMo Evaluator微服務。這些微服務共同使企業能夠構建企業級定制生成式人工智能，并更快地將解決方案推向市場。

　　NeMoCurator微服務幫助開發人員篩選數據進行預訓練和微調，而NeMo Customizer則實現微調和對齊。最后，借助NeMo Evaluator，開發人員可以評估這些模型與學術或自定義基準的對比情況，并確定改進的方向。

　　NeMoCurator是一種可擴展且支持GPU加速的數據整理微服務，用于為預訓練和定制生成式AI模型準備高質量數據集。Curator簡化了數據整理任務，如數據下載、文本提取、清洗、質量過濾、精確/模糊去重以及多語言下游任務凈化。

　　NeMoCustomizer是一個高性能、可擴展的微服務，簡化了特定領域用例的大語言模型的微調和對齊。該微服務支持兩種流行的參數高效微調技術LoRA和p-tuning。

　　此外，為了幫助開發者評估定制大模型，英偉達NeMo Evaluator(評估器)可自動評估各種學術和定制基準上的定制生成式AI模型，適用于任何云或數據中心。

　　NeMoEvaluator支持通過一組選定的學術基準進行自動評估，包括超越模仿游戲基準(BIG-Bench)、多語言、大型代碼評估工具和毒性。

　　支持對自定義數據集進行評估，NeMoEvaluator提供的指標包括準確率、召回率導向的摘要評估(ROUGE)、F1和精確匹配。還可以利用大語言模型作為評判標準，對模型響應進行全面評估。

　　開發人員通過使用 NVIDIA API 目錄中支持的任何 NVIDIA NIM 支持的大語言模型來評估 MT-Bench 數據集上的模型性能。