ChatGPT 等生成式人工智能服務的流行激發了人們將這些新工具應用于實際企業應用程序的興趣。如今，幾乎每個企業應用程序都通過生成式人工智能功能得到增強。

　　大多數人工智能、數據科學、機器學習開發、部署和運營工具都支持生成式人工智能用例。這些工具的各種風格有助于管理人工智能開發生命周期、管理人工智能開發的數據并降低安全和隱私風險。盡管這些功能也可用于改進生成式 AI 開發，但本文重點介紹生成式 AI 專用工具。

　　還有許多新興類型的生成式 AI 不使用如此大型的語言模型 (LLM) 來執行生成等任務圖像、視頻、音頻、合成數據以及跨語言翻譯。這包括使用生成對抗網絡、擴散、變分自動編碼器和多模態技術構建的模型。

　　考慮到這一點，以下是有關生成式 AI 開發工具的頂級類別及其與一些領先供應商或開源實現的功能的更多詳細信息。還值得注意的是，許多領先的供應商開始通過收購或開發來擴展其核心產品以支持多個類別。雖然許多現有工具支持特定類別，但企業在規劃其生成式 AI 策略時可能希望探索直接或通過集成市場支持這些功能的頂級平臺功能.

　　1. 基金會模型和服務

　　新的生成式 AI 工具在很大程度上側重于簡化開發和負責任地使用使用 Google 首創的 Transformer 方法構建的 LLM2017年的研究人員�；�于LLM構建的新基礎模型通常可以直接開箱即用，以增強現有應用程序。在其他情況下，供應商正在為各個行業和用例開發特定于領域的模型。

　　頂級基礎模型和服務的例子包括Anthropic的Claude、百度研究院的文心一言、Cohere的Generate、Facebook的Llama系列、Google的Palm、微軟的Palm Orca、OpenAI 的 GPT 系列和技術創新學院的 Falcon LLM。頂級特定領域LLM包括 C3AI;DeepMind 的 AlphaCode;谷歌的 Med-Palm; Nvidia的NeMo、BioNeMo和Picasso;和 OpenAI 的 Codex。

　　2.云生成AI平臺

　　各大云平臺也推出了一套生成式 AI 功能，幫助企業開發、部署和管理生成式 AI 模型和功能。云提供商生成式 AI 平臺包括 AWS Generative AI、Google Generative AI、IBM Watsonx 和 Microsoft Azure AI Fundamentals。用于在云中開發生成式 AI 的熱門第三方生成式 AI 開發平臺包括 Hugging Face 和 Nvidia 的產品。

　　3.用例優化工具

　　通用基礎模型可以生成聽起來權威且清晰的文本。他們還傾向于產生幻覺并產生不準確的信息。生成式人工智能專用開發工具還可以幫助企業推出自己的法學碩士，根據其獨特的需求和專業知識進行調整。檢索增強生成 (RAG) 可以啟動基礎模型以提高準確性。微調工具幫助企業校準基礎模型。 RAG 和微調工具有時會一起使用，以平衡每種方法的收益。

　　頂級 RAG 工具包括 ChatGPT 檢索插件、Hugging Face Transformers 插件以及 Farm、Haystack 和 Realm 等開源工具。微調功能已融入到服務中，以訪問大多數商業基礎模型。其他第三方微調工具包括 Entry Point 和 SynthFlow(以前稱為 Fine-Tuner)，以及來自 Hugging Face 的可與開源模型配合使用的產品。

　　4. 質量保證和減輕幻覺工具

　　新的幻覺檢測工具可以幫助識別和減少各種用例的幻覺發生率。頂級的幻覺緩解工具包括伽利略實驗室的LLM Studio、Helix3實驗室Glen、TruEra 的 TruLens 和 Vectara 的 Vectara 平臺。

　　啄木鳥算法等新的研究技術可以幫助有興趣開發自己的幻覺緩解工作流程的企業。許多供應商已經發布了這些的開源變體，包括 Galileo Labs 的開源版本。 ChainPoll、TruEra 的 TruLens 和 Vectara 的 Hughes 幻覺評估模型。

　　5. 快捷的工程工具

　　及時的工程工具有助于管理與LLM的互動以及法學碩士的測試。這些工具的面向用戶的變體使得開發和管理有用提示庫變得更加容易。以工程為導向的變化有助于自動化測試流程，以識別偏差、毒性或幻覺。

　　頂級提示工程工具包括 BetterPrompt、OpenPrompt、PromptAppGPT、Prompt Engine 和 Promptimize。

　　6. 數據聚合工具

　　早期基礎模型支持有限的上下文窗口，這些窗口描述了 LLM 在一次查詢中可以處理的數據量。盡管這些模型在處理更大的上下文窗口方面做得越來越好，但開發人員已經制作了各種類型的工具來處理更大的數據集。

　　LangChain 和 Dust 等數據鏈工具可以自動化將多個文檔輸入到法學碩士的過程。矢量數據庫以中間格式存儲數據，稱為嵌入空間，以便與法學碩士一起使用。值得考慮的頂級載體數據庫包括 Chroma、Faiss、Pinecone Systems 等。 Pinecone、Qdrant 和 Weaviate。

　　7. 代理和自主人工智能工具

　　開發人員還在探索如何在一個或多個基礎模型以及它們可能涉及的后端服務之間實現自動化交互。從長遠來看，這可能有助于推動代理人工智能或自主人工智能的發展。自主和代理人工智能工具包括 AgentGPT、AutoGPT、BabyAGI 和 OthersideAI 的自運行計算機框架等開源工具。平臺供應商還推出了新服務，以集成跨多個 LLM 模型和服務的工作流程。

　　8. 生成式人工智能成本優化工具

　　AI成本優化工具有助于在性能、準確性和成本之間取得最佳平衡。這些工具仍處于開發早期，但早期的一個例子是 Martian 的模型路由器。從長遠來看，現有的云成本優化領導者可能會開發相關產品。