英偉達最新發布的430億參數大語言模型ChipNeMo專注于輔助芯片設計，旨在提高工程師的工作效率。這一大語言模型的應用范圍廣泛，包括問答、EDA腳本生成和Bug總結等任務，使芯片設計變得更加便捷。

　　英偉達首席科學家Bill Dally強調，即使提高生產率的幅度不大，使用ChipNeMo仍然是值得的。ChipNeMo的數據集包括Bug總結、設計源、文檔以及硬件相關的代碼和自然語言文本，經過數據采集、清洗和過濾后，共有241億個token。

　　英偉達采用了領域自適應技術，包括自定義標記器、領域自適應持續預訓練、帶有領域特定指令的監督微調等方法，以提升大語言模型在工程助理聊天機器人、EDA腳本生成和Bug摘要和分析等領域的性能。

　　結果顯示，這些領域自適應技術不僅提高了性能，還減小了模型大小，但仍有改進空間。英偉達的這一舉措標志著大語言模型在半導體設計領域的應用邁出了重要的一步，為專業化領域提供了有用的生成式AI模型。