本文來自于微信公眾號 AIGC開放社區(ID:AIGCOPEN)，作者:AIGC開放社區。

　　生成式AI代碼開發平臺Phind在官網發布了最新V7版本，性能方面超越GPT-4，運行效率提升了5倍，并且支持中文和16K超長上下文。

　　據悉，Phind V7是基于Phind的開源代碼模型CodeLlama-34B V2，以及700億個高質量代碼和推理問題進行了額外精調。

　　CodeLlama-34B V2在huggingface(笑臉)的代碼大模型排行榜中位居第一名，這也是首個擊敗GPT-4的開源代碼項目。

　　Phind V7專業代碼開發平臺

　　Phind V7在HumanEval上的測試分數達到74.7%，成功超越了GPT-4在今年3月份的官方技術報告中公布的67%的成績。

　　但Phind發現，HumanEval的評分并不能準確地反映出大模型的實用性。

　　Phind將多個版本部署到自家服務平臺后，收集到了大量反饋信息，發現其模型在大多數真實問題上的表現與GPT-4相當甚至更好。

　　許多在其Discord社區的用戶已經開始只使用Phind的產品，盡管他們也訂閱了GPT-4。

　　除了性能超強之外，運行速度是Phind V7的一大技術亮點，通過在NVIDIA的新型TensorRT-LLM庫上運行模型，Phind成功實現了比GPT-4快5倍的運行速度，達到每秒處理100tokens。

　　另一個優點是Phind支持多達16k tokens的上下文。目前，Phind允許用戶輸入最多12k tokens，剩余的4k tokens用于網絡結果。

　　Phind V7精通Python、C/C++、TypeScript、Java等主流編程語言，使用界面也簡單直觀，直接輸入你的編程問題就能返回代碼。

　　例如，我們直接輸入中文提示:用python寫一個吃豆游戲的代碼。

　　Phind返回的注釋也都是中文，如果點擊三角按鈕可以直接在replit中運行非常方便。

　　支持多輪深度對話，繼續發問，游戲中的吃豆人和豆子是如何運動的?

　　Phind在對文本回答時，會標注引用的原出處，用戶點擊網站可以直接跳轉。

　　CodeLlama-34B V2

　　CodeLlama-34B V2代碼模型使用了80，000個高質量編程問題和解決方案的專有數據集進行微調。這個數據集的技術特點在于，采用的是指令-答案對的格式，而非常見的代碼補全示例，使得在結構上與HumanEval有明顯的區別。

　　此外，Phind還將 OpenAI 的去污方法應用在數據集中，以確保結果準確有效并且沒有發現受污染的示例。

　　方法是:1)對于每個評估示例，隨機抽取了三個50個字符的子字符串，如果少于50個字符，則使用整個示例。

　　2)如果任何采樣的子字符串是已處理的訓練示例的子字符串，則識別為匹配。

　　在訓練過程中，Phind使用了DeepSpeed ZeRO3和Flash Attention2技術，并使用了32個A100-80GB的GPU，僅在三小時內就完成了序列長度為4096的模型訓練。

　　經常編程的小伙伴們可以試試該模型，生成、審核、注釋、改錯樣樣精通，是降本增效的利器。