2024 年初推出的 Sora 讓 AIGC 與大模型業界持續火爆。一方面,基礎大模型 Top 廠商在持續研發長文本、視頻、多模態等模型核心技術實力,在另一面,更多開發者在加入大模型落地與 AI 2.0 應用開發賽道。在 2023 年底 CSDN 發起的 AI 2.0 開發者生態調研中,問卷結果顯示開發者群體認為“深耕模型技術”與“挖掘應用場景”的機遇和前景同等重要。

　　AI 2.0黑馬——零一萬物Yi大模型

　　長文本突破200K、多模態增強場景支持

　　由國際 AI 專家李開復博士所帶隊孵化的 AI 2.0 公司零一萬物,目標是全球大模型第一梯隊,攻堅基礎大模型與 AI 2.0 核心技術,發布了 Yi 系列開源大模型。在當時斯坦福、伯克利等全球多項權威評測榜單中,Yi 大模型均表現優異,性能直追 GPT-4。目前 Yi 大模型已實現 200K 上下文(可處理約 30 萬中英文字符)的長文本推理實力,以及增強支持多種應用場景的多模態模型。

　　大模型的長文本推理被看作通用人工智能 AGI 非常重要的核心實力之一。零一萬物 Yi 大模型的 200K 上下文推理能力,適合用于多篇文檔內容理解、海量數據分析挖掘和跨領域知識融合,為各行業 AI 2.0 應用提供極大的便利。例如,金融分析師可以使用 Yi 大模型快速閱讀報告并預測市場趨勢、律師可用它精準解讀法律條文、科研人員可用它高效提取論文要點、文學愛好者可以用它快速掌握作品精髓等,應用場景非常廣泛。

　　另外零一萬物的 Yi-34B-Chat-200K 大模型經過優化,大海撈針評測的性能可提升至 99.8%。“大海撈針”測試的設計是:將一個目標句子(針)放進一個隨機文檔語料庫(大海),然后提出一個只能使用“針”(目標句子)中的信息才能回答的問題來測試模型的回憶能力。在“大海撈針”測試中,Yi-34B-Chat-200K 的性能提高了 10.5%,從 89.3%提升到 99.8%。

　　星云愛店是知識探索服務先行者,包含2C的“學術科研助手”,2B的兒童心理健康診療、青少年科學素養培養三大領域。

　　星云愛店CTO大董和團隊參加了零一萬物API邀測,他在文獻綜述的實際應用中,采用其他大模型推理生成的被拒率為 40%(下圖),而切換到 Yi 大模型,任務未發生拒絕執行。

　　星云愛店測試demo顯示,使用某大模型時,被拒率 40%

　　采用 Yi 大模型執行復雜任務,拒絕任務率低、完成度好

　　在另一個 18 萬字報告集合的閱讀分析中,Yi 大模型未遺漏任務:

　　星云愛店采用其他模型遺漏未指出,Yi 大模型完成 prompt 任務

　　零一萬物開發的多模態模型 Yi-VL-Plus,可支持文本、視覺多模態輸入,面向實際應用場景大幅增強:

　　增強Charts, Table, Inforgraphics, Screenshot 識別能力,支持復雜圖表理解、信息提取、問答以及推理。中文圖表體驗超過GPT4V。

　　在 Yi-VL 基礎上進一步提高了圖片分辨率,模型支持 1024*1024 分辨率輸入,顯著提高生產力場景中的文字、數字 OCR 的準確性。

　　保持了 LLM 通用語言、知識、推理、指令跟隨等能力。

　　中文圖表識別功能評測:Yi-VL-Plus 可準確識別圖表對應數據,GPT-4V 有 3 處數據識別錯誤

　　Yi-VL-Plus 模型在中文圖表理解場景,準確率高于 GPT-4V

　　優化推理速度、兼容OpenAI API

　　Yi大模型API開放平臺正式上線!

　　取得了上述的大模型核心技術實力,零一萬物也在投入貢獻 AI 2.0 生態。在內測,零一萬物正式推出了 Yi 大模型 API 開放平臺,希望幫助開發者,共同挖掘更多應用場景,持續創新。

　　針對 API 側的實際開發需求,零一萬物投入了大量優化和兼容能力的研發工作,去提升開發者研發效率和最終用戶的產品體驗。具體來說:

　　優化推理速度

　　為了提升 API 性能,零一萬物團隊在 API 側進行了推理優化,因此 Yi-34B-Chat 系列 API 具備較快的推理速度,這不僅縮短了處理時間,同時也保持了出色的模型效果。

　　降低接口延遲

　　優化的 API 接口顯著降低模型回復的延遲,進一步提高用戶體驗的流暢性和響應速度。

　　兼容OpenAI API,實現平滑遷移

　　Yi 大模型 API 與 OpenAI API 完全兼容,開發者只需修改少量代碼,可以平滑遷移,即刻享受 Yi 大模型的超凡魅力。

　　目前 API 開放平臺已經提供 3 個零一萬物核心重磅的大模型產品,分別是可支持通用聊天、問答、對話、寫作、翻譯等功能的 Yi-34B-Chat-0205,可支持 200K 上下文,多文檔閱讀理解、超長知識庫構建小能手的 Yi-34B-Chat-200K,還有多模態模型 Yi-VL-Plus,支持文本、視覺多模態輸入,中文圖表體驗超過 GPT-4V。更多零一萬物的大模型也將持續發布和提供到 API 開放平臺中。

　　從專業開發者到大模型發燒友

　　Yi大模型API開放平臺的創新AI 2.0應用正在涌現

　　正式發布前,零一萬物已經在開發者群體進行了 API 邀請內測和開發,實測性能和效果超出預期。具體測試的企業與個人 C 端應用場景包括使用 Yi Chat 模型構建智能對話助手(類似 ChatGPT);使用 Yi 多模態模型,識別圖片中存在的表格,文字,并進行深層次的問答;將 Yi 系列模型整合到現有產品,實現類 Copilot 工具;使用 Yi 超長上下文模型構建知識庫問答,用于客服、培訓等特定知識的問答場景等等。

　　已經體驗 API 的開發者中就有對長文本要求非常高的專業團隊星云愛店,其產品涉及文獻解讀與科研寫作、青少年教育與健康類助手等。星云愛店的開發負責人希望大模型產品的長文本精確摘要,對話文案專業化、精細化,拒答率低,因為對于教育和心理健康的大模型,更需要兼具“智商”和“情商”,而不是冷冰冰和嚴肅的工作問答工具。

　　例如心理咨詢場景,在線拒答率、回答文案的溫暖程度極大影響用戶體驗。“某些大模型 API 接入后,動不動就拒答或者回答文本‘降智偷懶’,Yi 大模型 IQ 在線且 EQ 出色,測試期間幾乎沒有拒答,能持續輸出高質量有溫度的文案,我們相當滿意。”星云愛店的技術負責人表示。

　　內測開發者中除了專業的企業級應用開發團隊,還有不會代碼編程的大模型發燒友。一位叫“聞”的網友本身是 HiFi 音樂發燒友,并運營了一個分享古典音樂的公眾號。雖然他自稱不懂寫代碼,但已經可以使用 Lobe-chat 這樣的工具去實現開發。借助 Yi 大模型 API,他實現了翻譯英文長視頻和翻譯古典音樂介紹兩個 AI 2.0 場景應用的功能。正是有了易用的 API,讓他從對技術的熱情和對新事物的好奇,可以更進一步去探索開發、并真正落地了具有創意的 AI 2.0 應用。

　　網友“聞”優化翻譯古典音樂科普流程后的最終輸出結果

　　“Yi-34B-Chat-200K 面對幾萬字的超長提示詞,10 秒鐘就反饋回來了結果,極大提高大家工作效率。”,“接入 Yi 大模型 API 代碼修改量極少,幾乎是分分鐘就可以搞定。”。這些都是內測中收到的眾多開發者反饋中的真實聲音,也讓我們看到基于 API 的 AI 2.0 應用開發需求的火熱。

　　對于 AI 2.0 開發生態的工作,零一萬物表示,近期零一萬物將為開發者提供更多更強模型和 AI 開發框架。包括:

　　推出一系列的模型 API,覆蓋更大的參數量、更強的多模態,更專業的代碼/數學推理模型等;

　　突破更長的上下文,目標 100 萬 tokens;支持更快的推理速度,顯著降低推理成本;

　　基于超長上下文能力,構建向量數據庫、RAG、Agent 架構在內的全新開發者 AI 框架。旨在提供更加豐富和靈活的開發工具,以適應多樣化的應用場景。

　　AI 2.0 正在進一步發展,并深入千行百業。作為新質生產力核心的 AI 2.0 技術,是開發者需要重點關注的領域。借助優質 AI 2.0 廠商的 API 和開發工具,開發者可以提高研發效率,加速 AI 2.0 的應用落地,正在成為 2024 年全新的 AI 2.0 研發趨勢。目前 Yi 大模型 API 開放平臺推出了上新優惠活動,名額限量開放中,新用戶即贈送60元。機會難得,點擊閱讀原文了解詳情~

　　零一萬物API開放平臺鏈接:https://platform.lingyiwanwu.com/

　　零一萬物邀請具有創造力的開發者并肩作戰,助力加速開發 AI 2.0 應用生態,一同探索 LLM 的廣闊應用場景!