高通和 Meta 兩家公司今天宣布，將從 2024 年開始，這家社交網絡公司的新大型語言模型 Llama 2 可以在手機和 PC 上的高通芯片上運行。

　　迄今為止，大型語言模型主要在大型服務器機房上運行，使用英偉達圖形處理器，這是由于該技術對計算能力和數據的巨大需求，推動了英偉達股價的上漲，今年已上漲超過 220%。但是，對于像高通這樣的手機和個人電腦領先芯片制造商來說，人工智能熱潮的收益相對較少。高通股價今年迄今上漲約 10%，落后于納斯達克指數的 36% 的漲幅。

　　周二的宣布表明，高通希望將其處理器定位為非常適合人工智能的「邊緣」設備，而不是「云端」。如果大型語言模型可以在手機上運行而不是在大型數據中心中，這可能會降低運行人工智能模型的顯著成本，并可能帶來更好、更快的語音助手和其他應用程序。

　　高通將在其設備上提供 Meta 的開源 Llama 2 模型，相信這將實現智能虛擬助手等應用程序。Meta 的 Llama 2 可以執行與 ChatGPT 類似的許多功能，但可以以更小的程序打包，使其能夠在手機上運行。

　　高通的芯片包括適用于人工智能模型所需計算的「張量處理器單元」(TPU)。然而，與備有尖端 GPU 的數據中心相比，移動設備上可用的處理能力相形見絀。

　　Meta 的 Llama 引人注目之處在于，Meta 公開了其模型的「權重」，這是一組幫助指導特定人工智能模型運作的數字。通過這樣做，研究人員甚至商業企業可以在自己的計算機上使用這些人工智能模型，無需請求或支付許可費用。而其他知名的大型語言模型，如 OpenAI 的 GPT-4 或 Google 的 Bard，是封閉源代碼的，其權重是嚴格保密的。

　　高通此前與 Meta 密切合作，特別是在其 Quest 虛擬現實設備的芯片上。高通還演示了一些在其芯片上運行較慢的人工智能模型，例如開源圖像生成器 Stable Diffusion。