大型語言模型(LLM)是自然語言處理(NLP)技術的進化，能夠快速生成與人類寫作相似的文本并完成其他簡單的與語言相關的任務。自 OpenAI 發布高性能的 ChatGPT 之后，這些模型變得越來越受歡迎。

　　迄今為止，研究主要評估 LLM 的能力，例如創建寫作流暢的文本、定義特定術語、撰寫論文或其他文件以及生成有效的計算機代碼。然而，這些模型在解決其他真實世界問題，包括假新聞和虛假信息方面也具有潛在的幫助。

　　威斯康星大學斯托特分校的研究員 Kevin Matthe Caramancion 最近進行了一項研究，評估迄今為止最知名的 LLM 能否檢測新聞故事的真實性或虛假性。他在 arXiv 上發表的論文提供了有價值的見解，這可能有助于今后使用這些先進模型來對抗在線的錯誤信息。

　　Caramancion 告訴 Tech Xplore 說：「我最近的論文靈感來自于了解各種 LLM 在對抗錯誤信息方面的能力和局限性的需求。我的目標是通過一個受控模擬和已建立的事實核查機構作為基準，對這些模型的熟練程度進行嚴格測試，以辨別真實與虛構的能力�！�

　　Caramancion 表示：「我們使用 100 個經過獨立事實核查機構核實的新聞項目作為測試套件，評估了這些大型語言模型的性能。我們將每個新聞項目在受控條件下呈現給模型，然后將它們的回應分類為「真實」、「虛假」和「部分真實/虛假」。根據與獨立機構提供的核實事實相比較，測量了模型的有效性。」

　　隨著互聯網和社交媒體的迅速發展，不管信息是真實還是虛假，錯誤信息已經成為近幾十年來的一個重要挑戰。許多計算機科學家一直在努力開發更好的事實核查工具和平臺，使用戶能夠驗證他們在網上閱讀到的新聞。

　　盡管迄今為止已經創建和測試了許多事實核查工具，但仍缺乏一個被廣泛接受和可靠的模型來對抗錯誤信息。作為他研究的一部分，Caramancion 致力于確定現有 LLM 在解決這一全球性問題方面的有效性。

　　他具體評估了四個 LLM 的性能，分別是 OpenAI 的 ChatGPT-3.0 和 ChatGPT-4.0、Google 的 Bard/LaMDA 和微軟的 Bing AI。Caramancion 給這些模型提供了相同的事實核查過的新聞故事，然后比較它們在確定故事的真實性、虛假性或部分真實/虛假性方面的能力。

　　Caramancion 表示：「我們對主要 LLM 的區分事實和虛構能力進行了比較評估。我們發現 OpenAI 的 GPT-4.0 表現最佳，這暗示了較新的 LLM 的進步。然而，所有模型都落后于人類事實核查員，強調了人類認知不可替代的價值。這些發現可能導致更加關注開發用于事實核查的人工智能能力，同時確保與人類技能的平衡、共生整合�！�

　　Caramancion 進行的評估表明，ChatGPT 4.0 在事實核查任務上明顯優于其他知名的 LLM。進一步對更多虛假新聞進行測試的研究可能有助于驗證這一發現。

　　研究人員還發現，人類事實核查員仍然優于他評估的所有主要 LLM。他的研究凸顯了需要進一步改進這些模型或將它們與人類工作者的工作相結合，如果要將它們應用于事實核查工作。

　　Caramancion 補充說：「我的未來研究計劃集中在研究人工智能能力的發展，重點是如何利用這些進展，同時不忽視人類獨特的認知能力。我們的目標是改進我們的測試協議，探索新的 LLM，并進一步研究在新聞事實核查領域人類認知和人工智能技術之間的相互關系�！�