Marco-o1：邁向開放式推理模型，用於解決開放式問題
Marco-o1 模型透過結合思維鏈微調、蒙地卡羅樹搜尋和創新的推理策略，提升大型語言模型處理複雜、真實世界問題的能力，特別是在缺乏明確標準和難以量化獎勵的開放式領域。
探討大型語言模型在西洋棋測試平台中的推理能力：策略與戰術的影響
在西洋棋測試中，整合策略與戰術標註可以增強大型語言模型的推理能力。
理解「思維之樹」何時奏效：大型模型在生成方面表現出色，而非辨別能力
「思維之樹」（ToT）作為一種增強大型語言模型推理能力的方法，其成功主要歸功於強大的生成器，而非辨別器。
大型語言模型的天才悖論：語言與數學專家在簡單文字計數問題上的困境
儘管大型語言模型（LLM）在複雜推理和程式碼生成等任務中表現出色，但它們在處理簡單的基於文字的計數問題（例如計算單詞中特定字母的出現次數）方面卻表現不佳。本文探討了造成這種現象的原因，並發現現有的猜測，例如分詞問題或缺乏字元級訓練，並不能完全解釋這種現象。研究表明，即使是專精於數學或程式碼的LLM也難以解決這些簡單的計數問題。然而，透過引導LLM進行推理，例如使用「思路鏈」（CoT）等方法，可以顯著提高其在這些任務上的表現。這意味著LLM本身具備解決這些問題的能力，但需要適當的引導才能有效地運用。
大型語言模型的可廢止推理基準測試：初步實驗和未來方向
本文探討大型語言模型 (LLM) 在可廢止推理方面的能力，提出了一個基於可廢止邏輯推理器基準測試的LLM基準測試，並利用ChatGPT進行初步實驗，比較其與可廢止邏輯定義的推理模式的異同。
利用 RLHF 中的步驟信號增強演繹推理能力
本文提出了一種名為 MuseD 的多步驟演繹數據生成方法，該方法可以生成具有可控複雜性的提示，並檢查響應的步驟分數，從而提高大型語言模型在演繹推理任務中的效能。
大型語言模型結合思維鏈如何模擬人類推理？
大型語言模型即使使用思維鏈技術，也未必真正模擬人類推理過程，其內在因果結構可能導致不一致的推理步驟和結論。
基於教學靈感的整合提示框架：增強大型語言模型推理能力的新方法
為了解決大型語言模型 (LLM) 在算術推理任務中的局限性，本文提出了一個基於教學靈感的整合提示框架，通過模擬教學過程，向 LLM 引入基本概念、定理和類比問題，並設計雙重檢查和答案選擇機制，從而顯著增強其執行算術推理任務的能力。
透過多代理辯論鼓勵大型語言模型的發散性思維
大型語言模型 (LLM) 在執行需要複雜推理的任務時，常受限於自身偏見和僵化思維，本文提出多代理辯論 (MAD) 框架，透過模擬辯論過程，鼓勵模型產生發散性思考，從而提升其在需要深度思考任務上的表現。
解碼影響「思維鍊」效能的因素：機率、記憶與雜訊推理
大型語言模型在「思維鍊」提示下的推理能力並非完美的符號推理，而是受到機率、記憶和雜訊推理影響的混合模式。
