The Pope appears to understand AI better than Geoffrey Hinton does.

原文連結：https://garymarcus.substack.com/p/the-pope-appears-to-understand-ai

文章說明

Gary Marcus 在這篇評論中主張：不能只看 LLM 的輸出像不像人，就推論其具備人的理解或意識。文章借題教宗言論與 Hinton 訪談，重申「模仿不等於理解」的認知科學立場。

內容介紹

文章核心論點是機制優先，而非表現優先。作者指出，LLM 透過大規模語料的統計學習產生近似人類語言的輸出，但這與「有內在狀態、能形成經驗性理解」是不同層次的事情。

文中以「True comprehension comes from experience, not text approximation」作為關鍵句，並連結到他與合作者先前在學術論述中的觀點：系統可以高擬真地模擬，卻不表示其具備等價的認知機制。

作者也批評目前許多 AI 評估習慣，過度倚賴行為表現作為單一準則，忽略了生成機制、記憶結構與可解釋性差異。對產業而言，這會導致不精確的擬人化敘事，進而影響政策、教育與風險溝通。

你可以帶走的重點

• 「輸出相似」不等於「機制相同」，兩者在評估上必須分開。
• 擬人化敘事容易誤導公眾對 AI 能力與風險的判斷。
• 評估模型時，應同時檢查行為表現與生成機制證據。
• 在產品溝通上避免過度神化，可降低不必要的期待與恐慌。

適合誰閱讀

• 關注 AI 認知、意識與哲學爭議的研究者與學生。
• 需要對外說明 AI 能力邊界的產品或政策工作者。
• 想理解「模仿 vs 理解」差異的技術社群讀者。