核心概念#

人類對機器理解自然語言的認識走了一條大彎路。早期的研究集中採用基於規則的方法，雖然解決了一些簡單的問題，但無法從根本上將自然語言理解實用化。直到 20 多年後，人們開始嘗試用基於統計的方法進行自然語言處理，才有了突破性進展和實用的產品。

機器智能#

• 最早提出機器智能設想的是計算機科學之父阿蘭·圖靈（Alan Turing）
• 1950 年他在《思想》（Mind）雜誌上發表了「計算的機器和智能」的論文
• 圖靈提出了驗證機器是否有智能的方法：讓人和機器進行交流（圖靈測試, Turing Test）
• 如果人無法判斷自己交流的對象是人還是機器，就說明這個機器有智能了
• 1946 年現代電子計算機出現後，人們就開始琢磨讓計算機處理自然語言
• 這涉及兩個認知問題：(1) 計算機能否處理自然語言？(2) 如果能，方法是否和人類一樣？
• 答案都是肯定的：Yes!

從規則到統計#

基於規則的方法（1950s–1970s）#

• 早期的 20 多年，科學家們走了一條模擬人腦的彎路
• 1956 年夏天，28 歲的約翰·麥卡錫（John McCarthy）等人在達特茅斯會議上正式提出了「人工智能」的概念
• 科學家們試圖讓機器像人一樣學習語言，用語法規則分析句子
• 但這條路走不通：自然語言的規則太複雜，例外太多，無法窮舉

基於統計的方法（1970s 至今）#

• 20 世紀 70 年代，自然語言處理的先驅們開始重新認識這個問題
• 找到了基於數學模型和統計的方法，自然語言處理進入第二個階段
• 30 多年來，這個領域取得了實質性的突破，並在很多產品中得到廣泛應用
• 雖然早期的工作對今天沒有任何指導意義，但回顧前人的彎路有助於避免重蹈覆轍

自然語言處理從規則到統計的轉變，是整本書最重要的主題之一。統計方法的核心思想是：不需要讓計算機「理解」語言，只需要用大量數據訓練出語言的統計規律，就能有效處理語言問題。

本章小結#

自然語言處理 60 多年的發展歷程表明，基於規則的方法走進了死胡同，而基於統計的方法才是正道。這個認識過程雖然曲折，但為後續各章介紹的統計語言模型、隱馬爾可夫模型等具體方法奠定了思想基礎。