核心概念#

本章以人物傳記的方式，紀念弗里德里克·賈里尼克（Frederick Jelinek, 1932-2010），介紹他如何將資訊理論應用於自然語言處理，奠定現代統計語言處理的基礎。

1. 早年生活#

• 賈里尼克出生於捷克克拉德諾（Kladno）一個富有的猶太家庭，父親是牙科醫生
• 二戰摧毀了他的童年：父親死於集中營，他流落街頭、學業荒廢，戰後回到學校時成績全是 D
• 1946 年全家移民美國，生活貧困，十幾歲就進工廠打工
• 最初想當律師，但外國口音讓他放棄；想學醫卻負擔不起學費，最終獲得麻省理工學院的全額獎學金，攻讀電機工程
• 在麻省理工遇到多位世界級大師，包括資訊理論鼻祖香農和語言學家喬姆斯基，這對他日後的研究方向產生了深遠影響

賈里尼克的人生轉折反映了一個觀點：一個人想在自己的領域做到世界一流，周圍必須有非常多的一流人物。

2. 從水門事件到莫妮卡·萊溫斯基#

• 1972 年賈里尼克到 IBM 華生實驗室做學術休假，無意中領導了語音識別實驗室，之後留在 IBM
• 他把語音識別問題視為通信問題，用兩個隱馬爾可夫模型（聲學模型和語言模型）概括語音識別，這個框架影響至今
• 在 IBM 組建了強大的研究團隊，成員包括搭檔波爾（L. Bahl）、Dragon 公司創始人貝克夫婦、提出 BCJR 算法的達拉·皮垂兄弟等
• 統計自然語言處理誕生於 IBM 有其歷史必然性：IBM 有足夠的計算能力和數據，賈里尼克等人有十多年的理論積累，加上公司對基礎研究的大力投入
• 他的名言：「我每開除一名語言學家，語音識別系統的識別率就會提高一點」

賈里尼克的核心貢獻在於將語音識別從人工智能和模式匹配的框架，轉變為基於統計的通信問題，這個思路奠定了今天自然語言處理的基礎。

3. 一位老人的奇蹟#

• 1990 年代初 IBM 大量削減科研經費，賈里尼克已屆退休之齡，卻在 1994 年去約翰·霍普金斯大學建立了世界著名的 CLSP（Center for Language and Speech Processing）實驗室
• 短短兩三年內將 CLSP 變為世界一流研究中心，靠的是兩件大事和兩件小事：
  • 申請到大量政府研究經費
  • 每年暑期邀請 20-30 名頂級科學家駐場合作
  • 招募有潛力的年輕學者
  • 利用影響力安排學生到頂尖公司實習
• 賈里尼克治學嚴謹，對學生要求極高，但也千方百計為學生提供便利，為每位學生提供全部學費和生活費
• 他的教導風格類似巴菲特：告訴你什麼方法不好，而非告訴你該做什麼，讓學生自己找到好方法
• 2010 年 9 月 14 日，賈里尼克因心臟病發作在辦公桌前過世，工作到了生命的最後一天

本章小結#

賈里尼克的一生展現了如何將數學（資訊理論）應用於解決實際問題（語音識別與自然語言處理），他不僅開創了統計自然語言處理這個領域，更通過培養大批優秀學生，讓這個學派的影響力遍布全球。