2024年5月3日 星期五

Claude Shannon

 〈開啟數位時代的人)科學棋談


我的書房牆上掛著伽利略、牛頓、達爾文、愛因斯坦、……等重要科學家的肖像或照片,其中有一張照片到目前為止,來訪的朋友都沒有人認出他是誰。確實,不只一般大眾不知道他,就連對科學有興趣的人大多也不大清楚這號人物,但在我心目中,他的貢獻與創造力卻足以和牛頓、愛因斯坦並列。


今天(4月30日)是他108歲冥誕,趁此來向大家介紹這位為現代科技文明的兩個支柱——數位電腦與網路通訊——建立理論基礎的夏農(Claude Shannon)。


夏農於1916年出生於美國密西根州北邊一個不到三千人的小鎮。他小時的偶像是愛迪生(後來發現他們竟然都是一位17世紀從英國來美國之移民者的後代),因此特別喜歡動手組裝模型,還自己拉電線到幾百公尺外的朋友家,用來傳遞電報。


他於1936年以數學和電機雙學位自密西根大學畢業後,即進入麻省理工學院就讀電機研究所;指導教授凡納爾·布希(Vannevar Bush)也是發明家,他在1930年左右發明「微分分析儀」(Differential Analyzer),用馬達與轉軸、齒輪等機電零件組成,是史上第一台可以解微分方程式的類比式計算機。


夏農也負責操作實驗室的微分分析儀,為其他教授或外部單位計算二次微分方程式。他相當樂在其中,看著微分分析儀按照自己的設定自動運轉,在紙上畫出方程式對應的圖形,總讓他獲得愉悅的滿足感。久而久之,夏農已習慣從微分分析儀的機械動作聯想到微分方程式,而這個養成將助他萌生劃時代的創見。


第二年暑假,夏農到美國電話電報公司 (AT&T) 轄下的貝爾實驗室實習。當時美國的電話數量急速成長,為了降低接線生的人工成本並提高效率,貝爾實驗室著手開發縱橫式自動交換機。電話交換機用了很多繼電器,繼電器裡面是電磁鐵,會因通電與否而像閘門般開開關關,進而控制電話線路的搭接。


在一般工程師眼中,繼電器是在控制電流的進出,但夏農卻看出電流所傳遞的其實是開或關兩種狀態,而電話交換機的整體電路背後所代表就是某組方程式,就像微分分析儀一樣;只不過微分分析儀處理的是連續的數值,而電話交換機只有開、關兩種訊號。他想起大學時學過的布林代數,其中代表陳述句真假的1與0這兩個數字,恰可用來表示繼電器的開或關,而繼電器串聯就相當於邏輯運算的「且」(AND),並聯則是相當於「或」(OR)。如此一來,電話交換機的實體迴路便可以用布林代數加以描述。


暑期實習結束,夏農回到學校獲得指導教授布希的肯定後,很快在1937年底前就完成碩士論文,題為〈繼電器與交換電路的符號分析〉(A Symbol Analysis of Relay and Switching Circuits),開宗明義即宣告:

「任何電路都可以用一組方程式表示,……。事實證明,其計算方式完全等同於符號邏輯所用的命題運算。」


他最後還提出三個自己設計的電路圖,第一個是電路的簡化:原本使用20個元件的電路,經由邏輯演算找出等效的表達式後,可以將元件減少為14個。第二個與第三個都是他的創新發明,分別是有5個按鍵開關的電子密碼鎖,以及二進位的電子加法器。


這篇論文於第二年公開發表後,立即引起巨大的迴響。原本錯綜複雜的電路圖改用布林代數表示後,就可以更容易模擬執行的結果,甚至找出更精簡的電路方案,大幅減少傳統嘗試錯誤所耗費的時間與成本,並能更迅速地設計出更好、更便宜的新產品。


最重要的是,夏農所揭櫫的邏輯電路與二進位運算,勾勒出數位運算的普遍性抽象法則,即便硬體元件從繼電器換成真空管,再進展到電晶體,所有電子產品與數位電腦的背後都還是這套法則。也難怪夏農21歲所寫的這篇論文被譽為「應該是本世紀最重要、最值得注意的碩士論文」,後來《科學美國人》雜誌也稱它是「資訊時代的大憲章」。


在布希的鼓勵下,夏農轉而攻讀數學博士,並在1940年取得博士學位後,到普林斯頓高等研究院進行為期一年的博士後研究,和馮紐曼交換過看法。隨後夏農又回到貝爾實驗室工作,除了為軍方研發火炮控制系統,還負責研究盟軍高層之間通話的加密系統。


當時工程師無不想著如何抑制雜訊的干擾,以確保訊息的完整性,並盡可能減少冗餘的字元,以提高通訊效率,但夏農再次提出常人所未見的革命性觀點。他指出雜訊無法排除也沒關係,而冗餘正是克服雜訊之道。他並結合熱力學中熵的概念與統計學,將抽象的資訊量化——位元(bit)便是他所提出”binary digit”的簡稱,進而推導出在容許雜訊與糾錯的情況下,通訊頻道的最高速度限制。

夏農的〈通訊的數學理論〉( A Mathematical Theory of Communication)刊登於1948年的貝爾實驗室內部期刊,戰後人們才驚異地發現這位32歲的青年就這麼憑一己之力,開創出一門前所未有且影響深遠的的科學──資訊理論。在這個基礎上,資料數位化、壓縮、傳輸等各項理論與技術隨後逐一發展,也才有現在各種的數位內容並能隨時經由網路獲取。 


二次大戰期間,圖靈曾來貝爾實驗室短暫停留,與夏農多次茶敘。由於他們手上的加密∕解密任務都屬機密,不得談論,因此兩人的交流聚焦於機器能否思考這個抽象問題。戰後兩人各自繼續探討人工智慧的可能性,圖靈於1950年的論文〈計算機器和智能〉(Computing Machinery and Intelligence, 1950)中,提出「模仿遊戲」(也就是後來所謂的「圖靈測試」),夏農則在1950年發表論文討論如何讓電腦下西洋棋,還發明了會自我學習走迷宮的機械老鼠,成為第一台人工智慧裝置的雛形。現在被視為ChatGPT強勁對手的Claude AI,其命名應該就是向夏農致敬。


夏農晚年罹患阿茲海默症,死前幾年在療養院度過,最後於2001年2月24日過世,享年84歲。他因為開創資訊理論而被尊稱為「資訊理論之父」,無論人類文明現在稱為資訊時代、網路時代或數位時代,背後都可追溯至夏農的開創性貢獻,難怪有人比喻夏農的貢獻「就像是形容發明字母的人對文學有多大的影響。」


#科學史上的今天

交友約定:幾個故事。重大信息中的老友。Today we salute the friendship of two of our greatest

 

Today we salute the friendship of two of our greatest actors--James Stewart and Henry Fonda.


。" Flowers teach us that nothing is permanent: not their beauty, not even the fact that they will inevitably wilt, because they will still give seeds.

Remember this when you feel joy, pain 

or sadness.

Everything passes, grows old,

dies and is reborn."


~ Paulo Coelho ~

網誌存檔