“21世紀的21堂課”讀後感1---人類被人工智慧取代的美麗未來,或悲慘前景?


21世紀的21堂課”作者是哈拉瑞。我之前看過他寫的”人類大命運”與”人類大歷史”。

這本書一開始作者延續之前著作的論點,提到二十世紀開始時,人類有三大故事主軸,法西斯,共產與自由主義。二次大戰,法西斯垮台。接下來,冷戰打垮了共產主義,自由主義成為現代人類的故事敘事主軸。

我們相信,給人自由選擇,政治自由、經濟自由,對於個人福祉,對於整體社會,會是最有利的做法。

但自由主義,現在面臨全新的威脅,那就是人工智慧與生物科技的興起。

我們往往認為人的直覺、判斷,那是無可取代的”心智活動”。但生物科學的進步,讓我們逐漸瞭解,這些決定的過程,實際上是百萬年演化過程雕刻在我們腦中的”演算法”。神經突觸間的化學反應,決定了我們怎麼想,怎麼反應。模擬與重現這個過程,你就會得到近似”人類心智”的東西。

當這個演算法被完全瞭解後,有沒有可能,我們將這個決策過程寫在電腦程式中,變成由它替我們做決定。加上我們在臉書,在搜尋引擎上,不斷透露的個人偏好與人生事件,或許有一天,你面前的電腦會比你更懂你自己。

想看什麼節目,電腦知道。想買怎樣的車,問電腦。想聽怎樣的音樂,問電腦。到了這時候,人會成為一種被電腦餵養與滿足的動物。你不用再費心想了,電腦與程式會幫你想好。

目前已經逐漸開始出現這個現象。例子就是人的資訊搜集能力。現在所謂資訊搜集,就是連上網路,然後在Google欄位輸入你想要查的東西。除了學者,誰還在培養去圖書館查分類卡片,查相關書籍與科學文獻的能力?

人有兩種基本能力,身體能力與認知能力。過去機械在身體能力上超過人類,譬如怪手與起重機。但人仍有認知上的優勢。現在人工智慧的發展,開始在認知能力上與人類一較高下。

而人工智慧有兩個非人能力,就是可連結性與立即可更新性。

譬如,假如AI模式做出人工智慧醫師。只要世界衛生組織發現新的疫情,或是某專科醫學會發表新的研究報告與治療準則,全球所有的人工智慧醫師可以馬上更新。

某一地AI醫師看到某種傳染病例突然上升,那就不是它知道而已,是全球的AI醫師同時都知道了。

當人工智慧在認知能力也可以與人類一較高下時,我們會看到過去的專業人士,變成可以由專業AI取代。

譬如AI銀行人員、AI駕駛、AI醫師等等。

作者擔心的是,到了這個階段,全球會出現大量的,高達幾十億,”沒用的”人。

這裡的沒用指的是他從事的職業,不再需要他了。

過去多次的工業革新,同步帶來了更多的工作。智慧型手機取代了傳統手機,反而在組裝、顯示螢幕技術,微型照像機、電池技術、晶片組等許多方面,創出更多產業與工作需求。汽車的出現,雖然養馬場與馬車製造場式微,但汽車工業帶來了龐大的零件與組裝需求。也都是更多的工作機會。

但這次的改變讓作者擔心的是,會變成沒有對應生成更多的工作機會,人會變成沒有工作可做。

當人不必自行思考決定,電腦會幫你做好決定。當你的工作不再需要你,你無法從工作服務他人中,得到滿足與成就感。人會開始懷疑,所生為何?

這是現代的自由主義敘事主軸無法解答的問題。

如何應對,作者在書中有合理與精采的說明。而目前盛行的國族主義,對全球性問題非常脆弱,毫無招架之力。如何發展出全球認同與共識,大家一起來對付這些問題,是作者的呼籲。

綠角財經筆記的長期讀者大概都知道,綠角對於對未來的精準預測一向沒有太大的興趣。事實上我對這樣精確描述的未來,自然有點存疑。

但這本書精彩的地方,在於作者的敘事邏輯與博學多聞。我們不需要把它想成一定會發生,就看作者對於這個可能的演進,還有應對方法的說明,就如他之前的書一樣,值得一看。

其實對於人工智慧的發展,作者可能和許多民眾一樣,看得太超前了。譬如書中舉的例子,就跟大多人記得的一樣,就是AlphaZero人工智慧西洋棋手的成就。

這個程式是自我學習。它與過去的人工智慧西洋棋不同,它不是被餵進過去成千上萬的棋局,然後學習。AlphaZero是知道下棋規則後,自己跟自己下棋,自己學。幾個小時後,就變成之前的電腦西洋棋冠軍Stockfish 8完全無法抵抗的對手。

許多人都在這個例子中覺得人工智慧已經到了一日千里的地步。

其實,目前的人工智慧還有很大的侷限性。因為西洋棋是一個固定規則遊戲。對手怎樣反應,不會影響規則。這是最容易處理的情況。

但像金融市場就不是這樣。參與者的行為會影響市場。

大家都說某股票價格太低,值得買。大家都去買。那麼其實它就不值得買了。

又譬如,你在1997覺得美國科技類股漲太高,去放空它。接下來會面臨連續三年大漲的嚴重考驗。2000年市場大跌後,你會知道你是對的。但九零年代當時,其他大多投資人就是覺得科技類股還是值得投資,還是一直買。你能怎麼辦?你撐的下去嗎?

投資最麻煩的地方在於,邏輯上的正確未必會帶來好的成果。

市場會容納新的資訊與投資人反應,然後改變。西洋棋不會。你再怎麼下,都是一樣的規則。

目前還沒有人工智慧程式可以處理像金融市場會隨時演進與變化的局面,帶來持續性的領先優勢。(或許有人已經在研發了,但目前仍未看到可驗證的成果)

這是一個非常大的困難。

或許日後有天,真的有人克服了這個困難,發展出在複雜系統中,可以比全體人類參與者都做得更好的人工智慧,那我們就要認真想一下,當整個經濟的生產與分配過程都可以交給電腦更完美的執行後,人要做什麼?

後記:
書中對於人工智慧與自我意識的分別也有深入的討論。受到名片”魔鬼終結者”的影響,許多人會擔心高等人工智慧是否會有自我意識,想取代人類。但其實這是兩回事。書中有詳細說明。


回到首頁:請按這裡

初來乍到:請看”如何使用本部落格

相關文章:
“21世紀的21堂課”讀後感2---封建階級再現

“21世紀的21堂課”讀後感3---真相與謊言

“人類大歷史”(Sapiens)讀後感1---社會演進的單行道

“人類大命運”(Homo Deus)讀後感3---人有自由意志嗎?

6 comments:

learnman 提到...

人類的文明本來就是建立在很虛幻的共識上頭
現代文明之所以能解決過去人類無法處理的大規模飢荒瘟疫戰爭
其實是依靠大量的金融負債-工業污染與剝削環境得來的成果
也就是說問題其實沒解決,只是大家共識選擇把問題轉移到另一個問題上頭而已
在人類這套體制運作下,解決一個問題之後,就會另外滋生更多問題
天下沒有白吃午餐
人類所享受的成果,都必須付出其他代價
這也是所有生物的宿命

Jake 提到...

考古和藝術吧

因為考古做AI自動化 實在沒有利益

AI能作曲和畫畫 寫文章 作詩
但要說取代人類創作還沒那麼簡單

至於未來一堆AI在金融市場上 爾虞我詐 互相試探 這和人類又有什麼不同?
到最後績效高低 只是運氣好和不好罷了

綠角 提到...

文明是建立在虛幻共識上

這樣似乎一句話可以點出作者的重點思想

謝謝learnman的分享

綠角 提到...

Jake

假如AI會投資
那的確也會在場上相互競爭
不容易討到好處

謝謝分享~

John Yan 提到...

綠角大大 文章中的 二十世界 應為 during the twentieth century ?

綠角 提到...

感謝幫忙
已經修正了~