哈拉瑞:為何資訊科技有利於暴政

 

以色列歷史學家哈拉瑞。

 

  耶路撒冷希伯來大學歷史學家哈拉瑞(Yuval Noah Harari)回應雜誌專題《民主正在凋零?》(Is democracy dying?)的文章指出,他認為包含人工智慧在內的資訊科技有利於極權暴政,人們不該擔心人工智慧擁有自己的意識,而是先擔心它被人類拿來破壞民主。

 

  哈拉瑞在文章提到,民主並非歷史的必然,儘管民主國家在過去一個多世紀取得成功,但它仍算是歷史上罕見的「特例」,君主制、寡頭政治與其他類型的獨裁專制是更普遍的人類治理模式。他寫道:「民主理念其實比我們想像的還要脆弱,它在二十世紀的成功取決於得天獨厚的技術革新條件,這些短暫的條件很容易就會消失。支撐民主的條件正在轉變,隨著人工智慧的發展,它或許會進一步產生變化。」

 

  資訊科技每年都有突破性的發展,生物科技也開始探索人類的內心世界:我們的情緒、思想和選擇。哈拉瑞提到,資訊和生物科技將聯手對人類社會造成前所未有的動盪、侵蝕人類組織,乃至顛覆人類慾望。在這種情況下,自由民主與自由市場經濟則顯得陳舊過時。

 

現代社會的「一般人」越來越懼怕自己變成「無關緊要者」。

 

  他指出,現代社會的「一般人」越來越害怕自己變得無關緊要,許多神秘術語——全球化、區塊鏈、基因工程、人工智慧、機器學習——在政府智庫、科技研討會、TED或其他會議演講上是熱門議題,但一般人(無論男女)意識到所有的術語都太過遙遠,好像與自己沒有任何關聯。由於懼怕自己變成「無關緊要者」,民眾便瘋狂利用所剩無幾的政治權力試圖挽救一切。

 

  哈拉瑞以英國脫歐和川普崛起為例,提到兩者變革的軌跡與傳統社會主義式的革命完全相反。從前俄羅斯、中國和古巴革命皆由具經濟價值但缺乏政治權力的人所發起;川普與英國脫歐得到了多數支持,其支持者雖享有政治權力,但他們害怕失去自己的經濟價值。他寫道:「或許在21世紀,民眾反抗不再是針對剝削人民的經濟菁英,而是針對不再需要他們的經濟菁英。這可能是一場註定失敗的抗爭,畢竟與反抗剝削相比,反抗變成無關緊要者似乎難得多。」

 

  哈拉瑞預測,世界可能會出現新的「無用階級」。因為無論自由民主的哲學訴求為何,很大程度是得益於現實優勢:在政治和經濟學中,自由主義的「分散決策」特色讓自由民主國家勝過其他政體,為人民帶來越來越多的財富。他說:「自由主義藉由對所有人承諾一塊大餅來消弭彼此矛盾:無產階級與資產階級、信徒與無神論者、移民與原住民、亞洲人與歐洲人。只要大餅不斷增長,和解便能延續下去。大餅也許會一直增長,但經濟繁榮並不能解決突破性創新造成的社會問題,而社會也越來越仰賴突破性科技。」

 

  當然,人們對於被就業市場淘汰的恐懼並非新鮮事,過去已經證明這種擔憂毫無根據。但人工智慧與舊時代的機器不同,工業革命時期的機器主要是以勞力技能與人類競爭,但它們現在開始在認知方面與我們競爭。對人類而言,我們沒有第三種技能確保人類永遠保有優勢。

 

新科技令數十億人的經濟價值變得無足輕重,進而使他們變得更容易被監控。

 

  當人們失去經濟價值後,隨之而來的是失去政治權力。新科技令數十億人的經濟價值變得無足輕重,而使他們變得更容易被監控。哈拉瑞寫道:「人工智慧讓許多人害怕,因為他們不相信人工智慧會一直聽話服從。科幻小說經常描寫電腦或機器人產生意識,並在不久之後試圖殺死所有人類。但是,我們沒有理由相信人工智慧會隨著科技進步發展出意識。相反地,我們更應該害怕人工智慧會永遠服從人類,而且永遠不會反抗。人工智慧可能成為人類史上最強大的工具和武器,促使強大的國家更進一步鞏固權力。」

 

  世界上許多國家(包括民主國家)已經著手建立前所未有的監控系統,以色列是監控科技領域的領導者,他們在佔領的約旦河西岸地區建立了一套全面監控體系。今天,每當巴勒斯坦人打電話、在Facebook發文或旅行移動,都受到以色列政府裝設的麥克風、相機、無人機或間諜軟體監控,以色列維安部隊透過演算法分析蒐集來的資訊情報,以找到並消滅他們認為的潛在威脅。今天巴勒斯坦人所面臨的處境,可能是全球數十億人往後將經歷的預演。

 

  想像一下,如果北韓的金氏政權某天取得更高科技的監控技術,強迫國民配戴生物識別手環,監視其日常言行、血壓和大腦活動。藉由日漸熟悉人類大腦的運作模式,結合機器學習的強大力量,最終北韓可能發展出能衡量每個國民思想和情緒的技術。當民眾看著領袖的照片時,如果生物識別感應器偵測到憤怒的跡象(血壓升高與杏仁核活躍),他們很可能明天就會被抓進勞改營。

 

儘管多數國家對公民的實際控制看似變少,並賦予他們自由意志選擇與投票權利,但操縱選民情感影響投票結果向來都不是難事。

 

  然而,很多時候根本不需要用到這種「強硬」的科技手段。哈拉瑞表明,儘管多數國家對公民的實際控制看似變少,並賦予他們自由意志選擇與投票權利,但操縱選民情感影響投票結果向來都不是難事。一旦未來某個統治者得到有效、廉價能大規模運用的情感操縱技術,民主政治將淪為一場木偶戲。

 

  未來幾十年,我們或許不會遇到擁有情緒的機器人,但可能不得不面對那些比親人更擅於操控我們情緒的機器人,而且它們在這方面駕輕就熟。菁英忙著向群眾推銷東西,無論是汽車、政治明星還是整套意識形態;而機器人則負責識別人們內心深處的恐懼、仇恨與渴望,並利用它們來對付我們。即使某些社會維持著表面上的民主,效率越來越高的演算法仍會改變我們,促使個體將越來越多的權力交付給網路機器。人們依賴和信任演算法,便心甘情願地放棄生活中的更多權力,最終失去了為自己做決定的能力。

 

  舉例來說,在短短二十年間,數十億人就將「尋找答案」這件事交由Google搜尋的演算法。我們越來越依賴Google找到答案,而獨立處理資訊的能力也變得越來越差。今天的「真相」是由Google搜尋得出的最佳結果所定義,這種過程同樣影響了人類的身體機能,例如導航系統和未來的自動駕駛汽車與AI醫生。

 

  哈拉瑞寫道:「雖然這些創新會讓卡車司機和人類醫生失業,但更重要的是它加劇了人類把權力和責任轉移給機器的過程。當人類仰賴人工智慧為我們做決定時,我們的生活會變成什麼樣子?現在我們相信Netflix所推薦的電影,還有Spotify為我們選擇音樂,你怎麼會覺得AI幫我們做的選擇只有這些?」

 

「當人類仰賴人工智慧為我們做決定時,我們的生活會變成什麼樣子?現在我們相信Netflix所推薦的電影,還有Spotify為我們選擇音樂,你怎麼會覺得AI幫我們做的選擇會只有這些?」

 

  有朝一日,人工智慧或許會像《黑鏡》的劇情般,為我們做出比職涯規劃更好的決定,甚至替你決定該跟誰當朋友。哈拉瑞說:「當我們開始依靠AI決定學什麼、做什麼工作、與誰約會甚至結婚時,人類的生活不再是一齣關於抉擇的連續劇,我們對生活的概念也會隨之改變。不但民主選舉和自由市場不再具有意義,多數的宗教和藝術也是如此。」

 

  他指出,人們需要更加重視人類思想的運作方式,特別是如何培養自己的智慧與同情心。如果我們過度投入在人工智慧而疏於發展人類思維,那麼越來越複雜的人工智慧只會讓人類變得更加愚蠢,並培養出人類最糟糕的(也可能是最強大的)原始衝動,其中包含貪婪與仇恨。為了避免這樣的後果,人們應該在投入改善人工智慧的同時,以同等精力探索和發展人類意識。

 

  此外,如果我們想防止所有財富和權力集中在一小群菁英手中,更現實而直接的方法是規範資料所有權。哈拉瑞說:「在古代,土地是最重要的資產,因此政治成為控制土地的鬥爭方式;在近代,機器和工廠變得比土地更重要,因此政治鬥爭焦點變成控制這些重要的生產模式;到了21世紀,資訊數據成為比土地和機器都更重要的資產,因此政治勢必淪為掌控資訊的鬥爭工具。我們能做的是找到防止數據集中在少數人手中的做法,並找出讓分散數據比集中數據能更有效率的方法。這都不是簡單的事,但追求並實現這些目標是民主的最佳保障。」

 

 

參考報導:Atlantic

 

既然您在這裡… 您知道MPlus這些年來一直都是非營利網站嗎?我們秉持「思想自由」與「價值共享」的信念,希望打造一個不受商業操控、專注在讀者身上的平台。如果您也認同我們正在努力呈現的觀點,請您點擊以下的贊助連結。只要新台幣50元,您就可以支持我們,而且只需要您一分鐘的時間: