天壇筆記

天壇筆記

尤瓦爾·赫拉利:警惕數據獨裁統治的興起(下) ☆來源:每日頭條

♦ 本篇文章轉載自 每日頭條。若有侵害著作權,請速告知,我們將盡速移除 ♦

 

數字獨裁統治(Digital Dictatorships)的興起

隨著經濟財富的失去,許多人也可能失去政治權力。使數十億人經濟邊緣化的技術同樣也可能使他們更容易被監控。世界上許多國家,包括幾個民主國家,正忙於建立前所未有的監視系統。例如,以色列是監視技術領域的領頭羊,並在被占領的西岸創建了一個全面監視體系的雛形。巴勒斯坦人可以管理西岸的一些城鎮和村莊,但以色列人掌控著天空、電視廣播和網絡空間。因此,只需極少的以色列士兵就可以監控居住在西岸的大約250萬巴勒斯坦人。西岸巴勒斯坦人如今的經歷,也許只是全球數十億人最終經歷的預演。 

想像一下,若朝鮮政權將來掌握了類似更高級的技術,朝鮮人可能被強制要求佩戴生物識別手鐲,以監測他們的所做和所說以及血壓和大腦活動。利用對大腦日益增多的了解和機器學習的巨大能量,朝鮮政府最終也許能知道每個公民每時每刻都在想什麼。如果一個朝鮮人看著金正恩的照片,並且生物識別傳感器採集到憤怒的跡象(血壓升高,杏仁核活動增加),那個人第二天可能就會被丟進集中營。

在接下來的幾十年里,機器不太可能會有情感、也不太可能反叛,但是我們可能不得不面對那些比我們的母親更知道如何控制我們情感的人工智慧。它們聽從人類精英的命令,運用這種不可思議的能力向我們推銷汽車、政客、意識形態或者其他東西。機器人可能知道我們最深的恐懼、仇恨和渴望,並以此對付我們。在全球最近的選舉和公投中,黑客通過分析選民數據和利用他們的偏見來學習如何操縱選舉時,我們就對此已有耳聞。

人工智慧革命最大和最駭人的影響可能與民主國家和獨裁政權的相對效率有關。歷史地看,獨裁政權面臨著創新和經濟增長的巨大障礙。20世紀後期,民主國家通常比獨裁統治表現更好,因為它們在信息處理方面要好得多。我們傾向於將民主與獨裁之間的衝突視為兩種不同道德體系之間的衝突,但它實際上是兩種不同數據處理體系之間的衝突。民主分權處理信息並由多人/機構決策,而獨裁統治將信息和權力集中在一個地方。鑒於20世紀的技術,信息和權力過於集中是低效的。沒有人能又快又準確地處理眾多信息並正確決策。與美國相比,這是蘇聯決策糟糕透頂以及經濟落後的原因之一。 

然而,人工智慧也許很快將扭轉這種態勢。AI可以集中處理大量信息。事實上,它可能使集中式體制比分散式更有效,因為機器學習在有更多可供分析的信息時更高效。20世紀專制政權的主要障礙——將所有信息和權力集中在某個地方——可能在21世紀成為決定性優勢。當然,新技術會不斷湧現,其中一些技術可能會有助於信息和權力分散而非集中。區塊鏈技術以及其帶來的加密貨幣使用目前被認為是權力集中的可能對手。但區塊鏈技術仍處於萌芽階段,我們還不知道它是否會真正抵消人工智慧的集中化趨勢。網際網路在早期被誇大為為一種將人們從集權體制下解放出來的自由主義靈丹妙藥——但現在它卻使得集權比以往都有強有力。

向機器的權力轉移

即使某些社會表面上仍是民主的,但算法效率的提高也會將越來越多的權力從個人導向網絡化機器。我們可能會心甘情願地放棄生活的「自主權」,因為經驗告訴我們機器算法比情感更可信,最終我們將失去獨立決策的能力。Google搜索算法使得我們獨立定位信息的能力降低,這一進程也影響著我們的身體機能,如空間導航。人們要求Google不僅要查找信息,還要引導他們。自動駕駛汽車和AI醫生將是進一步的侵蝕:儘管這些創新將使卡車司機和人類醫生失業,但更大的意涵在於權力和責任將不斷向機器轉移。

人類慣於將生活視為不斷的決策。自由民主和自由市場資本主義將個人視為一個不斷對世界作出選擇的自主個體。藝術作品——無論是莎士比亞戲劇,簡·奧斯汀的小說,還是俗氣的好萊塢喜劇——通常都是圍繞著做某些關鍵決定的英雄展開的。生存還是毀滅?嫁給柯林斯先生或達西先生?基督教和穆斯林神學同樣關注決策的戲劇性,認為永恆的救贖取決於正確的抉擇。而當我們日益依靠AI決策時,這種生活觀會發生什麼改變?現在,我們相信Netflix會推薦我們喜歡的電影,Spotify會列出我們喜歡的音樂。但為什麼AI的益處會止步於此呢?

每年都有數百萬大學生需要決定學什麼。這是一個非常重要且非常困難的決定,是在父母、朋友和教授的壓力下做出的,他們有不同的興趣和意見。它也受到學生自身個人恐懼和幻想的影響,這些恐懼和幻想本身就是由電影、小說和廣告所塑造的。問題是,學生並不真正知道某個職業中成功的要素是什麼,並且不一定對他或她自己的優缺點有現實的認識。人工智慧有朝一日可以比我們做出關於職業生涯、甚至人際關係更好的決策。但是,一旦我們在學習、工作、約會甚至婚姻上依賴AI決策時,我們的生活觀念將不得不改變。民主選舉和自由市場可能不再有意義。大多數宗教和藝術品也是如此。想像一下,Anna Karenina拿出智慧型手機並詢問Siri是否應該維持與Karenin的婚姻,還是與瀟洒的Count Vronsky私奔。我們還能賦予這樣的生活什麼意義?

我們將往何處去?

首先,我們需要更加努力地去理解人類思維的運作方式——特別是去關注人類如何培養自己的智慧和同情心。如果我們在人工智慧上投入太多而在開發人類思維方面投入太少,那麼異常複雜的計算機人工智慧可能只會致使人類天生的愚蠢被加強,並造就我們最可怕的(也可能是最強大的)衝動,比如貪婪和仇恨。為了避免這樣的事情發生,明智的做法就是把我們投資於研發人工智慧的每一美元和每一分鐘,投入到探索和發展人類意識的事業上。

更現實而緊急的是,如果我們想要防止所有財富和權力集中在一小群精英的手中,我們必須規制數據的所有權。在古代,土地是最重要的資產,因此政治是關於土地控制權的鬥爭。到現代,機器和工廠變得比土地更重要,所以政治鬥爭的重點是這些重要的生產資料的控制權。到了21世紀,數據將使曾經最為重要的資產——土地和機械——都成為昨日黃花,政治將是關於數據流控制權的鬥爭。不幸的是,對於數據所有權方面的問題,歷史經驗無跡可尋,這個問題的難度,遠遠超過過往對土地或機器的規制。數據無處不在,同時又看不見摸不著,它們可以以光速移動,而你也可以根據需要隨意複製他們。那些被收集的關於我的DNA、我的大腦和生命的數據是屬於我,還是屬於政府,公司或人類集體?

積累數據的競賽早已開始,只是目前的弄潮兒主要是谷歌和Facebook以及中國百度和騰訊這樣的巨頭公司。到目前為止,這些公司中的許多公司都是作為「注意力商人」 ——他們通過向我們提供免費信息、服務和娛樂自願來吸引我們的注意力,然後他們將我們的注意力轉賣給廣告商。然而,他們真正的業務不僅僅是銷售廣告。相反,通過吸引我們的注意力,他們設法集聚了大量關於我們的數據,這些數據的價值遠遠高於任何廣告收入。我們並不是他們的客戶,而只是他們的產品。

政府將數據國有化可以算作是一種解決方案;它肯定會遏制大公司的「權力」。但歷史表明,在過度強大的政府下,我們不一定過得更好。所以我們最好要求我們的科學家、我們的哲學家、律師、甚至我們的詩人將他們的注意力轉向這個大問題:你們將如何規範數據的所有權?

如果你不喜歡生活在數據獨裁社會或某種墮落的社會裡,那麼你可以做的最重要的貢獻是找到防止過多數據集中在很少一部分人的手中的方法並且去探尋使分布式數據處理比集中式數據處理更有效的方法。這些不是一件容易的事。但實現這些目標可能是未來民主的最佳保障。

(完結)

相關閱讀:  尤瓦爾·赫拉利:警惕數據獨裁統治的興起(上)


♦ 專文屬作者個人意見,文責歸屬作者,本報提供意見交流平台,不代表本站立場 ♦ 

 

 

搜尋

追蹤我們

徵人啟事

41.png

稿約

43.png

新大學臉書粉絲頁

新大學臉書粉絲頁

QR code:

官方網站

web.png

LINE官方帳號

line.png

臉書粉絲頁

fb.png

趕食髦 Food Fashion Up

18836024_1698614263773063_6618469583031104682_n.png

「革命『仍』未成功,同志『更』須努力!」舊大學未竟的志業,香火必得新大學承接。鄭重邀請您的參與,就在這一天為「新大學」政論專欄網站的成立,再續熱忱共襄盛舉,為人類和平民主、公平正義的心力文明付出貢獻。 More...

© 2019 新大學政論專欄. All Rights Reserved. Designed By Allstars