人工智能會瓦解民主，侵蝕自由和平等。如果我們不阻止它，權力將進一步向一小撮精英手中集聚。
“無關者”恐懼
民主不是歷史的必然，盡管民主國家在過去一個世紀或更長時間內在所有方面取得了成功，但民主仍然是歷史上的曇花一現。君主制，寡頭政治和其他形式的專制統治是人類治理的常見模式。
自由民主國家的出現與自由平等的理想相聯系，這種理想似乎是不言而喻、不可逆轉的。但這些理想比我們想象的要脆弱得多。他們在20世紀的成功可能取決于短暫而獨特的技術條件。
在21世紀的第二個十年，自由主義開始褪色。中產階級關于自由民主的問題越來越多; 政治變得更加部落化; 在越來越多的國家，領導人表現出對蠱惑人心和專制的偏愛。這種政治轉變的原因很復雜，但它們似乎與當前的技術發展交織在一起。民主的支撐性技術正在發生變化，隨著人工智能的發展，它可能會進一步發生變化。
信息技術正在繼續飛躍; 生物技術開始為我們的內心生活提供一扇窗戶：我們的情感，思想和選擇。信息技術和生物技術將共同造成人類社會前所未有的動蕩，侵蝕人類組織，并可能顛覆人類的欲望。在這種情況下，自由民主和自由市場經濟可能會過時。
普通人可能無法深入了解人工智能和生物技術，但他們可以感覺到未來會經歷什么。在1938年，蘇聯、德國或美國的普通人生活狀況可能很窘迫，但他們經常被告知自己是世界的主人，自己就是未來（當然這里的“普通人”指的不是猶太人或女人）。他們看著宣傳海報：那種以英雄一般描繪的煤礦工人和鋼鐵工人的海報，眼中看到自己的未來：“我就在那張海報里！我就是未來的英雄！“
而2018年的普通人感到自己越來越無關緊要。許多神秘的術語在政府、智庫和高科技會議上興奮的傳播：全球化，區塊鏈，基因工程，人工智能，機器學習……一個普通人，無論男女，都會意識到這些術語其實與我沒什么關系。
20世紀的普通民眾通過反抗剝削，將其在經濟中的重要作用轉化為政治權力。現在的普通民眾擔心自己成為“無關者”，于是就瘋狂地利用他們所剩無幾的政治權力。因此英國退歐和唐納德特朗普的崛起，都呈現出與傳統社會主義革命相反的軌跡：俄羅斯中國和古巴的革命，都是由對經濟至關重要但缺乏政治權力的人群所發起的，但 2016年的特朗普的崛起和英國脫歐，其支持者仍然享有政治權力，他們恐懼的是自己失去經濟價值。
也許在21世紀，民粹主義的起義不是針對那些剝削人民的精英，而是針對那些不再需要人民的精英。這可能是一場失敗的戰斗。
信息技術和生物技術的革命仍處于起步階段，它們對當前自由主義危機的負責程度值得商榷。伯明翰，伊斯坦布爾，圣彼得堡和孟買的大多數人只是敏銳地意識到人工智能的興起及其對生活的潛在影響。但毫無疑問，正在積聚能量的技術革命將在未來幾十年內面對人類所面臨的最艱難的考驗。
新無用階級
讓我們從工作和收入問題開始討論，因為無論自由民主的哲學訴求如何，它在很大程度上得益于現實優勢：在政治和經濟學中，自由主義的特征使得自由民主國家勝過其他國家，并為其人民帶來越來越多的財富。
自由主義通過向每個人承諾更大的餡餅來消解彼此之間的矛盾：無產階級與資產階級，信眾與無神論者，移民與土著，亞洲人與歐洲人。隨著餡餅的不斷增長，這種和解就是可持續的。餡餅可能會持續增長，但經濟增長無法解決現在由技術破壞造成的社會問題，因為社會越來越依賴于顛覆性技術。
當然，人們對自己被趕出就業市場的恐懼并不是什么新鮮事，這種擔心在過去被證明是沒有根據的。但人工智能與舊時代的機器不同，過去的機器主要以手工技能方面與人類競爭，現在則開始在認知技能方面與我們競爭。而對人類而言，我們并沒有第三種技能，可以確保人類的長久優勢。
未來幾十年，人類的智力仍可能遠超許多領域的計算機智能。因此隨著計算機接管更多的常規認知工作，人類新的創造性工作將繼續出現。這些新工作中的許多可能取決于人與人之間的合作而非競爭。人工智能團隊可能不僅對人類有優勢，而且對自己的計算機也有優勢。
但大多數新工作可能需要高水平的專業知識和獨創性，因此可能無法解決非熟練勞動者或極低工資工人的失業問題。此外隨著人工智能不斷提高，即使是需要高智商和創造力的工作也可能逐漸消失。國際象棋世界是未來可能走向的一個例子。在IBM的計算機Deep Blue在1997年擊敗卡斯帕羅夫之后的幾年里，人類象棋選手仍然蓬勃發展; AI被用來訓練人類神童，由人類和計算機組成的團隊證明優于電腦玩家。然而近年來，計算機已經變得如此擅長下棋，以至于他們的人類合作者已經失去了價值并且可能很快變得完全無關緊要。
2017年12月6日，Google的AlphaZero擊敗了Stockfish 8，實現了另一個重要的里程碑。2016年Stockfish 8贏得了世界計算機國際象棋冠軍。它可以獲得數百年的人類國際象棋積累經驗，以及數十年的計算機經驗。相比之下，AlphaZero沒有被人類創造者教授任何國際象棋策略 ，甚至沒有標準的開放。它使用最新的機器學習原則通過對抗自身來教自己國際象棋。在AlphaZero新手對陣Stockfish 8的100場比賽中，AlphaZero贏得了28場勝利及72場和局，一次都沒有輸。由于AlphaZero沒有從任何人類身上學到任何東西，因此它的許多獲勝動作和策略似乎都是人眼所不具備的，它們可以被描述為想象力，或是與生俱來的才能。
你能猜到AlphaZero從頭開始學習國際象棋，到準備與Stockfish 8的比賽，再發展出其天才本領一共花了多少時間嗎？四個小時。幾個世紀以來國際象棋被認為是人類智慧的最高榮耀之一。AlphaZero無需任何人類導師幫助，從完全無知到創造性掌握，只需要四個小時。
AlphaZero并不是唯一富有想象力的軟件。今天在國際象棋錦標賽中捕捉騙子的方法之一是監控棋手的創造性水平。如果棋手的招法特別具有創造性，評委們通常會懷疑它不可能是人類行為，必定是一個計算機下出的招法。至少在國際象棋中，創造力已經被認為是計算機的標志而不是人類的！如果國際象棋是煤礦中的金絲雀，我們可以經說金絲雀已死：今天在國際象棋中人類AI團隊發生的事情可能會發生在警察，醫學，銀行和許多其他領域的人工智能上。
更重要的是，AI具備人類所沒有的一些獨特能力，這使人工智能與人類工作者之間的差異化更有利于AI，其中兩個特別重要的能力是“連通性”和“可更新性”。
例如，人類駕駛員很難做到對道路上所有不斷變化的交通規則都了如指掌，而且有時他們會故意違反規定。此外由于每個駕駛員都是單獨的個體，當兩輛車接近同一個交叉路口時，駕駛員有時會誤解他人的意圖并發生碰撞。
相比之下，自動駕駛汽車將了解所有交通規則，并且從不故意違反交規，它們可以相互連接，當兩個這樣的車輛接近同一個十字路口時，它們實際上不是兩個獨立的實體，而是整體算法的一部分。因此他們發生誤會和碰撞的可能性要小得多。
同樣，如果世界衛生組織確定一種新的疾病，或者一個實驗室生產一種新藥，它無法使世界上所有的人類醫生立即獲得這一信息。然而即使全世界擁有數十億的AI醫生（每個都在監測一個人的健康狀況），你仍然可以在瞬間更新所有的AI醫生，并且它們可以相互溝通對新疾病的評估或醫學知識。
連接和可更新性的潛在優勢非常巨大，至少在某些工作中，即使個別人類可能確實比機器更出色，但用計算機替換掉所有的人類還是很有意義的。
所有這些都導致了一個非常重要的結論：自動化革命不會包含單一的分水嶺事件，就業市場隨之進入一些新的均衡態。這場革命將是一連串更大的破壞，舊工作將會消失，新工作崗位將會出現，而新工作崗位又將迅速改變并消失，人類需要重新訓練并重塑自己，不是一次，而是反復多次。
正如20世紀政府為年輕人建立了大規模的教育體系，21世紀的政府需要為成年人建立大規模的再教育制度。但這就夠了嗎？改變就會帶來壓力，21世紀初的繁忙世界已經產生了全球范圍內的壓力流行。隨著工作波動性的增加，人類還能應付得了嗎？到2050年，可能會出現一個無用的階級，這不僅是因為缺乏工作或教育，還因為缺乏足夠的精神耐力來不斷學習新技能。
轉載請注明：北緯40° » 科技緣何成為暴政的幫兇？
