【內容提要】本文重點分析人工智能如何從國際格局和國際規范兩個方面影響國際秩序的變遷。在國際格局方面,人工智能有可能在經濟和軍事領域影響國家間的力量對比,非國家行為體的能力也將前所未有地擴大,圍繞科技的國際競爭將更加激烈。在國際規范方面,人工智能有可能改變戰爭的形式和原則,并對現行的國際法律和倫理道德造成沖擊。文章認為,人工智能技術帶來的安全和治理挑戰是需要全人類共同面對的問題,各國應從構建人類命運共同體的視角看問題,從共同安全的理念出發,討論未來人工智能的國際規范。文章提出基于福祉、安全、共享、和平、法治、合作的六項原則。【作者簡介】 傅瑩,清華大學兼職教授、國際關系研究院榮譽院長、國際戰略與安全研究中心主任。

清華大學國際戰略與安全研究中心于 ２０１８ 年啟動的人工智能與安全項目小組,重點探討人工智能技術的發展對國家安全和國際關系的影響以及構建共同準則的可能性。本文是基于對項目組相關信息的匯總而對人工智能與國際關系的相互影響的初步研究。

１９５０ 年,英國科學家圖靈提出了人工智能的概念。１９５６年,首屆人工智能研討會在美國新罕布什爾州達特茅斯舉行,人工智能作為一門科學正式為科學 界所承認。 １９９７ 年,IBM 計算機程序“深藍”贏得與世界國際象棋特級大師卡斯帕羅夫的六盤大戰。進入 ２１ 世紀的第二個十年,人工智能技術的研究和開發加快了步伐。 ２０１４ 年,谷歌 AlphaGo 戰勝世界圍棋冠軍李世石。 ６０ 年后的今天,人工智能在人類越來越多的生產和生活領域得到廣泛應用,在部分專門領域接近甚至超過人腦的表現。作為一種有潛力改造人類社會面貌的泛在性技術,人工智能在科技、產業、軍事、社會、倫理等領域被廣泛討論。

那么,人工智能是否會對國際關系產生影響? 會產生什么樣的影響?本文試圖對這些問題作一些探討。需要說明的是,人工智能技術本身存在復雜性、難以說明性和不確定性,筆者非人工智能技術專家,本文只是根據已經發生的人工智能事件或學術界普遍認可的發展趨勢,來分析人工智能對國際關系產生的影響,并試圖探討構建共同準則的必要性和可能性。

誠然,對于科學技術會如何影響現代國際關系有不少過高的預期。例如,阿爾溫·托夫勒在 １９８０ 年出版的?第三次浪潮?一書中預測,未來世界將充斥核武器風險,瀕臨經濟和生態崩潰,現存政治制度將迅速過時,世界將面臨嚴重危機。這類預測往往高估了科技給人類帶來的困難,卻低估了人類解決困難的意愿和能力。冷戰后,在全球化的大背景之下,多邊主義逐漸成為國際共識,國際防止核武器擴散體系的有效性,應對氣候變化的全球運動和各國由此而不斷強化的應對環境變化的合作,以及世界范圍內的和平運動的發展,都顯示了人類在維護和平和應對挑戰上的理念共識和負責任態度。科技造成的問題,可以通過科技本身的不斷再進化而得到解決,人類也需要通過倫理道德和法律來構建嚴密的防范體系。實際上,每一次科技革命都加速了全球化的進程,促使一系列全球性問題被納入國際政治的議事日程中來,世界也因此變得更加透明和更加融為一體。

一、 我們討論的是什么?

在進入正式討論之前,需要明確幾個問題。

第一個問題,我們討論的是什么人工智能? 是狹義的、能夠模擬人的個別智能行為的人工智能,比如識別、學習、推理、判斷? 還是通用人工智能,擁有與人類大腦相似的自主意識和自主創新能力? 是弱人工智能,為解決特定、具體任務而存在,只擅長語音識別、圖像識別、翻譯某些特定素材的人工智能,例如谷歌的 AlphaGo 、科大訊飛的智能翻譯器? 還是強人工智能,能夠思考、計劃、解決問題,能夠進行抽象思維、理解復雜理念、快速學習、從經驗中學習等人類級別的人工智能,例如電影?人工智能?中的小男孩大衛、?機械姬?中的艾娃? 抑或是未來的超級人工智能,即跨過了“奇點” ,計算和思維能力遠超人腦,“在幾乎所有領域都比最聰明的人類大腦聰明很多,包括科學創新、通識和社交技能”(牛津哲學家 NickBostrom 對超級智能的定義)的所謂人工智能合成人(Synthetics )?

我們討論人工智能對國際關系乃至國際格局的影響,只能限定在已知、基于大數據和深度學習技術,以算力、算法和數據為三大要素的人工智能技術及其應用上。我們還無法討論那些尚未獲得突破的、擁有全大腦仿真技術的未來人工智能技術。目前應是依據已經存在和能大致預見到的人工智能技術及其發展趨勢,來探討其已經和可能對國際關系產生的影響。

第二個問題,人工智能能否影響國際關系進而影響到國際秩序? 目前看,答案是肯定的。歷史上,技術革新和傳播曾經無數次革命性地改變了一國或多國命運,進而改變了地區格局甚至世界形勢。麥克尼爾父子在?麥克尼爾全球史:從史前到 ２１ 世紀的人類網絡?一書中,生動地描寫了技術革命對軍事、政府組織方式、信仰,進而對國家間權力轉移和地區格局演變的決定性影響。書中談到,公元前 １７００ 年左右,戰車革命改變了美索不達米亞、埃及、印度、中國黃河地區等區域的權力格局,例如,雅利安人入主印度北部和商朝的興起。公元前 １２００ 年后,鐵冶煉技術的出現和傳播,使裝備著相對價格低廉的鐵甲胄和兵器的普通步兵,有條件將精英駕馭的戰車掀翻在地,更加廉價的武器裝備、更大規模的軍隊、官僚統治的鞏固等條件的組合,使亞述、波斯等農業帝國的崛起成為可能。公元前 ７ 世紀,馬弓手的數量和技術又一次打破歐亞大陸的軍事政治平衡,大草原上的游牧民族再度取得對農耕民族的優勢。

再舉一例,核技術的出現改變了現代世界的政治面貌,進一步穩固了二戰結束時形成的大國權力格局,五核國的身份使得美國、蘇聯(解體后是俄羅斯)、英國、法國、中國保持了聯合國安理會常任理事國地位,而且產生了為和平目的利用核能、有核國家承擔不擴散核武器義務、允許無核國家獲取和平核能技術等一系列國際規范,催生了核戰爭等于人類毀滅、核擴散不義且非法等國際價值觀,形成了?不擴散核武器條約??全面禁止核試驗條約?、聯合國核裁軍談判機制、全球核安全峰會、東南亞無核區等一系列國際制度安排。

人工智能被認為具有像核能一樣的軍民兩用性和改變國際實力對比的顛覆性。 ２０１７ 年 ７ 月,哈佛大學肯尼迪學院貝爾福科學與國際事務中心發布了?人工智能與國家安全?報告,認為未來人工智能有可能成為與核武器、飛機、計算機、生物技術不相上下的變革性國家安全技術。 因此,將人工智能納入能夠影響國際關系的討論范疇是合理的。

人工智能甚至可能影響國際秩序的變遷。北京大學王緝思教授認為,國際秩序包含兩項基本內容,一是主要國家和國家集團的權力結構和實力對比,二是處理國家間關系應遵循的規范。清華大學閻學通教授認為,國際秩序是“國際體系中國家依據國際規范采取非暴力方式解決沖突的狀態”,其構成要素為國際主流價值觀、國際規范和國際制度安排。他還認為,導致國際秩序變化的原因是國際格局的變化,但國際格局卻不是國際秩序的構成要素;建立國際新秩序的性質是國際權力的再分配,即國際制度再安排的核心內容。兩位學者在分析國際秩序時都強調了國際格局、國際規范兩大因素。人工智能有可能通過改變國際行為體的力量對比和相互關系,沖擊現有國際規范并催生新的國際規范,從而從國際格局和國際規范兩個方面影響國際秩序的變遷。

二、 人工智能將如何影響國際格局?

首先,人工智能將從經濟上影響國家間的力量對比,甚至引發新一輪大國興衰。

保羅肯尼迪在?大國的興衰?一書中指出,從長遠看,在每個大國經濟的興衰與其作為一個世界性大國的興衰之間有一種顯而易見的聯系。 ２０１７ 年 ６ 月,普華永道發布的?抓住機遇——— ２０１７ 夏季達沃斯論壇報告?預測,到 ２０３０ 年,人工智能對世界經濟的貢獻將達到 １５．７ 萬億美元,中國與北美有望成為最大受益者,總獲益相當于 １０．７ 萬億美元。 ２０１８ 年 ９ 月,麥肯錫全球研究所發布的?前沿筆記:用模型分析人工智能對世界經濟的影響?報告認為,人工智能將顯著提高全球整體生產力。去除競爭影響和轉型成本因素,到 ２０３０ 年,人工智能可能為全球額外貢獻 １３ 萬億美元的 GDP 增長,平均每年推動 GDP 增長約 １．２％ 。這堪比或大于歷史上其他幾種通用技術(比如 １９ 世紀的蒸汽機、 ２０ 世紀的工業制造和 ２１ 世紀的信息技術)所帶來的變革性影響。報告還指出,占據人工智能領導地位的國家和地區(以發達經濟體為主)可以在目前基礎上獲得 ２０％~２５％ 的經濟增長,而新興經濟體可能只有這一比例的一半。“人工智能鴻溝”可能會導致“數字鴻溝”的進一步加深。人工智能可能改變全球產業鏈。以工業機器人、智能制造等為代表的“新工業化”將吸引制造業“回流”發達經濟體,沖擊發展中國家人力資源等比較優勢,使許多發展中國家提前“去工業化”或永久性失去工業化的機會,被鎖定在資源供應國的位置上。人工智能的開發和應用需要大量資金,科技含量高,且有可能導致就業結構變革,使得高重復性、低技術含量的工作逐漸消失。

此外,麥肯錫在 ２０１７ 年的另外一份報告中,根據對 ４６ 個國家和 ８００ 種職業進行的研究作出預測,到 ２０３０ 年,全球將有多達 ８ 億人會失去工作,取而代之的是自動化機器人;屆時,全球多達 １ / ５ 的勞動力將受到影響。全球將發生類似在 ２０ 世紀初的大規模崗位轉變,當時全球大部分崗位從農業轉為工業。 簡言之,就是用資本和技術替代勞動力。同時,人工智能技術的廣泛應用也將增加對這方面的專業人才的需求。

研究顯示,有 ３ 種類型的國家最有可能從人工智能技術的發展中受益。第一類是有人工智能先發優勢的國家,比如美國和中國,都被看好。第二類是資本和技術密集、同時人口較少或處于下行趨勢的國家,比如日本、韓國、新加坡,既有發展人工智能的資本、技術條件,又能借助人工智能的發展彌補人口總量不足或呈下降趨勢、人口結構老齡化等劣勢。第三類是擁有更多科學家、數學家、工程師的國家,或重視科學、技術、工程、數學(STEM )相關專業教育的國家。

其次,人工智能將從軍事上改變國家間的力量對比。

軍事智能化的鼓吹者認為,人工智能將顛覆戰爭形態和戰爭樣式。機械化戰爭是以物釋能,靠的是石油和鋼鐵;信息化戰爭是以網絡聚能,靠的是信息和鏈接。而根據目前的預期,一旦戰爭進入智能化時代,將是以智馭能,打的是機器人和自動化戰爭。

可以預見的是,在智能化條件下,戰斗人員、作戰概念、制勝機理等戰爭要素都將發生改變。在傳統的戰爭中,即便存在敵對雙方在武器裝備、訓練水平上的差距,劣勢一方憑借有利的天時地利、超人一等的計謀、先進的戰術等,尚可一戰。比如,在伊拉克和阿富汗戰爭期間,簡易爆炸裝置就讓美軍吃盡了苦頭。而在智能化戰爭條件下,一方在人工智能上的技術優勢會迅速形成戰場上的壓倒性優勢,使劣勢一方無法形成有效的觀察—判斷—決策—行動循環,始終處于被動挨打的狀況。布魯金斯學會在?人工智能改變世界?報告中提出了“極速戰”(hyperwar )的概念,即戰爭是一個與時間賽跑的過程,決策最快和執行最快的一方通常會占上風。在人工智能輔助下的指揮和控制系統,其決策速度會大大超越傳統戰爭模式,加上能夠自主決定發射致命武器的自動武器系統,將大大加速戰爭進程,以至于需要創造一個新術語“極速戰”來描述這種戰爭模式。 關于后者,２０１８ 年 ４ 月 ２６ 日“大西洋”網站刊發的?當排爆機器人變成武器?一文中,就用大量分析說明,軍事機器人可以顯著降低路邊炸彈的威脅。

人工智能還將引發軍事裝備的革命性變化,無人自動性致命武器的集群式作戰,可能成為未來戰爭的主角和主要作戰方式。設想中的空中無人機“蜂群”、水下無人潛艇“狼群”、地面機器人、無人坦克“蟻群”等一旦出現,將重構“消耗戰”“人海戰術”的價值,使得艦母、FＧ３５ 戰斗機等復雜而昂貴的大型武器平臺,從戰爭成本和作戰效能的綜合角度看變得不那么具有優勢。可以想象一下,當單架成本上億美元的 FＧ３５ 戰斗機對戰單價在幾千美元的武裝無人機集群時,無異于“大炮打蚊子”。

需要說明的是,人工智能對軍事的影響尚存在很大不確定性,這種影響可以有多大、如何影響,都并不確定。在 ２０１８ 年 ７ 月清華大學第七屆世界和平論壇“人工智能與安全”分論壇的討論中,有專家提出,雖然目前大致可以判斷出機器學習、工業機器人、材料科學等技術的未來發展趨勢,但這些技術結合起來給未來戰爭造成的具體影響尚無法準確預估。 ２０ 世紀前 ３０ 年,當時的德、英、法、意等歐陸軍事強國都研發出了坦克、飛機、無線電通信技術等。但是,只有當德國在二戰中遂行了“閃電戰”后,世界才發現這些新技術作為一個整體竟會給戰爭帶來如此顛覆性的改變。現在,無論“算法戰”還是“蜂群”戰術,戰略界的熱議都還是從單項技術出發分析其對作戰的影響。如果不能從整體上認識人工智能技術的軍事運用,設想出來的應對措施有可能成為昂貴而無用的新“馬其諾防線”。

轉載請注明：北緯40° » 傅瑩：人工智能對國際關系的影響初析