人工智能社會需要怎樣的“緊箍咒”

人工智能（AI）已經(jīng)成為新一輪科技革命和產(chǎn)業(yè)變革的核心驅(qū)動力，正在對人類生產(chǎn)、生活、組織方式及經(jīng)濟社會發(fā)展的廣泛領域產(chǎn)生極其深刻的影響。但是，怎樣才能避免新興技術突破人類的道德禁區(qū)而滑向未知，特別是在人工智能研究和應用中應遵循怎樣的倫理和原則，成為各國探討的熱點。目前，尚未有定論。

日本自2016年在《第五期科學技術基本計劃》中提出“Society 5.0”發(fā)展目標以來，各部門、學會、社會團體圍繞人工智能社會展開積極探討，發(fā)布了系列研究報告、執(zhí)法指南等。2018年12月27日，日本內(nèi)閣府發(fā)布《以人類為中心的人工智能社會原則》（以下簡稱《原則》），是迄今為止日本為推進人工智能發(fā)展發(fā)布的最高級別的政策文件，從宏觀和倫理角度表明了日本政府的態(tài)度。在公開征求意見后，計劃于2019年3月正式發(fā)布。

《原則》肯定了人工智能的重要作用，同時強調(diào)重視其負面影響，如社會不平等、等級差距擴大、社會排斥等問題。主張在推進人工智能技術研發(fā)時，綜合考慮其對人類、社會系統(tǒng)、產(chǎn)業(yè)構造、創(chuàng)新系統(tǒng)、政府等帶來的影響，構建能夠使人工智能有效且安全應用的“AI-Ready社會”，對我們正確看待“人機關系”，更好引領和適應人工智能發(fā)展具有借鑒意義。

1、怎樣理解人工智能社會的本質(zhì)

對人工智能的利用不能僅僅停留在實現(xiàn)效率、便利等現(xiàn)實利益層面，人工智能作為人類的公共財富，要通過推動社會方式的根本變革和真正創(chuàng)新，來實現(xiàn)全球可持續(xù)發(fā)展目標。人工智能社會需要體現(xiàn)以下三個基本理念：

（1）尊嚴：人工智能社會是尊重人類尊嚴的社會。應將人工智能作為人類的工具之一，使人類能進一步發(fā)揮自身能力和創(chuàng)造性，通過從事具有意義的工作得到物質(zhì)上、精神上的富足。

（2）多元包容：使用人工智能技術，不只為實現(xiàn)提升便利、解放勞動等傳統(tǒng)效率目標，要能夠使具有多元背景和價值觀、想法的每個人都能獲得幸福，對多元化采取靈活、包容的姿態(tài)，推動新價值創(chuàng)造。

（3）可持續(xù)：通過靈活使用人工智能，強化科學技術儲備，催生新的商業(yè)模式和解決方案，實現(xiàn)科技創(chuàng)新立國，減少社會差距、緩解全球環(huán)境問題等，推動可持續(xù)社會的構筑。

2、接納人工智能，你準備好了嗎

人工智能、物聯(lián)網(wǎng)、機器人、超高速寬帶通信網(wǎng)等都是實現(xiàn)“Society 5.0”的重要技術。人工智能友好型的基礎設施是實現(xiàn)超級智能化社會所必需的一種變革?！霸O定怎樣的目的去使用人工智能”是人類必須考慮的問題。為此，《原則》分別從人類、社會系統(tǒng)、產(chǎn)業(yè)構造、創(chuàng)新系統(tǒng)、政府監(jiān)管五個維度勾勒了“AI-Ready社會”的愿景。

第一，人類。AI-Ready社會對人類能力的要求體現(xiàn)在三個方面：（1）有能力充分理解人工智能的優(yōu)點和缺點。作為人工智能信息來源的數(shù)據(jù)、算法存在“偏誤”人可能性，也可能會被用于不合理目的。其中，數(shù)據(jù)的偏誤主要有統(tǒng)計層面的偏誤、社會形態(tài)產(chǎn)生的偏誤以及人工智能使用者惡意產(chǎn)生的偏誤；（2）能夠使人們從事具有較高創(chuàng)造性、生產(chǎn)性的勞動。通過人工智能的幫助能夠使人們基于出身、文化、興趣等，獲得實現(xiàn)夢想和發(fā)揮創(chuàng)意的能力。為此需要推動教育體系及其相關社會制度的構筑；（3）具有數(shù)據(jù)、人工智能基礎知識和實施、設計等應用能力，跨領域、綜合性、融合性的大量人才。這類人才是推動AI-Ready社會所有活動的原動力，能夠為構建靈活使用人工智能的生活環(huán)境貢獻力量，構建人們得以更加富足、充實生活的社會制度。

第二，社會系統(tǒng)。人工智能的使用能夠推動個性化服務、解決方案的升級和效率化。為了使這些優(yōu)勢得以在社會層面廣泛應用，需要醫(yī)療、金融、保險、交通、能源等在內(nèi)的社會系統(tǒng)整體的靈活調(diào)整，以應對人工智能帶來的變革。從社會系統(tǒng)角度，需要強化“軟件”和“硬件”兩個方面，形成有助于實現(xiàn)具有擴充性、互聯(lián)性、發(fā)展性秩序的柔性架構設計。此外，為了保障社會系統(tǒng)整體的互聯(lián)、協(xié)作，尤其需要建立各類社會系統(tǒng)間互聯(lián)共通的數(shù)據(jù)應用基礎支撐平臺。

第三，產(chǎn)業(yè)構造。為了使多元化的創(chuàng)意和理想得以實現(xiàn)，需要靈活地構筑面向國際的開放的勞動、雇傭和創(chuàng)業(yè)環(huán)境。需要企業(yè)實施公平競爭、采取靈活的工作方式，使人類的創(chuàng)造力通過產(chǎn)業(yè)能夠得以持續(xù)發(fā)揮，從而拉動創(chuàng)新創(chuàng)業(yè)投資。

第四，創(chuàng)新系統(tǒng)。大學、科研機構、企業(yè)以及民眾都可以跨越領域和立場，參與到人工智能研發(fā)、利用及評估中。構建使所有數(shù)據(jù)能及時、安全達到被人工智能解析程度、任何人均可安心提供數(shù)據(jù)、并能夠從中獲得應有收益的環(huán)境。研發(fā)人員和用戶均可安心從事人工智能研發(fā)及應用，通過研發(fā)與應用的快速循環(huán)運轉，加速人工智能發(fā)展。通過人工智能應用進一步產(chǎn)生新的創(chuàng)意，催生更多的可能性，進一步擴大創(chuàng)新的范圍。

第五，政府監(jiān)管。隨著社會形勢變化和技術發(fā)展，人類、社會系統(tǒng)、產(chǎn)業(yè)結構和創(chuàng)新系統(tǒng)的相關內(nèi)容和目標也會隨之更新。需要產(chǎn)學官民等利益相關方相互協(xié)作、共同提出規(guī)則、制度、標準化、行為規(guī)范等方面的監(jiān)管課題，評估影響，構建能夠表達利益訴求并付諸實施的法律及監(jiān)管體制，兼顧較難表達呼聲的社會群體的意見。采取包括技術手段在內(nèi)的企業(yè)層面的自主性規(guī)制，構建較為靈活且具實效性的監(jiān)管方式。為了應對跨境問題，還需要建立國際合作協(xié)調(diào)機制。

3、為什么要給人工智能戴上緊箍兒

科技的發(fā)展越來越迅速，而普通人對于復雜的黑科技也越來越難以理解。人類社會根據(jù)適用對象的不同，需要對人工智能的發(fā)展方向加以疏導和限制，避免可能出現(xiàn)的失控局面。這就需要一些相對具體的指導原則進行引領。

第一，人類中心原則。人工智能的使用不得侵害憲法和國際規(guī)范保障的基本人權。人工智能的研發(fā)、推廣、運用應該被用于提升拓展人的能力,使人類獲得多元幸福。為了防止人類過度依賴人工智能、惡意使用人工智能操縱人類意思決定的行為，需要把握以下原則：（1）人工智能不僅僅用來代替部分人力勞動，還可以作為高級工具輔助人類，從而拓展人類能力和創(chuàng)造性。（2）在人工智能利用中，人類自己可以判斷和決定如何使用人工智能。對使用人工智能帶來的后果和責任，根據(jù)問題性質(zhì)在研發(fā)、提供、運用等利益相關者之間妥當分配。（3）在人工智能普及過程中，防止出現(xiàn)“信息弱者”和“技術弱者”群體，建立能夠使人工智能帶來的恩惠普及所有人的、易于使用的系統(tǒng)。

第二，教育應用原則。平等地向所有人提供教育、培育應用的教育環(huán)境：（1）在幼兒教育、初等中等教育中提供廣泛的教育機會，為社會人和老年人提供重新學習的機會。（2）建立人人都能掌握人工智能、數(shù)理、數(shù)據(jù)科學等相關素養(yǎng)的教育系統(tǒng)，超越文理學科界限強化學習。在應用教育中，設置有助于認識到數(shù)據(jù)偏誤及使用方法偏誤等人工智能、數(shù)據(jù)相關特性的內(nèi)容，以及人工智能公平性、公正性、隱私保護等相關內(nèi)容。（3）從單方向、均一化教育方式轉變?yōu)榧ぐl(fā)人類興趣和力量。始終保持靈活轉變的意識，靈活運用人工智能，構建防止弱勢群體出現(xiàn)的交互式教育環(huán)境。（4）完善教育環(huán)境并不是給行政部門和學校（教師）增加負擔，民間企業(yè)和普通市民要發(fā)揮自主性。

第三，保護隱私原則。人工智能社會中，依據(jù)個人行動等數(shù)據(jù)可以高精度推斷其政治立場、經(jīng)濟狀況、興趣愛好等。這意味著需要謹慎對待個人數(shù)據(jù)：（1）對個人數(shù)據(jù)的使用，包括政府使用行為在內(nèi)，不得侵犯個人自由、尊嚴和平等；（2）對個人數(shù)據(jù)中涉及隱私的部分，確保使用行為的正確性、正當性，以及本人能夠?qū)嵸|(zhì)性地參與，并從中得到適當益處；（3）個人數(shù)據(jù)必須根據(jù)其重要性和需求性得到妥善保護，基于文化背景和社會共同理念，把握使用和保護之間的平衡。

第四，保障安全原則。人工智能在實現(xiàn)社會系統(tǒng)自動化、提升安全性的同時，在目前能夠設想的技術范圍內(nèi)，對于稀有現(xiàn)象和故意攻擊行為人工智能無法做到總是能夠正確應對，在安全方面存在新的風險。因此，需要把握利益與風險之間的平衡，從整體上提高社會的安全性和可持續(xù)性：（1）推進正確評估人工智能風險及降低風險的研究、人工智能深度研發(fā)以及包含安全保障在內(nèi)的風險管理；（2）重視人工智能使用的可持續(xù)性，不一味依賴特定的、單一的或者少數(shù)幾個特定的人工智能。

第五，公平競爭原則。維護能夠推動商業(yè)模式和服務創(chuàng)新，維持經(jīng)濟持續(xù)增長和解決社會課題的公平的競爭環(huán)境：（1）不應形成特定國家基于對人工智能相關資源的集中，利用其支配地位實施不當?shù)臄?shù)據(jù)收集和侵害主權行為的社會；（2）不應形成特定企業(yè)基于對人工智能相關資源的集中，利用其支配地位實施不當?shù)臄?shù)據(jù)收集和不公平競爭行為的社會；（3）不應形成由于人工智能的使用，導致財富和社會影響力不當?shù)丶杏诓糠掷嫦嚓P者的社會。

第六，公平性、說明責任及透明性原則。為了避免人工智能的使用導致個人因背景不同而遭受不當?shù)牟顒e待遇，或者使人在尊嚴層面遭受不正當待遇，需要確保公平、透明的意思決定，以及對意思決定結果的說明義務，確保技術的可信賴性：（1）在人工智能設計理念下，人不應由于人種、性別、國籍、年齡、政治信念、宗教等背景被不當?shù)夭顒e對待；（2）對使用人工智能事實、人工智能數(shù)據(jù)的取得方法及使用方法、確保人工智能運行結構正確性的相關措施等，都需要根據(jù)情況予以說明；（3）為使人能夠理解并判斷人工智能提案，對于人工智能的使用、采納、運用都應該根據(jù)需要設置溝通對話場所；（4）使社會能夠安心靈活使用人工智能，需要保障人工智能以及數(shù)據(jù)的可信賴性。

第七，創(chuàng)新原則。（1）為實現(xiàn)持續(xù)創(chuàng)新，需要跨越國境、產(chǎn)學官民、人種、性別、國籍、年齡、政治理念、宗教等界限，從人才、研究兩個方面，大力推進國際化、多樣化以及產(chǎn)學官民合作；（2）推動大學、研究機構、企業(yè)間的平等合作以及人才流動；（3）推進人工智能品質(zhì)及可信賴性的確認方法、效率性數(shù)據(jù)收集及整理方法、人工智能開發(fā)、測試、運用方法論等人工智能工學的確立；（4）在確保個人隱私和安全的前提下，打破數(shù)據(jù)壟斷，推動數(shù)據(jù)跨國境流動使用，完善國際合作，構筑人工智能計算機資源、高速網(wǎng)絡共用的研發(fā)環(huán)境；（5）推進人工智能技術的社會應用，政府對成為阻礙因素的規(guī)制內(nèi)容實施改革。

4、我們對人工智能型社會有怎樣的期待

對于人工智能開發(fā)者和經(jīng)營者來說，需要遵守基本理念和上述人工智能社會原則的基礎上，制定并遵守人工智能開發(fā)利用原則。目前已經(jīng)有不少國家、團體、企業(yè)都已經(jīng)對人工智能開發(fā)利用原則開展探討，但是，目前尚未達成國際共識。因此，本《原則》強調(diào)日本需要積極制定本國的開發(fā)利用原則，通過開放式探討，積極推動國際非規(guī)制性、非約束性原則框架的達成。2016年，日本政府在G7信息通信部長會議上提出人工智能研發(fā)８項基本原則，并提議創(chuàng)設討論國際統(tǒng)一標準的國際會議。

當前，人工智能不僅與實體經(jīng)濟深度融合，對于社會發(fā)展、貧富差距、政府治理、資源枯竭、全球環(huán)境問題和科學研究等關乎人類可持續(xù)發(fā)展的重大課題都有重要影響。加上日本自身面臨少子高齡化、勞動力不足、地方稀疏化、財政支出負擔等社會經(jīng)濟問題，因此，日本政府對人工智能的發(fā)展和廣泛應用寄予厚望。其人工智能的內(nèi)涵并不局限于技術層面的人工智能，而是泛指“高度復雜的智能社會體系”。

值得一提的是，《原則》在尊重人類尊嚴、實現(xiàn)人工智能可信賴性等方面與歐洲委員會2018年12月18日發(fā)布的《關于可信賴人工智能的倫理準則》具有一致之處?！对瓌t》崇尚人人平等、不唯效率至上的人本發(fā)展觀，符合對“Society 5.0”的概念界定和打造超級智能社會的發(fā)展目標。

中國作為2016年二十國集團（G20）主席國，首次將“數(shù)字經(jīng)濟”列為G20創(chuàng)新增長藍圖中的一項重要議題。2018年G20峰會，我國建議二十國集團將“新技術應用及其影響”作為一項重點工作深入研究。我國作為人工智能發(fā)展大國，向全球展現(xiàn)了人工智能時代的中國智慧。我們不僅要抓住人工智能發(fā)展機遇，還要積極應對人口老齡化、勞動力人口下降、技能型人才短缺等挑戰(zhàn)，多維度對人工智能的開發(fā)應用及影響進行系統(tǒng)深入、客觀冷靜的專業(yè)研討，在基礎研究、技術開發(fā)應用、資源開放共享、人才教育及法律政策上進行有序引導，為人工智能持續(xù)健康發(fā)展保駕護航。

（作者：李慧敏，系中科院科技戰(zhàn)略咨詢研究院助理研究員）