人工智能（AI）已經成為新一輪科技革命和產業變革的核心驅動力，正在對人類生產、生活、組織方式及經濟社會發展的廣泛領域產生極其深刻的影響。但是，怎樣才能避免新興技術突破人類的道德禁區而滑向未知，特別是在人工智能研究和應用中應遵循怎樣的倫理和原則，成為各國探討的熱點。目前，尚未有定論。

日本自2016年在《第五期科學技術基本計劃》中提出“Society 5.0”發展目標以來，各部門、學會、社會團體圍繞人工智能社會展開積極探討，發布了系列研究報告、執法指南等。2018年12月27日，日本內閣府發布《以人類為中心的人工智能社會原則》（以下簡稱《原則》），是迄今為止日本為推進人工智能發展發布的最高級別的政策文件，從宏觀和倫理角度表明了日本政府的態度。在公開征求意見后，計劃于2019年3月正式發布。

《原則》肯定了人工智能的重要作用，同時強調重視其負面影響，如社會不平等、等級差距擴大、社會排斥等問題。主張在推進人工智能技術研發時，綜合考慮其對人類、社會系統、產業構造、創新系統、政府等帶來的影響，構建能夠使人工智能有效且安全應用的“AI-Ready社會”，對我們正確看待“人機關系”，更好引領和適應人工智能發展具有借鑒意義。

1、怎樣理解人工智能社會的本質

對人工智能的利用不能僅僅停留在實現效率、便利等現實利益層面，人工智能作為人類的公共財富，要通過推動社會方式的根本變革和真正創新，來實現全球可持續發展目標。人工智能社會需要體現以下三個基本理念：

（1）尊嚴：人工智能社會是尊重人類尊嚴的社會。應將人工智能作為人類的工具之一，使人類能進一步發揮自身能力和創造性，通過從事具有意義的工作得到物質上、精神上的富足。

（2）多元包容：使用人工智能技術，不只為實現提升便利、解放勞動等傳統效率目標，要能夠使具有多元背景和價值觀、想法的每個人都能獲得幸福，對多元化采取靈活、包容的姿態，推動新價值創造。

（3）可持續：通過靈活使用人工智能，強化科學技術儲備，催生新的商業模式和解決方案，實現科技創新立國，減少社會差距、緩解全球環境問題等，推動可持續社會的構筑。

2、接納人工智能，你準備好了嗎

人工智能、物聯網、機器人、超高速寬帶通信網等都是實現“Society 5.0”的重要技術。人工智能友好型的基礎設施是實現超級智能化社會所必需的一種變革?！霸O定怎樣的目的去使用人工智能”是人類必須考慮的問題。為此，《原則》分別從人類、社會系統、產業構造、創新系統、政府監管五個維度勾勒了“AI-Ready社會”的愿景。

第一，人類。AI-Ready社會對人類能力的要求體現在三個方面：（1）有能力充分理解人工智能的優點和缺點。作為人工智能信息來源的數據、算法存在“偏誤”人可能性，也可能會被用于不合理目的。其中，數據的偏誤主要有統計層面的偏誤、社會形態產生的偏誤以及人工智能使用者惡意產生的偏誤；（2）能夠使人們從事具有較高創造性、生產性的勞動。通過人工智能的幫助能夠使人們基于出身、文化、興趣等，獲得實現夢想和發揮創意的能力。為此需要推動教育體系及其相關社會制度的構筑；（3）具有數據、人工智能基礎知識和實施、設計等應用能力，跨領域、綜合性、融合性的大量人才。這類人才是推動AI-Ready社會所有活動的原動力，能夠為構建靈活使用人工智能的生活環境貢獻力量，構建人們得以更加富足、充實生活的社會制度。

第二，社會系統。人工智能的使用能夠推動個性化服務、解決方案的升級和效率化。為了使這些優勢得以在社會層面廣泛應用，需要醫療、金融、保險、交通、能源等在內的社會系統整體的靈活調整，以應對人工智能帶來的變革。從社會系統角度，需要強化“軟件”和“硬件”兩個方面，形成有助于實現具有擴充性、互聯性、發展性秩序的柔性架構設計。此外，為了保障社會系統整體的互聯、協作，尤其需要建立各類社會系統間互聯共通的數據應用基礎支撐平臺。

第三，產業構造。為了使多元化的創意和理想得以實現，需要靈活地構筑面向國際的開放的勞動、雇傭和創業環境。需要企業實施公平競爭、采取靈活的工作方式，使人類的創造力通過產業能夠得以持續發揮，從而拉動創新創業投資。

第四，創新系統。大學、科研機構、企業以及民眾都可以跨越領域和立場，參與到人工智能研發、利用及評估中。構建使所有數據能及時、安全達到被人工智能解析程度、任何人均可安心提供數據、并能夠從中獲得應有收益的環境。研發人員和用戶均可安心從事人工智能研發及應用，通過研發與應用的快速循環運轉，加速人工智能發展。通過人工智能應用進一步產生新的創意，催生更多的可能性，進一步擴大創新的范圍。

第五，政府監管。隨著社會形勢變化和技術發展，人類、社會系統、產業結構和創新系統的相關內容和目標也會隨之更新。需要產學官民等利益相關方相互協作、共同提出規則、制度、標準化、行為規范等方面的監管課題，評估影響，構建能夠表達利益訴求并付諸實施的法律及監管體制，兼顧較難表達呼聲的社會群體的意見。采取包括技術手段在內的企業層面的自主性規制，構建較為靈活且具實效性的監管方式。為了應對跨境問題，還需要建立國際合作協調機制。

3、為什么要給人工智能戴上緊箍兒

科技的發展越來越迅速，而普通人對于復雜的黑科技也越來越難以理解。人類社會根據適用對象的不同，需要對人工智能的發展方向加以疏導和限制，避免可能出現的失控局面。這就需要一些相對具體的指導原則進行引領。

第一，人類中心原則。人工智能的使用不得侵害憲法和國際規范保障的基本人權。人工智能的研發、推廣、運用應該被用于提升拓展人的能力,使人類獲得多元幸福。為了防止人類過度依賴人工智能、惡意使用人工智能操縱人類意思決定的行為，需要把握以下原則：（1）人工智能不僅僅用來代替部分人力勞動，還可以作為高級工具輔助人類，從而拓展人類能力和創造性。（2）在人工智能利用中，人類自己可以判斷和決定如何使用人工智能。對使用人工智能帶來的后果和責任，根據問題性質在研發、提供、運用等利益相關者之間妥當分配。（3）在人工智能普及過程中，防止出現“信息弱者”和“技術弱者”群體，建立能夠使人工智能帶來的恩惠普及所有人的、易于使用的系統。

第二，教育應用原則。平等地向所有人提供教育、培育應用的教育環境：（1）在幼兒教育、初等中等教育中提供廣泛的教育機會，為社會人和老年人提供重新學習的機會。（2）建立人人都能掌握人工智能、數理、數據科學等相關素養的教育系統，超越文理學科界限強化學習。在應用教育中，設置有助于認識到數據偏誤及使用方法偏誤等人工智能、數據相關特性的內容，以及人工智能公平性、公正性、隱私保護等相關內容。（3）從單方向、均一化教育方式轉變為激發人類興趣和力量。始終保持靈活轉變的意識，靈活運用人工智能，構建防止弱勢群體出現的交互式教育環境。（4）完善教育環境并不是給行政部門和學校（教師）增加負擔，民間企業和普通市民要發揮自主性。

第三，保護隱私原則。人工智能社會中，依據個人行動等數據可以高精度推斷其政治立場、經濟狀況、興趣愛好等。這意味著需要謹慎對待個人數據：（1）對個人數據的使用，包括政府使用行為在內，不得侵犯個人自由、尊嚴和平等；（2）對個人數據中涉及隱私的部分，確保使用行為的正確性、正當性，以及本人能夠實質性地參與，并從中得到適當益處；（3）個人數據必須根據其重要性和需求性得到妥善保護，基于文化背景和社會共同理念，把握使用和保護之間的平衡。

第四，保障安全原則。人工智能在實現社會系統自動化、提升安全性的同時，在目前能夠設想的技術范圍內，對于稀有現象和故意攻擊行為人工智能無法做到總是能夠正確應對，在安全方面存在新的風險。因此，需要把握利益與風險之間的平衡，從整體上提高社會的安全性和可持續性：（1）推進正確評估人工智能風險及降低風險的研究、人工智能深度研發以及包含安全保障在內的風險管理；（2）重視人工智能使用的可持續性，不一味依賴特定的、單一的或者少數幾個特定的人工智能。

第五，公平競爭原則。維護能夠推動商業模式和服務創新，維持經濟持續增長和解決社會課題的公平的競爭環境：（1）不應形成特定國家基于對人工智能相關資源的集中，利用其支配地位實施不當的數據收集和侵害主權行為的社會；（2）不應形成特定企業基于對人工智能相關資源的集中，利用其支配地位實施不當的數據收集和不公平競爭行為的社會；（3）不應形成由于人工智能的使用，導致財富和社會影響力不當地集中于部分利益相關者的社會。

第六，公平性、說明責任及透明性原則。為了避免人工智能的使用導致個人因背景不同而遭受不當的差別待遇，或者使人在尊嚴層面遭受不正當待遇，需要確保公平、透明的意思決定，以及對意思決定結果的說明義務，確保技術的可信賴性：（1）在人工智能設計理念下，人不應由于人種、性別、國籍、年齡、政治信念、宗教等背景被不當地差別對待；（2）對使用人工智能事實、人工智能數據的取得方法及使用方法、確保人工智能運行結構正確性的相關措施等，都需要根據情況予以說明；（3）為使人能夠理解并判斷人工智能提案，對于人工智能的使用、采納、運用都應該根據需要設置溝通對話場所；（4）使社會能夠安心靈活使用人工智能，需要保障人工智能以及數據的可信賴性。

第七，創新原則。（1）為實現持續創新，需要跨越國境、產學官民、人種、性別、國籍、年齡、政治理念、宗教等界限，從人才、研究兩個方面，大力推進國際化、多樣化以及產學官民合作；（2）推動大學、研究機構、企業間的平等合作以及人才流動；（3）推進人工智能品質及可信賴性的確認方法、效率性數據收集及整理方法、人工智能開發、測試、運用方法論等人工智能工學的確立；（4）在確保個人隱私和安全的前提下，打破數據壟斷，推動數據跨國境流動使用，完善國際合作，構筑人工智能計算機資源、高速網絡共用的研發環境；（5）推進人工智能技術的社會應用，政府對成為阻礙因素的規制內容實施改革。

4、我們對人工智能型社會有怎樣的期待

對于人工智能開發者和經營者來說，需要遵守基本理念和上述人工智能社會原則的基礎上，制定并遵守人工智能開發利用原則。目前已經有不少國家、團體、企業都已經對人工智能開發利用原則開展探討，但是，目前尚未達成國際共識。因此，本《原則》強調日本需要積極制定本國的開發利用原則，通過開放式探討，積極推動國際非規制性、非約束性原則框架的達成。2016年，日本政府在G7信息通信部長會議上提出人工智能研發８項基本原則，并提議創設討論國際統一標準的國際會議。

當前，人工智能不僅與實體經濟深度融合，對于社會發展、貧富差距、政府治理、資源枯竭、全球環境問題和科學研究等關乎人類可持續發展的重大課題都有重要影響。加上日本自身面臨少子高齡化、勞動力不足、地方稀疏化、財政支出負擔等社會經濟問題，因此，日本政府對人工智能的發展和廣泛應用寄予厚望。其人工智能的內涵并不局限于技術層面的人工智能，而是泛指“高度復雜的智能社會體系”。

值得一提的是，《原則》在尊重人類尊嚴、實現人工智能可信賴性等方面與歐洲委員會2018年12月18日發布的《關于可信賴人工智能的倫理準則》具有一致之處?！对瓌t》崇尚人人平等、不唯效率至上的人本發展觀，符合對“Society 5.0”的概念界定和打造超級智能社會的發展目標。

中國作為2016年二十國集團（G20）主席國，首次將“數字經濟”列為G20創新增長藍圖中的一項重要議題。2018年G20峰會，我國建議二十國集團將“新技術應用及其影響”作為一項重點工作深入研究。我國作為人工智能發展大國，向全球展現了人工智能時代的中國智慧。我們不僅要抓住人工智能發展機遇，還要積極應對人口老齡化、勞動力人口下降、技能型人才短缺等挑戰，多維度對人工智能的開發應用及影響進行系統深入、客觀冷靜的專業研討，在基礎研究、技術開發應用、資源開放共享、人才教育及法律政策上進行有序引導，為人工智能持續健康發展保駕護航。

（作者：李慧敏，系中科院科技戰略咨詢研究院助理研究員）