【摘要】“大數(shù)據(jù)”“人工智能”等高新科技帶來的對人類自身的挑戰(zhàn)，遠遠超過了人們對“大數(shù)據(jù)識人斷事”的期待，也超出了當代倫理學的已有規(guī)則范疇，成為科技哲學深入思考和探討的重要命題，也成為所有科學研究領域——包括自然科學和社會科學——深入思考和探討的哲學性、科學性、技術性，甚至宗教性、空間極其廣闊、時序無限縱深的命題。無論對“大數(shù)據(jù)”“人工智能”等技術發(fā)展利弊爭論的焦點如何，面對人工智能技術越來越復雜并且越來越“類人化”的現(xiàn)實，人類建立起基本的共識：技術的發(fā)展以不傷害人的生命為底線。

【關鍵詞】大數(shù)據(jù)  人工智能  科技倫理

【中圖分類號】 G303                             【文獻標識碼】A

電影《流浪地球》的火爆，讓“未來”和“科幻”成為2019年的熱詞。關注和探討人類命運的未來，不僅是科學家、科技界和科技創(chuàng)新永恒追求的目標和不竭的發(fā)展動力，也成為當下中青年人群乃至全社會的時尚和熱門話題。“互聯(lián)網(wǎng)”“人工智能”“人臉識別”“數(shù)據(jù)挖掘”“分析與預測”這些曾經(jīng)令普通百姓陌生的詞匯不經(jīng)意間已經(jīng)家喻戶曉、婦孺皆知，在帶給人們好奇、期盼的同時，也帶來了憂慮：無處不在的互聯(lián)網(wǎng)和大數(shù)據(jù)將個人隱私置于何地？沒有了隱私的人還將如何維系“人之所以為人”的基本生存法則？預知了清晰、具體的個人未來的人們是否有勇氣面對人生未來的風險并將如何選擇自己的生存方式以及合理的生命軌跡？

“大數(shù)據(jù)”“人工智能”等高新科技帶來的對人類自身的挑戰(zhàn)，遠遠超過了人們對“大數(shù)據(jù)識人斷事”的期待，也超出了當代倫理學的已有規(guī)則范疇，成為科技哲學深入思考和探討的重要命題，也成為所有科學研究領域——包括自然科學和社會科學——深入思考和探討的哲學性、科學性、技術性，甚至宗教性、空間極其廣闊、時序無限縱深的命題。

對未知未來的好奇與探索是人類文明發(fā)展的主線

人類在長期與大自然的博弈中，感到自己的渺小、脆弱和無奈，一直試圖有一種超然的力量能夠預知人生中的不利與災難，至少是可能的風險，以便用自己有限的能力加以改變，起碼能夠及時規(guī)避，以期未來。胸有家國情懷遠大抱負之人，希望預判時事，順天時應地利聚人和，成就理想大業(yè)。也有勢利者，期盼預知自己所有未來的機遇，不放過任何一次飛黃騰達、聚斂財貨的機會，以滿足不斷膨脹的欲望。人類個體經(jīng)驗的積累和聯(lián)想，集中反映在“識人斷事”的預言文化中，幾千年的人類文明和文化史，便是順著這樣的思路展開和延續(xù)。

希臘神話起源于歐洲原始氏族社會，反映了古希臘人對自然的崇拜，無論是神還是英雄，對自然一無所知的原始人們賦予了他們預知未來、指引未來的部分能力。阿加雷斯是所羅門王72柱魔神中排第2位的魔神，肩上載著雄鷹，胯下騎著鱷魚，教授世上存在的任何語言與管樂。他雖然被描述成三頭惡魔，引人酗酒、賭博或引發(fā)其犯罪的欲望，其魔力足以摧毀任何人的尊嚴——無論是神圣者還是世俗者，但人們?nèi)匀毁x予了他預見未來的能力，能道破世間的所有謎題，找尋失蹤者，引發(fā)大地震。人們把他稱為變幻的侯爵，具有指揮31個軍團的權力，可見人類對他預測魔力的懼怕與崇拜。

如果說阿加雷斯的預測能力是遠古希臘人在對災害懼怕的基礎上基于防御心理建立起來的一種“風險預測”，居住在克里特島的人們對光明未來的企盼和預知的強烈愿望，便集中表現(xiàn)在太陽神阿波羅的身上。阿波羅是人類的保護神，是英武、俊美和善良的化身，他在司掌太陽、醫(yī)藥、畜牧、文藝、音樂、遷徙和航海事務中，為人類驅(qū)除病痛和邪惡，帶來光明與信心。父親宙斯給予了阿波羅預言的能力，使他成為排在大地女神蓋亞、蓋亞的女兒正義女神忒彌斯、語言之神福柏之后的，位居第四的預言之神。他高舉著發(fā)布預言用的圣物三角鼎，向人們預言宙斯的意志。

阿波羅神廟所在地德爾斐是最著名的神諭發(fā)布地。德爾斐神諭可以追溯到青銅時代后期，公元前6～前5世紀時，在整個希臘已經(jīng)獲得了巨大的聲譽，甚至蘇格拉底將德爾斐的神諭稱為“預見未來的偉大技藝”。有學者將德爾斐發(fā)布的615條神諭分為6類：自然現(xiàn)象、城邦事務、戰(zhàn)爭、宗教事務、殖民活動、個人與家庭。從這些神諭的范圍可以看出，正是由于人類已有的經(jīng)驗無法理解和解釋某些自然現(xiàn)象，更無法用有限的經(jīng)驗預判未來活動的結果，這項“預見未來的偉大技藝”才被給予了那些寄托著人類期望的神祗，以期用神力代替人類去實現(xiàn)那些人類難以實現(xiàn)的臆想或夢想。

中國古代神話的內(nèi)容十分豐富，產(chǎn)生的年代更久遠一些，但大抵與希臘神話產(chǎn)生的背景相同。在生產(chǎn)力和人們的認識能力都十分低下的原始時代，原始人對自然界和自然現(xiàn)象以及人類自身無法進行科學的理解和解釋，只能憑借狹隘的生活體驗加以想象，認為自然界也像人一樣有意志、有性格、有感情，日月風雨雷電都有神在主宰著。上古神話中那些具有超人能力的英雄之神，既是率領他們戰(zhàn)勝自然和征服自然的領袖，也是他們的保護者和朋友。盡管中國古代神話中的神仙體系多元、復雜，但由于中國傳統(tǒng)文化中的道德倫理標準單一，追求思想感情超凡脫俗，對人和事的判定具有相對明確的“正義”或者“邪惡”之分。在這一文化框架內(nèi)形成的、人們根據(jù)經(jīng)驗“識人斷事”的準則也突出反映在對神仙們的塑造中，使得神仙們具有了明顯的“正義”或者“邪惡”的身份標簽，突出了對善與惡的辨別和情感表達，弱化了對命運的預測功能。在中國的神仙們看來，正義的一方一定會擊敗邪惡的一方。無論是黃帝大戰(zhàn)蚩尤，還是姬發(fā)反抗商紂王，只有姜子牙和公孫豹斗智斗勇，沒有像特洛伊之戰(zhàn)中的卡珊卓“如果將木馬迎進城內(nèi)，特洛伊城必遭毀滅”的現(xiàn)實預言，神仙們僅僅是提供道義上的幫助，并不給出勝負的預測結果。

希臘神話與中國神話也有相通之處。在希臘神話中，盡管奧林匹斯山上的神們可以預言，但預言表達詛咒和警示的寓意明顯，依人的情感和意愿而提出和解釋預測。比如，特洛伊戰(zhàn)爭之前，阿喀琉斯的母親忒提斯從命運女神那里得知他將戰(zhàn)死，忒提斯用天火燒去阿喀琉斯凡人部分的軀體再用神膏恢復，使得他全身刀槍不入，唯有腳踵沒有經(jīng)歷天火的歷煉。在攻打特洛伊的第10年，阿波羅恰恰是用暗箭射中了阿喀琉斯的腳踵，使這位英雄沒有逃脫命運的安排。這一悲劇故事正是表達了人們對戰(zhàn)爭的詛咒，對遠離戰(zhàn)爭的警示，從另一個側面反映了人類對“正義”與“邪惡”的情感。

由此可以看出，自遠古開始，無論是根據(jù)人類既有經(jīng)驗還是根據(jù)想象提出的對未來的預言，已經(jīng)表現(xiàn)出體現(xiàn)人的意愿、價值觀的傾向，盡管有“謀事在人、成事在天”這一對未來充滿無奈的心理暗示與借口，人的作用勝于“天”的作用、人類試圖通過自身努力改變命運等思想認識已經(jīng)明確地表現(xiàn)在神話故事中。盡管這些認識可能是非理性思考的結果，客觀上，人是萬物之靈的觀念逐漸成為人類認識自身和認識人與自然、人與社會關系的主流認知，成為推動人類文明發(fā)展的主線。

東方智慧與西方科學的碰撞：“二進制”突破了人類對未來認知的天花板

如果說東西方神話中的預言之神是人們早期經(jīng)驗形成的認知體現(xiàn)，人們賦予神的預測能力和由此產(chǎn)生的預言故事發(fā)展成為“預測學”，無疑是源于人們對自然認識能力的提升。無論是東方還是西方，“天文學”的發(fā)展都是預測學的起源。人們渴望了解自己所在的時空，從紛繁復雜的自然現(xiàn)象和社會現(xiàn)象中找到背后的“確定”因素，解開它的密碼，在起伏不定的人生中多一份把握、多一份從容。

西方十二星座預測的產(chǎn)生與天文學的發(fā)展直接相關，將塔羅牌與星座運勢聯(lián)系起來則是大數(shù)據(jù)運用的先驅(qū)——將不同組合的一套紙牌賦予不同的意義，集聚了足夠多數(shù)量的抽取相同組合的人群特征就形成了一定規(guī)律，可以作為預測的依據(jù)。自《周易》始，以陰陽、八卦象數(shù)理論為指導，結合干支五行學說誕生的、彰顯出濃厚東方哲學思辨色彩和思想的預測理論和方法，不僅成為中華傳統(tǒng)文化的經(jīng)典，也成為世界文化的重要組成部分，是中華民族奉獻給世界的文化瑰寶，也是中國預測學誕生的標志。

預測學用于占卜，《周易》為先祖。歷代對《周易》的研究大致分為兩個學派：義理派和象數(shù)派。義理派注重發(fā)掘周易的哲學價值，象數(shù)派則著重將周易用于算卦——預測人與事的變化及結果。當然，即使是義理派，也對玄學有著極大的興趣。我國著名易學家、吉林大學教授金景芳在《學易四種》《周易講座》等多部著作中闡釋《周易》的思想與智慧，獨樹一幟，被稱為“金派”。他認為，在種種變幻的人生際遇中，《周易》具有“觀宇宙萬象，通幽明之故，測人事之變，知禍福倚伏”的意義和作用，這顯然是將義理派和象數(shù)派兩派的思想觀點做了深入研究之后提出的評價。從這個評價可以明顯地看，他是把《周易》既看作是哲學經(jīng)典，也視為玄學或者說是預測學的指南。

明代末年，《易經(jīng)》經(jīng)傳教士翻譯并傳播到西方。1703年4月，德國哲學家及數(shù)學家、代數(shù)與微積分的發(fā)明者、被譽為“計算機之父”的萊布尼茨收到了漢學大師、法國人布維關于“二進制”的一封回信，發(fā)現(xiàn)中國的六十四卦中的兩個基本符號陰爻和陽爻對應于二進制算術中的兩個基本符號“0”和“1”，用“0”和“1”代表“--”和“—”，后者可以完全轉譯為前者。萊布尼茨收到白晉寄來的“伏羲六十四卦方位圖”后興奮不已，白晉信中將《易經(jīng)》同“二進制”聯(lián)系起來的想法，也讓萊布尼茲豁然開朗，抓住了東方智慧中從“數(shù)”的視角對“二進制”給予的解析和印證。同年，5月5日，萊布尼茨終于在法國科學院院報上發(fā)表了關于“二進制”的文章：《關于只用兩個記號0和1的二進制算術的解釋——和對它的用途以及它所給出的中國古代伏羲圖的意義的評注》，不僅為計算機科學的發(fā)展奠定了堅實的理論基礎，也使得以心理學和哲學為基礎的、帶有明顯模糊性思維特征的占卜等古代“預測”理論和方法，從數(shù)理類易學開始了向以數(shù)學為基礎支撐的現(xiàn)代預測科學發(fā)展和提升的新階段，對當代科學技術的發(fā)展產(chǎn)生了巨大影響，起到了巨大的推動作用。

計算機科學與技術的飛速發(fā)展，沖破了人類對未來認知的天花板，將人類幾千年的臆想和逐步積累起來的經(jīng)驗，變成可以用數(shù)字表述的現(xiàn)實描述和未來預測。“大數(shù)據(jù)”將人類帶進了“透明”世界，可以分析人類行為的現(xiàn)實狀態(tài)，也可以根據(jù)已有數(shù)據(jù)分析人類行為的未來趨向，“隱私”作為人類文明的階段性詞匯，將可能消亡，“未來”也將不再具有神秘色彩，而僅僅是人類文明中一段結果明確的既定過程。人們的生命意義有可能簡化為，在時間的流逝中，實現(xiàn)既定目標的過程。當然，雖然有大數(shù)據(jù)作為依據(jù)，可以預測人類的某些行為趨向甚至結果，特別是短期內(nèi)的這種預測，由于干擾因素在可預見范圍內(nèi)，效果可能更好。對于長期的人類群體行為和所從事的某些復雜活動的預測，會受到較多不確定因素的影響和干擾，是否如人們期盼的那么準確，在目前的技術水平和條件下還不得而知。不能否認的是，人們根據(jù)“大數(shù)據(jù)”“識人斷事”的準確率會越來越高，畢竟“大數(shù)據(jù)”匯聚的是足夠多的人的信息，深度挖掘分析和聯(lián)想的速度極快，不是人類生物性大腦可以企及的。

從“大數(shù)據(jù)識人斷事能勝過經(jīng)驗嗎？”到“人工智能模仿人腦的能力是否能超越人腦？”

幾千年的人類文明，以滿足人的好奇、探索和解開人類的未知為發(fā)展的核心動力，“未來”總是以人們向往的美好前景作為化身被人們所接受、理解和期盼。在這樣的語境和文化中，人們不懈地憧憬著美好的未來，尋找著最接近自己心中“未來”的那個結果，在生生不息的追求和探索中，對未來的“預測”從神話發(fā)展為今天的科學和學科體系?，F(xiàn)代未來學的誕生，是人類不斷認知的結果，也是人類幾千年追索的必然，雖然它是現(xiàn)代科學中最年輕的分支之一，但它的孕育過程卻是源遠流長、主脈清晰。對未來的預測與研究，仍然是未來學能夠獨立存在和發(fā)展的根本和重點。沿著這一源流，現(xiàn)階段廣義的未來學也被稱作“未來預測學”或“預測學”。

未來學真的能夠預測未來嗎？1943年，德國學者弗萊希泰姆在美國首先提出未來學概念，在此后的70余年中，未來學分化為理論未來學和應用未來學。理論未來學著重于分析、比較、歸納、整理、綜合各種預測結果或?qū)ξ磥淼难芯砍晒?，應用未來學側重于為特定的規(guī)劃、計劃、管理、決策、發(fā)展戰(zhàn)略等工作提供依據(jù)的未來研究或未來預測。信息論、控制論、協(xié)同論等成為當代未來學的基本理論，研究方法大多來自其他學科領域，其中一小部分是由未來學專家創(chuàng)造的。較為常用的方法包括：德爾斐法、形態(tài)分析法、類推法、關聯(lián)樹法、交互影響矩陣分析、時向序列分析、指數(shù)平滑法、自回歸—移動平均法、回歸分析、系統(tǒng)動態(tài)分析、腳本法、編制連續(xù)圖象、網(wǎng)絡分析、歷史類比等20余種。

人們將遠古時代預知禍?；蛘呤∨c勝利的初始愿望變成了越來越復雜的數(shù)字計算游戲，隨著計算機科學和技術的發(fā)展，通過計算獲得精確預測結果的日子在不知不覺中來到我們面前，人們最熟悉的天氣預報，便是對氣象大數(shù)據(jù)分析后得出的預測結果，準確率越來越高。在各個領域，通過計算機集成和運算的大數(shù)據(jù)產(chǎn)生的智能化結果，一個個呈現(xiàn)在人們的面前：智能機器人阿爾法狗橫掃人類的圍棋大師；機器人索菲亞獲得了沙特公民身份，代表沙特政府參加了由西班牙舉辦的世界移動通信大會；令研究人員深感驚恐的是，F(xiàn)acebook臉書公司的機器人Bob和Alice在參加試驗項目時產(chǎn)生了不同于人類的對話，工作人員慌忙切斷了電源

大數(shù)據(jù)與傳統(tǒng)數(shù)據(jù)的核心差異在于其價值的不可估量。傳統(tǒng)數(shù)據(jù)的價值體現(xiàn)在信息傳遞與表征上，是對現(xiàn)象的描述與反饋，而大數(shù)據(jù)是對現(xiàn)象發(fā)生過程的全記錄。通過數(shù)據(jù)不僅能夠了解對象，還能分析對象，掌握對象運作的規(guī)律，挖掘?qū)ο髢?nèi)部的結構與特點，甚至能了解對象自己都不知道的信息。大數(shù)據(jù)的特殊價值在于它的可挖掘性，同樣的一堆數(shù)據(jù)，不同的人能得到不同層次的東西。就好像同樣見到一個人，有些人只看到他的外貌好不好看，有些人能從他的表情中讀出他的心理活動，從眼神中看出閱歷，從衣著打扮中讀出品味，從鞋子上讀出生活習慣。

“識人斷事”說的是人們對人的品行的認識和對事情真?zhèn)蔚蔫b別、判斷和預測，是人的思維結果。“識人斷事”的正確性和準確率，是對人的智慧水平的檢驗，是建立在人對知識的獲取與掌握、經(jīng)驗的積累與提取、信息的梳理與分析等一系列深度思維基礎上的。人類的智慧是如何形成的？就生物性的個人而言，初生嬰兒并不具有智慧。當嬰兒睜開眼睛看到這個世界，聽到世界發(fā)出的各種聲音，觸摸到各種物體表面不同的質(zhì)感，感受這個世界所給予的一切感官能夠感受到的信息時，知識和經(jīng)驗飛速增長。人們接受到的所有信息轉化為知識和經(jīng)驗，在大腦中相互滲透和激發(fā)，產(chǎn)生聯(lián)想，帶來了智慧。

綜合了數(shù)據(jù)采集、存儲、管理、分析、挖掘、可視化等信息技術及其圖像識別、學習和語言處理技術等集成的“大數(shù)據(jù)”，基于對海量信息資料的挖掘和分析，輔之以中央處理器的飛速計算技術，使得今天的智能機器人的學習和聯(lián)想能力，將已有知識和經(jīng)驗轉化為聯(lián)想的能力都得到迅速提升，對人類的智慧與能力形成挑戰(zhàn)。比如繪畫機器人、書法機器人、寫詩機器人、唱歌機器人連詩歌這樣表現(xiàn)人類情感的復雜思維所產(chǎn)生的非邏輯語言都可以寫作的智能機器人，對于完成建立在大數(shù)據(jù)分析基礎上、具有普遍性、邏輯性特點的“識人斷事”的任務，似乎只在掌股之間。美國哈佛大學肯尼迪學院教授希拉·賈薩諾夫在《發(fā)明的倫理》一書中寫道：高級的計算機技術也可以應用于從數(shù)據(jù)環(huán)境中所獲得的公共數(shù)據(jù)，暴露一些人們不希望公開的個人特征。比如，劍橋大學對58000名志愿者進行了一項研究，并發(fā)表在著名的《國家科學院院刊》上，研究顯示，通過對他們臉譜網(wǎng)上的愛好進行數(shù)學分析，可以正確地區(qū)分出“88%的同性戀者和異性戀者，95%的非裔美國人和白種美國人，85%的民主黨派和共和黨派，以及82%的基督教徒和穆斯林教徒”。

大數(shù)據(jù)用于商業(yè)銷售預測的成功，從亞馬遜的實踐中可見一斑。亞馬遜不僅從每個用戶的購買行為中獲得購買信息，還將每個用戶在其網(wǎng)站上的所有行為都記錄下來：頁面停留時間、用戶是否查看評論、每個搜索的關鍵詞、瀏覽的商品，等等。這種對數(shù)據(jù)價值的高度敏感和重視，以及強大的數(shù)據(jù)挖掘能力，使得亞馬遜可以準確地掌握顧客的喜好，精準地推薦合適的商品。特別是在通過歷史數(shù)據(jù)預測用戶未來需求方面，對于書籍、手機、家電這類產(chǎn)品的推送預測是相當準確的，甚至可以預測到客戶對相關產(chǎn)品屬性的需求。在淘寶網(wǎng)上買過東西的客戶都有體驗，你只要買過某種商品，類似的商品便會被不斷地推送給你。2018年，“大數(shù)據(jù)殺熟”成為網(wǎng)絡流行語。一項調(diào)查顯示，51.3%的受訪者遇到過互聯(lián)網(wǎng)企業(yè)利用大數(shù)據(jù)“殺熟”的情況。“大數(shù)據(jù)”“人工智能”等技術可能對經(jīng)濟增長帶來的推動作用，將其推上經(jīng)濟發(fā)展新動力的高位，不斷刺激人類進行深入探索和研發(fā)的欲望。埃森哲公司研究了人工智能在12個發(fā)達經(jīng)濟體中所產(chǎn)生的影響，提出了通過改變工作本質(zhì)，創(chuàng)建人與機器之間的新型關系的觀點和預測：人工智能可將勞動生產(chǎn)率提高40%，使人們能更有效地利用時間。到2035年，人工智能將使年度經(jīng)濟增長率提高一倍。

所有這一切，已經(jīng)不僅僅是“大數(shù)據(jù)識人斷事能勝過經(jīng)驗嗎？”這個層次的問題了，“大數(shù)據(jù)”對人類活動的引領和控制作用，將滲透到人類生產(chǎn)和生活的每一個角落。這些已經(jīng)發(fā)生和正在發(fā)生的現(xiàn)實在為“大數(shù)據(jù)”“識人斷事”將勝過經(jīng)驗提供佐證的同時提醒人們，在充分利用大數(shù)據(jù)分析預測功能實現(xiàn)某種目的的時候，不僅要注意它的正向預測結果，也要關注它可能帶給人們的煩惱甚至憂慮。著名未來學家雷·庫茲韋爾的著作《奇點臨近》中最廣為人知的理念，即未來某一時刻，超級智能機器將會超越、改變?nèi)祟?，而他?990年出版的《智能機器的時代》一書中，成功地預言了電腦將在1998年戰(zhàn)勝棋王。計算機科學家、發(fā)明家埃米爾·侯賽因，在《終極智能》一書中介紹了人們?nèi)绾紊钤诩磳⒌絹淼母兄獧C器和人工智能時代——不僅生存，而且茁壯成長。未來，我們將和智能機器人共生于一個地球，我們做好準備了嗎？波音公司首席技術官格雷格·希斯洛普博士曾經(jīng)這樣說：“侯賽因讓我們?yōu)楦饷鞯奈磥碜鰷蕚?，不是夸大是非，而是對風險和潛力進行嚴肅的討論。”

在人類還沒有來得及很好地品味“大數(shù)據(jù)”“智能化”等詞匯及概念帶來的驚喜之時，美國科幻片《終結者》中智能機器人試圖奴役人類甚至屠殺人類的故事，使人們對人工智能歡呼的聲浪開始減弱，人類冷靜下來，在對“大數(shù)據(jù)”“智能化”“機器人”等概念及成果的廣泛使用產(chǎn)生期待的同時，也開始產(chǎn)生憂慮，對風險及其防范的思考，沖淡了自遠古以來人類對未來預測的渴望。“大數(shù)據(jù)識人斷事能勝過經(jīng)驗嗎？”這一問題的答案幾乎是肯定的。人工智能模仿人腦的能力是否能超越人腦？對這一更深層次問題的回答，爭論日益激烈。《未來簡史》中“如果一切都是算法，機器人將奴役人類”的預言尚未遠去，劉慈欣《三體》中對黑暗森林時代的描繪，又為我們敲響了風險的警鐘。

無論對“大數(shù)據(jù)”“人工智能”等技術發(fā)展利弊爭論的焦點如何，面對人工智能技術越來越復雜并且越來越“類人化”的現(xiàn)實，人類建立起基本的共識：技術的發(fā)展以不傷害人的生命為底線。著名科幻作家艾薩克·阿西莫夫的《基地系列》、《銀河帝國三部曲》和《機器人系列》三大系列被譽為“科幻圣經(jīng)”，在創(chuàng)作這些巨作的過程中，阿西莫夫?qū)⑷撕蜋C器人關系的思考逐步深入，提出智能機器人研發(fā)的三法則：機器人不得傷害人類，或坐視人類受到傷害；除非違背第一法則，機器人必須服從人類的命令；在不違背第一及第二法則下，機器人必須保護自己。但是，阿西莫夫的機器人三法則，真的能鎖死機器人的文明嗎？

程萍，中共中央黨校（國家行政學院）教授、博士生導師，中國未來研究會一帶一路專業(yè)委員會會長。研究方向為科學技術與社會、社會管理、文化管理等。主要著作有《科技創(chuàng)新與可持續(xù)發(fā)展——人類文明史上又一次觀念大碰撞》《盧曼理論視角下的我國科技人才評價指標體系解析》《中國科技創(chuàng)新體制現(xiàn)代化》（合著）

責 編／張 曉