人工智能不能做什么
現(xiàn)在我們應該對人工智能提一個終極的問題：人工智能不能做什么？
這個問題可以分為兩類：一類是基于人工智能的局限性，或者基于人工智能與人類心智的本質差異，人工智能不能做什么。另一類是即使出現(xiàn)了全智全能的人工智能，出于道德的考慮和對人類命運的關切，人工智能不能做什么。這兩類問題是互相關聯(lián)的。
不能產生意識和自我意識。人工智能的根本局限性是不能產生意識和自我意識。這個問題筆者曾在《大科學時代的基礎研究、核心技術和綜合創(chuàng)新》一文中作過論述。[10]郞咸平教授最近在《AlphaGo風光背后：人工智能時代加速到來》節(jié)目中，以“智能經濟”、“智能犯罪”、“智能天網”和“智能意識”四種人工智能為例，分析人工智能發(fā)展如何陷入二律背反。
以“智能經濟”為例，如果人工智能完全取代人工，則勞動價值歸零，工資也歸零，經濟卻無限增長，社會產品無限豐富，社會產品按照公平原則分配給每個人。這就是“智能經濟”的前景。試問，在這樣的情況下，還有誰會來投資“智能經濟”呢？
正題：智能經濟導致經濟無限增長。
反題：智能經濟導致GDP歸零。
二律背反也稱作“二律悖反”，它是一種悖論，即從它的正題可以推出它的反題；同時，從它的反題可以推出它的正題。
機器人意識也是一個悖論。
如果機器產生了意識和自我意識，那么，這樣的機器人沒有人敢用。請問，工廠的生產線敢用這樣的機器人嗎？你不怕它自我意識覺醒后罷工、造反、破壞生產線嗎？又問，陪護機器人、性愛機器人你敢用嗎？你不怕它哪一天突然自我意識覺醒，殺死它的陪護對象和性愛伙伴？如果發(fā)生這種事情，請問你如何訴訟？你會勝訴嗎？你沒有機會，因為商家早就讓你在購買機器人時簽下了免責協(xié)議書。
正題：有意識的AI能夠為你提供更人性的服務。
反題：有意識的AI可能按自己的意志行事，從而違背其服務對象的意志。
所以，沒人敢使用具有意識和自我意識的機器人。
筆者認為，有意識的人工智能永遠不會出現(xiàn)。一是基于人工智能的局限性，或者基于人工智能與人類心智的本質差異，人工智能不是生命，所以，它永遠也不會產生意識。二是出于道德的考慮和對人類命運的關切，具有理性和正常思維的人類永遠也不會允許人工智能具有意識和自我意識。
不能發(fā)明語言和使用語言，也就不可能有思維。1997年，“深藍”超級計算機戰(zhàn)勝國際象棋大師卡斯帕羅夫。2016年，谷歌公司的AlphaGo以五戰(zhàn)全勝的成績完勝人類圍棋高手李世石?？梢哉f，在推理的某些領域，人工智能已經戰(zhàn)勝人類。那么是否可以說，人工智能也能夠像人類一樣思考，甚至還要勝過人類呢？
其實，迄今所有的機器行為和人工智能在推理方面都只是模仿人類心智，是按照一種叫做“演繹規(guī)則”（Modus Ponens, MP）的非智能方式來完成推理。這條規(guī)則表述為：
如果天下雨，地面就會濕；天下雨了，所以，地面會濕。這個推理過程是一個客觀因果性的反映，不論你是否認識到這種因果性，其運行方式都是一樣的。非人類動物也能認識到這種因果關系，并形成條件反射。這是人和動物共同的學習機制，人工智能的學習訓練也是基于這一原理。所以，盡管人工智能在某些推理和學習的領域已經遠超人類，但它們并不是運用與人類一樣的思維能力，而是僅僅運用了基于刺激反應的學習訓練原理，并且這種推理和學習的能力也是人類賦予它的。
人類的思維有何不同？根據人類認知五層級理論，人類思維是一種以語言為基礎的高階認知能力。人類的抽象思維能力是以抽象概念為基礎的，歷史和邏輯在這里是如此的統(tǒng)一。200萬年前，南方古猿發(fā)明了能夠表達抽象概念的符號語言，人類終于完成了從猿到人的進化。在概念語言的基礎上，人類產生了抽象思維，其核心是四種基本的推理能力：由因及果的演繹推理、從個別到一般的歸納推理、從個別到個別的類比推理以及由果溯因的溯因推理。此外，人類還形成了兩種主要的思維加工方式：自上而下（top-down）的分析方法和自下而上（bottom-up）的綜合方法。200萬年以來，特別是發(fā)明文字5000年以來，建立城邦、創(chuàng)建文明2500年以來，人類憑借在進化中獲得的強大的語言和思維這兩種最重要的認知能力，創(chuàng)建了人類全部的知識體系，現(xiàn)在已經穩(wěn)居于生命進化鏈的最高端，成為“萬物之靈”。
完全在進化過程之外的人工智能，沒有語言，也不可能產生思維。人類現(xiàn)今仍然從語言、思維這兩個方面牢牢控制著人工智能。只要這個過程不被破壞，機器或人工智能統(tǒng)治人類的幻想永遠也不可能實現(xiàn)。
不能擁有健全心智和豐富情感，也就不可能超越人類。是否擁有情感，是人和機器（人工智能）最本質的差異。以筆者欣賞的鋼琴家王羽佳和跳水運動員全紅嬋為例，我們來探討人和人工智能的差異到底有多大，人不可超越的品質又在哪里？這兩位優(yōu)秀的中國人表現(xiàn)出的令人驚嘆的行為能力，貫穿和滲透著腦與神經心智、心理心智、語言心智、思維心智、文化心智的高超能力。
音樂語言也是一種符號語言。王羽佳具有對音樂符號的超強理解力、記憶力和音樂表現(xiàn)能力。演奏一首樂曲，需要從句法、語義和語用三個層次來把握它。句法保證不會出現(xiàn)音符的錯誤，語義和語用則保證傳達演奏者對樂曲意義的正確理解和演奏者的個性和風格，而這一切都是瞬間貫通的。此外，藝術作為一種最高級的文化認知能力，向下包含著思維認知、語言認知、心理認知和腦與神經認知能力，這些也都是瞬間貫通的。在演奏每一個音符時，王羽佳在以上各個層級上的超凡的心智和認知能力都在瞬間得到了出色的展現(xiàn)。
人工智能是否可以和王羽佳演奏同一首樂曲且同樣表現(xiàn)優(yōu)秀呢？在今天當然不行，但按照人工智能目前的發(fā)展，我相信終究有一天它會達到幾乎相同的水平。但筆者想提醒大家，用人工智能做出來的樂曲可以算是音樂，但絕對稱不上藝術。正如用電腦打印出來的各種漢字字體，盡管十分規(guī)范，但絕對算不上書法作品一樣。聽王羽佳的鋼琴演奏，我能體會到她的感情，感受到她的溫度，但聽人工智能演奏同一首樂曲，我立刻知道那不是人，而是冷冰冰的機器。有一天會舉行人工智能的鋼琴比賽嗎？沒有人會阻止這樣做。但筆者決不會去看這樣的演出，相信絕大多數人也不會對它有興趣，當然，人工智能的設計者和懷著商業(yè)目的的演出公司除外。
全紅嬋的故事與王羽佳幾乎是同一個道理。全紅嬋的“水花消失術”創(chuàng)造了跳水運動的奇跡，這需要多么強大的心理素質以及身體和心理的控制能力，需要多么強大的自信！我相信可以設計一款機器人，像針一樣地入水，完全沒有一滴水花，但我相信沒有人去看這樣的機器人跳水比賽。所以，如果人工智能達不到擁有健全心智和豐富情感的藝術家王羽佳和運動員全紅嬋的水平，就不要妄言超越人類。
不能成為生命體，不能完成自我進化。已經有人預言人工智能會成為新的生命形式，即“生命3.0”。邁克斯·泰格馬克（Max Tegmark）在《生命3.0》中這樣定義我們這個星球上曾經出現(xiàn)和將來出現(xiàn)的生命：生命1.0，硬件不能更新、軟件不能更新，這是非人類的生命形式；生命2.0，硬件不能更新，軟件能夠更新，這是人類的生命形式；生命3.0，硬件能更新，軟件也能更新，這是未來的生命形式，即人工智能生命。[11]這是一種以科學幻想的方式設想出來的在進化過程之外突然蹦出來的生命，但它是不可能存在的，因為所有生命形式都是在進化中產生的，從最簡單的病毒到最復雜的人類，沒有進化之外的生命。[12]
泰格馬克的《生命3.0》甚至斷言生命不必是碳基的，可以有所謂“硅基生命”，這同樣是科幻電影和神魔小說的情節(jié)。為何在35億年的生命進化史中，生命最初產生于海洋，最終進化出來的也是以碳為基本元素、以水為介質的碳基生命，而從未產生過“硅基生命”？這個問題，恐怕只有上帝才能回答。這個上帝，是斯賓諾莎的上帝，是萬物的主宰——自然。
因此，沒有所謂“硅基生命”，而且永遠也不會有！因為人工智能不能成為生命，也就不可能完成所謂“進化”，因為所有的進化都是自然過程，迄今為止人工智能的所有智能，都是人類賦予的，而不是機器自身進化出來的。
在教育領域，請遠離ChatGPT。語言、思維和文化是人類特有的認知能力。人類認知是以語言為基礎，以思維和文化為特色的。因此，語言和思維是人類認知的根基，“我言，故我在。”“我思，故我在。”[13]人類的語言、思維和文化認知能力是在進化中獲得的，并且在整個基礎教育、高等教育階段和終身發(fā)展中都在學習、訓練和提高這些心智認知能力。這是人類心智和認知能力得以永遠保存、不斷進化和發(fā)展的根本原因。
我們不能設想在人的心智和認知發(fā)展過程中某種甚至全部的能力都被人工智能所替代，因為我們不能設想在學前的言語（口語）能力形成和發(fā)展階段就用ChatGPT來替代兒童的聽說能力、會話能力、語言交際能力和圖畫能力；我們同樣不能設想在小學識字和思維發(fā)展階段就讓孩子們使用ChatGPT來寫字、寫作文、背誦課文、做算術題和繪畫；初中和高中階段是學生的語言和思維能力進一步發(fā)展提高的時期，我們不能設想中學生使用ChatGPT來學習古文和寫作格律詩詞、學習外語和解數理化難題、查詢資料和寫作文、甚至匪夷所思地用它作替身參加高考（試驗表明ChatGPT能夠取得比優(yōu)等生更好的考試成績）。可能有人會問，既然它做得比人好，為什么不呢？要知道在基礎教育階段，上述的這些學習、訓練和考試都是孩子的心智發(fā)育成長所必需的，不能用ChatGPT和任何人工智能來替代。所以，ChatGPT請離我們的孩子遠點！大學和研究生階段，仍然是人的心智和認知發(fā)展的重要時期，這個時期除了學習知識，更是進行科學研究和知識創(chuàng)新的重要時期，同樣不需要也不能用ChatGPT和任何人工智能來替代人類心智的認知能力的發(fā)展和提高。所以，在教育領域，請遠離ChatGPT，否則將會帶來難以預料的負面結果。
當然，我們不否認人工智能包括ChatGPT的某些功能，例如，現(xiàn)在有人用它來給領導寫講話稿；也有人用它寫體育比賽的報道；還有人用它來查資料，或用它來做翻譯。這些工作，盡管用ChatGPT來做好了。但在教育領域，不能讓人工智能包括ChatGPT來取代人類心智和認知。這不是行不行的問題，而是允許不允許的問題。對這個問題，我們堅定地回答“不”！這里我們倒是想反問一下ChatGPT軟件和其他人工智能的設計者和制造者，如果當年你從學前、小學、初中、高中到大學，一路都使用代替你說話、思考、閱讀、計算和寫作的軟件，請問你還能成為現(xiàn)在的你嗎？
人工智能不能瘋狂，不能主宰人類命運。其實令人擔心的不是人工智能，而是制造人工智能的人類。所有可能危及人類生存和發(fā)展的“壞的”科學技術，其共同之處是它們都違背了人類生存和發(fā)展的自然基礎，它們試圖改變自然，甚至想成為自然的主宰，成為人類命運的主宰。
現(xiàn)代科學技術的發(fā)展出現(xiàn)了越來越背離自然的傾向。自然語言是好的，ChatGPT說，來用我的語言吧，它比你的語言更強大；自然思維是好的，ChatGPT說，讓我來幫你寫作和思維吧；芯片專家說，來做芯片植入吧，你的孩子可以贏在起跑線……
科學技術包括人工智能和ChatGPT似乎成了某些人手中的“玩物”，他們考慮的不是人類的生存和發(fā)展，不是人類的道德和理想，他們考慮的只是自身的利益。對于當前“走火入魔”的ChatGPT，筆者既不懷疑它僅有的那一點點價值，也不擔心它將替代多少人的工作，這是技術宣傳的需要和因商業(yè)利益而人為制造的恐慌，并不是而且永遠也不可能成為現(xiàn)實。
意大利文藝復興時期的科學巨匠伽利略曾經說過：“自然是完美的（Nature is Perfect）。”喬姆斯基在《生成轉換語言導論：從原則參數到最簡方案》一書前言中引用了這一名言，讓我們以這兩位科學大師的話來結束本文，也希望這兩位相隔數百年但同樣有深厚人文情懷的科學大師的話對今天的科學家有所啟發(fā)。
伽利略說：“自然是完美的。”這個理論啟發(fā)了現(xiàn)代科學，而科學家的任務就是要去證明這個理論，無論是研究運動定律、雪花的結構、花朵的形狀和生長，還是我們所知道的最復雜的系統(tǒng)，人類的大腦。[14]
（本文系國家社會科學基金重大項目“語言、思維、文化層級的高階認知研究”、貴州省哲學社會科學規(guī)劃國學單列重大項目“認知科學與陽明心學的實證研究”的階段性成果，項目編號分別為:15ZDB017、20GZGX10）
注釋
[1]蔡曙山：《言語行為和語用邏輯》，北京：中國社會科學出版社，1998年，第335～400頁；蔡曙山：《沒有喬姆斯基，世界將會怎樣》，《社會科學論壇》，2006年第6期；蔡曙山、鄒崇理：《自然語言形式理論研究》，北京：人民出版社，2010年，第141～299頁。
[2]蔡曙山：《認知科學導論》，北京：人民出版社，2021年，第3頁。
[3][12]蔡曙山：《生命進化與人工智能》，《上海師范大學學報》，2020年第3期。
[4]詳細論述可參見米黑爾·羅科、威廉·班布里奇編：《聚合四大科技 提高人類能力》，蔡曙山、王志棟等譯，北京：清華大學出版社，2010年。
[5]維特根斯坦：《邏輯哲學論》，賀紹甲譯，北京：商務印書館，1996年，第88頁。
[6]“唔，上帝到了。我今天在五點一刻的火車上碰到他了。”在一封落款日期為1929年1月18日，寫給妻子莉迪婭·洛普科娃的信里，著名經濟學家凱恩斯就是這樣描述維特根斯坦回到劍橋的。見瑞·蒙克：《維特根斯坦傳：天才之為責任》，王宇光譯，杭州：浙江大學出版社，2014年，第397頁。
[7][8]喬姆斯基：《ChatGPT的虛假承諾》，2023年3月8日，https://news.ifeng.com/c/8O29XJjYKOO。
[9]1967年，菲利帕·福特發(fā)表的《墮胎問題和教條雙重影響》中，首次提到了“電車難題”（Trolley Problem）。Sebastian Krügel, Andreas Ostermaier & Matthias Uhl, "ChatGPT's Inconsistent Moral Advice Influences Users' Judgment," Scientific Reports, 2023(13), p. 4569, https://doi.org/10.1038/s41598-023-31341-0。
[10]蔡曙山：《大科學時代的基礎研究、核心技術和綜合創(chuàng)新》，《人民論壇·學術前沿》，2023年5月上。
[11]M. 泰格馬克：《生命3.0》，汪婕舒譯，杭州：浙江教育出版社，2018年，第32頁。
[13]蔡曙山：《我言，故我在：語言、思維、文化層級的高階認知研究》，北京：人民出版社，2023年（待出版）。
[14]Jamal Ouhalla , Introducing Transformational Grammar: From Principles and Parameters to Minimalism, Edward Arnold Publishers Limited, 1999, Preface by Chomsky, p. 19.
The Future Development of AI from the Perspective of Cognitive Science
Cai Shushan
Abstract: Chomsky's Generative translational grammar (GT grammar) is the foundation of the revolution of linguistics and the cognitive science. Today it is also the theoretical basis of ChatGPT. How far has AI really been going from GT to ChatGPT? Starting from Chomsky GT grammar analysis and his language cognition, we re-comprehend the significance of Chomsky linguistic revolution, and reveal the close correlation, dependency and development motivation between artificial intelligence and human mind. The establishment of cognitive science has made it possible for us to understand the human mind and artificial intelligence from a multidisciplinary and synthetical perspective. On this basis, take ChatGPT as an example, we analyze the advantages and disadvantages of this AI software and the confusion it causes, ask the ultimate question "what can't artificial intelligence do", and try to give our answers. Artificial intelligence is non-human intelligence built by humans, which is nothing more than an imitation of the human mind. The essential difference between artificial intelligence and human mind lies in higher order cognition (human cognition), i.e., in thinking cognition and language cognition as its basic. The future development of AI is bound to be a new generation of AI that reflects the human mental and cognitive characteristics, that is, language cognition, thinking cognition and cultural cognition driven by language. Language cognition, thinking cognition and cultural cognition will play an important role in the future development of artificial intelligence.
Keywords: human mind, AI, N. Chomsky, GT grammar, ChatGPT
