4月21日至28日，“三聯(lián)?新知大會”第五季在北京東城區(qū)美術館東街22號的三聯(lián)韜奮書店舉行。

“三聯(lián)?新知大會”第五季活動海報

今年以來，以ChatGPT為代表的人工智能生成內容（AIGC）的出現(xiàn)，引發(fā)了全球熱議。這種基于深度學習技術的人工智能，具備了強大的語言理解和生成能力，能在短時間內創(chuàng)作出高質量的文本。然而，AIGC技術的普及也帶來了一系列爭議和挑戰(zhàn)，對于進一步可能出現(xiàn)的通用人工智能甚至強人工智能，更是讓人既期待又焦慮……人文、社科、科學、技術——十六位學者，四場主題論壇，今年的新知大會凝神聚焦人工智能與人類的“近未來”。

(資料圖)

“自我意識確認我是‘我’”，人工智能在何種程度上模擬人類？

人工智能一直在穩(wěn)步地進展。從當年“深藍”戰(zhàn)勝世界國際象棋冠軍、AlphaGo戰(zhàn)勝世界圍棋冠軍，再到ChatGPT的出現(xiàn)，人工智能開始進入到普通人的生活。人工智能研究和電子計算機幾乎同時從20世紀50年代開始出現(xiàn)和發(fā)展，而且從開始就受到了其創(chuàng)始人阿蘭?圖靈的重要影響，根本性的問題一直延續(xù)至今——人工智能究竟能在何種程度上模擬人類？

人工智能的出現(xiàn)，迫使我們重新思考自身：在地球46億年的生命史中，人類其實只占據了其中的一小部分，盡管我們自認為擁有最高級的智慧，但面對與人機共生的未來，我們將如何定義自己？有鑒于此，本次新知大會論壇的第一場和第三場，聚焦在科學與哲學的思考。

而回顧歷史，哲學與科學是相互促進的關系。愛因斯坦曾說，“如果把哲學理解為在最普遍和最廣泛的形式中對知識的追求，那么，哲學可以被認為是全部科學的研究之母?！北敬涡轮髸搲牡谌龍觥豆ぞ哌€是“超人”:如何認識人工智能和人類自身？》，就聚焦于哲學領域的思考。中國社會科學院哲學研究所學者趙汀陽、清華大學人工智能研究院孫茂松、北京大學計算語言所李嫣然、《三聯(lián)生活周刊》苗千，四人從人工智能技術、復雜系統(tǒng)科學和哲學三個領域深入研討這一話題，并探討在人工智能的影響之下，人類又該如何定義自身？

新知大會論壇第三場“工具還是‘超人’如何認識人工智能和人類自身？” 現(xiàn)場

孫茂松在發(fā)言時梳理了人工智能從1950年到而今半個多世紀的發(fā)展。他認為人工智能能做的事情中，最重要的是語言的處理，而機器翻譯有兩條研究的路徑：

理性主義和經驗主義?！按蟾诺搅?010年前后，人工智能的研究高潮起來了，雖然還屬于經驗主義，但范式變了，擺脫了香農的信息論，變成了深層神經網絡?；谙戕r的信息論，第一代機器翻譯技術是基于離散的符號序列，換句話說，詞和詞是孤立的，這種離散也類似人類的認知。但深層神經網絡，換了一種方式，每一個詞都給了一個向量，把一個離散的空間變成連續(xù)的點，求得了離散和連續(xù)間很好的平衡。這不是一個小變化，如此詞和詞之間的關聯(lián)就能自動算出來。這是2013年的產物，有了詞向量，就可以有句向量，有了句向量可以做篇章向量，對詞、語、句的表述都可以在一個篇章里進行計算。之后，大規(guī)模、大數(shù)據、大算力，‘三駕馬車’介入進來，把這件事搞得日新月異。”

孫茂松

“人工智能這些年的發(fā)展表明，它能有今天的進步不是石頭縫里蹦出孫悟空，其實有非常艱辛的探索，特別是這些研究范式的變化體現(xiàn)出了高度的創(chuàng)新。ChatGPT為什么給我們很大的震動？包括我，測了幾個例子就傻眼了，這個境界我們達不到，已經習慣了符號的東西，再到神經網絡去學習語言其實很難理解，這是方法上的高度創(chuàng)新，不是靠簡單的工程上馬，吃苦耐勞、自強不息就能解決的。”孫茂松說。

趙汀陽

趙汀陽從人文學者的角度提出了幾個問題?！笆紫仁顷P于語言學的疑問。目前GPT沒有先驗語法，所以喬姆斯基非常不滿意。當然它有一些人工標注，這些人工標注是政治性、倫理性的，是怕‘得罪’人的。在這種訓練下，GPT學到了語言但顯然還沒有學到語言學，或者說它可能不需要語言學，自己發(fā)展出了一套‘反語言學’。”

“另外一個問題關于無窮性。凡是有限性的東西，思維一定能找出有限度的方法來解決。而涉及到無窮性的東西，思維是無法解決的。這個時候哲學和神學，或者叫宗教就出現(xiàn)了。涉及到無窮性的問題，比如我們在數(shù)學、物理學、哲學中都會碰到，經驗主義的人工智能會怎么去處理？我頗為好奇?！?/p>

人工智能是否會具有意識和自我意識，這是當下爭論的焦點。趙汀陽認為人工智能目前的水平可以算作有了意識，但還不是具備自主意識?！斑@些概念以前不清不楚大家也沒覺得有什么，因為沒有挑戰(zhàn)?，F(xiàn)在GPT有點像外星人突然來到我們面前，挑戰(zhàn)真的出現(xiàn)了。對外部刺激能夠做出有選擇的主動回應，這就算有意識，所以動物也是有意識的。而自我意識必須超出刺激-反應的模式，準確地說就是能夠把外部刺激的經驗，轉化為意識的內部對象。用哲學上的術語就是，我們能夠在主觀性中建構客觀性。同時，自我意識可以自我認識，自我認識其實就是要確認我是‘我’。”

人機共存時代，“我們需要提出更尖銳的問題”

不管人工智能將怎樣發(fā)展，我們事實上已經不可避免地進入一個“人機共存”的時代。新的技術將怎樣改變我們的文化和社會生活？第二和第四場論壇分別聚焦計算機技術對文化和法律兩個領域的挑戰(zhàn)。

在中國互聯(lián)網產業(yè)狂飆突進式發(fā)展的過去十年中，原本由出版社、唱片公司、電視臺等機構所主導的知識生產機構均遭遇了互聯(lián)網平臺這一全新媒介生產機制的巨大沖擊。今天，我們獲取的信息很大程度上由各個平臺去中心化的智能算法所決定，不理解平臺的知識生產過程，就幾乎無法理解互聯(lián)網時代的知識與文化。

第二場論壇“賽博空間的說書人：互聯(lián)網平臺時代的知識與文化”邀請傳播學者胡泳、文化學者毛尖等，從傳播學、文學、社會學等領域的關注互聯(lián)網平臺時代的知識與文化，探討媒介技術對知識生產和傳播的影響，以及去中心化的智能算法對經驗與倫理的影響。

新知大會第二場論壇“賽博空間的說書人：互聯(lián)網平臺時代的知識與文化”現(xiàn)場

上世紀90年代，胡泳便把尼葛洛龐帝的《數(shù)字化生存》譯介進國內。作為中文世界互聯(lián)網研究的先行者，他在發(fā)言時就“事實”本身進行了拷問。“這些年，無論是觀察者還是社會公眾，都意識到我們似乎對什么是事實已經不能達成一致的看法，進入到了所謂‘后真相’時代。后真相完全可以換成同義詞‘后事實’，比如說在科學傳播當中，你會發(fā)現(xiàn)不同的人，對什么是事實可能有著南轅北轍的認識。這個人眼中的科學事實，可能恰好是另一個人眼中偽科學的證據?！?/p>

胡泳

作為一名曾經的新聞人，胡泳提出在今天，新聞業(yè)如何適應新一代消費者的通信技術？它是否需要反思其舊有的價值觀是否還存在？“當新聞‘守門人’坍塌后，我們對什么是真相，什么是非真相，或者什么是虛構，什么是非虛構的認識全部都瓦解了。人們開始用數(shù)據來替代事實。我們基本上所獲得的，你眼中所認為的知識，現(xiàn)在其實都是通過外包給機器或者算法，把它變成數(shù)據以后再倒過來灌輸給我們的。我把它叫做‘網絡化事實’，人類也由此進入到接受知識的嶄新階段。”

在他看來，ChatGPT背后大語言模型產生的問題之一，是它可以產生非常流利的廢話，有可能以非常權威的口吻講述偽知識?！皬娜说慕嵌葋碇v，我們其實需要更多的邏輯測試，需要提出更尖銳的問題，最重要的是驗證所有的生成式人工智能帶給我們的影響。”

胡泳認為古典互聯(lián)網時代，也即是知識互聯(lián)網化后，每個人都有話語權的時代已經終結?！耙驗槠脚_出現(xiàn)后，互聯(lián)網上知識的代名詞已經變成了‘內容’。所以哪有什么知識付費？知識付費就是內容付費，是為了變現(xiàn)。在整個內容革命當中，出現(xiàn)過一個嶄新的東西叫做UGC（用戶生產內容），我認為這個革命已經徹底失敗，沒有所謂的UGC革命，互聯(lián)網已經重新回到冪律，20%決定80%，大節(jié)點決定其他一切節(jié)點?！?/p>

“不管是前年爆出的元宇宙，還是去年年末出現(xiàn)了ChatGPT，最后你發(fā)現(xiàn)它們全是大平臺的‘游戲’，普通人或者小平臺根本沒有人力、財力玩這個游戲?；ヂ?lián)網的主宰機制已經變成平臺背后公司和大機構，我覺得平臺統(tǒng)治的過程還遠遠沒有結束，會繼續(xù)下去。”胡泳說。

馳向“無盡的邊疆”，什么樣的法律制度有利于促進科技創(chuàng)新？

未來的人類會生活在一個什么樣的世界之中？會更安全還是更危險，更封閉還是更開放，更淡定還是更焦慮？每一次的科技大發(fā)展，都對人類制度產生了巨大影響，而法律在其中扮演了重要的角色。

面對科學技術對制度文明的挑戰(zhàn)，第四場論壇主題為“‘無盡邊疆’：科技與法律的雙擎時代”，來自中國海洋大學法學院的桑本謙、上海交通大學法學院的鄭戈、北京大學法學院的戴昕、江西財經大學法學院的楊安卓，四位一線法律學者討論以下議題：1.回顧歷史上那些科技進步影響或沖擊法律制度的重大事件；2.信息技術的進展是否以及在多大程度上沖擊現(xiàn)在的法律制度；3.還有哪些技術進展對法律變遷有潛在的巨大影響；4.法律人對人類制度文明演化的預測和態(tài)度；5.什么樣的法律制度有利于促進科技創(chuàng)新。

新知大會第四場論壇“‘無盡邊疆’：科技與法律的雙擎時代”現(xiàn)場

桑本謙在發(fā)言中開宗明義：“法律怎么能和科技一起成為推動人類社會進步的雙擎呢？只要稍微把法律做一點延伸——不僅僅是法律，法律只是在制度濃湯上的一層浮油——延伸到制度，制度是遠比科技更為古老的存在。這樣來看，制度和科技完全可以成為雙擎，兩者之間的互動關系搭建了我們想象未來世界的主要框架。”

而說到本場論壇的主標題“無盡邊疆”這個名稱，則來自1945年二戰(zhàn)結束前，美國科學家、圖靈獎得主萬尼瓦爾·布什給羅斯?？偨y(tǒng)提交的一份報告《科學：沒有止境的邊疆》。這份報告決定了美國二戰(zhàn)后至今的科研方向和方法——美國過去把西部當作新邊疆，布什則認為科學是未來美國的新邊疆，而且沒有止境。

楊安卓

“頗具反諷意味的是，到了2021年，美國國會參議院通過的《無盡邊疆法案》（Endless Frontier Act），旨在加強基礎和先進技術研發(fā)以協(xié)助華盛頓抗衡與中國在有關領域的競爭，應對中國在信息戰(zhàn)上與日俱增的影響力。這個法案究其實質，并沒有繼承勇于拓展邊疆的美國精神。它不是通過美國人繼續(xù)擴展科技的邊疆，從而把中國打敗，而是通過阻遏中國發(fā)展，令中國不會超過美國，從而保持其在科技上的領先地位。這在某種程度上抹黑、背叛了美國人的科學創(chuàng)新精神?！睏畎沧空f。

楊安卓在發(fā)言時還提到了最近一則國際笑話：“現(xiàn)在很多人在講ChatGPT，馬斯克等不少人認為，如果任由人工智能進一步發(fā)展，可能會給人類生存帶來危險。就此，美國總統(tǒng)拜登找到了自己的科學顧問吳修銘，問他到底應不應該禁止人工智能的繼續(xù)發(fā)展？吳修銘對拜登說，如果我們不禁止人工智能發(fā)展，人類有1%的可能最終被AI消滅，但是如果我們禁止人工智能的發(fā)展，美國就有100%的可能被中國打敗。To be or not to be,這個問題就成了吳修銘和拜登們，迄今為止一直在躊躇的問題?！?/p>

鄭戈

鄭戈在發(fā)言時提到了“莫拉維克悖論”。這一悖論揭示出，推理和運算需要運用的算力是比較小的，而要模擬人類的身體機能和直覺，則需要動用的極大的算力。

“舉一個非常簡單的例子，大家都驚嘆于ChatGPT說話很圓滑，答主觀題非常厲害，但是我們要知道，OpenAI最大的投資者就是微軟，光是購買英偉達A100芯片，這樣的芯片一塊就是幾萬美元，他們買了幾萬塊，就是要搭建一個非常龐大的算力系統(tǒng)，再喂給它大量的數(shù)據。因此有一個笑話，我們現(xiàn)在沒有必要擔心ChatGPT會取代人類的工作，因為我們比他便宜，這是一個方面?！?/p>

“另外一方面，這一點恰恰揭示出機器和人各有擅長的方面。有一位計算機科學家就曾說過，追問人工智能能否像人類那樣思考，這個問題是非常無聊和愚蠢的。就像追問潛水艇能否像人那樣游泳，干嘛要讓潛水艇像人那樣游泳？只要它能夠潛得比人類更深，能夠做到人做不到的事情，這才是我們需要機器的意義。生活遠遠比數(shù)學更加復雜，人類很多習以為常的技能，比如說跳舞，需要動員身體上所有的肌肉，經過非常長時間的訓練，才能達到身體協(xié)調性。人類通過訓練可以做到的事情，恰恰是機器非常難以做到的。從這方面來理解，才是思考人類和人工智能關系的一個更好的視角?！?/p>

回到法律人怎樣看待AI的挑戰(zhàn)這一問題，桑本謙表示他個人并不是非常擔心?！熬拖裎乙膊荒敲磽墓杌鼤〈蓟粯印Ｒ驗檫@很難，現(xiàn)在人工智能只是在模擬大腦，但怎樣產生一系列的動機，包括野心和欲望，只模擬人類大腦顯然是不行的。大腦這一串指令是怎么來的？如果真要創(chuàng)造一種硅基生命的話，不僅需要模擬大腦，而且還要模擬‘睪丸’，這好像也很難。我是這么認為的，即便地球上出現(xiàn)了硅基生命，也是與人類共生的關系?！?/p>

什么樣的法律制度有利于促進科技創(chuàng)新？“其政悶悶，其民淳淳；其政察察，其民缺缺。”從老子《道德經》中的這句話，觀照到立法、執(zhí)法與人工智能發(fā)展間的辯證關系，鄭戈就此引入了未來學的觀點。

“如果把法律的制度設計視作一項工程——我們可以舉中國軍工科技發(fā)展策略的例子。軍工科技工作者們實際上分為三種人，所謂‘裝備一代，研制一代，預研一代’，三代同時進行，不然今天中國就不會有殲-20這么先進的戰(zhàn)機。法律制度的設計也是如此，從事司法工作的，是在使用法律，屬于裝備一代；立法者，政策設計者則屬于研制一代，一定要有，數(shù)量不用太多。同時，還要有少數(shù)人去進行想象、設想的工作。實際上每一次法律的躍遷，法律的改革，法律的革命，都有很漫長的醞釀期——人們在這之前，在法律的躍遷和革命出現(xiàn)以前，就針對可能會出現(xiàn)的社會現(xiàn)象，埋伏在前方去想象它、分析它，去構想它可能是什么樣子，由此提出相應的規(guī)范之道?！?/p>

“科技是在拓展人類生活的疆域，而法律在做什么呢？在科技已經拓展出的疆域里維持人類社會的基本秩序，保護大多數(shù)人的預期。所以，科技和法律是完全不同的兩種力量。法律在很多時候，恰恰是在給高速發(fā)展的科技套上一個韁繩，使它不要跑得那么快，至少不要快到遠遠超出人類社會基本預期的這種程度?！编嵏暾f。