數(shù)字文明是否可以看作是一種新的文明形態(tài)？這是誰的數(shù)字文明？如何構(gòu)建數(shù)字文明？2023 年 10 月 26-28 日，CNCC2023（ 2023 中國計(jì)算機(jī)大會）在沈陽召開。在 10 月 28 日上午舉辦了論壇《數(shù)字文明何以可能？》，來自社會科學(xué)和計(jì)算機(jī)領(lǐng)域的教授圍繞數(shù)字文明的可能性與挑戰(zhàn)展開了思想對話。

從左至右

主持人：王國豫：CCF職業(yè)倫理與學(xué)術(shù)道德委員會主席，教育部長江學(xué)者特聘教授，中國科協(xié)-復(fù)旦大學(xué)科技倫理與人類未來研究院院長

特邀嘉賓：吳國盛：清華大學(xué)科學(xué)史系系主任，科學(xué)史和哲學(xué)系的雙聘教授，國務(wù)院學(xué)位委員會科技史學(xué)科評議組成員；古天龍：暨南大學(xué)教授，可信AI教育部工程研究中心主任，原桂林電子科技大學(xué)校長，教育部高等學(xué)校計(jì)算機(jī)類專業(yè)教學(xué)指導(dǎo)委員會的副主任委員；翟志勇：北京航天航空大學(xué)法學(xué)教授，社會法研究中心主任，中國科協(xié)北京航天航空大學(xué)科技組織與公共政策研究所副院長；段偉文：中國社會科學(xué)院哲學(xué)所科技哲學(xué)研究室主任、研究員，中國社會科學(xué)院科學(xué)技術(shù)和社會研究中心主任；吳飛：浙江大學(xué)上海高等研究院常務(wù)副院長，浙江大學(xué)AI研究所所長、教授，浙江大學(xué)求是特聘教授，博士生導(dǎo)師

1 數(shù)字文明已經(jīng)到來了嗎？

主持人：CNCC大會主要是圍繞數(shù)字開展的，上天入地都是數(shù)，好像進(jìn)入了畢達(dá)哥拉斯（約公元前580年-500（490）年，古希臘）提出的萬物皆數(shù)的世界，例如數(shù)字工業(yè)^[1]、數(shù)字農(nóng)業(yè)^[2]、數(shù)字經(jīng)濟(jì)、數(shù)字金融……。那么，數(shù)字文明是不是就真的已經(jīng)到來了？這是不是就是數(shù)字文明？

在這個(gè)被數(shù)字包圍的世界，我們幾乎可以躺平了。例如，通過數(shù)字農(nóng)業(yè)^[2]的講演，可知今后種地也用不著人了。現(xiàn)在，數(shù)字平臺能把我們的飯送到門口——我們可以坐在家里等著吃飯就行了。這是不是就是數(shù)字文明？

首先，需要給數(shù)字文明有個(gè)界定。各位嘉賓所理解的數(shù)字文明是什么？

吳國盛（清華科學(xué)史）：文明基于技術(shù)，這毫無問題。例如史前文明有舊石器文明、新石器文明，之后有青銅文明、黑鐵文明……。所以在人類歷史或史前史時(shí)期，文明的形態(tài)首先根源于技術(shù)。

因此，如果數(shù)字技術(shù)成為了我們這個(gè)時(shí)代占支配地位的影響技術(shù)，當(dāng)然我們可以合情合理地說：某種基于數(shù)字技術(shù)的數(shù)字文明正在冉冉升起。所以這個(gè)說法問題不大。

但是也打個(gè)補(bǔ)?。和ǔ＿@種文明的名稱是由后人追認(rèn)的，當(dāng)時(shí)的人不知道自己處在什么文明之中。例如，舊石器時(shí)代的人不知道自己處于舊石器時(shí)代，新石器時(shí)代的人也不知道自己處在新石器時(shí)代，這是追認(rèn)的結(jié)果。所以數(shù)字技術(shù)的發(fā)展時(shí)間并不長，至今只有幾十年，我們現(xiàn)在說自己的技術(shù)是數(shù)字文明可能也要慎重。

當(dāng)然，近代這種通過自我命名、自詡的方式來規(guī)范當(dāng)下的文明走向，也是有先例的。例如，雖然“中世紀(jì)”這個(gè)詞是由文藝復(fù)興時(shí)期的人給追認(rèn)的，但是文藝復(fù)興是文藝復(fù)興人自己定的。所以近代以來，這種為自己確立時(shí)代特征、標(biāo)明時(shí)代的命名，以此來為自己的時(shí)代制定一些規(guī)則，也是可以的。

所以這一補(bǔ)丁仍然是可以的，仍然可以講“數(shù)字文明”。

古天龍（暨大可信AI）：完善的數(shù)字技術(shù)治理以及良好的素質(zhì)素養(yǎng)教育，應(yīng)該是數(shù)字文明所必備的兩個(gè)方面。

首先，只有通過數(shù)字技術(shù)的完善治理，才能保障數(shù)字技術(shù)的科技向善、造福人類。其次，具有良好的素質(zhì)素養(yǎng)，才能全民（包括從業(yè)人員、社會公民等）跟技術(shù)進(jìn)步實(shí)現(xiàn)良性的互動，最終實(shí)現(xiàn)數(shù)字文明的持續(xù)健康發(fā)展。

翟志勇（北航法學(xué)）：通常可以從器物、觀念和制度三個(gè)層面去衡量一個(gè)社會的文明。制度層面上，可以把法律和公共政策視為一個(gè)社會文明的刻度。社會中的相關(guān)法律、制度種類越豐富，證明社會在這個(gè)領(lǐng)域中的文明刻度會更高一些。

如果從這個(gè)標(biāo)準(zhǔn)來衡量，會發(fā)現(xiàn)進(jìn)入21 世紀(jì)之后，無論是中國還是世界其他國家在數(shù)字領(lǐng)域中的立法及公共政策都在飛速增加。尤其近幾年，包括中國、歐盟及美國等國家和地區(qū)在這個(gè)領(lǐng)域有大量的立法出現(xiàn)，因此如果從制度角度去衡量，數(shù)字文明已經(jīng)來臨，并且我們生活于其中，因?yàn)槲覀冇写罅康膯栴}需要法律、公共政策去處理。

段偉文（社科院哲學(xué)）：什么是數(shù)字文明？現(xiàn)在坐在嘉賓席上的段偉文可能就不是段偉文，是一個(gè)數(shù)字人，這就是數(shù)字文明。在上場之前5 分鐘，段偉文就用自動翻譯，幫他的微信公眾號自動地更新，增加了一個(gè)新的文章的條目。

所謂數(shù)字文明就是數(shù)字技術(shù)，它從根本上來改變我們存在的生產(chǎn)生活方式。而且和前面那些文明非常不同之處：它的發(fā)展是非常迅速的，以至于在這個(gè)時(shí)代曾有的大量技術(shù)產(chǎn)品，我們已把它們遺忘了。例如現(xiàn)在誰還知道復(fù)讀機(jī)？誰還在用Mp3 播放器聽音樂？所以數(shù)字文明以這種迅猛的速度發(fā)展，對我們的人類文明帶來一種根本性的改變。

這就需要我們從制度、文明、治理等方面跟上這個(gè)時(shí)代、文明的步伐，否則我們雖然進(jìn)入了數(shù)字文明，但不一定能夠成為數(shù)字時(shí)代的文明人。

吳飛（浙大AI）：數(shù)字文明以數(shù)字化為基礎(chǔ)，以信息技術(shù)為核心，是邁進(jìn)人、機(jī)、物互聯(lián)時(shí)代的當(dāng)下所有社會關(guān)系和社會活動的總和。

2 數(shù)字文明的要素與愿景

主持人：我們已經(jīng)觸及了數(shù)字文明的不同層次了。翟志勇老師（北航法學(xué)）提到數(shù)字文明涉及三個(gè)層面：器物、觀念和制度。吳國盛老師（清華科學(xué)史）指出，我們現(xiàn)在還處于數(shù)字文明的開端。

雖然我們已經(jīng)有了一些數(shù)字技術(shù)，數(shù)字文明在器物層面上也已經(jīng)發(fā)展到一定程度了，例如今天的AI技術(shù)已經(jīng)有了一定的發(fā)展了。如果我們更進(jìn)一步地走向深度的數(shù)字文明，從技術(shù)史的角度看，每一次文明在更迭中，除了技術(shù)本身作為引擎以外，還有哪些推動數(shù)字文明的力量？

吳國盛（清華科學(xué)史）：翟志勇（北航法學(xué)）老師提到文明至少有三個(gè)形態(tài)：器物、制度和觀念。數(shù)字技術(shù)是一個(gè)龍頭。馬克思（1818-1883，德國）說技術(shù)是最具有革命性的力量，它總是能夠打碎一個(gè)舊的形態(tài)，創(chuàng)造一個(gè)新的形態(tài)。但是如果只是數(shù)字技術(shù)自己還做不到數(shù)字文明，它必須要撬動一些東西。

例如，從技術(shù)史上看，咱們中國人特別引以自豪的四大發(fā)明，雖然是中國人首創(chuàng)的，可是在中國社會里并沒有發(fā)生作用，中國社會并沒有因?yàn)樗拇蟀l(fā)明成就一種新的文明形態(tài)，反而給歐洲人帶來了好處，迎來了一個(gè)嶄新的世界：從培根（1561-1626，英國）開始，馬克思也認(rèn)為，大量印刷的《圣經(jīng)》使宗教改革成為可能；火藥炸毀了騎士階層，粉碎了封建領(lǐng)主階級；指南針開辟了世界航路，為創(chuàng)造新的資本主義全球市場準(zhǔn)備了條件。

所以關(guān)鍵的一點(diǎn)是你的技術(shù)革新如果不能轉(zhuǎn)化為一種為更廣泛的社會制度的變革或者創(chuàng)新的驅(qū)動力，那么這個(gè)技術(shù)就不能獲得新文明的命名權(quán)。

回到數(shù)字技術(shù)，也是一樣的道理。數(shù)字技術(shù)肯定最終要驅(qū)使創(chuàng)立一套新的制度，例如法律制度、倫理制度、文化制度等，當(dāng)然最后要引出觀念方面的內(nèi)容。所以這是關(guān)鍵。

今天在CNCC（計(jì)算機(jī)大會）上探討這件事，好像跟計(jì)算機(jī)專家們沒什么關(guān)系，其實(shí)技術(shù)本身就內(nèi)置了一些文化密碼、制度密碼，每一種技術(shù)就內(nèi)含了一些文明驅(qū)動的方向性和意向性。因此這個(gè)話題在CNCC 上探討并不是節(jié)外生枝、裝飾性的，而是具有內(nèi)在意義的。

主持人：是否可以僅憑數(shù)字技術(shù)的力量來獨(dú)撐這個(gè)文明形態(tài)？

吳飛（浙大AI）：有兩個(gè)觀點(diǎn)。

第一，我們正在邁向這一新的文明形態(tài)。剛才吳國盛老師（清華科學(xué)史）有句話講得非常到位：文明是由后面的人來定義我們現(xiàn)在的。例如我們已經(jīng)經(jīng)歷了農(nóng)耕時(shí)代和工業(yè)革命時(shí)代的文明。工業(yè)革命時(shí)代的文明的進(jìn)入，是以蒸汽機(jī)的改良為主要代表——1776年左右瓦特改良了蒸汽機(jī)。此后，蒸汽機(jī)經(jīng)過100多年的緩慢發(fā)展，和紡織工業(yè)、交通工業(yè)、冶金工業(yè)等深度融合，才推動人類社會進(jìn)入了工業(yè)文明的時(shí)代。

今天我們以數(shù)字化為基礎(chǔ)，以信息技術(shù)為核心，也將推動人類社會邁進(jìn)更加廣闊的天地。我們正在這一個(gè)征程上，而不是說我們已經(jīng)完全實(shí)現(xiàn)了這種新的文明形態(tài)。只有信息技術(shù)、AI 等使能技術(shù)與農(nóng)業(yè)、工業(yè)、經(jīng)濟(jì)、醫(yī)療、教育等緊密結(jié)合，才會造就一種新的文明形態(tài)。

第二，這一技術(shù)和人類社會、包括我們每個(gè)人已經(jīng)緊密地聯(lián)系在一起。例如趙春江院士^[2]也匯報(bào)了智慧農(nóng)業(yè)的進(jìn)展。由此，我們能否說我們已進(jìn)入了數(shù)字農(nóng)業(yè)文明的時(shí)代？目前，無論數(shù)字農(nóng)業(yè)還是數(shù)字工業(yè)，還沒有和我們?nèi)司o密地聯(lián)系在一起。有了信息技術(shù)和AI 等技術(shù)，我們創(chuàng)造了一個(gè)非常龐大、復(fù)雜的空間。在這個(gè)空間里，技術(shù)、人、機(jī)、物已經(jīng)互相聯(lián)系在一起。所以傳統(tǒng)的只是規(guī)范人與人之間的行為倫理的概念和方法已經(jīng)不適用了，我們應(yīng)該去形成一種新的文明治理，來更好地規(guī)范人、機(jī)、物互聯(lián)時(shí)代的文化及發(fā)展。所以數(shù)字文明把技術(shù)和社會的屬性緊密地聯(lián)合起來，是與前面的文明形態(tài)不同的一個(gè)重要特點(diǎn)。

主持人：其他老師有沒有補(bǔ)充？

翟志勇（北航法學(xué)）：如果從以人類技術(shù)相關(guān)的文明史發(fā)展的脈絡(luò)來看，會發(fā)現(xiàn)一個(gè)很有趣的現(xiàn)象：先有這些文明出現(xiàn)，然后有一系列的反思。但是我們今天一方面在探討文明來沒來，另一方面又在這個(gè)文明剛剛來的時(shí)候，就開始去反思這個(gè)文明，反思涉及的倫理問題、法律問題等。因此就會發(fā)現(xiàn)數(shù)字文明的出現(xiàn)似乎從一開始就伴隨著對于這個(gè)文明的反思，這就回到剛才吳飛老師（浙大AI）所講到的，似乎這樣的文明和我們以前所經(jīng)歷的農(nóng)業(yè)文明、工業(yè)文明等不太一樣。

一開始數(shù)字文明就會帶有某一種特殊的文明密碼，包括對于隱私、安全、平等、反歧視等一系列人類文明的關(guān)注，是與技術(shù)發(fā)展同步的。而工業(yè)文明與此不同：工業(yè)文明在造成了一系列的人類災(zāi)難之后，人們才開始去反思，在制度上給予特別的處理，例如在工業(yè)文明發(fā)展后期，人們才開始去重視勞工保護(hù)、反對歧視等一系列問題。所以從這個(gè)角度來看，是不是也就意味著數(shù)字文明是其本身內(nèi)在的一個(gè)特性。

3 如何把文化、文明的觀念融入到數(shù)字技術(shù)中？

主持人：翟志勇老師（北航法學(xué)）的最后一句話，把前面兩位老師的觀點(diǎn)概括了，即今天的一些文化、觀念、制度等已經(jīng)自然而然地成為我們數(shù)字文明的一部分，而不僅僅是外部的。

我們今天正處在數(shù)字文明的起始階段，我們?nèi)绾螐囊婚_始就把一些文化、文明的觀念融入到數(shù)字技術(shù)之中，以更好地打造數(shù)字文明時(shí)代？

古天龍（暨大可信AI）：數(shù)字技術(shù)應(yīng)該是以AI 為核心引領(lǐng)的新技術(shù)。這項(xiàng)新技術(shù)跟傳統(tǒng)技術(shù)有異同之處。共同點(diǎn)是都有技術(shù)的兩面性：一方面造福人類，另一方面對社會帶來負(fù)面影響。

自古至今，科技的進(jìn)步確實(shí)在為人類帶來進(jìn)步、福利方面發(fā)揮了重大作用，以至于它的負(fù)面效應(yīng)很多時(shí)候被忽視了，或者本身就很小。例如原子能技術(shù)、生物領(lǐng)域的基因編輯、克隆技術(shù)等涉及了一些負(fù)面效果。今天以AI為引領(lǐng)的數(shù)字技術(shù)所帶來的挑戰(zhàn)和風(fēng)險(xiǎn)也尤為嚴(yán)重。首先是偏見歧視問題，挑戰(zhàn)社會的公平正義；還有隱私泄露問題；以及責(zé)權(quán)歸屬等問題（注：在這種新情況下，人機(jī)關(guān)系深度融合，最后邊界模糊，我們責(zé)權(quán)怎么歸屬？）；還有價(jià)值對齊等問題。

對于這些問題，當(dāng)然數(shù)字技術(shù)本身應(yīng)該有一個(gè)治理機(jī)制，同時(shí)數(shù)字技術(shù)也應(yīng)該有外生的治理。所以數(shù)字技術(shù)治理是可能的、必須的。例如隱私泄露問題，現(xiàn)在我們有隱私計(jì)算、聯(lián)邦學(xué)習(xí)、差分隱私、匿名技術(shù)、密碼技術(shù)等。對于偏見歧視問題，現(xiàn)在有公平機(jī)器學(xué)習(xí)等公平感知方法。對于責(zé)權(quán)歸屬問題，有區(qū)塊鏈技術(shù)。對于價(jià)值對齊問題，有可以設(shè)計(jì)出具有道德和倫理意識的智能體。這一個(gè)方面可以通過自上而下的方式，輸入人們的傳統(tǒng)價(jià)值觀或倫理規(guī)則，讓機(jī)器學(xué)習(xí)這種倫理意識；另一方面可以自下而上地通過情景學(xué)習(xí)，讓AI 知道按照人類的行為模式去實(shí)施一些道德的決策和倫理行為。

當(dāng)然，也可以自上而下、自下而上相結(jié)合，去開展倫理道德的技術(shù)工作。

所以這些為人們進(jìn)一步開展數(shù)字技術(shù)的治理提供了可能性，有些方面已經(jīng)有了實(shí)施的具體部署應(yīng)用。所以一方面國內(nèi)外上下都在全力以赴地開展AI 從業(yè)人員的職業(yè)操守和道德的規(guī)范，使技術(shù)研發(fā)能夠?qū)崿F(xiàn)數(shù)字技術(shù)的內(nèi)生治理。另一方面，在AI 的部署應(yīng)用中，要提升全民的素質(zhì)素養(yǎng)。當(dāng)然數(shù)字倫理也是個(gè)重要內(nèi)容，以此來推動數(shù)字文明的良序發(fā)展。

4 數(shù)字技術(shù)倫理問題由誰來解決？

主持人：有這么一個(gè)潛在的命題：數(shù)字技術(shù)倫理問題，大家都承認(rèn)。企業(yè)在做，計(jì)算機(jī)從業(yè)人員也在做，這是不是就足夠了？過去科學(xué)家經(jīng)常有一句話，技術(shù)的問題還是由技術(shù)來治理。那么數(shù)字技術(shù)倫理問題也該由數(shù)字技術(shù)倫理治理？

段偉文（社科院哲學(xué)）：首先，要從哲學(xué)上對它有一個(gè)理解。計(jì)算機(jī)、AI、數(shù)字文明的核心是計(jì)算機(jī)。數(shù)字文明的核心就是計(jì)算機(jī)文明。從這個(gè)角度看，數(shù)字文明的起源是信息論和控制論。那么信息論和控制論那個(gè)時(shí)代，把人的心智想象成是像計(jì)算機(jī)一樣的。所以19世紀(jì)的經(jīng)典小說里往往有大段的心理描寫，但是到了20世紀(jì)中葉以后就沒有了，因?yàn)槿说拇竽X就是輸入和輸出。所以無論是AI、計(jì)算機(jī)還是數(shù)字技術(shù)，首先改變了我們對人類自身（包括我們的智能）的認(rèn)知，而這種改變本身是不是合理的？也還是需要思考。

第二，數(shù)字文明重要的是數(shù)字化的數(shù)據(jù)。有了數(shù)字化數(shù)據(jù)，就意味著在我們這個(gè)世界、生物圈之外形成了一個(gè)信息圈。在信息圈之上，德日進(jìn)（1881-1955，法國）在《人的現(xiàn)象》、《人的未來》等書中提到人的進(jìn)化，認(rèn)為人類將來會有一個(gè)新階段。

因此這種思考實(shí)際上從上世紀(jì)50 年代到現(xiàn)在，我們一直有一種人文的批判或人文的恐慌。因?yàn)樗鼘?shí)際上是要把所有人的智力和思考變成群體的智力和思考。所以美國動畫片《非凡的公主：希瑞》（注：1985 年推出國語版）里有一幕：在緊急的時(shí)候，主人公就會拔出劍，指天高喊“希瑞賜于我力量！”她就到了一個(gè)所謂的西格瑪點(diǎn)——世界上所有智能變成了一個(gè)統(tǒng)一體。

所以第二點(diǎn)就是：我們思考AI/數(shù)字文明的倫理問題時(shí)，我們還要思考我們想要的是一個(gè)什么樣的未來？在現(xiàn)實(shí)生活中，有數(shù)字成癮等問題，在此就不討論了。但是現(xiàn)在的AI 倫理最核心的一個(gè)問題是認(rèn)知權(quán)利的問題，即：誰有權(quán)利收集、分析你的數(shù)據(jù)，掌握你的生物特征，甚至分析你的情感，然后再對它進(jìn)行調(diào)控？

這是最重要的問題。所以現(xiàn)在已經(jīng)不再是我們在20年前講的數(shù)字鴻溝（注：誰能夠上網(wǎng)，誰擁有信息，誰是信息的窮人和富人等），而是現(xiàn)在誰可以把信息作為一種認(rèn)知和調(diào)控的手段，用來掌握一定的權(quán)利和生產(chǎn)力。

所以在這種情況下，我們更多的還要思考AI 作為一種認(rèn)知技術(shù)，它本身的合理性。

最后，我們當(dāng)然可以讓AI 具有道德，讓AI 實(shí)現(xiàn)價(jià)值對齊。但是問題是具有的是誰的道德？誰的價(jià)值？怎樣去對齊？因?yàn)樵诂F(xiàn)實(shí)世界中，人們的道德價(jià)值觀是不同的。有了AI以后，它可以讓我們知道哪些話是不能說的，哪些話是有偏見、歧視的，但是難道這是文明應(yīng)該有的姿態(tài)嗎？難道我們?nèi)俗陨硪稽c(diǎn)都不能夠承受道德、價(jià)值上的偏差嗎？我們在現(xiàn)實(shí)生活中尚且可以爆粗口，計(jì)算機(jī)、深層次的AI 就不能爆粗口嗎？這個(gè)問題還沒有答案。倫理問題本身也還有更多要反思的地方。

這種反思的立場并不是反對對AI 進(jìn)行倫理規(guī)制，而是思考怎樣讓倫理規(guī)制更符合人性，更符合文明的發(fā)展規(guī)律。就像吳國盛老師（清華科學(xué)史）剛才所講，我們并不能夠在這種文明剛開始的時(shí)候或到了某階段的時(shí)候去定義這種文明，如果把它拿到人類5000 年歷史、地球46 億年歷史中來看的話，如果給它這么快地下定義，可能為時(shí)過早。

主持人：哲學(xué)家是不斷地在自我反思。

關(guān)于如何打造數(shù)字文明，科學(xué)家和哲學(xué)家有不同的看法。段偉文老師（社科院哲學(xué)）提出了一個(gè)問題，就是認(rèn)知的革命。AI帶來了認(rèn)知革命，同時(shí)也帶來了社會權(quán)力結(jié)構(gòu)的變更，甚至影響了我們的人性。主持人聯(lián)想到了技術(shù)哲學(xué)，從技術(shù)哲學(xué)早期非常著名的代表卡普（1808-1896，德國）到蓋倫（1904-1976，德國）都講了技術(shù)是什么：技術(shù)可以彌補(bǔ)人的不足，減輕人的負(fù)擔(dān)，延伸人的手臂、器官，尤其是增強(qiáng)人的力量。CNCC大會10月27日上午的《大模型的研究進(jìn)展與產(chǎn)業(yè)應(yīng)用展望》論壇上，出現(xiàn)了兩種截然不同的觀點(diǎn)：一種認(rèn)為AI 尤其是大模型發(fā)展到這個(gè)階段，所帶來的倫理問題并不可怕，因?yàn)槲覀兪冀K還是要把它控制在一個(gè)工具層面上。但是德國國家工程院院士張建偉認(rèn)為AI也許未來可能會有意識，他也提到：如果有了意識，是不是就可以更好地分辨善與惡？這個(gè)問題涉及AI未來發(fā)展的方向。

5 人類還被需要嗎？人機(jī)關(guān)系應(yīng)該是怎樣的？

主持人：從另一個(gè)層面去考慮：我們可不可以躺平了？現(xiàn)在比較流行的兩個(gè)關(guān)鍵詞：無人，自主。機(jī)器越來越自主了，接下來我們?nèi)祟愒絹碓讲槐恍枰恕＿^去我們的手不需要了——大吊車代替了我們的手；接下來腿也少需要、不需要了，因?yàn)橛辛舜焦ぞ摺?、飛機(jī)等；我們整個(gè)的器官都被替代了；接下來有了大模型以后，我們的思想甚至也被替代了——現(xiàn)在很多文秘工作可以用大模型來做了。那么在這個(gè)時(shí)代，我們?nèi)诉€被需要嗎？這有點(diǎn)靈魂質(zhì)問了。在新的數(shù)字文明時(shí)代，人機(jī)關(guān)系應(yīng)該是怎樣的？

吳國盛（清華科學(xué)史）：未來人還有人的用處。這是維納（1894-1964，美國）的一句問題，是非常好的問題。數(shù)字文明是信息驅(qū)動的（注：過去的文明有物質(zhì)驅(qū)動的，有能量驅(qū)動的），信息驅(qū)動的本質(zhì)是計(jì)算/信息處理，而計(jì)算的背后是控制，這很重要，意味著現(xiàn)代科學(xué)、數(shù)字化的目標(biāo)是為了控制自然。不過，現(xiàn)在的數(shù)字技術(shù)不僅是控制自然，還控制社會，這就引發(fā)了一個(gè)非常深刻的問題：數(shù)字技術(shù)本質(zhì)上是一種權(quán)力重新洗牌的技術(shù)。在洗牌過程中，公平、正義、善的問題就出現(xiàn)了。

過去就存在這個(gè)問題，例如有刀、鐵劍的民族，相比沒有的民族，力量會逆轉(zhuǎn)。蒸汽動力也是一樣，它把工人淪為非?？蓱z的角色?，F(xiàn)在的數(shù)字時(shí)代，是不是所有人被卷入了？例如是否會用一個(gè)軟件有很大的差別（例如在疫情期間，有些老人不會用智能手機(jī)的打車軟件，叫出租車都很麻煩），這是非?，F(xiàn)實(shí)的一個(gè)問題。

數(shù)字技術(shù)的智能化特征是控制論特征。因?yàn)橹悄芎?/span>大一部分是控制。智能特征進(jìn)一步把人的問題又提出來了：什么是人？過去說人有智能。那么現(xiàn)在機(jī)器也有智能，是不是機(jī)器也是人？實(shí)際上，計(jì)算機(jī)產(chǎn)業(yè)過分放大了人的智能部分。人有知、情、意三部分，除了有智能之外，人還有脾氣、審美等。例如有人認(rèn)為游戲是一種非功利行為，所以游戲這件事情很有意思，現(xiàn)在有游戲產(chǎn)業(yè)，游戲能成為產(chǎn)業(yè)，不僅是里面的智能行為，更多的是里面的審美行為、娛樂行為。所以從這個(gè)意義上看，吳國盛老師（清華科學(xué)史）并不像很多人那么悲觀，覺得機(jī)器出來以后就怎么著了，因?yàn)橹橐饫锏那楹鸵獾牟糠?，現(xiàn)在機(jī)器恐怕是沒法做到的。

主持人：AI正在走向知、情、意的全面合一。

吳國盛（清華科學(xué)史）：知情意里的情和意的知化，即希望通過知的方式把情和意給消解掉。你說你有脾氣嗎？其實(shí)你也沒什么脾氣，無非就是你體內(nèi)某些元素的發(fā)作，用元素替代一下，你就沒脾氣了。這實(shí)際上還是一種唯知論的傳統(tǒng)，而且這是比較危險(xiǎn)的一種行為。

所以我們還是要在數(shù)字文明時(shí)代弘揚(yáng)更人性化。何謂更人性化？就是非知部分的意義和重要性。這部分我們始終要記住。因?yàn)槿绻麤]有這部分，就不知道智能產(chǎn)業(yè)將向哪個(gè)方向發(fā)展，因?yàn)楫a(chǎn)業(yè)的發(fā)展首先要合乎人性本身的需要。

人性有什么需要？單憑大數(shù)據(jù)能不能做得到？局部是可以的，但是否能完全分析出來，還很難預(yù)判。

吳飛（浙大AI）：補(bǔ)充兩個(gè)方面。這是一個(gè)辯證的問題。不可否認(rèn)，AI 現(xiàn)在已經(jīng)極大地提升了人類生產(chǎn)、生活和學(xué)習(xí)的能力和效率。但是AI還有很多無法解決的問題，例如因?yàn)锳I 的無能所引發(fā)的倫理問題，還有隱私泄漏、大數(shù)據(jù)殺熟等危害。這些不是AI 故意在作惡，而是AI 技術(shù)水平現(xiàn)在還無法滿足倫理和道德要求。所以發(fā)明一個(gè)機(jī)器或AI 系統(tǒng)出來，并不是想要人類來奴役人類，而是讓人類的生產(chǎn)生活效率更高效。這是從正面來看AI。

同時(shí)，AI 確實(shí)也造成了一些困擾，我們也不能對這些熟視無睹。所以我們又必須要制定相應(yīng)的法律法規(guī)和道德制度，約束AI 可能產(chǎn)生的不良后果。

所以并不是我們需要去躺平。此次CNCC大會上，趙春江院士談了在用機(jī)器摘果子[2]，盡管如此，人類還是有很多行為是AI 機(jī)器無法模擬的，人類絕對不能躺平。人有人的作用，我們應(yīng)該發(fā)揮主動力，來把AI 改善和提高得更好，以更好地推動我們?nèi)祟惿鐣倪M(jìn)步。

6 從社會治理角度，人類應(yīng)該發(fā)揮哪些作用？

主持人：從社會治理的角度來看，我們?nèi)藨?yīng)該發(fā)揮哪些作用？

翟志勇（北航法學(xué)）：剛才主持人提出了一個(gè)問題，就是誰的數(shù)字文明？從兩個(gè)層面來回答。

●   第一個(gè)層面應(yīng)該是我們的共識：這一定是人的數(shù)字文明。例如10 月28 日上午論壇第一位講者——斯坦福大學(xué)終身名譽(yù)教授James Landay講的以人為核心的AI向善。

所以從這個(gè)意義上看，主持人擔(dān)心人會躺平。如果說躺平僅僅是指我們可以不去做那些重復(fù)、無意義的勞動，躺平也很好，人們都?xì)g迎這種躺平。

但是主持人可能更關(guān)心的是另外的問題，就是人會不會被機(jī)器所取代、異化，人會不會喪失自主性、認(rèn)知能力？這確實(shí)是我們所要關(guān)心的第一個(gè)層面：如何在數(shù)字文明發(fā)展過程中，始終能夠堅(jiān)守人的自主性、以人為中心的地位。

●   另一個(gè)層面去回答誰的數(shù)字文明，會涉及剛才段偉文老師（社科院哲學(xué)）提到的問題：誰來去定義這樣一個(gè)文明？誰來給它設(shè)定標(biāo)準(zhǔn)？誰來評價(jià)它？這里會存在一個(gè)問題，像主持人提到的，我們更多的是從倫理、法律的角度去關(guān)注，可能更多的是去講：數(shù)字文明首先應(yīng)該是弱者、弱勢地位人的文明。

提到科技向善、科技不作惡，弱勢群體可能遭受數(shù)字文明帶來的損害更大。例如機(jī)器人摘蘋果會導(dǎo)致大量人失業(yè)，而失業(yè)的大部分人可能是處于社會底層的，他們無法成為技術(shù)的受益者?，F(xiàn)在大模型的出現(xiàn)造成的不是體力勞動者的失業(yè)，而是一些腦力勞動者的失業(yè)。為此，一些國家和地區(qū)的政府、當(dāng)局采取了干預(yù)措施，例如印尼、馬來西亞、印度等國禁止直播帶貨，原因之一是擔(dān)心破壞大量小企業(yè)主/ 小商戶的經(jīng)營，由此導(dǎo)致大量失業(yè)。因?yàn)橘I家都去直播帶貨那里去買了，利潤變成了主播、直播帶貨公司的利潤，小企業(yè)主/ 小商戶等經(jīng)營者怎么辦？社會必須要為底層人士提供最基本的生活保障和就業(yè)權(quán)利。

當(dāng)然，如果從消費(fèi)者角度看，我們可能歡迎直播帶貨，它給我們帶來了更好的商品展示，可能以更低的物價(jià)、更方便地進(jìn)行購物，有更好的購物體驗(yàn)。但從政策制定、學(xué)者研究的角度來看，它可能會導(dǎo)致大量人的失業(yè)，或者大量人因此遭受到無法掌控的損害。

所以從這個(gè)意義上看，在第二個(gè)層面中去關(guān)注“誰的數(shù)字文明”，應(yīng)該成為弱者的數(shù)字文明，弱者能夠從中受益，不會遭受不可控的侵害，這更為重要。

段偉文（社科院哲學(xué)）：人和計(jì)算機(jī)/AI 的差別，就是AI負(fù)責(zé)計(jì)算，人類負(fù)責(zé)判斷和決策?，F(xiàn)在的問題是AI的計(jì)算能力越來越強(qiáng)大，反過來對人的判斷力和決策力提出了更高的要求，這可能是人類在數(shù)字文明時(shí)代面臨的重大挑戰(zhàn)。

主持人：這可能為人類提出了更高的要求。但是我們?nèi)丝赡苓€是傾向于懶惰的生活?？档拢?724—1804，德國）曾經(jīng)在啟蒙運(yùn)動思想里有句重要的話：如果有個(gè)領(lǐng)袖來替我去思考，我是不是自己還會去思考問題？他那時(shí)還沒有預(yù)測到現(xiàn)在的機(jī)器時(shí)代，套用這句話就是：如果有一個(gè)機(jī)器替我思考……這個(gè)話題扯得太遠(yuǎn)了。剛剛翟志勇老師（北航法學(xué)）提到了誰的數(shù)字文明的時(shí)候，是從社會結(jié)構(gòu)上來講，希望最終技術(shù)應(yīng)該是能夠賦能社會底層，但目前的情況恰恰有可能帶來的是“強(qiáng)者越強(qiáng)，弱者越弱”的大失業(yè)。

在CNCC2023大會上，來自北大的經(jīng)濟(jì)學(xué)家張維迎教授做了一個(gè)報(bào)告，講到企業(yè)家精神和數(shù)字經(jīng)濟(jì)，按照張老師的觀點(diǎn)，數(shù)字經(jīng)濟(jì)本身應(yīng)該是資源自由競爭的，因?yàn)樗胁淮_定性。翟志勇老師（北航法學(xué)）也反對壟斷。

但是另一方面，從數(shù)字經(jīng)濟(jì)、整個(gè)平臺經(jīng)濟(jì)的發(fā)展來看，實(shí)際上它帶來一個(gè)很大的問題：數(shù)字壟斷由一部分人掌握了，例如一些大平臺越來越多地滲透到生活的各個(gè)方面，收集了大量的數(shù)據(jù)，然后因?yàn)榻裉焖械腁I（科學(xué)、農(nóng)業(yè)等）都是要靠數(shù)字來喂的，大模型也要靠數(shù)字，帶來了數(shù)字牽引。這樣一來，這是不是就有點(diǎn)悖論：一方面我們要自由競爭；但另一方面還是需要政策、法律的干預(yù)，而不能完全自由。是不是這個(gè)意思？

翟志勇（北航法學(xué)）：數(shù)字文明應(yīng)該是弱者的數(shù)字文明，但這并不是反對強(qiáng)者或者反對技術(shù)，而是技術(shù)或數(shù)字文明的發(fā)展應(yīng)該是在保障弱者基本權(quán)益的基礎(chǔ)之上去展開競爭和發(fā)展的。一方面?zhèn)惱韺W(xué)家、法學(xué)家或公共政策制定者提出一系列的要求、指標(biāo)；另一方面，技術(shù)專家通過技術(shù)可以實(shí)現(xiàn)這些目標(biāo)。可能這里缺少二者聯(lián)通的管道，法律上叫正當(dāng)程序。實(shí)際上是以最終的一個(gè)程序去保證最終的結(jié)果。在技術(shù)領(lǐng)域中探討這個(gè)問題也是這樣，應(yīng)該有一個(gè)公平的程序來實(shí)現(xiàn)技術(shù)的正當(dāng)程序。在這個(gè)過程中，使得倫理學(xué)者、公共政策的制定者、技術(shù)專家、企業(yè)等能夠在這樣一個(gè)公平的程序里去展開討論，并且制定出有效的技術(shù)標(biāo)準(zhǔn)、公共政策的標(biāo)準(zhǔn)等，而不是任何一方給予對方一個(gè)必須要接受的東西。所以要有正當(dāng)程序這樣一個(gè)管道，使得所有的相關(guān)利益方都能參與進(jìn)去。

7 小結(jié)

吳飛（浙大AI）：信息技術(shù)和AI 的發(fā)展是人類從農(nóng)耕時(shí)代、工業(yè)文明時(shí)代累積起來的文明，這必然會成為馬克思所言的普遍智能，為我們每個(gè)人所用，這也是數(shù)字文明追求的目標(biāo)之一。

段偉文（社科院哲學(xué)）：數(shù)字文明延續(xù)了計(jì)算機(jī)控制論，是把人類和機(jī)器當(dāng)成一個(gè)行為者的的思路。換句話，數(shù)字文明時(shí)代最重要的一點(diǎn)是出現(xiàn)了計(jì)算機(jī)作為社會的行動者，作為一個(gè)第三者，就好像出租車司機(jī)和乘客之間有導(dǎo)航一樣，所以我們將來要面對這種AI 體，它跟人類怎樣相處？它會不會成為我們的導(dǎo)師、偶像或精神上的權(quán)威？這里有太多需要思考的地方。

翟志勇（北航法學(xué)）：ChatGPT 橫空出世之后，美國國會對安全等一系列問題非常關(guān)注，所以ChatGPT之父——OpenAI 的CEO山姆·阿爾特曼(Sam Altman)也去國會作證，他作為大模型技術(shù)領(lǐng)先者，呼吁政府對大模型進(jìn)行監(jiān)管。不僅是美國國會，他呼吁全世界都要對它進(jìn)行監(jiān)管。由此想到，數(shù)字文明可能更需要技術(shù)開發(fā)者、技術(shù)企業(yè)來參與到倫理、標(biāo)準(zhǔn)、法律公共政策的制定中，這樣才能從公共政策的角度制定出更適合技術(shù)發(fā)展、技術(shù)向善、不做惡的法律與公共政策。因此希望技術(shù)人員能夠加入到這個(gè)領(lǐng)域里，而不僅僅是社科人員走到技術(shù)人員的領(lǐng)域里。

古天龍（暨大可信AI）：希望技術(shù)融入人文社科來進(jìn)行社會治理，即法律、倫理、道德、技術(shù)多管齊下，呼吁重視技術(shù)治理維度。希望加強(qiáng)數(shù)字技術(shù)治理，提升全民素質(zhì)素養(yǎng)，促進(jìn)數(shù)字文明建設(shè)。

吳國盛（清華科學(xué)史）：技術(shù)不是中性的，數(shù)字技術(shù)也不是中性的。任何一項(xiàng)技術(shù)的大規(guī)模深入發(fā)展，必然帶來文明新形態(tài)的產(chǎn)生。在今天數(shù)字技術(shù)正在方興未艾地發(fā)展，我們提前提出數(shù)字文明的概念，以此來規(guī)范數(shù)字技術(shù)的發(fā)展，使之朝著有利于人類福祉、健康和幸福生活的方向發(fā)展這一概念，是特別值得稱道的。

主持人：CNCC 大會主要是討論數(shù)字技術(shù)的，參與者可能更多地盯在器物層面。但是大會主席在確定這個(gè)題目的時(shí)候，站到了更高的層面，來從整個(gè)人類發(fā)展的歷史和文明形態(tài)的變更上來去考慮這樣的問題。數(shù)字技術(shù)不等于數(shù)字文明，建設(shè)數(shù)字文明，不僅需要技術(shù)，還需要相應(yīng)的所有上層建筑的一起參與。

參考文章：

[1] 王瑩.如何做好工業(yè)IT和OT的融合.EEPW,2023(12):20-27.

[2] 迎九.院士觀察:我國智慧農(nóng)業(yè)的現(xiàn)狀與展望. EEPW,2024(1-2):56-59.

（本文來源于《EEPW》2024.3）