報(bào)告指出，元宇宙的可持續(xù)發(fā)展正面臨多種倫理挑戰(zhàn)。作為全球領(lǐng)先的人工智能軟件公司，商湯致力于發(fā)展 “負(fù)責(zé)任且可評(píng)估” 的人工智能，結(jié)合數(shù)字經(jīng)濟(jì)可持續(xù)發(fā)展的內(nèi)在需求，提出 “以實(shí)為本” 的數(shù)字世界發(fā)展觀，為推動(dòng)數(shù)字世界的健康可持續(xù)發(fā)展貢獻(xiàn)商湯的思考與實(shí)踐。田豐院長(zhǎng)從 “發(fā)展” 的視角出發(fā)，結(jié)合商湯自身案例，介紹了商湯科技針對(duì)數(shù)字世界的治理主張，為構(gòu)建實(shí)體經(jīng)濟(jì)發(fā)展所需的數(shù)字世界提供可行的落地方案。

“以虛強(qiáng)實(shí)”商湯提出 “以實(shí)為本” 的數(shù)字世界發(fā)展觀

數(shù)字經(jīng)濟(jì)作為繼農(nóng)業(yè)經(jīng)濟(jì)和工業(yè)經(jīng)濟(jì)之后的一種全新經(jīng)濟(jì)形態(tài)，如今已經(jīng)從數(shù)字產(chǎn)業(yè)化進(jìn)入產(chǎn)業(yè)數(shù)字化的 “下半場(chǎng)” 時(shí)代。隨著人工智能、5G、XR 等新一代數(shù)字技術(shù)加速向傳統(tǒng)行業(yè)滲透，“元宇宙” 的概念也由此而生，它將實(shí)現(xiàn) “人、物、場(chǎng)” 在數(shù)字世界和現(xiàn)實(shí)世界的實(shí)時(shí)交互、融合共生，為產(chǎn)業(yè)數(shù)字化帶來(lái)新的想象空間。從 “復(fù)活” 古生物，到線(xiàn)上問(wèn)診的 AI 數(shù)字醫(yī)生，再到方便快捷的 AR 購(gòu)物，元宇宙為物質(zhì)層面的產(chǎn)業(yè)升級(jí)及精神層面的文藝復(fù)興提供了新的發(fā)展機(jī)遇，助推現(xiàn)實(shí)世界的可持續(xù)發(fā)展，“以虛強(qiáng)實(shí)” 已成為基本共識(shí)。
伴隨技術(shù)的不斷迭代，元宇宙的發(fā)展將經(jīng)歷從數(shù)字孿生到數(shù)字原生，再到數(shù)實(shí)共生的演進(jìn)過(guò)程，“人、物、場(chǎng)” 也將在不同的發(fā)展階段產(chǎn)生出不同的創(chuàng)新應(yīng)用模式。但與此同時(shí)，元宇宙作為多種新興數(shù)字技術(shù)的交匯點(diǎn)，數(shù)字世界和現(xiàn)實(shí)世界的融合體，與 “人、物、場(chǎng)” 相關(guān)的信息和應(yīng)用被誤用、濫用的問(wèn)題和倫理挑戰(zhàn)，也會(huì)更加突出而復(fù)雜，給不同階段元宇宙的發(fā)展，都會(huì)帶來(lái)諸多阻礙。

“數(shù)字孿生” 階段主要實(shí)現(xiàn)對(duì)于現(xiàn)實(shí)世界的動(dòng)態(tài)復(fù)刻。對(duì)于 “人” 而言，人們?cè)谕ㄟ^(guò) XR 設(shè)備進(jìn)入元宇宙過(guò)程中所產(chǎn)生的大量敏感個(gè)人身份數(shù)據(jù)，則存在被竊取冒充的風(fēng)險(xiǎn)。對(duì)于 “物” 來(lái)說(shuō)，文化產(chǎn)品、歷史文物在轉(zhuǎn)為數(shù)字資產(chǎn)后，也會(huì)為產(chǎn)權(quán)信息竊取等不法行為帶來(lái)可乘之機(jī)；針對(duì)城市、工廠、園區(qū)、自然環(huán)境等 “場(chǎng)” 的可視化呈現(xiàn)，也意味著可能存在地理空間和經(jīng)濟(jì)活動(dòng)等敏感信息的暴露。
在 “數(shù)字原生” 階段，元宇宙將在 AIGC 技術(shù)的支持下逐漸超越真實(shí)場(chǎng)景，拓展時(shí)空體驗(yàn)。AIGC 將激發(fā)虛擬形象在各行各業(yè)的廣泛應(yīng)用，但隨之也會(huì)出現(xiàn) “數(shù)字替身行為不軌”、“AI 藝術(shù)剽竊” 等問(wèn)題，成為 “人” 的一大挑戰(zhàn)；而在 “物” 方面，NFT 數(shù)字藏品促進(jìn)了元宇宙的活躍度，卻也引發(fā)了投機(jī)炒作等問(wèn)題；在 “場(chǎng)” 方面，人們?cè)诟鶕?jù)自身喜好構(gòu)建不同虛擬場(chǎng)景的同時(shí)，也容易對(duì)虛擬場(chǎng)景產(chǎn)生精神依賴(lài)，形成 “信息繭房”。
到了 “數(shù)實(shí)共生” 階段，數(shù)實(shí)交互將帶來(lái)更具真實(shí)感、臨場(chǎng)感和沉浸感的交互體驗(yàn)。相應(yīng)的，數(shù)實(shí)交互也意味著 “人” 受到侵害時(shí)的感知也會(huì)愈發(fā)真實(shí)；針對(duì) “物” 的高實(shí)時(shí)交互技術(shù)，在生產(chǎn)流程中的應(yīng)用也存在被篡改、盜取的風(fēng)險(xiǎn)；以數(shù)字孿生城市為代表的 “場(chǎng)” 的數(shù)實(shí)交互，同樣有著被入侵干擾而帶來(lái)隱私安全、經(jīng)濟(jì)安全等風(fēng)險(xiǎn)。
元宇宙發(fā)展所存在的這些倫理挑戰(zhàn)，將會(huì)對(duì) “以虛強(qiáng)實(shí)” 發(fā)展路徑的可持續(xù)性造成影響。對(duì)此，商湯認(rèn)為，數(shù)字世界的可持續(xù)發(fā)展應(yīng)當(dāng)遵循 “以實(shí)為本” 的發(fā)展觀，以 “滿(mǎn)足現(xiàn)實(shí)需求” 為根本定位、以 “遵循現(xiàn)實(shí)規(guī)則” 為基本原則、以 “符合現(xiàn)實(shí)利益” 為最終目標(biāo)。其中，“滿(mǎn)足現(xiàn)實(shí)需求” 是指數(shù)字世界的發(fā)展應(yīng)有利于回應(yīng)現(xiàn)實(shí)世界的發(fā)展問(wèn)題和訴求；“遵循現(xiàn)實(shí)規(guī)則” 是指數(shù)字世界的規(guī)范發(fā)展應(yīng)以現(xiàn)實(shí)世界的規(guī)則體系為基礎(chǔ)；“符合現(xiàn)實(shí)利益” 是指數(shù)字世界的發(fā)展應(yīng)服務(wù)于現(xiàn)實(shí)世界的發(fā)展利益。做好元宇宙的倫理治理，可以為數(shù)字技術(shù)在經(jīng)濟(jì)社會(huì)重要行業(yè)領(lǐng)域中的規(guī)模化應(yīng)用提供有效保障。

踐行 “以實(shí)為本”實(shí)現(xiàn)數(shù)字世界發(fā)展三大 “現(xiàn)實(shí)” 目標(biāo)
作為人工智能治理的深度實(shí)踐者，商湯已經(jīng)將 “以實(shí)為本” 的數(shù)字世界發(fā)展觀，貫徹到了自身的實(shí)踐發(fā)展當(dāng)中，通過(guò)技術(shù)創(chuàng)新和實(shí)體產(chǎn)業(yè)的結(jié)合，實(shí)現(xiàn) “滿(mǎn)足現(xiàn)實(shí)需求”、“遵循現(xiàn)實(shí)規(guī)則”、“符合現(xiàn)實(shí)利益” 的目標(biāo)，推動(dòng)數(shù)字經(jīng)濟(jì)與實(shí)體經(jīng)濟(jì)的融合發(fā)展。
圍繞 “滿(mǎn)足現(xiàn)實(shí)需求” 的目標(biāo)，商湯致力于通過(guò)多套技術(shù)工具，在保證數(shù)據(jù)隱私安全的前提下，更好地實(shí)現(xiàn)數(shù)據(jù)要素的流通，滿(mǎn)足生產(chǎn)、消費(fèi)等發(fā)展需求。商湯開(kāi)發(fā)的敏感信息脫敏技術(shù)工具，不僅可對(duì)生物特征數(shù)據(jù)、自動(dòng)駕駛等各類(lèi)業(yè)務(wù)的敏感數(shù)據(jù)進(jìn)行脫敏，還具備敏感信息檢測(cè)、可還原脫敏等功能。商湯還建立了覆蓋產(chǎn)品研發(fā)全流程的個(gè)人信息保護(hù)評(píng)估審核機(jī)制，確保產(chǎn)品和服務(wù)達(dá)到嚴(yán)格的隱私安全保護(hù)水平。
為促進(jìn)數(shù)據(jù)要素的流通利用，商湯創(chuàng)新提出了數(shù)據(jù)沙箱，可實(shí)現(xiàn)數(shù)據(jù)不搬家，數(shù)據(jù)可用不可見(jiàn)，在確保數(shù)據(jù)隱私安全的基礎(chǔ)上實(shí)現(xiàn)數(shù)據(jù)價(jià)值轉(zhuǎn)化。面向系統(tǒng)安全需求，商湯自研的模型體檢工具能夠面向活體識(shí)別、圖像分類(lèi)、目標(biāo)檢測(cè)等商業(yè)化應(yīng)用開(kāi)展對(duì)抗安全檢測(cè)、魯棒安全檢測(cè)、后門(mén)安全檢測(cè)，不僅能夠支持多種任務(wù)類(lèi)型，還能夠開(kāi)箱即用，提供一鍵式測(cè)評(píng)反饋，目前已應(yīng)用于商湯的大量商業(yè)化模型的檢測(cè)。
圍繞 “遵循現(xiàn)實(shí)規(guī)則” 的目標(biāo)，商湯自研了魯棒數(shù)字水印技術(shù)，基于深度學(xué)習(xí)對(duì)數(shù)字內(nèi)容實(shí)施加密數(shù)字水印，實(shí)現(xiàn)版權(quán)保護(hù)、內(nèi)容溯源，促進(jìn)元宇宙數(shù)字內(nèi)容的健康有序發(fā)展。商湯還將自研的一系列技術(shù)工具賦能創(chuàng)作版權(quán)審查、創(chuàng)作風(fēng)格審查、特定信息內(nèi)容審查等不同類(lèi)型的數(shù)字內(nèi)容審查工作，促進(jìn)數(shù)字內(nèi)容創(chuàng)作的合法合規(guī)，同時(shí)還建立了覆蓋產(chǎn)品全生命周期的倫理審查體系，確保技術(shù)創(chuàng)新和產(chǎn)品應(yīng)用的每個(gè)環(huán)節(jié)都合乎倫理。
圍繞 “符合現(xiàn)實(shí)利益” 的目標(biāo)，商湯已開(kāi)發(fā)并落地了多種 AI 應(yīng)用，讓技術(shù)的發(fā)展符合包括人類(lèi)、經(jīng)濟(jì)、社會(huì)、環(huán)境的可持續(xù)發(fā)展利益。諸如疫情期間的 AI 基礎(chǔ)教育 “停課不停學(xué)” 解決方案，AI+AR 電網(wǎng)運(yùn)維巡檢等，都是數(shù)字技術(shù)服務(wù)人類(lèi)現(xiàn)實(shí)利益的典型范例。
元宇宙作為 AI 賦能實(shí)體經(jīng)濟(jì)的重要?jiǎng)?chuàng)新應(yīng)用領(lǐng)域，勢(shì)必也將成為技術(shù)倫理治理的重要陣地。田豐院長(zhǎng)指出，近年來(lái)，商湯積極探索人工智能倫理治理工作體系建設(shè)，并全面納入到自身的產(chǎn)品研發(fā)體系當(dāng)中，形成從理論到實(shí)踐的倫理治理閉環(huán)。此次《元宇宙可持續(xù)發(fā)展報(bào)告》的發(fā)布，不僅是商湯首份聚焦商業(yè)應(yīng)用場(chǎng)景的倫理治理研究報(bào)告，也是商湯 AI 倫理治理工作向商業(yè)場(chǎng)景延伸的新起點(diǎn)。秉承 “平衡發(fā)展” 的 AI 倫理觀，商湯將持續(xù)探索和開(kāi)展更多商業(yè)領(lǐng)域的倫理治理實(shí)踐，全面促進(jìn)智能時(shí)代的可持續(xù)發(fā)展。