連續(xù)5年世界人工智能大會聚焦AI倫理治理，治理進程如何？治理重點有何變化？

　　自2018年上海首次舉辦世界人工智能大會以來，“人工智能倫理治理”相關(guān)內(nèi)容已連續(xù)5年作為重點議題被提及。

　　在2022世界人工智能大會上，21世紀(jì)經(jīng)濟報道記者關(guān)注到，共有2022人工智能治理論壇、2022世界人工智能大會法治論壇、亞洲科技倫理治理與可持續(xù)發(fā)展論壇、智能社會論壇、數(shù)字時代的技術(shù)責(zé)任等至少5個論壇，聚焦人工智能倫理與法治問題。

　　人工智能產(chǎn)業(yè)經(jīng)過5年快速發(fā)展，治理進程如何？下一階段的AI治理重點在哪些方面？

　　從關(guān)注倫理到落地治理

　　回顧5年前，人工智能技術(shù)的安全應(yīng)用話題進入大眾視野。

　　在2018人工智能大會上，李彥宏提出“遵循AI倫理”，他認(rèn)為真正的AI公司不僅在技術(shù)層面與AI緊密結(jié)合，文化也必須“AI化”。他表示AI的四大原則，分別是安全可控、促進人類平等獲得技術(shù)能力、教人學(xué)習(xí)讓人成長、為人類帶來更多的自由和可能，其中“安全可控”是AI的最高原則。

　　也是在這一年的人工智能大會上，《人工智能安全發(fā)展上海倡議》發(fā)布，提出面向未來、以人為本、責(zé)任明晰、透明監(jiān)管、隱私保護、算法公正、和平利用、國際合作等八大方面。

　　2019年5月，上海國家新一代人工智能創(chuàng)新發(fā)展試驗區(qū)揭牌，明確了建立健全政策法規(guī)、倫理規(guī)范和治理體系的相關(guān)任務(wù)。6月，國家新一代人工智能治理專業(yè)委員會發(fā)布了《新一代人工智能治理原則》，突出了負(fù)責(zé)任和開放協(xié)作的主題。在2019世界人工智能大會治理主題論壇上，發(fā)布了《中國青年科學(xué)家2019人工智能創(chuàng)新治理上海宣言》，強調(diào)人工智能發(fā)展需要遵循的四大責(zé)任，包括倫理責(zé)任、安全責(zé)任、法律責(zé)任和社會責(zé)任等。

　　2020年，新一代人工智能技術(shù)從“感知智能”邁向“認(rèn)知智能”，讓機器實現(xiàn)理解、推理、決策、可解釋的認(rèn)知智能正在成為AI研究的熱點和趨勢。在機器智能進一步升級的背景下，如何發(fā)展“負(fù)責(zé)任的人工智能”成為重要議題，在當(dāng)年的世界人工智能大會上，多個論壇對AI法治、安全、倫理問題進行了集中討論。

　　2021年，人工智能治理監(jiān)管趨嚴(yán)、立法加速已成為大勢所趨。

　　一方面，我國對網(wǎng)絡(luò)安全、數(shù)據(jù)安全、個人隱私保護的立法逐步完善。2021年8月，國內(nèi)首個針對人臉識別的司法解釋《最高人民法院關(guān)于審理使用人臉識別技術(shù)處理個人信息相關(guān)民事案件適用法律若干問題的規(guī)定》正式實施；9月，《中華人民共和國數(shù)據(jù)安全法》實施；同年11月1日，《中華人民共和國個人信息保護法》正式實施；同月，《網(wǎng)絡(luò)數(shù)據(jù)安全管理條例(征求意見稿)》發(fā)布。全國各地也加快了數(shù)據(jù)立法、數(shù)據(jù)交易場所建設(shè)的進程。

　　另一方面，我國進一步推動算法治理，印發(fā)《關(guān)于加強互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》也在2022年3月正式實施。

　　同樣在這一年，科技倫理問題迎來集中治理。

　　2021年11月，聯(lián)合國教科文組織大會第41屆會議審議通過《人工智能倫理問題建議書》，這是全球首份人工智能倫理問題的全球性協(xié)議，呼吁各國政府加快能力建設(shè)，推動科技發(fā)展，呼吁充分尊重人權(quán)與人的尊嚴(yán)，環(huán)境保護與可持續(xù)性并致力于創(chuàng)建一個公平、包容的社會，呼吁制定人工智能發(fā)展路徑，并關(guān)注人工智能的全生命周期等。

　　“目前人工智能帶來的主要風(fēng)險不一定是技術(shù)的不成熟，而是AI技術(shù)的快速發(fā)展對倫理和社會文化上的影響已超越了我們的認(rèn)知?！痹?022世界人工智能治理論壇上，聯(lián)合國教科文組織駐華代表處社會科學(xué)及人文科學(xué)項目專員洪智偉表示，要減少使用AI技術(shù)帶來的社會和倫理風(fēng)險，如加劇不平等現(xiàn)象、隱私侵犯、造成偏見等問題，需要在社會和文化價值觀的嵌入治理，亟需進行國際合作，形成多邊、靈活的AI治理政策，實現(xiàn)更有預(yù)見性的AI治理。

　　同時，我國科學(xué)倫理治理進程也在加速。今年3月，《關(guān)于加強科技倫理治理的意見》正式出臺，進一步強調(diào)要健全科技倫理體制，壓實創(chuàng)新主體科技倫理管理主體責(zé)任。

　　“《關(guān)于加強科技倫理治理的意見》推動了我國科技倫理建制進入了新階段?！痹趤喼蘅萍紓惱碇卫砼c可持續(xù)論壇上，上?，F(xiàn)代服務(wù)業(yè)聯(lián)合會會長、原上海市人大常委會副主任鄭惠強指出，必須拋棄先發(fā)展后治理的模式，而應(yīng)堅持在規(guī)范中發(fā)展、在發(fā)展中規(guī)范的模式，政產(chǎn)學(xué)研互通探尋可持續(xù)發(fā)展議題下的治理新模式。

　　為進一步建設(shè)人工智能產(chǎn)業(yè)發(fā)展“上海高地”，上海在人工智能立法方面同樣充分考慮了AI倫理建制。今年8月30日，在2022世界人工智能大會開幕前，《上海市促進人工智能產(chǎn)業(yè)發(fā)展條例(草案)》正式公開征求意見，其中提及設(shè)立人工智能倫理委員會，提倡創(chuàng)新分級治理，并對開發(fā)者倫理進行規(guī)范，要求企業(yè)合理應(yīng)用人工智能技術(shù)，強化勞動者保護和特殊群體關(guān)照。

　　在“2022世界人工智能大會法治論壇—數(shù)字法治：供給和適用”主題論壇上，上海有關(guān)部門領(lǐng)導(dǎo)介紹了關(guān)于上海人工智能立法考慮的三大重點因素，包括以良法善治引領(lǐng)產(chǎn)業(yè)創(chuàng)新與深化改革發(fā)展、將相關(guān)產(chǎn)業(yè)實踐經(jīng)驗固化為法律制度條文，促進人工智能技術(shù)創(chuàng)新與防范風(fēng)險相統(tǒng)一等。尤其在立法保障產(chǎn)業(yè)安全，加強規(guī)范治理方面，上海條例前瞻預(yù)判，致力于平衡好產(chǎn)業(yè)發(fā)展與安全規(guī)范之間的關(guān)系，在規(guī)制的同時，為新賽道、新產(chǎn)業(yè)在可控范圍內(nèi)預(yù)留出發(fā)展空間。

　　共議“嵌入式”科技倫理治理模式

　　“隨著人工智能技術(shù)的創(chuàng)新突破和加快應(yīng)用，人工智能的治理出現(xiàn)了三大新特點。一是人工智能加速應(yīng)用，產(chǎn)生了更加復(fù)雜多元的治理問題，治理的維度和廣度不斷拓展。二是正在形成更加體系化的人工智能治理模式，治理的方法和手段日益豐富。三是人工智能治理的國際交流與合作更加活躍，積極推動形成人工智能治理的國際共識和國際機制?！?科技部戰(zhàn)略規(guī)劃司副司長邢懷濱在2022世界人工智能大會治理論壇致辭中指出。

　　在政府與行業(yè)協(xié)會的引導(dǎo)下，企業(yè)的AI倫理治理提升到了新高度，建立“嵌入式”科技倫理治理體系或是一大方向。

　　所謂“嵌入式”的科技倫理治理，即在科技創(chuàng)新發(fā)生初期，科技倫理就應(yīng)當(dāng)有所介入，對新興科技的發(fā)展和風(fēng)險進行有效干預(yù)和管理。

　　“隨著AI產(chǎn)業(yè)的爆發(fā)式增長，AI領(lǐng)軍者們已經(jīng)開始意識到，在技術(shù)投入使用之前，必須把道德切實納入考量，需要把AI治理原則置于整個部署過程之中?！卑涅iAppen全球高級副總裁、大中國區(qū)及北亞區(qū)總經(jīng)理田小鵬指出，如果要部署負(fù)責(zé)任的AI，就必須要有負(fù)責(zé)任的數(shù)據(jù)。澳鵬Appen在全球提供AI訓(xùn)練數(shù)據(jù)服務(wù)已逾26年，田小鵬在接受21世紀(jì)經(jīng)濟報道記者專訪時提到，機器是對人工勞動力的補充，但機器的訓(xùn)練依然需要大量人力尤其是專家能力的輔助，如何以高質(zhì)量數(shù)據(jù)正確地訓(xùn)練計算機，推動計算機學(xué)習(xí)與發(fā)展，是AI治理的一大難點。

　　上海交通大學(xué)凱原法學(xué)院院長、特聘教授彭誠信在發(fā)言中表示：數(shù)字社會中倫理之治的根本還在于人，企業(yè)倫理、科技的可信向善，歸根結(jié)底還是人的可信向善，因此需要完善法律監(jiān)管、理清法律基本責(zé)任，確立人們的行為規(guī)范。

　　為進一步規(guī)范“人”在科技倫理治理中的作用，在今年3月發(fā)布的《關(guān)于加強科技倫理治理的意見》中要求，從事生命科學(xué)、醫(yī)學(xué)、人工智能等科技活動的機構(gòu)，研究內(nèi)容涉及科技倫理敏感領(lǐng)域的，應(yīng)設(shè)立科技倫理(審查)委員會。

　　目前，國內(nèi)多家大型企業(yè)已深度開展人工智能倫理與治理工作。

　　在2022世界人工智能大會上，阿里巴巴集團宣布成立科技倫理治理委員會，并引入7位外部顧問委員，強化三方監(jiān)督。委員會提出“以人為本、普惠正直、安全可靠、隱私保護、可信可控、開放共治”六大科技倫理準(zhǔn)則，重點推動算法治理、隱私保護、倫理制度建設(shè)等工作，探索相關(guān)前沿技術(shù)，提升公司整體科技自省和自律的水平。

　　商湯科技則是在2020年1月統(tǒng)籌推進人工智能倫理治理工作體系建設(shè)，在今年發(fā)布《“平衡發(fā)展”的人工智能治理白皮書——商湯人工智能倫理與治理年度報告(2022年)》。報告指出，當(dāng)前人工智能治理已進入到以技術(shù)驗證為主的落地實踐階段。基于此，商湯科技在去年“平衡發(fā)展”的人工智能倫理觀的基礎(chǔ)上，進一步提出了發(fā)展“負(fù)責(zé)任且可評估”的人工智能，并將其作為商湯開展人工智能治理的愿景目標(biāo)，打造倫理治理閉環(huán)。