數(shù)字人產(chǎn)業(yè)隨著生成式人工智能技術(shù)多模態(tài)的融合發(fā)展，迎來了前所未有的發(fā)展機(jī)遇。從影視娛樂到品牌營(yíng)銷，從電商直播到金融服務(wù)，數(shù)字人深入各行各業(yè)，并重塑商業(yè)生態(tài)。在今年全國(guó)兩會(huì)期間，有網(wǎng)絡(luò)媒體推出了數(shù)字主持人，實(shí)時(shí)了解兩會(huì)熱點(diǎn)。近日，深度還原真人整體外觀和語言風(fēng)格的數(shù)字人“采銷東哥”在其直播首秀中，取得了總觀眾量達(dá)到2000萬、直播間整體訂單量破10萬的優(yōu)異成績(jī)。數(shù)字人應(yīng)用已成為人工智能企業(yè)競(jìng)相角逐的新賽道。

數(shù)字人已近乎實(shí)現(xiàn)與真實(shí)主體外形上的共用、交互上的共通以及認(rèn)知上的共生。數(shù)字人的構(gòu)建和運(yùn)行不僅需采集真實(shí)主體肖像、聲音等以實(shí)現(xiàn)外在的惟妙惟肖，還需要通過學(xué)習(xí)真實(shí)主體所發(fā)表言論、生活軌跡等來實(shí)現(xiàn)邏輯、語言等深層次特質(zhì)上的如出一轍。

數(shù)字人的應(yīng)用本質(zhì)與可能存在的問題

數(shù)字人產(chǎn)業(yè)的蓬勃發(fā)展是數(shù)字化社會(huì)生產(chǎn)發(fā)展到新階段的標(biāo)志，是從人的“生物本體”被數(shù)字信息化到“數(shù)字化的人”，再發(fā)展到“數(shù)字人”單獨(dú)參與數(shù)字社會(huì)生產(chǎn)的進(jìn)化過程。

首先，數(shù)字經(jīng)濟(jì)時(shí)代已經(jīng)形成了個(gè)人數(shù)據(jù)與“生物本體”的分離，數(shù)據(jù)作為生產(chǎn)要素參與社會(huì)生產(chǎn)的數(shù)字社會(huì)生產(chǎn)方式。個(gè)體的數(shù)據(jù)信息是人的數(shù)字化表達(dá)，可以不同程度地關(guān)聯(lián)到一個(gè)可識(shí)別的生物個(gè)體。不同于工業(yè)時(shí)代將土地、礦產(chǎn)作為生產(chǎn)資料，數(shù)字經(jīng)濟(jì)時(shí)代已經(jīng)逐步建立起以數(shù)據(jù)為生產(chǎn)要素的社會(huì)生產(chǎn)方式。人參與數(shù)字社會(huì)生產(chǎn)的方式即是人的生物信息被提取、分離以個(gè)人信息、行蹤軌跡等數(shù)據(jù)作為生產(chǎn)要素。在數(shù)字社會(huì)生產(chǎn)中，平臺(tái)需要通過知情同意機(jī)制合法取得生物個(gè)體的個(gè)人信息與行為數(shù)據(jù)，并通過去標(biāo)識(shí)化轉(zhuǎn)化為企業(yè)財(cái)產(chǎn)權(quán)益，進(jìn)行數(shù)字社會(huì)生產(chǎn)。數(shù)字社會(huì)生產(chǎn)的數(shù)字產(chǎn)品如用戶畫像和行為預(yù)測(cè)算法，則可通過服務(wù)合同和定向廣告投放方式進(jìn)行交易。此外，數(shù)字時(shí)代的社會(huì)管理與社會(huì)生產(chǎn)也建立在“人的數(shù)字化”基礎(chǔ)上，個(gè)人數(shù)據(jù)信息成為人口統(tǒng)計(jì)、治安管理、工業(yè)生產(chǎn)、交易的實(shí)現(xiàn)要素。

其次，數(shù)字人的本質(zhì)，是生成式人工智能的自主性使得個(gè)人數(shù)據(jù)在社會(huì)生產(chǎn)流程中與“生物本體”進(jìn)一步分離，數(shù)據(jù)信息所承載的人格屬性減弱，生產(chǎn)要素屬性增強(qiáng)。由于生成式人工智能的強(qiáng)大自主功能，人的生物本體與數(shù)字要素分離更為徹底，甚至可以單純生成數(shù)字人主體。這一自動(dòng)化運(yùn)行的過程是一個(gè)使個(gè)人和社會(huì)“去人性化”的過程。

但這一過程也進(jìn)一步激發(fā)了數(shù)字人產(chǎn)業(yè)倫理的討論。數(shù)字人脫胎于真實(shí)人類主體，在其構(gòu)建及交互過程中，一方面可能存在著對(duì)真實(shí)主體人格權(quán)益不法侵害的風(fēng)險(xiǎn)，另一方面現(xiàn)行法律體系尚未形成對(duì)數(shù)字人權(quán)益的保護(hù)規(guī)范，對(duì)于侮辱數(shù)字人以及未經(jīng)許可擅自使用數(shù)字人等風(fēng)險(xiǎn)的應(yīng)對(duì)力所不及。

由于數(shù)字人與生物本體脫離更為徹底，數(shù)字人帶來的風(fēng)險(xiǎn)也不同于以往。數(shù)字人應(yīng)用在交互方式上相對(duì)自由，底層運(yùn)行邏輯導(dǎo)致數(shù)字人容易生成錯(cuò)誤內(nèi)容，帶來可信度風(fēng)險(xiǎn)。甚至有的用戶可能利用數(shù)字人傳播有害信息、侵害他人合法權(quán)益以及實(shí)施詐騙勒索等違法犯罪行為。在與用戶交互的過程中，數(shù)字人可能生成歧視侮辱的言論、公開他人隱私，在廣告代言場(chǎng)景下還存在虛假?gòu)V告的風(fēng)險(xiǎn)。

當(dāng)前，數(shù)字人已成為平臺(tái)企業(yè)的擴(kuò)展服務(wù)與營(yíng)銷熱點(diǎn)，平臺(tái)企業(yè)利用自主研發(fā)的人工智能模型提供數(shù)字人構(gòu)建服務(wù)，通過用戶在平臺(tái)上對(duì)數(shù)字人的應(yīng)用從而實(shí)現(xiàn)數(shù)字生產(chǎn)要素的匯聚。從人工智能治理體系來看，平臺(tái)企業(yè)不僅是數(shù)字人的技術(shù)支持者、服務(wù)提供者，數(shù)字人輸出的自動(dòng)化生成還標(biāo)志著平臺(tái)企業(yè)扮演著內(nèi)容生產(chǎn)者的角色。

數(shù)字人還引發(fā)人們對(duì)人類主體性以及數(shù)字人可控的思考。比如，數(shù)字人已深度參與到社會(huì)活動(dòng)中，能否將數(shù)字人視為真實(shí)人類主體分布式存在的一部分，以及其能否完全代替人類，等等。此外，在交互過程中，數(shù)字人經(jīng)過不斷的學(xué)習(xí)迭代可能會(huì)導(dǎo)致最終呈現(xiàn)出與真實(shí)主體截然相反的“性格”，如何應(yīng)對(duì)其所帶來的彌散式社會(huì)風(fēng)險(xiǎn)，也成為人們思考的一個(gè)方面。

對(duì)數(shù)字人產(chǎn)業(yè)治理需多管齊下

從數(shù)字社會(huì)生產(chǎn)的角度討論數(shù)字人產(chǎn)業(yè)治理，需多管齊下，綜合治理。

首先，要充分借鑒既往個(gè)人信息保護(hù)與數(shù)據(jù)治理的經(jīng)驗(yàn)，對(duì)數(shù)字人構(gòu)建過程進(jìn)行治理。憲法規(guī)定，國(guó)家尊重和保障人權(quán)，公民的人格尊嚴(yán)不受侵犯，公民的通信自由和通信秘密受法律的保護(hù)。即使在數(shù)字社會(huì)生產(chǎn)中，承載人格利益的信息數(shù)據(jù)與個(gè)體分離，個(gè)體也保留一定的個(gè)體自治與自主性。如果完全偏重于數(shù)據(jù)生產(chǎn)與利用，則會(huì)使人類福祉和人類自決的考慮從屬于強(qiáng)大的經(jīng)濟(jì)行為者的優(yōu)先事項(xiàng)和價(jià)值。

數(shù)字社會(huì)生產(chǎn)要注意保護(hù)“數(shù)字化的人”上承載的人格權(quán)益等相關(guān)權(quán)益，同時(shí)重視個(gè)人數(shù)據(jù)的社會(huì)生產(chǎn)要素屬性。例如，各國(guó)普遍視為重點(diǎn)規(guī)制對(duì)象的“用戶畫像”，實(shí)質(zhì)就是將散落的個(gè)人信息與數(shù)據(jù)集合，目的是模擬個(gè)人行為，使個(gè)體的行為和偏好成為可計(jì)算的、可預(yù)測(cè)的、可交易的數(shù)據(jù)集。數(shù)字人構(gòu)建過程的治理應(yīng)延續(xù)這一理念。依據(jù)民法典的規(guī)定，自然人對(duì)其肖像、姓名、聲音等享有人格權(quán)益，除依照法律規(guī)定或者根據(jù)其性質(zhì)不得許可的之外，可以將自己的肖像、姓名、聲音等許可他人使用。此外，根據(jù)個(gè)人信息保護(hù)法相關(guān)規(guī)定，在收集敏感個(gè)人信息前，不僅要明確告知信息主體，還需取得信息主體的單獨(dú)同意。故而，真實(shí)主體的書面授權(quán)應(yīng)作為數(shù)字人構(gòu)建的前置要素。

其次，對(duì)于數(shù)字人與個(gè)體進(jìn)一步分離參與數(shù)字社會(huì)生產(chǎn)產(chǎn)生的交互過程進(jìn)行治理。鑒于數(shù)字人與真實(shí)主體的高度對(duì)應(yīng)關(guān)系及真實(shí)主體授權(quán)品牌方使用的實(shí)際情況，應(yīng)當(dāng)穿透數(shù)字人面紗，由背后的真實(shí)主體、扮演廣告經(jīng)營(yíng)者角色的數(shù)字人應(yīng)用企業(yè)以及廣告主承擔(dān)相應(yīng)的責(zé)任。

探索數(shù)字人如何技術(shù)向善。數(shù)字人一定程度上是個(gè)體“生物本體”的數(shù)字化表達(dá)，連接著數(shù)字世界與物理世界。如果對(duì)數(shù)字人實(shí)施侮辱等行為，將間接導(dǎo)致現(xiàn)實(shí)世界中真實(shí)主體相關(guān)權(quán)益受到侵犯。在人機(jī)共生時(shí)代，對(duì)人格權(quán)的保護(hù)應(yīng)當(dāng)適當(dāng)延伸至數(shù)字人之上。應(yīng)明確數(shù)字人商業(yè)化運(yùn)營(yíng)的利益分配機(jī)制。隨著平臺(tái)從數(shù)字化到數(shù)智化發(fā)展，數(shù)字人產(chǎn)業(yè)商業(yè)布局將不斷走向縱深，各利益主體之間應(yīng)當(dāng)通過合同等方式建立公平合理透明的利益分配機(jī)制。

最后，在數(shù)字人產(chǎn)業(yè)治理的過程中，應(yīng)以個(gè)人與產(chǎn)業(yè)兩個(gè)層面為切入點(diǎn)，促進(jìn)科技創(chuàng)新與人權(quán)保障協(xié)調(diào)發(fā)展。

個(gè)人層面，堅(jiān)持以人為本、以保障人類主體性為根本遵循。應(yīng)對(duì)構(gòu)建數(shù)字人所采集的真實(shí)主體個(gè)人數(shù)據(jù)實(shí)現(xiàn)全生命周期的嚴(yán)格管理和監(jiān)督使用，謹(jǐn)防數(shù)據(jù)泄露與過度使用風(fēng)險(xiǎn)。拒絕將與用戶交互后的數(shù)字人模型再次投入訓(xùn)練池循環(huán)利用。在構(gòu)建數(shù)字人前置階段，應(yīng)充分尊重真實(shí)主體的人格尊嚴(yán)與自由意志，與其明確約定個(gè)人數(shù)據(jù)的使用范圍。在后續(xù)的運(yùn)營(yíng)階段，謹(jǐn)防生成與真實(shí)主體形象嚴(yán)重不相符或者違背當(dāng)事人意愿的數(shù)字人形象。

產(chǎn)業(yè)層面，秉持科技向善、可信可控的理念，加強(qiáng)科技倫理風(fēng)險(xiǎn)研判與控制。數(shù)字人產(chǎn)業(yè)鏈相關(guān)的技術(shù)設(shè)計(jì)、服務(wù)運(yùn)營(yíng)、應(yīng)用場(chǎng)景以及交互傳播等全流程需強(qiáng)化元倫理分析，從全局角度確?？萍汲晒旄Ｓ诿瘛Ｓ绕涫窃谌斯ぶ悄?ldquo;復(fù)活”的具體應(yīng)用場(chǎng)景下，數(shù)字人深層次的情感負(fù)載，對(duì)人類的倫理理念和行為準(zhǔn)則產(chǎn)生重要影響。數(shù)字人應(yīng)用服務(wù)提供者作為“守門人”，應(yīng)采取適當(dāng)防沉迷措施，對(duì)數(shù)字人進(jìn)行顯性與隱性標(biāo)識(shí)，避免用戶迷失于現(xiàn)實(shí)與虛擬的界分。此外，為防止他人去除顯性標(biāo)識(shí)進(jìn)行非法使用，應(yīng)采取信息流水印等方式以便溯源監(jiān)督。產(chǎn)業(yè)鏈倫理治理體系的構(gòu)建還需協(xié)同推進(jìn)，作為產(chǎn)業(yè)鏈末端的用戶也應(yīng)恪守AI倫理與文明底線，不斷提升自身數(shù)字素養(yǎng)。