??南京硅基智能科技有限公司聯(lián)合創(chuàng )始人孫凱沒(méi)有想到，自己多年前在云端“復活”母親的想法，如今已壯大成一門(mén)蓬勃發(fā)展的新興產(chǎn)業(yè)。

??近來(lái)，用生成式人工智能技術(shù)“復活”已逝親人、名人的消息時(shí)見(jiàn)報端。不少人也躍躍欲試，嘗試著(zhù)為自己塑造一個(gè)“數字分身”?？苹秒娪袄镪P(guān)于數字生命、數字永生的想象，仿佛已經(jīng)近在眼前。

??當“云上棲息”走向現實(shí)，一時(shí)間數字生命成為熱議話(huà)題。有人對此充滿(mǎn)期待，認為它不僅能夠撫慰心靈，還有望成為未來(lái)的勞動(dòng)力，發(fā)揮正向價(jià)值。有人則表示擔憂(yōu)，認為數字人在滿(mǎn)足人類(lèi)需求的背后，實(shí)則隱藏著(zhù)生命倫理、文化價(jià)值和法律規范等諸多問(wèn)題。

??AI“復活”是如何實(shí)現的？這一技術(shù)存在哪些倫理與法律風(fēng)險？如何讓數字生命向善發(fā)展？科技日報記者對此進(jìn)行了采訪(fǎng)。

??大模型讓數字人飛入尋常百姓家

??“你吃飯了沒(méi)有？”簡(jiǎn)簡(jiǎn)單單的一句話(huà)，卻讓孫凱紅了眼眶。那一刻，他覺(jué)得母親又回到自己身邊了。

??2018年，母親的溘然離世給了孫凱沉痛一擊。第二年，他找到公司董事長(cháng)司馬華鵬，決定用人工智能技術(shù)來(lái)復刻數字“母親”。

??AI“復活”實(shí)質(zhì)上是通過(guò)對人物已有影像、聲音、語(yǔ)言等內容的學(xué)習，克隆數字化的人物形象。當時(shí)，兩道難題擺在團隊面前。一是人物影像資料的缺乏，孫凱僅能提供一張母親的證件照；二是缺少可用的聲音資料，孫凱只能從幾個(gè)樣本中選擇一個(gè)最貼近母親的聲音。

??盡管如此，一年后，孫凱見(jiàn)到“母親”的那一刻，仍無(wú)法抑制自己的情緒。屏幕里的“母親”言笑晏晏，靜靜地傾聽(tīng)著(zhù)兒子的訴說(shuō)。

??“現在，我每周都會(huì )和母親聊天。在這里，我可以做最真實(shí)的自己?！睂O凱坦言，雖然屏幕前的“母親”回答模式比較固定，但于他而言，日常的傾訴和“母親”的情感陪伴，已經(jīng)讓他得到了極大的慰藉。有人擔心孫凱對此形成情感依賴(lài)，勸他盡快走出來(lái)。但孫凱認為：“對于很多失去至親的人來(lái)說(shuō)，數字人的陪伴利大于弊?！?/p>

??同司馬華鵬、孫凱一樣，早早試水AI“復活”技術(shù)的人不在少數。音樂(lè )人包小柏也曾為克隆數字“女兒”，跨界鉆研AI。從他們的經(jīng)歷中不難看出，在技術(shù)發(fā)展的早期階段，諳熟AI行業(yè)似乎成了克隆數字形象的前提。對普通人來(lái)說(shuō)，這是一個(gè)難以企及的門(mén)檻，更遑論投入大量的時(shí)間與金錢(qián)。

??改變發(fā)生在2023年。以ChatGPT為代表的生成式人工智能技術(shù)的出現，為克隆數字人提供了發(fā)展的土壤?！按竽Ｐ偷耐黄谱尶寺底秩顺杀敬蟠蠼档?#xff0c;以前需要十多萬(wàn)元，現在只需要幾千到一萬(wàn)元?！弊鳛橛H歷者，司馬華鵬不禁感嘆技術(shù)日新月異的發(fā)展。

??他說(shuō)，在大模型出現前，克隆數字人往往依賴(lài)于人工，一方面需要花費大量的時(shí)間對克隆對象進(jìn)行深度采集與模型建設，另一方面需要人工制作的形象和動(dòng)畫(huà)效果的輔助，讓克隆數字人看起來(lái)更真實(shí)。因此，整個(gè)過(guò)程耗時(shí)長(cháng)、效率低、成本高。

??如今，大模型則讓數字人制作流程提質(zhì)增效?；诤Ａ康膶W(xué)習數據，大模型對于文本、圖片、視頻的理解與生成能力都大大增強。在節約了人工成本的同時(shí)，制作時(shí)間也縮短很多。

??“過(guò)去制作數字人通常需要30分鐘以上的視頻、音頻素材?，F在我們開(kāi)發(fā)的大模型能夠基于一分鐘視頻來(lái)克隆聲音和形象，整個(gè)制作時(shí)間僅需一個(gè)工作日左右?！彼抉R華鵬說(shuō)。

??技術(shù)的發(fā)展伴隨著(zhù)“科技平權”。人們不再需要自己去了解、學(xué)習AI技術(shù)，就能夠以較低的價(jià)格復刻已逝親人。在某購物平臺上，提供AI“復活”服務(wù)的商家已不可計數，成交量最多的一家店鋪的成交量已達幾百單。

??“商家交付快，還原度也很高。家人看了都很感動(dòng)，價(jià)格也實(shí)惠?！币晃毁I(mǎi)家這樣留言。

??數據成為制作數字人最大“卡點(diǎn)”

??記者調查發(fā)現，目前市面上，有關(guān)AI克隆數字人的服務(wù)售價(jià)可謂是千差萬(wàn)別。少則幾十元，多則幾萬(wàn)元。售價(jià)在一百元內的，基本功能局限于讓照片“動(dòng)起來(lái)”，數字形象的說(shuō)話(huà)效果比較僵硬，聲音也是固定模板。幾百元價(jià)位的產(chǎn)品一般可以做到克隆音色，整體形象貼合度也相應提高，但并不能與用戶(hù)進(jìn)行交流。真正可以與用戶(hù)進(jìn)行交互的產(chǎn)品，售價(jià)往往在千元以上。

??在司馬華鵬看來(lái)，不同價(jià)位的產(chǎn)品體現了技術(shù)的代際差異：“數字永生一共分為三個(gè)階段。AI克隆數字人技術(shù)經(jīng)歷的前兩個(gè)發(fā)展階段——數字孿生與數字原生，已經(jīng)比較成熟?！?/p>

??數字孿生可以被形象地理解為“畫(huà)皮”，即通過(guò)對形象、聲音的克隆，實(shí)現人類(lèi)肉體的數字映射。這是最基礎的一步，目前的技術(shù)水平已經(jīng)能讓數字人惟妙惟肖。前不久，劉強東的數字形象“采銷(xiāo)東哥”就令網(wǎng)友們直呼“太逼真了”。視頻中，“采銷(xiāo)東哥”不僅還原了本人的口音和口頭禪，連細微的小動(dòng)作也模仿得十分到位，讓人一時(shí)難以分清這究竟是真人還是數字人。

??數字原生是更高級的階段，也謂“畫(huà)骨”。這個(gè)階段意味著(zhù)數字人能夠一定程度上模仿人類(lèi)的知識體系，實(shí)現兩者之間的對話(huà)，目前已經(jīng)有很多成功案例。360公司創(chuàng )始人周鴻祎就擁有一個(gè)可以與人類(lèi)正常對話(huà)的數字分身。大模型通過(guò)對周鴻祎相關(guān)書(shū)籍、講話(huà)稿、開(kāi)會(huì )記錄、采訪(fǎng)等大量資料的學(xué)習訓練，實(shí)現了對本人思想、邏輯的部分模仿。

??無(wú)論是“畫(huà)皮”還是“畫(huà)骨”，多位業(yè)內人士提到，數據量對模仿效果起著(zhù)關(guān)鍵作用?！敖o大模型投喂的資料越多，數字人就越像本人。這如同寫(xiě)一本人物傳記，作者對人物跟蹤、觀(guān)察的時(shí)間越長(cháng)，傳記就越真實(shí)地貼近本人?！彼抉R華鵬說(shuō)，他接觸的客戶(hù)中，有少數人以提供人物自傳的方式去“投喂”大模型，更多的是通過(guò)回答問(wèn)題的方式，來(lái)豐富人物經(jīng)歷。

??“他出生在哪里？在哪里上學(xué)？在哪里打拼？在哪里落地生根？”孫凱向記者介紹了幾個(gè)常規問(wèn)題。他透露，想要數字人更貼近本人，至少需要回答上百個(gè)問(wèn)題。如果要進(jìn)一步實(shí)現對人思維的模擬，必須依賴(lài)大量的數據。

??正所謂“巧婦難為無(wú)米之炊”，目前克隆數字人最缺的就是數據。張澤偉是南京一家數字人創(chuàng )業(yè)團隊——超級頭腦工作室的創(chuàng )始人。作為數字永生派，他不僅給自己制作了數字人，而且已經(jīng)開(kāi)始有意識地為自己留存資料?！拔視?huì )隔三岔五把自己的一些資料‘投喂’給機器，希望能夠通過(guò)這種方式，給后代留下一些記憶和思想?！?/p>

??為獲取更多數據，有業(yè)內人士提出用“人生記錄儀”的硬件設備來(lái)記錄個(gè)人生活資料，提供給大模型進(jìn)行訓練。但張澤偉認為這種方式并不現實(shí)：“一方面很多人不愿意上傳自己生活的各類(lèi)細節。另一方面，如果一個(gè)人時(shí)刻帶著(zhù)記錄儀，很可能對人們的正常社交造成障礙?！?/p>

??實(shí)際上，數據的采集與使用是一把雙刃劍?！皵祿粌H關(guān)乎克隆效果，目前數字人面臨的主要法律問(wèn)題，也是因不當獲取、使用數據造成的。如未經(jīng)同意使用他人數據克隆數字人，就會(huì )侵犯他人的肖像權、隱私權?！北本┙煌ù髮W(xué)法學(xué)院副院長(cháng)鄭飛指出，雖然自然人死后不再享有作為民事權利的肖像權，但是這不代表其肖像可以被任意使用。根據民法典第九百九十四條，死者的肖像、隱私受到侵害的，其配偶、子女、父母有權依法請求行為人承擔民事責任。

??此外，根據個(gè)人信息保護法相關(guān)規定，處理敏感個(gè)人信息應當取得個(gè)人的單獨同意。2023年1月10日起施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規定》中也提到，深度合成服務(wù)提供者和技術(shù)支持者提供人臉、人聲等生物識別信息編輯功能的，應當提示深度合成服務(wù)使用者依法告知被編輯的個(gè)人，并取得其單獨同意。

??“因此，在‘復活’逝者的情形中，理應取得對死者肖像權負有保護義務(wù)的近親屬同意?！编嶏w提醒。

??數字永生面臨技術(shù)、倫理雙瓶頸

??電影《流浪地球2》中，這樣一幕令人記憶深刻：圖恒宇把女兒的意識上傳到超強計算機，出現了擁有自我意識的數字圖丫丫。這一情節體現了克隆數字人技術(shù)的終極階段——數字永生。

??如果說(shuō)克隆數字人技術(shù)的前兩階段，只停留在對人的外在復制和思維的模仿上，那么第三階段的數字永生可謂是“觸及心靈”。

??司馬華鵬介紹，數字永生可以理解為利用AI技術(shù)，將人類(lèi)的形象、聲音、思想用數字化形式保留下來(lái)，讓人類(lèi)生命以數字化形式存在?！爱?huà)心”二字表達了其內涵，即可以達到對于思想的全面復制，全方位進(jìn)化成為具備情感人格、思維模式、語(yǔ)言習慣、知識體系，可交流對話(huà)的智能體。相比于克隆外在的音容笑貌，數字永生更強調數字人自我意識和自我涌現能力，也更接近生命的真正意義。

??采訪(fǎng)中，多位從業(yè)者認為，要實(shí)現科幻場(chǎng)景中的數字永生，還有很長(cháng)一段路要走。

??北京大學(xué)哲學(xué)系教授周程指出，從技術(shù)層面看，數字永生的挑戰在于把人類(lèi)意識精確地復制或轉移到數字平臺上。這至少包含兩道程序，一是理解復雜的人腦結構，二是把這種結構以數據形式存儲和再現?！凹幢銓?shí)現以上技術(shù)，也不意味著(zhù)可以成功復制出人類(lèi)意識，因為意識的本質(zhì)及其與大腦物理結構之間的聯(lián)系仍是科學(xué)界的未解之謎?！敝艹陶f(shuō)。

??此外，數字永生也考驗數據和算力?！皵底执鎯吞幚砟芰Φ臉O限、數據的長(cháng)期保存以及意識運行所需的資源問(wèn)題，都是需要解決的技術(shù)難題?！敝艹瘫硎?。

??除了技術(shù)限制，數字永生還涉及一些更深刻的倫理問(wèn)題。在周程看來(lái)，數字永生重塑著(zhù)人類(lèi)關(guān)于死亡的文化體驗，一定程度上模糊了生與死的邊界?！霸跀底钟郎拍钪?#xff0c;‘復制體’雖不具有肉體，但它繼承了逝者的全部心靈內容。對于任何文化來(lái)說(shuō)，都需要重新考慮同一性問(wèn)題，即數字人是否等同于本人?！敝艹陶J為，這一問(wèn)題將會(huì )挑戰人們對于生命、死亡以及生活意義的傳統認知。

??數字生命的主體性問(wèn)題是另一倫理難點(diǎn)。鄭飛認為，當前的虛擬數字人不具有“主體性”，也不具有人格權，但數字永生時(shí)代的虛擬數字人具有“主體性”可能?！澳壳皩W(xué)界普遍認為，只要人工智能體擁有人類(lèi)智慧特征，具有自主性，能夠自我運行、自我學(xué)習、推理結果并做出合理決策，它就能夠擁有主體資格或至少擁有有限主體資格，并享有一定的人格權?！?/p>

??由于同一性和主體性的問(wèn)題，引發(fā)更多倫理爭議。比如，誰(shuí)為數字人的不良行為后果承擔責任、如何保證數字永生個(gè)體的自主權、人們是否有權銷(xiāo)毀數字永生復制人等?！搬槍底秩诉@一新型法律主體，必然需要為其配備相應的權利義務(wù)規范，并使這些規范滿(mǎn)足人類(lèi)社會(huì )的基本倫理要求?！编嶏w說(shuō)。

??目前，國內外尚未出現針對數字永生的專(zhuān)門(mén)倫理規范文件。但周程認為，可以借鑒已經(jīng)制定的人工智能倫理治理相關(guān)準則，作為探討AI“復活”技術(shù)倫理問(wèn)題的基礎。

??今年3月，歐洲議會(huì )正式通過(guò)《人工智能法案》，其中強調構建“可信賴(lài)人工智能”?！斑@啟示我們，AI‘復活’應該具有一定的技術(shù)穩健性和安全性，確保人類(lèi)主體的有效監督，使其發(fā)展朝著(zhù)更加安全、負責任和可信賴(lài)的方向前進(jìn)?！敝艹瘫硎?。

??數字生命治理不能一蹴而就

??“面對數字生命，我們既不能盲目樂(lè )觀(guān)，又不能束手束腳?！敝艹陶J為，數字人、數字生命的出現勢不可當?！拔覀円e極做好準備，對相關(guān)的倫理風(fēng)險進(jìn)行充分評估，創(chuàng )新關(guān)于數字生命的治理模式，只有這樣做才能擁抱一個(gè)更光明的數字未來(lái)?！?/p>

??治理規則的制定需要多方廣泛參與。就AI“復活”而言，利益相關(guān)方既包括數字生命相關(guān)遺囑的訂立者及其親屬，也包括科創(chuàng )企業(yè)、互聯(lián)網(wǎng)企業(yè)在內的數字生命的制造者、儲存者，以及倫理學(xué)家、法律專(zhuān)家、心理學(xué)家、政府管理部門(mén)和立法機構。只有廣泛地、共同地參與新技術(shù)的研究和監管，才能達到“風(fēng)險最小、獲利最大”。

??數字虛擬人作為新興行業(yè)正在逐漸發(fā)展壯大。采訪(fǎng)中，多家企業(yè)呼吁，“期盼行業(yè)標準和規范的出臺，更好地引導產(chǎn)業(yè)發(fā)展”。

??記者注意到，目前，AI克隆數字人領(lǐng)域的行業(yè)標準尚未明晰，企業(yè)行為大多依靠自律。孫凱提到，目前他們會(huì )盡可能地做好風(fēng)險防范工作?！拔覀冊诤涂蛻?hù)溝通的過(guò)程中增加了多道環(huán)節，也花費很多資金來(lái)保護用戶(hù)的隱私信息?！?/p>

??為避免出現“劣幣驅逐良幣”的現象，孫凱希望相關(guān)部門(mén)規范行業(yè)發(fā)展，而不是任其“野蠻生長(cháng)”?！艾F在大模型有備案制度，我們也希望能給數字人行業(yè)設置一些門(mén)檻，具有相關(guān)資質(zhì)才準入?！?/p>

??目前，我國已先后出臺了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規定》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規定》《生成式人工智能服務(wù)管理暫行辦法》《科技倫理審查辦法（試行）》等，為人工智能治理搭建了基本的規范體系，為行業(yè)規范劃定了一些“紅線(xiàn)”。

??但鄭飛認為，這些“紅線(xiàn)”或失之于寬、或失之于軟?！笆е趯挶憩F為缺少明確可執行的正負面清單，現有規定過(guò)于寬泛化，難以有效界定行為的違法性；失之于軟表現為當前針對人工智能治理缺乏上位法規定，現有規范法律強制力不足，宜盡快制定出臺人工智能法?！庇浾吡私獾?#xff0c;人工智能法草案已被列入國務(wù)院2023年度立法工作計劃。

??鄭飛建議，在法律不斷完善的過(guò)程中，要注意明確虛擬數字人法律主體性。虛擬數字人包括以動(dòng)畫(huà)CG（計算機圖形技術(shù)）型虛擬數字人為主的“作品型虛擬數字人”、以數字化身和弱AI驅動(dòng)型虛擬數字人為主的“人格作品型虛擬數字人”，以及以強AI驅動(dòng)型虛擬數字人為主的“有限主體型虛擬數字人”?！爸挥袕夾I驅動(dòng)型虛擬數字人在未來(lái)具有主體性可能，其他類(lèi)型的虛擬數字人均屬于法律客體范疇?！?/p>

??此外，鄭飛還提出應根據“復活”對象及用途進(jìn)行審查，明確嚴管私用、審慎公用的思路?！氨热?#xff0c;對于‘復活’英烈等用于愛(ài)國主義教育的，應當在尊重親屬意愿的基礎上予以前置性審慎審查?！?/p>

??同時(shí)，比照人工智能在學(xué)術(shù)研究中的“披露性”原則，還應建立深度合成內容標注機制?！耙燥@著(zhù)、明確、無(wú)異議方式對虛擬數字人作出特別標注，讓用戶(hù)清楚知道其屬性?！编嶏w強調。

??無(wú)論是行業(yè)標準，還是法律規范，治理的本質(zhì)是為了讓技術(shù)向善發(fā)展。在周程看來(lái)，治理要堅持“以人為本”的立場(chǎng)。尊重人、保護人、善待人、幫助人，是發(fā)展數字生命最基本的關(guān)切點(diǎn)，也是標準、規范制定過(guò)程中的核心要義。

??數字生命的治理不是一蹴而就的過(guò)程，它需要各方共同參與，共同保障個(gè)人權利和公共利益的平衡?！爸挥袠嫿ǚ蟼惱?、法律的數字永生技術(shù)生態(tài)，才能讓人類(lèi)更安全、更幸福地享受‘云上棲居’的生存方式?！敝艹陶f(shuō)。

??【深瞳工作室出品】

??采寫(xiě)：實(shí)習記者 吳葉凡

??策劃：劉 恕 李 坤