2024年1月7日，以“增長(cháng)動(dòng)能 中國探索”為主題的第二十五屆北大光華新年論壇在北京大學(xué)百周年紀念講堂舉行，中國科學(xué)院自動(dòng)化研究所人工智能倫理與治理中心主任、聯(lián)合國人工智能高層顧問(wèn)機構專(zhuān)家曾毅出席論壇并發(fā)表題為《從科學(xué)與社會(huì )視角推進(jìn)新一代生成式人工智能的發(fā)展與治理》的演講。
　　曾毅在演講中表示，未來(lái)需要推進(jìn)新一代生成式人工智能的科學(xué)突破，目前并沒(méi)有真正意義的通用人工智能的存在，在有效理解、識別和劃分任務(wù)方面，尚存在本質(zhì)性的問(wèn)題瓶頸。他表示，基于現在人工智能的現狀，特別是風(fēng)險安全倫理方面的發(fā)展捉襟見(jiàn)肘，不必使人工智能無(wú)所不在，而應在發(fā)展中秉持智能向善的理念，負責任的穩健發(fā)展和適度的使用，才能夠使人工智能揚帆遠航。生成式人工智能未來(lái)的發(fā)展應當聚焦于：從數據驅動(dòng)的人工智能發(fā)展到自然機制驅動(dòng)的人工智能，從合乎倫理到擁有道德，從人工智能與人類(lèi)價(jià)值觀(guān)對齊，到人與人工智能的價(jià)值協(xié)調。
　　以下為發(fā)言實(shí)錄：
　　當代生成式人工智能是工程技術(shù)的組合創(chuàng )新，以及在用戶(hù)體驗方面帶來(lái)了前所未有的顯著(zhù)提升，但它確實(shí)尚未形成本質(zhì)性的科學(xué)突破。因為當代生成式人工智能最基本的思想是人工智能領(lǐng)域幾十年前奠定的，真正在科學(xué)上的突破并不是這幾年，當代生成式人工智能憧憬的通用人工智能的科學(xué)突破也還尚未到來(lái)。面向未來(lái)，應當在科學(xué)與社會(huì )角度來(lái)審視和推進(jìn)生成式人工智能的發(fā)展。從科學(xué)角度講，未來(lái)需要推進(jìn)科學(xué)意義上的新一代生成式人工智能。從社會(huì )角度講，生成式人工智能未來(lái)發(fā)展為基礎設施的重要組成部分，推進(jìn)社會(huì )發(fā)展，那么傳統的人工智能研發(fā)者就需要加強社會(huì )維度的認知。
　　我舉例說(shuō)明，通過(guò)文字交互，何謂和諧共生？ChatGPT給出的答案確實(shí)是更新了我們傳統意義的和諧共生。用它生成的和諧共生的畫(huà)作看起來(lái)也確實(shí)抓住了和諧共生的意義，但是當對比文字和圖像的時(shí)候有一個(gè)非常有趣的現象，文字生成的結果并沒(méi)有缺乏人的因素，但圖像生成的結果中并沒(méi)有人的存在，這不禁引發(fā)我們更深入的思考。從這樣的案例可以看出我們已經(jīng)可以受益于技術(shù)的進(jìn)步。
　　然而另外一方面，實(shí)際上它還并未形成真正的理解。很多人說(shuō)生成式人工智能確實(shí)有理解，如果沒(méi)有理解怎么能夠做生成的任務(wù)，所以我再舉一個(gè)例子。我們不是所有的場(chǎng)景下都需要生成。大家記得，當最開(kāi)始生成式人工智能在互聯(lián)網(wǎng)上為大家提供服務(wù)時(shí)，用它去查閱參考文獻，它給出的參考文獻沒(méi)有一篇是真實(shí)存在的，因為輸出的所有參考文獻的名字都是生成的。在這種情況下，一個(gè)生成式人工智能并不能夠區分何時(shí)不需要生成，這個(gè)實(shí)際上就是看似智能的信息處理工具實(shí)則并不擁有真正的智能所存在的問(wèn)題。
　　比如說(shuō)回到和諧共生的例子，如果現在問(wèn)題變成“生成一張包含和諧共生四個(gè)字的楷書(shū)作品”，結果卻看到，不管是英文的生成式人工智能，還是來(lái)自中國的生成式人工智能服務(wù)，都沒(méi)有去抓住需求背后真正的意義。生成出的哪一幅圖上都沒(méi)有“和諧共生”四個(gè)字當中的任何一個(gè)字，甚至沒(méi)有可識別出的文字，所以這就是為什么說(shuō)目前缺乏理解的生成式人工智能，尚需有效理解、識別和劃分任務(wù)。

　　不同生成式人工智能服務(wù)對“生成一張包含和諧共生四個(gè)字的楷書(shū)作品”請求的輸出
　　當代數據驅動(dòng)的人工智能是輸入的數據對應預期的輸出，可以發(fā)現一種數學(xué)優(yōu)化方法和模型來(lái)從數據輸入擬合到期望的輸出。生成式人工智能系統所期待的給定任務(wù)理想化地認為應該是個(gè)完全生成的任務(wù)，但是真實(shí)世界中實(shí)際的需求不是這樣的。所以人工智能的生成式模型不等于是人工智能的基礎模型，而基礎模型也不僅僅提供生成式的能力，在很多時(shí)候它首先要去區分和劃分什么樣的任務(wù)需要生成，什么樣的任務(wù)不用生成或進(jìn)行受限的生成，而從人工智能來(lái)看，我們不需要生成的這種判別式的人工智能，還只是人工智能可能輸出的一種，可能還有很多其他類(lèi)型。必須講到生成式人工智能確實(shí)并非通用人工智能的雛形，它更非人工智能的基礎模型。所以面向通用人工智能的人工智能基礎模型，確實(shí)需要能夠自主地、有效地識別、理解、劃分和解決任務(wù)。
　　人工智能誕生之初有關(guān)通用問(wèn)題求解器的研究就指出：一切的問(wèn)題都能夠被形式化為邏輯的話(huà)，通用問(wèn)題求解器可以解決世界上所有的問(wèn)題。但實(shí)際上，將一個(gè)問(wèn)題自主的描述劃分為一個(gè)可解的問(wèn)題，在這一部分的進(jìn)展，60年以來(lái)人工智能領(lǐng)域沒(méi)有任何實(shí)質(zhì)性進(jìn)展。
　　所以基于現在的人工智能的現狀，我們確實(shí)不必使人工智能無(wú)所不在。人工智能的確存在可能的風(fēng)險，但是發(fā)展當中我們應當秉持智能向善的理念、負責任穩健的發(fā)展和適度的使用，才能夠使人工智能揚帆遠航。
　　什么叫做智能向善，我希望能給大家一些感性的認識。我們研發(fā)了類(lèi)腦生成式人工智能基座“心擎(MindEngine)”，并在此基礎上從不同視角支持“智能向善”理念的實(shí)踐。第一個(gè)例子是數字哲學(xué)家。哲學(xué)回答人生當中切要問(wèn)題并給予我們思考的力量，數字哲學(xué)家構造了類(lèi)腦生成式人工智能引擎向這些哲學(xué)家去學(xué)習，就可以受益于先哲們的智慧，助力我們認識這個(gè)世界并與這個(gè)世界更好地相處。我們也需負責任地指出這樣的AI并不能夠被稱(chēng)為是這些先哲的數字版，雖然它可以很有用，它仍然是看似智能的信息處理工具。

　　再比如，我們基于類(lèi)腦生成式人工智能基座“心擎”構建的心靈對話(huà)的平臺“心友”。當你心情不好的時(shí)候，它用積極心理學(xué)去引導你。當你覺(jué)得未來(lái)無(wú)限大好的時(shí)候，它也會(huì )提醒你人生過(guò)程當中可能還會(huì )遇到各種各樣的挑戰，為每一個(gè)人創(chuàng )建“心靈之友”。

　　生成式人工智能可以幫助我們更好的認知我們的世界和我們的關(guān)系，比如說(shuō)人類(lèi)和生態(tài)、人類(lèi)和所有的動(dòng)物和植物之間的關(guān)系。我們融合了不同人工智能技術(shù)構建的人與生態(tài)的“共生圖”就呈現和分析了人類(lèi)和所有的動(dòng)植物之間的關(guān)系。例如看似螞蟻與人類(lèi)相比關(guān)系網(wǎng)絡(luò )相對簡(jiǎn)單，但是地球上人類(lèi)和螞蟻的數量比例卻是1：100萬(wàn)，但是當我們問(wèn)生成式人工智能，螞蟻和人類(lèi)之間的關(guān)系是什么的時(shí)候。我們的搜索和摘要引擎告訴我們“世界上有若干種不同吃螞蟻的方式”，只有一句話(huà)寫(xiě)到“螞蟻合作的模式是人類(lèi)合作的典范”。當我們用生成式人工智能來(lái)描述它們之間關(guān)系的時(shí)候，總結的結論就是人類(lèi)和螞蟻并不能夠很好的相處?？吹竭@樣的生成式人工智能輸出的時(shí)候，我還是感覺(jué)到非常沮喪，并希望這樣的努力能賦予人類(lèi)更多的啟示和反思。倘若未來(lái)超級智能視人類(lèi)如同人類(lèi)視螞蟻，我們是否會(huì )從這個(gè)觀(guān)察與反思以及我們對人類(lèi)現代行為的分析中獲得些什么呢？

　　人工智能還可以賦能我們的文化交互，在很多國際交流當中經(jīng)常被問(wèn)到一個(gè)問(wèn)題：我們跟你們是如此的不同，我們仍然希望跟你合作。我從來(lái)是從第一句話(huà)就打斷，我非常想知道為什么中國的學(xué)者跟你們有如此的不同。人工智能可以用來(lái)彌合文化之間誤解并促進(jìn)交流，正是在這個(gè)背景下我萌生了創(chuàng )造文化交互引擎這個(gè)項目與服務(wù)的想法。聯(lián)合國教科文組織遴選的自然和文化遺產(chǎn)，本來(lái)突出的是各個(gè)國家遺產(chǎn)相對來(lái)說(shuō)都有各自的特征以區分于其他的自然和文化的遺產(chǎn)，形成對人類(lèi)文明獨特地勾勒。然而這些自然和文化遺產(chǎn)真的只是具有獨特性而背后缺乏相關(guān)性嗎？我們用生成式人工智能的技術(shù)可以去發(fā)現它們之間的相似點(diǎn)，以及它們的相異點(diǎn)。在它們的相似點(diǎn)上，將所有全球的文化關(guān)聯(lián)在一起，但部分的相異點(diǎn)是我們可以進(jìn)行文化互鑒的機遇。

　　現在生成式人工智能確實(shí)是不完美的，現階段我們先針對基于傳統生成式人工智能大模型做好合乎倫理的研究與服務(wù)，從一個(gè)看似智能信息處理的工具開(kāi)始，再同步布局新一代人工智能，使它能真正的有道德，從合乎倫理的人工智能發(fā)展到具有道德的人工智能。
　　比如說(shuō)我們的善智人工智能倫理安全平臺體系中“智善·如流”平臺用人類(lèi)和生成式人工智能協(xié)作的方式生成數千種不同的場(chǎng)景，然后再讓人類(lèi)和生成式人工智能共同去判斷場(chǎng)景中的行為是否道德?？梢园l(fā)現即使現在最強大的生成式人工智能，如果以GPT4來(lái)舉例，它在倫理道德的輸出方面與人類(lèi)的相近程度，用相似度來(lái)匹配的話(huà)只有0.64，最強大的大模型跟人類(lèi)的價(jià)值觀(guān)的差異仍然是非常大的。而且任何一個(gè)生成式大模型在倫理道德，價(jià)值觀(guān)的表現方面相當的不穩定的。說(shuō)的是同一件事情，只要描述方式稍微變一下，它的輸出道德的價(jià)值判斷甚至可以是顛覆性的，這是人不會(huì )出現的問(wèn)題。所以這些看似智能的信息處理工具用人類(lèi)反饋的強化學(xué)習這種方式即使給它做了倫理道德框架，也尚未避免看似并不復雜的問(wèn)題。

　　未來(lái)的生成式人工智能不一定會(huì )停留在看似智能的信息處理的工具上，但是如果想讓它獲得道德，而不僅僅是用規則的方式讓它合乎倫理，現在所謂的基于人類(lèi)反饋的強化學(xué)習是完全不夠的。人類(lèi)在進(jìn)行基于道德的問(wèn)題求解的時(shí)候，道德框架是在外部的，而不是在一個(gè)問(wèn)題求解器上打補丁，所以這樣的方式本質(zhì)上就構成了合乎倫理和具有道德之間在計算原理的本質(zhì)上的差別。人類(lèi)獲得獲得道德的方式首先是基于生物的自我感知、區分自我和他人，有了心理揣測能力和情感共情能力，產(chǎn)生利他并最終形成道德直覺(jué)，在此基礎上進(jìn)行道德推理與決策。

　　但是我們現在的生成式人工智能不是這樣的，因為你在希望其形成合乎倫理的信息處理，這對于它來(lái)說(shuō)只是讓他執行了一個(gè)無(wú)異于其他分類(lèi)任務(wù)的任務(wù)。當采用人類(lèi)反饋的強化學(xué)習，生成式人工智能做一個(gè)錯誤的決定你可以懲罰它，但是也可以有另外十個(gè)人同時(shí)給它獎勵。如果你是一個(gè)善人，你去懲罰它，如果給它獎勵的另外十個(gè)人是惡人的話(huà)，生成式人工智能的輸出就會(huì )跟我們所預期的截然相反。
　　我們希望未來(lái)的生成式人工智能是基于這樣智能的本質(zhì)發(fā)展出來(lái)的，是真正區分于現在通過(guò)規則合乎倫理，到從基于自我發(fā)展出來(lái)的道德直覺(jué)，讓它具有道德。
　　最后，我認為面對長(cháng)遠的超級智能、人類(lèi)災難性的風(fēng)險、生存風(fēng)險的隱患，確實(shí)需要我們從現在開(kāi)始做準備。但是，人工智能與人類(lèi)價(jià)值對齊這件事情在未來(lái)的超級智能的時(shí)代將不成立，因為我們需要的是從價(jià)值對齊過(guò)渡到人與人工智能價(jià)值的協(xié)調，協(xié)調是雙向的，因為在那個(gè)時(shí)候當人工智能具備反思能力的時(shí)候，智能的水平遠遠超過(guò)人類(lèi)的時(shí)候，那么人工智能對于人類(lèi)也將有價(jià)值觀(guān)方面的訴求和期待。

　　未來(lái)社會(huì )可能不是一個(gè)以人類(lèi)為中心的社會(huì )，我們現在叫做人類(lèi)文明，但是相信未來(lái)一定是共生文明。人工智能是人類(lèi)的一面鏡子，現在人工智能還沒(méi)有人類(lèi)強大，但是它卻可以照耀到人內心部分的黑暗和人類(lèi)社會(huì )未來(lái)應當發(fā)展的方向。大家經(jīng)常說(shuō)人工智能比人類(lèi)演化的快，我們既然知道人類(lèi)的弊端，在人工智能作為一面鏡子一樣賦予我們反思的時(shí)候，人類(lèi)需要加速反思的過(guò)程。超級智能對人類(lèi)社會(huì )產(chǎn)生的風(fēng)險，人類(lèi)社會(huì )能不能夠更快的進(jìn)化到共生文明，這個(gè)問(wèn)題如果不從現在開(kāi)始的話(huà)就太晚了。