自動(dòng)駕駛的汽車(chē)安全穿行在城市的車(chē)流中，人工智能（AI）生成的文章與圖片在社交媒體上頻頻出現，工廠(chǎng)里搭載著(zhù)智能系統的流水線(xiàn)以前所未有的高效率運轉……人工智能正在成為重塑生產(chǎn)生活、引領(lǐng)時(shí)代變革的重要力量。與此同時(shí)，隨著(zhù)人工智能技術(shù)的持續發(fā)展，應用場(chǎng)景不斷拓展，一系列安全風(fēng)險與挑戰隨之產(chǎn)生。如何讓人工智能在安全、穩定、高效的軌道上良性發(fā)展，成為業(yè)界普遍關(guān)注的問(wèn)題。

　　垂直領(lǐng)域機遇空前

　　作為先進(jìn)技術(shù)的標桿，人工智能領(lǐng)域的任何風(fēng)吹草動(dòng)都可能引發(fā)全球關(guān)注。從ChatGPT橫空出世到Sora刷新認知，只用了1年多的時(shí)間。在此期間，國內的“百模大戰”打得如火如荼，一批通過(guò)備案的大模型已經(jīng)向各行業(yè)及社會(huì )公眾開(kāi)放。全球范圍內，人工智能的競爭日趨激烈。

　　咨詢(xún)機構麥肯錫預計，以AIGC為代表的AI技術(shù)將給全球經(jīng)濟帶來(lái)超過(guò)7.9萬(wàn)億美元價(jià)值，到2030年之前，如果生成式AI應用于各行業(yè)，每年總經(jīng)濟效益高達6.1萬(wàn)億美元至7.9萬(wàn)億美元。

　　近日，在中國發(fā)展高層論壇2024年年會(huì )“人工智能發(fā)展與治理專(zhuān)題研討會(huì )”上，中國科學(xué)院副院長(cháng)吳朝暉表示，人工智能將成為第四次工業(yè)革命的標配，將加速傳統產(chǎn)業(yè)的轉型升級，實(shí)現質(zhì)量變革、效益變革和動(dòng)力變革，重塑工業(yè)的基礎再造、生產(chǎn)和服務(wù)模式創(chuàng )新的各個(gè)環(huán)節，引領(lǐng)新型工業(yè)化發(fā)展，為智能經(jīng)濟發(fā)展提供全新動(dòng)能。

　　如何在新一輪產(chǎn)業(yè)革命中搶占先機？這是機遇，也是挑戰。

　　人工智能作為一種技術(shù)工具，需要與產(chǎn)業(yè)結合，推動(dòng)產(chǎn)業(yè)數字化轉型，從而促進(jìn)經(jīng)濟社會(huì )發(fā)展。我國龐大的人口規模、應用場(chǎng)景與完整的產(chǎn)業(yè)鏈，為產(chǎn)業(yè)落地提供了堅實(shí)的環(huán)境支持。360集團創(chuàng )始人周鴻祎表示，如果企業(yè)在某個(gè)業(yè)務(wù)領(lǐng)域有獨特的業(yè)務(wù)數據，就應在這一垂直領(lǐng)域把大模型訓練好，并將其與企業(yè)業(yè)務(wù)工具結合在一起。未來(lái)，企業(yè)里將不會(huì )只有一個(gè)超級大模型，而是有多個(gè)小規模的、百億級的大模型，每個(gè)大模型只從事一個(gè)場(chǎng)景的工作。

　　充分發(fā)揮場(chǎng)景落地優(yōu)勢，在垂直領(lǐng)域發(fā)力，正成為當前國內企業(yè)發(fā)展人工智能的共識。騰訊云副總裁、騰訊云智能負責人、優(yōu)圖實(shí)驗室負責人吳運聲介紹，目前，騰訊已將AI大模型應用到多個(gè)業(yè)務(wù)場(chǎng)景中，在產(chǎn)業(yè)落地方面，基于騰訊云TI平臺推出的行業(yè)大模型，通過(guò)結合行業(yè)專(zhuān)業(yè)知識和數據訓練，以及企業(yè)自身的數據進(jìn)行精調，幫助企業(yè)快速生成專(zhuān)屬模型，目前已經(jīng)面向20多個(gè)行業(yè)輸出了超過(guò)50個(gè)行業(yè)大模型解決方案。

　　3月27日，百度智能云“AI Cloud Day：大模型應用產(chǎn)品發(fā)布會(huì )”發(fā)布通過(guò)大模型重構和升級之后的7款產(chǎn)品，覆蓋營(yíng)銷(xiāo)內容的創(chuàng )作、數字人、智能客服等七大垂直領(lǐng)域。百度智能云副總裁喻友平表示，大模型作為一種普適性的應用，一定要和場(chǎng)景緊密結合。當前業(yè)界普遍思考，怎樣把大模型用到企業(yè)中去。

　　業(yè)內人士認為，對多數企業(yè)，特別是中小微企業(yè)而言，以小規模、垂直化的大模型作為切入點(diǎn)，可以高效快速實(shí)現人工智能對產(chǎn)業(yè)的數字化賦能。同時(shí)將企業(yè)在垂直領(lǐng)域的智能化應用開(kāi)發(fā)交給專(zhuān)業(yè)的智能產(chǎn)品服務(wù)商，使“專(zhuān)才”更專(zhuān)，效率更高。

　　作為生產(chǎn)智能化產(chǎn)品和解決方案的服務(wù)商，山東浪潮智能生產(chǎn)技術(shù)有限公司基于基礎通用模型，正在訓練研發(fā)圍繞智能生產(chǎn)的“智產(chǎn)大模型”。浪潮智能生產(chǎn)總經(jīng)理宋志剛表示，對于制造業(yè)來(lái)說(shuō)，以人工智能與行業(yè)場(chǎng)景的深度融合為主線(xiàn)，與制造業(yè)企業(yè)生產(chǎn)環(huán)節深度結合，充分發(fā)揮深度學(xué)習、自主決策等優(yōu)勢，才能提升生產(chǎn)過(guò)程的智能化水平。浪潮智能生產(chǎn)以智產(chǎn)大模型為支撐，以“多維數據融合與智能優(yōu)化引擎”為技術(shù)核心，打造了智能生產(chǎn)數據分析平臺，并已實(shí)際應用于多家制造業(yè)企業(yè)，對生產(chǎn)效率有顯著(zhù)提升作用。據了解，專(zhuān)精于發(fā)動(dòng)機活塞環(huán)制造的福建東亞機械有限公司在采用該智能平臺后，通過(guò)機器視覺(jué)數據與行業(yè)數據集微調，生產(chǎn)效率提高20%，產(chǎn)品合格率由之前的90%提升到99%。

　　監管面臨新的挑戰

　　人工智能在創(chuàng )造前所未有機遇的同時(shí)，也伴隨著(zhù)超越以往范疇的風(fēng)險，對監管提出了嚴峻考驗。

　　人工智能帶來(lái)的安全問(wèn)題，呈現在A(yíng)I模型的數據獲取、數據訓練以及應用上線(xiàn)運營(yíng)全過(guò)程。吳運聲認為，AI本體安全或AI內生安全，要重點(diǎn)關(guān)注AI模型和算法自身在可靠性、公平性、可解釋性、透明性等方面的安全缺陷；AI應用安全，是AI模型從開(kāi)發(fā)、測試、部署到運行交互等完整生命周期內的應用安全；AI衍生安全，也叫AIGC內容安全，主要是生成內容的涉黃、涉暴等違法違規內容的審核。長(cháng)期來(lái)看，伴隨著(zhù)生成式AI的發(fā)展，AI倫理和AGI可控性將是AI安全的焦點(diǎn)。

　　百度法律研究中心主任陳晨表示，隨著(zhù)大模型的普及和快速迭代，確保其輸出的內容符合用戶(hù)預期和法律要求變得至關(guān)重要。大模型的內容輸出風(fēng)險，本質(zhì)上是模型的推理能力和邏輯風(fēng)險。這些風(fēng)險主要體現在模型可能出現“偏見(jiàn)”“誤判”“幻覺(jué)”等現實(shí)情況。因此，多元數據集對大模型發(fā)展至關(guān)重要。當前，我國生成式人工智能和大模型技術(shù)創(chuàng )新仍處于初級階段，數據訓練需要盡可能地包容和多樣，而高質(zhì)量、具有良好價(jià)值觀(guān)的數據往往具有版權。如果因為高質(zhì)量?jì)热莸娜笔?#xff0c;而使生成式人工智能產(chǎn)生某種偏見(jiàn)，產(chǎn)生推理邏輯風(fēng)險，將不利于產(chǎn)業(yè)的深度融合和公共服務(wù)水平的提升。

　　從企業(yè)角度出發(fā)，宋志剛認為，數據是一個(gè)核心點(diǎn)。智能模型的決策，建立在訓練數據基礎之上，一方面，訓練數據的不準確會(huì )影響智能模型的決策，而用于訓練樣本的數據則面臨被泄露或者被篡改的風(fēng)險。他建議，可以基于傳感器等生產(chǎn)智能化設備，多維度采集數據，建立起與數據準確性、完整性、有效性相關(guān)的管理機制。同時(shí)，加強技術(shù)攻關(guān)，基于小樣本數據進(jìn)行快速學(xué)習，不斷調優(yōu)模型參數。此外，還可以建立數據多重授權和安全防護機制來(lái)保障數據安全。

　　隨著(zhù)人工智能越來(lái)越廣泛應用于生產(chǎn)生活的方方面面，在使用中產(chǎn)生的關(guān)于真實(shí)性、道德要求、權責歸屬等議題的討論逐漸增多。

　　大模型具有工具屬性，既可以成為好人的幫手，也可能成為壞人的幫兇。周鴻祎表示，合理的監管，可以對人工智能帶來(lái)正向的推動(dòng)作用。除了監管，還要尋找技術(shù)方法，比如在A(yíng)I生產(chǎn)視頻里加入不可更改、不可替換、不可修改的內部水印等。

　　中國政法大學(xué)數據法治研究院教授張凌寒認為，應通過(guò)技術(shù)發(fā)展回應和解決安全問(wèn)題。不發(fā)展是最大的不安全，我們在技術(shù)和產(chǎn)業(yè)的國際競爭中必須以發(fā)展為制度設計的總目標。

　　治理體系逐步完善

　　人工智能的安全與治理問(wèn)題，關(guān)乎產(chǎn)業(yè)發(fā)展方向與速度，關(guān)乎供給雙方權利與義務(wù)，更關(guān)乎國際競爭中的優(yōu)勢與主動(dòng)。

　　北京航空航天大學(xué)法學(xué)院院長(cháng)助理、副教授趙精武表示，一國對人工智能的法律規制不僅影響著(zhù)本國的產(chǎn)業(yè)發(fā)展和風(fēng)險治理，更決定著(zhù)該國在全球人工智能治理中的話(huà)語(yǔ)權。同時(shí)，在全球化的背景下，人工智能技術(shù)的發(fā)展和應用的跨國特性也要求國際社會(huì )共同面對和解決技術(shù)發(fā)展帶來(lái)的挑戰。

　　2023年10月18日，我國發(fā)布《全球人工智能治理倡議》，圍繞人工智能發(fā)展、安全、治理三方面系統闡述了人工智能治理中國方案。倡議提出，人工智能技術(shù)帶來(lái)難以預知的各種風(fēng)險和復雜挑戰，各國應在人工智能治理中加強信息交流和技術(shù)合作，不斷提升人工智能技術(shù)的安全性、可靠性、可控性、公平性。

　　行之有效的治理方案，既能夠為人工智能的創(chuàng )新發(fā)展與產(chǎn)業(yè)應用提供良好的發(fā)展環(huán)境，還能妥善應對技術(shù)發(fā)展過(guò)程中的風(fēng)險與問(wèn)題。

　　中國信通院政策與經(jīng)濟研究所高級工程師程瑩告訴記者，算法治理是在已有成熟業(yè)態(tài)之后，圍繞網(wǎng)絡(luò )平臺展開(kāi)的相對穩定、清晰、可預期的治理。當下的大模型具有擴展性強、迭代快速、商業(yè)模式尚在探索的階段特性，全球主要經(jīng)濟體共同面臨著(zhù)“邊發(fā)展邊摸索邊治理”的重大挑戰。在我國，人工智能治理正從原則理念轉化為可落地的規則規范。立法層面，既有民法典、個(gè)人信息保護法、電子商務(wù)法等條款針對深度偽造、大數據殺熟等具體問(wèn)題的治理，也有在部門(mén)規章層面關(guān)于算法推薦、深度合成、AIGC領(lǐng)域的要求。倫理層面，在《關(guān)于加強科技倫理治理的意見(jiàn)》規范下，進(jìn)一步推進(jìn)《科技倫理審查辦法（征求意見(jiàn)稿）》落地實(shí)施。標準層面，我國發(fā)布了《國家新一代人工智能標準體系建設指南》《生成式人工智能服務(wù)安全基本要求》等，對人工智能提出了具體落地要求。

　　人工智能領(lǐng)域的專(zhuān)門(mén)法也在逐步推進(jìn)中。今年，在十四屆全國人大二次會(huì )議新聞發(fā)布會(huì )上，大會(huì )發(fā)言人婁勤儉表示，下一步將研究推進(jìn)科技創(chuàng )新方面的立法，特別是深入研究人工智能、生物技術(shù)等前沿科技領(lǐng)域有關(guān)倫理、道德、安全等重要問(wèn)題，不斷完善科技法律體系。?（本文來(lái)源：經(jīng)濟日報 作者：中國經(jīng)濟網(wǎng)記者 梁 木 李 方 許 怡）