參考消息網(wǎng)11月1日報道 據法國《回聲報》網(wǎng)站10月27日報道，人工智能對地球構成的風(fēng)險是否與戰爭或大流行病一樣大？無(wú)論如何，這個(gè)行業(yè)的巨頭們都非常重視這一威脅。創(chuàng )造聊天生成預訓練轉換器（ChatGPT）的開(kāi)放人工智能研究中心（OpenAI）剛剛組建一支全新團隊，旨在對抗“人工智能的災難性風(fēng)險”。

　　這個(gè)新團隊將負責監控和評估當前和未來(lái)人工智能模型的穩固性，并保護它們免受一切惡意使用。在預期的風(fēng)險中，OpenAI尤其指出了網(wǎng)絡(luò )攻擊（可以通過(guò)人工智能大規模自動(dòng)進(jìn)行）、化學(xué)威脅、生物威脅、放射性和核威脅等……

　　據領(lǐng)英網(wǎng)上官方頁(yè)面顯示，OpenAI公司員工不到500人。公司沒(méi)有進(jìn)一步說(shuō)明新團隊的規模。團隊將由麻省理工學(xué)院教授、前谷歌顧問(wèn)亞歷山大·馬德里領(lǐng)導。

　　與此同時(shí)，OpenAI啟動(dòng)了一項“挑戰”：開(kāi)發(fā)者受到邀請來(lái)想象攻擊場(chǎng)景和限制其影響的響應。這家企業(yè)將為10個(gè)“最佳”項目提供2.5萬(wàn)美元資金。這場(chǎng)競賽還可以讓OpenAI發(fā)現能夠加入這個(gè)新團隊的人才。

　　這一舉措出臺之際，正值英國將主辦首屆人工智能安全峰會(huì )。包括OpenAI、谷歌以及政府領(lǐng)導人、科技界和學(xué)界人士在內的上百參會(huì )者將于11月1日齊聚布萊奇利。這次國際會(huì )議將會(huì )討論人工智能對國家安全的威脅和可能的保障措施。

　　5月底，包括OpenAI首席執行官薩姆·阿爾特曼在內的350多名知名人士簽署了一封公開(kāi)信，引發(fā)了關(guān)于人類(lèi)對人工智能失去控制的爭論。公開(kāi)信只有一段話(huà)：“降低人工智能帶來(lái)的滅絕風(fēng)險，應該與大流行病和核戰爭等其他大規模風(fēng)險一起納入全球優(yōu)先事項?！?/p>

　　類(lèi)似的這些呼吁主要被視為人工智能巨頭自證清白的一種方式，因為世界各國政府都在尋找監管人工智能的正確方式。其他一些人則認為，這是該行業(yè)初創(chuàng )企業(yè)夸大這項技術(shù)的極端重要性以及它們在生態(tài)系統中的作用的一種方式。在媒體、廣告或銀行業(yè)，人工智能已經(jīng)開(kāi)始威脅就業(yè)，但其“災難性風(fēng)險”目前更加不確定。（編譯/劉卓）