近年來，人工智能技術(shù)迅猛發(fā)展，以ChatGPT為代表的大模型技術(shù)不斷突破，反映出社會(huì)對(duì)技術(shù)創(chuàng)新與突破的強(qiáng)烈訴求。然而，人工智能技術(shù)潛藏的多維度風(fēng)險(xiǎn)，正引發(fā)國(guó)際社會(huì)對(duì)倫理、安全與治理的深刻擔(dān)憂。清華大學(xué)蘇世民書院院長(zhǎng)薛瀾日前表示，如何平衡技術(shù)創(chuàng)新與風(fēng)險(xiǎn)管控，構(gòu)建有效的全球治理體系，成為關(guān)乎人類未來的重大議題。
薛瀾認(rèn)為，人工智能系統(tǒng)風(fēng)險(xiǎn)有四個(gè)主要層面：一是技術(shù)層面風(fēng)險(xiǎn)。人工智能系統(tǒng)的復(fù)雜性使其面臨安全漏洞、模型不透明和失控風(fēng)險(xiǎn)。例如，機(jī)器學(xué)習(xí)模型易受“數(shù)據(jù)中毒”攻擊，影響決策能力；深度學(xué)習(xí)模型如“黑箱”難以在醫(yī)療、司法等關(guān)鍵領(lǐng)域的應(yīng)用中解釋其決策過程。此外，隨著通用人工智能的發(fā)展，自主性愈強(qiáng)，系統(tǒng)失控風(fēng)險(xiǎn)增加，或?qū)⒊鋈祟惪刂啤６莻惱砼c社會(huì)風(fēng)險(xiǎn)。人工智能技術(shù)的開發(fā)應(yīng)用可能存在侵犯?jìng)€(gè)人隱私、加劇偏見和問責(zé)不清等問題。例如，面部識(shí)別技術(shù)濫用侵犯?jìng)€(gè)人隱私；算法偏見導(dǎo)致招聘等領(lǐng)域的不公正決策和歧視性結(jié)果；自動(dòng)駕駛、醫(yī)療等事故中的責(zé)任歸屬難題凸顯倫理困境。這些問題若未受嚴(yán)格監(jiān)管，將引發(fā)深遠(yuǎn)的倫理爭(zhēng)議。三是濫用與惡用風(fēng)險(xiǎn)。人工智能技術(shù)可能被用于深度偽造和信息操控。深度偽造技術(shù)可制造虛假信息，誤導(dǎo)公眾輿論，擾亂公共秩序；個(gè)性化推薦算法或操縱用戶行為決策，削弱個(gè)體自主權(quán)；更嚴(yán)峻的是，人工智能技術(shù)與無人技術(shù)結(jié)合可能被極端或非法組織利用，傳播極端主義內(nèi)容，威脅全球安全。四是國(guó)家與軍事安全風(fēng)險(xiǎn)。人工智能技術(shù)正在影響國(guó)家安全與政治格局。虛假信息戰(zhàn)、自動(dòng)化網(wǎng)絡(luò)攻擊、自主武器系統(tǒng)等，對(duì)國(guó)家政治穩(wěn)定和軍事平衡構(gòu)成直接威脅。各國(guó)競(jìng)相發(fā)展人工智能技術(shù)獲取軍事優(yōu)勢(shì)，或引發(fā)軍備競(jìng)賽與戰(zhàn)略誤判，加劇全球緊張局勢(shì)，威脅全球安全平衡。
薛瀾進(jìn)一步指出全球治理面臨的五類挑戰(zhàn)：一是技術(shù)路徑不確定性。通用人工智能的發(fā)展路徑尚未明確，規(guī)模定律的爭(zhēng)議加劇治理復(fù)雜性。二是技術(shù)治理與創(chuàng)新脫節(jié)。技術(shù)迭代速度遠(yuǎn)超法規(guī)制定，傳統(tǒng)監(jiān)管模式難以適配“敏捷治理”需求。三是國(guó)際機(jī)制多元化、復(fù)雜化。國(guó)際組織、專業(yè)組織以及國(guó)家政府等多主體參與治理，機(jī)制重疊與沖突導(dǎo)致執(zhí)行低效。四是監(jiān)管執(zhí)行困境。人工智能技術(shù)的隱蔽性使監(jiān)管難度遠(yuǎn)超核能等領(lǐng)域。五是地緣政治博弈。中美科技脫鉤趨勢(shì)擠壓合作空間，“實(shí)體清單”難以進(jìn)入國(guó)際市場(chǎng)，阻礙全球協(xié)同。
因此，薛瀾提出了六項(xiàng)構(gòu)建全球治理體系的建議：第一，分類梳理，分工合作。針對(duì)人工智能風(fēng)險(xiǎn)的復(fù)雜性，明確不同治理機(jī)制和機(jī)構(gòu)角色。通過分層次、分領(lǐng)域治理方式，促進(jìn)各參與方協(xié)同治理。第二，源頭治理。將治理思維融入技術(shù)開發(fā)起點(diǎn)，強(qiáng)化開發(fā)者倫理培訓(xùn)，建立風(fēng)險(xiǎn)防控機(jī)制。第三，推行敏捷治理模式。政府需改革監(jiān)管思路，從“貓鼠”關(guān)系轉(zhuǎn)向深度交流相互依賴，廣泛吸納各方參與。第四，倡導(dǎo)全球公共產(chǎn)品理念。遵循開放包容的理念，避免排他性議程。發(fā)揮聯(lián)合國(guó)協(xié)調(diào)作用，打造相對(duì)有序的治理生態(tài)。第五，強(qiáng)化標(biāo)準(zhǔn)與預(yù)案建設(shè)。加強(qiáng)國(guó)際安全研究合作，制定風(fēng)險(xiǎn)預(yù)案，建立跨國(guó)風(fēng)險(xiǎn)應(yīng)對(duì)機(jī)制。第六，選擇性地推動(dòng)中美科技合作。2024年中美啟動(dòng)的雙軌對(duì)話機(jī)制，為修復(fù)互信提供了重要契機(jī)。與此同時(shí)，應(yīng)進(jìn)一步拓展多邊交流平臺(tái)，增進(jìn)互信。
薛瀾表示，只有細(xì)致地梳理問題并合理分工、推廣全球公共產(chǎn)品理念、充分發(fā)揮聯(lián)合國(guó)綜合協(xié)調(diào)作用，加強(qiáng)各國(guó)間的合作，國(guó)際社會(huì)才有望逐步克服人工智能全球治理中的主要困難，共同構(gòu)建全面綜合的人工智能風(fēng)險(xiǎn)治理體系，從而為這一新興技術(shù)的健康發(fā)展奠定堅(jiān)實(shí)基礎(chǔ)。
編輯：李華山
