“當(dāng)前,，人工智能技術(shù)以驚人的速度發(fā)展，如近期DeepSeek引領(lǐng)了低成本開(kāi)發(fā)使用大模型的革新,，這既為驅(qū)動(dòng)新的創(chuàng)新提供了更多可能,，也帶來(lái)了諸多風(fēng)險(xiǎn)挑戰(zhàn)，而在互聯(lián)互通時(shí)代,，加強(qiáng)國(guó)際合作至關(guān)重要,。”2月11日,，在“人工智能技術(shù)及其應(yīng)用進(jìn)展”專(zhuān)題邊會(huì)上,，清華大學(xué)交叉信息研究院、人工智能學(xué)院院長(zhǎng)姚期智提到了大模型如何安全發(fā)展等問(wèn)題,。
專(zhuān)題邊會(huì)于“2025巴黎人工智能行動(dòng)峰會(huì)”召開(kāi)期間舉辦,，旨在共同探討如何利用國(guó)際合作平臺(tái)，縮小智能鴻溝,，確保所有國(guó)家都能從人工智能的快速發(fā)展中受益,，并期望推動(dòng)建立一個(gè)開(kāi)放包容、互利共贏的人工智能?chē)?guó)際治理體系,，共同迎接未來(lái)發(fā)展的機(jī)遇與挑戰(zhàn),。
清華大學(xué)計(jì)算機(jī)系教授唐杰提出,，大模型研究的終極目標(biāo)是教會(huì)機(jī)器像人一樣思考（即AGI）,，該目標(biāo)可能很長(zhǎng)遠(yuǎn)也可能很快實(shí)現(xiàn)。對(duì)于2025AGI的發(fā)展趨勢(shì),，唐杰認(rèn)為,，自主的、具有代理能力的大型語(yǔ)言模型將成為日常生活和工作的核心,，人類(lèi)與代理之間的協(xié)作潛力將成為變革性的力量,，而最具有突破性的變化將發(fā)生在科學(xué)研究領(lǐng)域。在“AGI安全”問(wèn)題上,，他提出需要在模型,、個(gè)人和國(guó)家層面制定全面的安全策略。他指出,，AGI的路還很長(zhǎng),，需要共同努力,，實(shí)現(xiàn)安全、可控,、無(wú)幻覺(jué)的穩(wěn)步發(fā)展,。
麻省理工學(xué)院教授、生命未來(lái)研究所所長(zhǎng)馬克斯·泰格馬克表示,，當(dāng)前世界大國(guó)與大型科技公司熱衷于推動(dòng)通用人工智能（AGI）的實(shí)現(xiàn),，但卻忽略對(duì)其控制機(jī)制的研究。為先進(jìn)人工智能技術(shù)建造安全“護(hù)欄”是必要的,，能避免失控技術(shù)引發(fā)極端,、生存性風(fēng)險(xiǎn)。為此,，有必要推動(dòng)企業(yè)與政府之間的合作,，借鑒現(xiàn)有監(jiān)管模式如藥品管理、核設(shè)施管理的經(jīng)驗(yàn),，在部署強(qiáng)大的人工智能系統(tǒng)之前,，應(yīng)當(dāng)通過(guò)安全標(biāo)準(zhǔn)審查和控制機(jī)制保障其安全可靠。同時(shí),，應(yīng)該倡導(dǎo)全球合作討論,，確保AI技術(shù)的發(fā)展符合人類(lèi)利益和價(jià)值觀。
清華大學(xué)文科資深教授,、人工智能?chē)?guó)際治理研究院院長(zhǎng)薛瀾提到,，為踐行2023年中國(guó)發(fā)布的《全球人工智能治理倡議》，“中國(guó)人工智能發(fā)展與安全研究網(wǎng)絡(luò)”凝聚中國(guó)人工智能發(fā)展和安全領(lǐng)域的優(yōu)勢(shì)力量和智力資源,，對(duì)應(yīng)“人工智能安全研究所”,，代表中方與各國(guó)的人工智能安全研究機(jī)構(gòu)展開(kāi)對(duì)話(huà)與合作。此次會(huì)議將著力于增進(jìn)各方對(duì)中國(guó)人工智能發(fā)展與安全治理的了解,，并期待傾聽(tīng)和增進(jìn)其他國(guó)家對(duì)這一領(lǐng)域發(fā)展建設(shè)的見(jiàn)解,，助力全球人工智能發(fā)展與治理的合作。
清華大學(xué)法學(xué)院教授,、智能法治研究院院長(zhǎng)申衛(wèi)星在發(fā)言中指出,，中國(guó)已形成人工智能立法的多層綜合結(jié)構(gòu)。在定位上,，中國(guó)人工智能立法力求在創(chuàng)新與監(jiān)管之間取得平衡,，確保法律的明確性，促進(jìn)行業(yè)發(fā)展,，并與現(xiàn)有法律保持一致,。在內(nèi)容上，中國(guó)人工智能立法需廓清人工智能的定義,，囊括人工智能法基本原則,，建立同AI 分級(jí)風(fēng)險(xiǎn)相協(xié)調(diào)的自我規(guī)制機(jī)制,、風(fēng)險(xiǎn)管理機(jī)制、透明機(jī)制與損害救濟(jì)機(jī)制,。中國(guó)也將在《全球人工智能治理倡議》指引下,，加強(qiáng)國(guó)際合作，共同推動(dòng)公平,、公正的全球人工智能治理規(guī)則制定,，以增強(qiáng)AI 系統(tǒng)的安全可靠性，促進(jìn)技術(shù)創(chuàng)新和包容性發(fā)展,。
國(guó)際治理創(chuàng)新中心全球人工智能風(fēng)險(xiǎn)倡議執(zhí)行主任鄧肯·卡斯-貝格斯指出,，應(yīng)當(dāng)針對(duì)不同場(chǎng)景和問(wèn)題采取不同的國(guó)際治理機(jī)制。前沿人工智能失控等極端風(fēng)險(xiǎn),，更加依賴(lài)掌握前沿技術(shù)的國(guó)家之間進(jìn)行協(xié)調(diào),；而深度偽造、虛假信息等一般性的人工智能風(fēng)險(xiǎn),，則更加依賴(lài)國(guó)內(nèi)治理,。各國(guó)政府應(yīng)利用外交政策來(lái)共同設(shè)計(jì)國(guó)際合作機(jī)制，因?yàn)閲?guó)家間合作將對(duì)公民福祉產(chǎn)生更大影響,。
據(jù)悉,，“中國(guó)人工智能發(fā)展與安全研究網(wǎng)絡(luò)”成員單位包括清華大學(xué)、北京大學(xué),、中國(guó)科學(xué)院,、中國(guó)信息通信研究院、中國(guó)電子信息產(chǎn)業(yè)發(fā)展研究院,、北京智源人工智能研究院,、上海人工智能實(shí)驗(yàn)室、上海期智研究院等,。
編輯：李華山
