2月11日，在“2025巴黎人工智能行動(dòng)峰會(huì)”期間,，由中國(guó)人工智能發(fā)展與安全研究網(wǎng)絡(luò)主辦,，上海期智研究院、清華大學(xué)人工智能國(guó)際治理研究院承辦的“人工智能技術(shù)及其應(yīng)用進(jìn)展”專題邊會(huì)舉行,。邊會(huì)旨在共同探討如何利用國(guó)際合作平臺(tái),，縮小智能鴻溝，確保所有國(guó)家都能從人工智能的快速發(fā)展中受益,，并期望推動(dòng)建立一個(gè)開(kāi)放包容,、互利共贏的人工智能國(guó)際治理體系，共同迎接未來(lái)發(fā)展的機(jī)遇與挑戰(zhàn),。
清華大學(xué)文科資深教授,、人工智能國(guó)際治理研究院院長(zhǎng)薛瀾介紹,，為踐行2023年中國(guó)發(fā)布的《全球人工智能治理倡議》,，“中國(guó)人工智能發(fā)展與安全研究網(wǎng)絡(luò)”凝聚中國(guó)人工智能發(fā)展和安全領(lǐng)域的優(yōu)勢(shì)力量和智力資源，對(duì)應(yīng)“人工智能安全研究所”，代表中方與各國(guó)的人工智能安全研究機(jī)構(gòu)展開(kāi)對(duì)話與合作,。以2024年中法關(guān)于人工智能和全球治理的聯(lián)合聲明為背景,，此次會(huì)議著力于增進(jìn)各方對(duì)中國(guó)人工智能發(fā)展與安全治理的了解，助力全球人工智能發(fā)展與治理的合作,。
圖靈獎(jiǎng)得主,、清華大學(xué)交叉信息研究院、人工智能學(xué)院院長(zhǎng)姚期智指出,，人工智能技術(shù)以驚人的速度發(fā)展,，如近期DeepSeek引領(lǐng)了低成本開(kāi)發(fā)使用大模型的革新，這既為驅(qū)動(dòng)新的創(chuàng)新提供了更多可能,，也帶來(lái)了諸多風(fēng)險(xiǎn)挑戰(zhàn),，而在互聯(lián)互通時(shí)代，加強(qiáng)國(guó)際合作至關(guān)重要,。當(dāng)前,，人工智能安全的全球合作基礎(chǔ)良好并取得重大進(jìn)展，特別是在中國(guó),，相關(guān)研究蓬勃興起,，研究隊(duì)伍不斷壯大，一批國(guó)際合作基礎(chǔ)設(shè)施和網(wǎng)絡(luò)平臺(tái)正在形成,，國(guó)際科學(xué)界已經(jīng)達(dá)成共識(shí),。他強(qiáng)調(diào)，科學(xué)創(chuàng)新由人類創(chuàng)造,，為人類美好未來(lái)而服務(wù),，要共同營(yíng)造人工智能發(fā)展的良好環(huán)境，使人工智能增進(jìn)人類福祉,。
清華大學(xué)法學(xué)院教授,、智能法治研究院院長(zhǎng)申衛(wèi)星指出，中國(guó)已形成人工智能立法的多層綜合結(jié)構(gòu),。在定位上,，中國(guó)人工智能立法力求在創(chuàng)新與監(jiān)管之間取得平衡，確保法律的明確性,，促進(jìn)行業(yè)發(fā)展,，并與現(xiàn)有法律保持一致。在內(nèi)容上,，中國(guó)人工智能立法需廓清人工智能的定義,，囊括人工智能法基本原則，建立同AI 分級(jí)風(fēng)險(xiǎn)相協(xié)調(diào)的自我規(guī)制機(jī)制,、風(fēng)險(xiǎn)管理機(jī)制,、透明機(jī)制與損害救濟(jì)機(jī)制。中國(guó)也將在《全球人工智能治理倡議》指引下，加強(qiáng)國(guó)際合作,，共同推動(dòng)公平,、公正的全球人工智能治理規(guī)則制定，以增強(qiáng)AI系統(tǒng)的安全可靠性,，促進(jìn)技術(shù)創(chuàng)新和包容性發(fā)展,。
清華大學(xué)計(jì)算機(jī)系教授唐杰提出，大模型研究的終極目標(biāo)是教會(huì)機(jī)器像人一樣思考（即AGI）,。在“AGI定義”問(wèn)題上,，他由低到高給出了包括預(yù)訓(xùn)練語(yǔ)言模型、對(duì)齊與推理,、自我學(xué)習(xí),、自我認(rèn)知以及意識(shí)的AGI五層次定義，并認(rèn)為當(dāng)前處于第二與三層交匯處,；在2025 AGI發(fā)展趨勢(shì)上,，他提出自主的、具有代理能力的大型語(yǔ)言模型將成為日常生活和工作的核心,，人類與代理之間的協(xié)作潛力將成為變革性的力量,，而最具有突破性的變化將發(fā)生在科學(xué)研究領(lǐng)域；在“AGI安全”問(wèn)題上,，他提出需要在模型,、個(gè)人和國(guó)家層面制定全面的安全策略。
中國(guó)工業(yè)和信息化部人工智能場(chǎng)景化應(yīng)用與智能系統(tǒng)測(cè)評(píng)重點(diǎn)實(shí)驗(yàn)室主任胡國(guó)棟表示,，在從大語(yǔ)言模型到大世界模型,、從人工的智能到智能體的智能發(fā)展歷程中，需要向善為民的人工智能來(lái)增進(jìn)人民福祉,、服務(wù)經(jīng)濟(jì)社會(huì),。
中國(guó)信息通信研究院副院長(zhǎng)、國(guó)際電信聯(lián)盟標(biāo)準(zhǔn)化局第十七研究組副主席魏亮介紹,，中國(guó)充分發(fā)揮產(chǎn)業(yè)優(yōu)勢(shì),，推動(dòng)人工智能技術(shù)創(chuàng)新和與實(shí)體經(jīng)濟(jì)深度融合，在人工智能安全治理標(biāo)準(zhǔn)化和產(chǎn)業(yè)實(shí)踐方面做出了有益探索,。在安全治理標(biāo)準(zhǔn)化方面,，先后發(fā)布《新一代人工智能發(fā)展規(guī)劃》《國(guó)家人工智能產(chǎn)業(yè)綜合標(biāo)準(zhǔn)化體系建設(shè)指南》，《人工智能安全標(biāo)準(zhǔn)體系1.0》（征求意見(jiàn)稿）,，并在ISO,、ITU、IEEE等國(guó)際標(biāo)準(zhǔn)化組織中貢獻(xiàn)力量,。產(chǎn)業(yè)界積極響應(yīng),、主動(dòng)作為,，先后發(fā)布《人工智能安全承諾》《人工智能風(fēng)險(xiǎn)治理報(bào)告》,發(fā)起大模型安全基準(zhǔn)測(cè)試等，在人工智能安全治理方面開(kāi)展了大量創(chuàng)新探索,。
國(guó)際治理創(chuàng)新中心全球人工智能風(fēng)險(xiǎn)倡議執(zhí)行主任鄧肯·卡斯-貝格斯（Duncan Cass-Beggs）指出，聯(lián)合國(guó)可在促進(jìn)人工智能發(fā)展,、推動(dòng)人工智能賦能可持續(xù)發(fā)展等問(wèn)題上發(fā)揮重要作用,。前沿人工智能失控等極端風(fēng)險(xiǎn)，更加依賴掌握前沿技術(shù)的國(guó)家之間進(jìn)行協(xié)調(diào),；而深度偽造,、虛假信息等一般性的人工智能風(fēng)險(xiǎn)，則更加依賴國(guó)內(nèi)治理,。各國(guó)政府應(yīng)利用外交政策來(lái)共同設(shè)計(jì)國(guó)際合作機(jī)制,，因?yàn)閲?guó)家間合作將對(duì)公民福祉產(chǎn)生更大影響。構(gòu)建人工智能安全研究所的全球網(wǎng)絡(luò),，將是實(shí)現(xiàn)人工智能安全治理的關(guān)鍵所在,，可以在此基礎(chǔ)上推動(dòng)建立更加廣泛的全球人工智能治理框架。
麻省理工學(xué)院教授,、生命未來(lái)研究所所長(zhǎng)馬克斯·泰格馬克（Max TegMark）認(rèn)為,，當(dāng)前世界大國(guó)與大型科技公司熱衷于推動(dòng)通用人工智能（AGI）的實(shí)現(xiàn)，但卻忽略對(duì)其控制機(jī)制的研究,。為先進(jìn)人工智能技術(shù)建造安全“護(hù)欄”是必要的,，為此，有必要推動(dòng)企業(yè)與政府之間的合作,，借鑒現(xiàn)有監(jiān)管模式如藥品管理,、核設(shè)施管理的經(jīng)驗(yàn)，在部署強(qiáng)大的人工智能系統(tǒng)之前,，應(yīng)當(dāng)通過(guò)安全標(biāo)準(zhǔn)審查和控制機(jī)制保障其安全可靠,。同時(shí)，應(yīng)該倡導(dǎo)全球合作討論,，確保AI技術(shù)的發(fā)展符合人類利益和價(jià)值觀,。
據(jù)悉，“中國(guó)人工智能發(fā)展與安全研究網(wǎng)絡(luò)”成員單位包括清華大學(xué),、北京大學(xué),、中國(guó)科學(xué)院、中國(guó)信息通信研究院,、中國(guó)電子信息產(chǎn)業(yè)發(fā)展研究院,、北京智源人工智能研究院、上海人工智能實(shí)驗(yàn)室,、上海期智研究院等,。
編輯：李華山
