2月11日,，在“2025巴黎人工智能行動峰會”期間，由中國人工智能發(fā)展與安全研究網(wǎng)絡(luò)主辦,，上海期智研究院,、清華大學(xué)人工智能國際治理研究院承辦的“人工智能技術(shù)及其應(yīng)用進(jìn)展”專題邊會舉行。邊會旨在共同探討如何利用國際合作平臺,，縮小智能鴻溝,，確保所有國家都能從人工智能的快速發(fā)展中受益，并期望推動建立一個開放包容,、互利共贏的人工智能國際治理體系,，共同迎接未來發(fā)展的機(jī)遇與挑戰(zhàn)。
清華大學(xué)文科資深教授,、人工智能國際治理研究院院長薛瀾介紹,，為踐行2023年中國發(fā)布的《全球人工智能治理倡議》，“中國人工智能發(fā)展與安全研究網(wǎng)絡(luò)”凝聚中國人工智能發(fā)展和安全領(lǐng)域的優(yōu)勢力量和智力資源,，對應(yīng)“人工智能安全研究所”,，代表中方與各國的人工智能安全研究機(jī)構(gòu)展開對話與合作。以2024年中法關(guān)于人工智能和全球治理的聯(lián)合聲明為背景,，此次會議著力于增進(jìn)各方對中國人工智能發(fā)展與安全治理的了解,，助力全球人工智能發(fā)展與治理的合作。
圖靈獎得主,、清華大學(xué)交叉信息研究院,、人工智能學(xué)院院長姚期智指出,，人工智能技術(shù)以驚人的速度發(fā)展，如近期DeepSeek引領(lǐng)了低成本開發(fā)使用大模型的革新,，這既為驅(qū)動新的創(chuàng)新提供了更多可能,，也帶來了諸多風(fēng)險挑戰(zhàn),，而在互聯(lián)互通時代,，加強(qiáng)國際合作至關(guān)重要。當(dāng)前,，人工智能安全的全球合作基礎(chǔ)良好并取得重大進(jìn)展,，特別是在中國，相關(guān)研究蓬勃興起,，研究隊(duì)伍不斷壯大,，一批國際合作基礎(chǔ)設(shè)施和網(wǎng)絡(luò)平臺正在形成，國際科學(xué)界已經(jīng)達(dá)成共識,。他強(qiáng)調(diào),，科學(xué)創(chuàng)新由人類創(chuàng)造，為人類美好未來而服務(wù),，要共同營造人工智能發(fā)展的良好環(huán)境,，使人工智能增進(jìn)人類福祉。
清華大學(xué)法學(xué)院教授,、智能法治研究院院長申衛(wèi)星指出,，中國已形成人工智能立法的多層綜合結(jié)構(gòu)。在定位上,，中國人工智能立法力求在創(chuàng)新與監(jiān)管之間取得平衡,，確保法律的明確性，促進(jìn)行業(yè)發(fā)展,，并與現(xiàn)有法律保持一致,。在內(nèi)容上，中國人工智能立法需廓清人工智能的定義,，囊括人工智能法基本原則,，建立同AI 分級風(fēng)險相協(xié)調(diào)的自我規(guī)制機(jī)制、風(fēng)險管理機(jī)制,、透明機(jī)制與損害救濟(jì)機(jī)制,。中國也將在《全球人工智能治理倡議》指引下，加強(qiáng)國際合作,，共同推動公平,、公正的全球人工智能治理規(guī)則制定，以增強(qiáng)AI系統(tǒng)的安全可靠性,，促進(jìn)技術(shù)創(chuàng)新和包容性發(fā)展,。
清華大學(xué)計算機(jī)系教授唐杰提出,，大模型研究的終極目標(biāo)是教會機(jī)器像人一樣思考（即AGI）。在“AGI定義”問題上,，他由低到高給出了包括預(yù)訓(xùn)練語言模型,、對齊與推理、自我學(xué)習(xí),、自我認(rèn)知以及意識的AGI五層次定義,，并認(rèn)為當(dāng)前處于第二與三層交匯處；在2025 AGI發(fā)展趨勢上,，他提出自主的,、具有代理能力的大型語言模型將成為日常生活和工作的核心，人類與代理之間的協(xié)作潛力將成為變革性的力量,，而最具有突破性的變化將發(fā)生在科學(xué)研究領(lǐng)域,；在“AGI安全”問題上，他提出需要在模型,、個人和國家層面制定全面的安全策略,。
中國工業(yè)和信息化部人工智能場景化應(yīng)用與智能系統(tǒng)測評重點(diǎn)實(shí)驗(yàn)室主任胡國棟表示，在從大語言模型到大世界模型,、從人工的智能到智能體的智能發(fā)展歷程中,，需要向善為民的人工智能來增進(jìn)人民福祉、服務(wù)經(jīng)濟(jì)社會,。
中國信息通信研究院副院長,、國際電信聯(lián)盟標(biāo)準(zhǔn)化局第十七研究組副主席魏亮介紹，中國充分發(fā)揮產(chǎn)業(yè)優(yōu)勢,，推動人工智能技術(shù)創(chuàng)新和與實(shí)體經(jīng)濟(jì)深度融合,，在人工智能安全治理標(biāo)準(zhǔn)化和產(chǎn)業(yè)實(shí)踐方面做出了有益探索。在安全治理標(biāo)準(zhǔn)化方面,，先后發(fā)布《新一代人工智能發(fā)展規(guī)劃》《國家人工智能產(chǎn)業(yè)綜合標(biāo)準(zhǔn)化體系建設(shè)指南》,，《人工智能安全標(biāo)準(zhǔn)體系1.0》（征求意見稿），并在ISO,、ITU,、IEEE等國際標(biāo)準(zhǔn)化組織中貢獻(xiàn)力量。產(chǎn)業(yè)界積極響應(yīng),、主動作為,，先后發(fā)布《人工智能安全承諾》《人工智能風(fēng)險治理報告》,發(fā)起大模型安全基準(zhǔn)測試等，在人工智能安全治理方面開展了大量創(chuàng)新探索,。
國際治理創(chuàng)新中心全球人工智能風(fēng)險倡議執(zhí)行主任鄧肯·卡斯-貝格斯（Duncan Cass-Beggs）指出,，聯(lián)合國可在促進(jìn)人工智能發(fā)展、推動人工智能賦能可持續(xù)發(fā)展等問題上發(fā)揮重要作用,。前沿人工智能失控等極端風(fēng)險,，更加依賴掌握前沿技術(shù)的國家之間進(jìn)行協(xié)調(diào),；而深度偽造、虛假信息等一般性的人工智能風(fēng)險,，則更加依賴國內(nèi)治理,。各國政府應(yīng)利用外交政策來共同設(shè)計國際合作機(jī)制，因?yàn)閲议g合作將對公民福祉產(chǎn)生更大影響,。構(gòu)建人工智能安全研究所的全球網(wǎng)絡(luò),，將是實(shí)現(xiàn)人工智能安全治理的關(guān)鍵所在，可以在此基礎(chǔ)上推動建立更加廣泛的全球人工智能治理框架,。
麻省理工學(xué)院教授,、生命未來研究所所長馬克斯·泰格馬克（Max TegMark）認(rèn)為,，當(dāng)前世界大國與大型科技公司熱衷于推動通用人工智能（AGI）的實(shí)現(xiàn),，但卻忽略對其控制機(jī)制的研究。為先進(jìn)人工智能技術(shù)建造安全“護(hù)欄”是必要的,，為此,，有必要推動企業(yè)與政府之間的合作，借鑒現(xiàn)有監(jiān)管模式如藥品管理,、核設(shè)施管理的經(jīng)驗(yàn),，在部署強(qiáng)大的人工智能系統(tǒng)之前，應(yīng)當(dāng)通過安全標(biāo)準(zhǔn)審查和控制機(jī)制保障其安全可靠,。同時,，應(yīng)該倡導(dǎo)全球合作討論，確保AI技術(shù)的發(fā)展符合人類利益和價值觀,。
據(jù)悉,，“中國人工智能發(fā)展與安全研究網(wǎng)絡(luò)”成員單位包括清華大學(xué)、北京大學(xué),、中國科學(xué)院,、中國信息通信研究院、中國電子信息產(chǎn)業(yè)發(fā)展研究院,、北京智源人工智能研究院,、上海人工智能實(shí)驗(yàn)室、上海期智研究院等,。
編輯：李華山
