【專家沙龍】
主持人：本報記者 陳可軒
嘉 賓：
孫春晨 國家科技倫理委員會委員,、中國倫理學(xué)會會長
張成崗 清華大學(xué)社會學(xué)系教授、社會治理與發(fā)展研究院院長
趙 鵬 中國政法大學(xué)教授,、法治政府研究院院長
從機器人登上春晚舞臺到DeepSeek火爆全網(wǎng),，今年以來，科技創(chuàng)新正迅速以其顛覆性力量不斷出圈,，并重塑我們的生活,。
然而，科技觸手可及,、造福于人的同時也帶來隱憂,。以人工智能,、生物醫(yī)藥等領(lǐng)域為代表，技術(shù)濫用已不再是實驗室里的想象,，而是在眾多應(yīng)用場景中廣泛存在且悄然改變著社會,。以人工智能領(lǐng)域為例，使用深度偽造技術(shù)的“AI換臉”軟件可以一鍵生成虛假圖像,、聲音,、視頻,，“像素級逼真”的虛假信息給個人和企業(yè)帶來切實損害,，引發(fā)社會秩序與信任危機。
如何守住倫理底線,，推動科學(xué)良性,、有序發(fā)展？科技日報邀請倫理學(xué),、社會學(xué),、法學(xué)領(lǐng)域的學(xué)者，共同探討科技倫理治理,。
科技研究需守住倫理底線
主持人：科技創(chuàng)新為什么需要倫理先行,？
孫春晨：人類創(chuàng)造的科學(xué)技術(shù)，有可能反過來制約人類自身,?？茖W(xué)發(fā)現(xiàn)和技術(shù)突破在造福人類的同時，也帶來難以預(yù)判的風(fēng)險,?？萍嫉恼`用、濫用將對國家安全,、社會公共利益及個人權(quán)利等造成顯性與潛在的威脅,。因此，倫理先行有其必要性,。
張成崗：倫理先行,，既是理論議題，也是實踐要求,。近年來,，生物技術(shù)、人工智能等新興技術(shù)的發(fā)展常對社會的既有道德規(guī)范產(chǎn)生沖擊,。我們不得不思考,，什么樣的技術(shù)是“善”和“應(yīng)當(dāng)”的。例如,，2018年的“基因編輯嬰兒”事件引發(fā)學(xué)界和社會的廣泛討論,，其中既有對技術(shù)發(fā)展倫理規(guī)約體系的反思,，更有對新技術(shù)應(yīng)用后果不確定性風(fēng)險的深層擔(dān)憂。倫理先行對應(yīng)著倫理學(xué)研究中的預(yù)防原則,。該原則要求,，即便沒有確切證據(jù)，也要預(yù)想各類糟糕情況,，防患于未然,。
趙鵬：倫理先行，可以在引導(dǎo)科技發(fā)展大方向的同時,，給予科創(chuàng)主體更大的創(chuàng)新空間,。例如，人工智能領(lǐng)域已出現(xiàn)了大量基于倫理原則的治理文件,，其核心考慮就是既引導(dǎo)科技發(fā)展的基本方向,，又給相關(guān)研發(fā)機構(gòu)和企業(yè)一定空間，使其可以根據(jù)具體的技術(shù)場景選擇研究內(nèi)容,。
主持人：漠視科技倫理可能造成哪些潛在風(fēng)險,？
孫春晨：人類科技發(fā)展的歷史表明，隨著科學(xué)技術(shù)的先進性和復(fù)雜程度的提高,，科技創(chuàng)新活動帶來的風(fēng)險也會不斷增大,。科技創(chuàng)新給人類社會生活帶來巨大發(fā)展“紅利”的同時,，也會引發(fā)不確定倫理風(fēng)險,，如人工智能發(fā)展帶來的算法歧視、隱私保護等社會問題,，基因編輯,、基因增強等帶來不平等的潛在可能。這些也已成為人類不得不面對的現(xiàn)實難題,。
張成崗：這些挑戰(zhàn)不僅威脅著個人權(quán)利,，也對社會的公正性和傳統(tǒng)道德準(zhǔn)則提出了嚴(yán)峻考驗。
理解社會與技術(shù)的相互影響
主持人：有觀點認(rèn)為,，技術(shù)是獨立于社會運行的工具,，科研工作者可以自主決定技術(shù)的發(fā)展方向。幾位專家怎么看這種觀點,？
趙鵬：我認(rèn)為,，科技研發(fā)本身并非完全客觀，而是暗含了價值選擇,。優(yōu)先選擇何種科學(xué)研究,、技術(shù)路線等都受隱含的社會價值影響。但這種社會價值相對比較隱秘，相關(guān)法律往往只聚焦于技術(shù)實踐環(huán)節(jié)的使用細(xì)節(jié),，而難以對技術(shù)暗含的社會價值進行調(diào)整,。
張成崗：是的，對技術(shù)的認(rèn)知要避免“就技術(shù)論技術(shù)”的邏輯,。社會愿望與需求一直是影響技術(shù)發(fā)展速度與方向的重要力量,，對技術(shù)的深入理解離不開對社會背景的理解。
孫春晨：技術(shù)發(fā)展是人類對未知領(lǐng)域的探索與開拓,，具有明顯的不確定性,，如不確定的技術(shù)路線、應(yīng)用場景和商業(yè)模式,、社會影響等,。這些不確定因素，使科技創(chuàng)新成果的應(yīng)用推廣存在倫理風(fēng)險,。
主持人：看來科技發(fā)展中出現(xiàn)的倫理問題并非孤立存在,，而是與社會治理的方方面面聯(lián)系在一起。
張成崗：是的,，特別是那些更接近日常生活、普及率更高的科學(xué)技術(shù),，其風(fēng)險可能更加復(fù)雜,。其中既包括人類正在研發(fā)的新技術(shù)本身產(chǎn)生的風(fēng)險，也包括技術(shù)嵌合于社會制度,、人性中之后可能產(chǎn)生的風(fēng)險,。例如，在互聯(lián)網(wǎng)的影響下,，現(xiàn)代社會的道德不端行為可能對遙遠(yuǎn)地域和子孫后代產(chǎn)生影響,，這種影響遠(yuǎn)比我們能夠預(yù)想的深刻和激進。
趙鵬：科學(xué)技術(shù)與社會秩序之間相互影響,、共同演化,。當(dāng)生活更多地與技術(shù)交織，技術(shù)也將更多地影響我們的價值體系,、行為規(guī)范,、文化等。以藥品監(jiān)管為例,，假設(shè)某種創(chuàng)新藥品能讓使用者獲得體能或智力上的競爭優(yōu)勢,，那么可以設(shè)想，一旦其被批準(zhǔn)使用,，就很可能造成技術(shù)運用的“軍備競賽”,，讓擁有更多財富或資源的主體獲得更大的社會競爭優(yōu)勢，繼而加劇社會不平等。從這個角度看,，需要更多從尊重和保障人權(quán)的維度思考這一問題,，而不僅從風(fēng)險與收益的功利計算角度予以回應(yīng)。
科技向善還須良法善治
主持人：除了要求科研人員恪守職業(yè)道德,，我們還需要從哪些方面著手進行科技倫理治理,？
趙鵬：法律在這方面可以扮演多種功能。一種是通過程序促成對話,、反思,，從而形成好的決策。例如,，要求開展倫理審查,，要求舉辦公共倫理論壇與社會對話等。這些程序設(shè)計有助于利益相關(guān)方,、社會成員等進行交流,，形成共識或者至少了解相應(yīng)選擇的潛在影響。另一種是當(dāng)各種倫理主張無法調(diào)和時,，將復(fù)雜的技術(shù)倫理問題分配至多個決策場所,，并在各個決策者之間建立制衡機制，確保倫理爭論得到及時有效的解決,。
孫春晨：科技倫理治理不應(yīng)被狹義地理解為對科技活動的倫理治理,。我們應(yīng)當(dāng)從更為寬廣的視野來理解科技倫理治理與國家治理現(xiàn)代化之間的關(guān)系。除了與科技直接相關(guān)的領(lǐng)域外,，諸如國際關(guān)系,、個人隱私和社區(qū)管理等人類社會生活的其他領(lǐng)域，同樣需要進行相應(yīng)的倫理治理,。
張成崗：近年來,，我非常關(guān)注信息技術(shù)治理問題。在推進國家智能社會治理綜合實驗基地建設(shè)的工作中,，我們的研究團隊與內(nèi)蒙古鄂爾多斯市緊密合作,，開展了關(guān)于機制、評價,、倫理,、信任等方面的理論研究和社會實驗。
我認(rèn)為人工智能技術(shù)不僅是一種治理工具,，更應(yīng)當(dāng)成為人們未來生活的一個重要組成部分,。應(yīng)賦權(quán)和激活治理主體，達到“共享共治”的目標(biāo),。一方面,，在鼓勵技術(shù)創(chuàng)新同時，需加強倫理教育與宣傳，切實提高從業(yè)者及大眾的倫理意識,；另一方面,，要健全政府、學(xué)界,、公眾代表等多方參與的倫理審查機制,，確保決策的科學(xué)性和民主性。此外,，還應(yīng)建立倫理風(fēng)險預(yù)警機制,，及時發(fā)現(xiàn)并有效解決技術(shù)創(chuàng)新中的倫理問題，防范潛在風(fēng)險,，促進人工智能技術(shù)健康,、有序發(fā)展。
主持人：我們該如何探尋科技倫理治理的“中國路徑”,？
張成崗：在新興科技領(lǐng)域,，應(yīng)當(dāng)提前布局監(jiān)管框架，促進技術(shù)創(chuàng)新與風(fēng)險防控平衡發(fā)展,，實現(xiàn)新興領(lǐng)域治理與發(fā)展的雙贏,，建立符合中國國情的新興科技風(fēng)險治理模式尤為重要。例如,，我國人工智能技術(shù)的飛速演進和廣泛應(yīng)用正深遠(yuǎn)地影響倫理觀念,、社會治理模式及人與技術(shù)的共生關(guān)系。傳統(tǒng)封閉,、單向的倫理規(guī)范制定模式已顯不足，難以有效應(yīng)對日益復(fù)雜的倫理挑戰(zhàn),。倫理治理的關(guān)注內(nèi)容也從單一倫理問題的討論轉(zhuǎn)向探索治理對社會發(fā)展多方面的影響,。因此，探討一種多元主體參與,、交互式,、開放性的參與式倫理規(guī)約變得至關(guān)重要?？萍紓惱碇卫淼摹爸袊窂健碧綄な且豁椣到y(tǒng)工程,，需要積極適應(yīng)新興科技發(fā)展的新趨勢、新特點,。既要尋求倫理治理的“最大公約數(shù)”,，又要因技制宜、因地制宜,，注重差異性和豐富性,，構(gòu)建更具韌性、包容性和前瞻性的倫理治理體系，形成倫理治理結(jié)構(gòu)優(yōu)化與治理效能提升的良性循環(huán),。
趙鵬：相較于科技倫理治理較為成熟的國家,，我國的科技倫理在科技治理體系中的作用仍然非常薄弱。對新興科技的社會倫理反思等尚未在全社會形成廣泛的討論,。這會產(chǎn)生兩方面的影響,。一方面，經(jīng)過倫理討論形成的共識,，不能及時地被法律和監(jiān)管框架所吸收,；另一方面，缺乏與公眾制度化的倫理溝通機制,，影響了公眾對科技的客觀認(rèn)知,，這可能加劇公眾對技術(shù)創(chuàng)新的信任危機，帶來新的社會治理問題,。
我認(rèn)為,，為了加強科技倫理治理的實效，需要適度強化法律的作用,。對個體權(quán)利有實質(zhì)性影響以及產(chǎn)生重大倫理問題的領(lǐng)域,，立法需要更積極地介入。我們需要認(rèn)識到,，當(dāng)代的科學(xué)研究已不僅僅是抽象純粹的知識與思辨,，更伴隨著工具使用、實驗等實踐性活動,，必然對社會產(chǎn)生影響,。當(dāng)科技研發(fā)與環(huán)境安全、家庭關(guān)系,、社會公平等受法律保護的領(lǐng)域產(chǎn)生直接關(guān)聯(lián),，并對現(xiàn)有社會秩序產(chǎn)生直接而重大的影響，就有必要通過法律的“命令—控制”體系建立直接的管制架構(gòu),。當(dāng)然,，立法需要根據(jù)技術(shù)發(fā)展和社會變化及時反思、調(diào)整相關(guān)規(guī)則,。
對于一般的倫理議題,，立法可以劃定基本原則，充分依賴相關(guān)機構(gòu)的自主管理,。
相關(guān)的法治建構(gòu),，可以更關(guān)注程序，而不應(yīng)僅僅從既定倫理道德觀念出發(fā),，向科學(xué)研究活動發(fā)出規(guī)范性的呼吁或者指令,。相反,，應(yīng)該通過法律創(chuàng)造一種結(jié)構(gòu)，推動科學(xué)與社會價值體系之間建立適當(dāng)有效的連接,，使兩者能夠持續(xù)地交換資訊,、交流對話、相互理解,。
孫春晨：當(dāng)代國家治理和社會治理的一個重要著力點是對科技活動領(lǐng)域的治理,。而科技創(chuàng)新活動引發(fā)的社會生活各領(lǐng)域的重大變化，使社會治理呈現(xiàn)出治理主體多元化,、治理領(lǐng)域多樣化和治理方式差異化的趨勢,。
2022年3月，中共中央辦公廳,、國務(wù)院辦公廳印發(fā)《關(guān)于加強科技倫理治理的意見》,，對我國科技倫理治理工作作出系統(tǒng)部署，確立了我國科技倫理治理的指導(dǎo)思想,，提出了倫理先行,、依法依規(guī)、敏捷治理,、立足國情,、開放合作的科技倫理治理基本要求，明確了增進人類福祉,、尊重生命權(quán)利,、堅持公平公正、合理控制風(fēng)險,、保持公開透明的科技倫理原則,。這一頂層設(shè)計，對有效防范科技倫理風(fēng)險,、推動我國科技向善發(fā)展具有里程碑式的重大意義,。
科技倫理治理貫徹實施上述治理要求和倫理原則，與國家治理現(xiàn)代化走向“善治”的倫理目標(biāo)相契合,。以科技倫理治理為代表的各領(lǐng)域的社會治理聯(lián)動合作，將有力推進國家治理現(xiàn)代化進程,。
編輯：李華山
