“人工智能（AI）讓人類與技術(shù)的關(guān)系發(fā)生了變化。”近日，在未來(lái)論壇發(fā)起的“AI向善的理論與實(shí)踐”論壇上，清華大學(xué)蘇世民書(shū)院院長(zhǎng)薛瀾說(shuō)，“一般來(lái)說(shuō)在人與技術(shù)的關(guān)系上，技術(shù)通常都是被動(dòng)的。但AI技術(shù)不同，它似乎并不完全聽(tīng)從我們。”
薛瀾在論壇上指出，對(duì)AI這樣的技術(shù)，如果在技術(shù)發(fā)展前期不注意治理問(wèn)題，消除可能產(chǎn)生的風(fēng)險(xiǎn)，一旦這些風(fēng)險(xiǎn)產(chǎn)生不良后果之后，就會(huì)導(dǎo)致市場(chǎng)對(duì)技術(shù)的應(yīng)用產(chǎn)生強(qiáng)烈抵觸，甚至可能導(dǎo)致技術(shù)難以發(fā)展，形成惡行循環(huán)。“避免這種情況的關(guān)鍵，就在于從AI技術(shù)生命周期的起始階段就關(guān)注治理問(wèn)題，防患于未然。”
2019年6月，國(guó)家新一代人工智能治理專業(yè)委員會(huì)發(fā)布了《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，提出了AI治理的框架和行動(dòng)指南。
“這是很重要的一步。當(dāng)然，未來(lái)我們?cè)趺凑嬲ヂ鋵?shí)這些準(zhǔn)則，抑或去改善這里面依然存在的問(wèn)題，需要研究和討論的還有很多。”
薛瀾指出，AI治理在執(zhí)行上，天然就面臨著更多的挑戰(zhàn)。“其他技術(shù)的治理可以通過(guò)具體的技術(shù)指標(biāo)調(diào)控來(lái)實(shí)現(xiàn)。比如汽車(chē)可以通過(guò)法定時(shí)速來(lái)限制開(kāi)車(chē)的速度，從而取得社會(huì)收益和成本控制的平衡點(diǎn)。但對(duì)于AI技術(shù)來(lái)說(shuō)，我們并不完全了解系統(tǒng)是怎么做決策的，難度就大大增加了。”
AI治理的另一大特殊性在于，由于技術(shù)發(fā)展很快，作為治理者的政府，反應(yīng)速度很容易遠(yuǎn)遠(yuǎn)落后于作為被治理者的企業(yè)。往往規(guī)則還在制定之中，技術(shù)已經(jīng)向前又走了很遠(yuǎn)。
如果由于技術(shù)和市場(chǎng)發(fā)展過(guò)快，導(dǎo)致以公眾利益和安全為目標(biāo)的政府管制無(wú)法跟上，此時(shí)一旦出現(xiàn)問(wèn)題和事故，帶來(lái)社會(huì)危害，就可能出現(xiàn)政府管制口袋瞬間扎緊，以致企業(yè)和技術(shù)難以發(fā)展的困境。
“要想打破這種一追再追（Catchup forever）的局面，一個(gè)比較好的模式是‘敏捷治理’，政府和企業(yè)都要改變觀念。”薛瀾說(shuō)，“簡(jiǎn)單來(lái)說(shuō)，就是從貓抓老鼠的關(guān)系轉(zhuǎn)變成搭檔的關(guān)系。在政府的基礎(chǔ)性規(guī)制框架下，企業(yè)要有很強(qiáng)的自律機(jī)制，行業(yè)也要有相應(yīng)的行規(guī)和標(biāo)準(zhǔn)，政府與企業(yè)互相溝通，共同討論潛在風(fēng)險(xiǎn)，協(xié)商如何有意識(shí)地加以規(guī)避。這時(shí)尤其需要成熟企業(yè)與政府合作，建立合理的治理規(guī)制。”
一個(gè)常常被問(wèn)到的問(wèn)題是：如果AI犯了錯(cuò)，能不能像懲罰人類一樣去懲罰它？圍繞迅速發(fā)展的AI技術(shù)應(yīng)用，我們需要建立一個(gè)怎樣的責(zé)任體系？
薛瀾表示，他傾向于建立一個(gè)系統(tǒng)性的保險(xiǎn)制度。在這樣的制度下，一旦出現(xiàn)了問(wèn)題，有保險(xiǎn)兜底，大家就不必再去擔(dān)心是否要自己來(lái)承擔(dān)損失，爭(zhēng)論是否要追究開(kāi)發(fā)者的責(zé)任，從而可以更為客觀理性地去分析事故背后的原因，促進(jìn)技術(shù)和應(yīng)用的良性發(fā)展。
在論壇上，薛瀾一再?gòu)?qiáng)調(diào)，AI技術(shù)可能帶來(lái)巨大的好處，也隨時(shí)可能出現(xiàn)一些潛在的問(wèn)題，從而埋伏下巨大的風(fēng)險(xiǎn)。因此他在最后的發(fā)言中強(qiáng)調(diào)，AI治理關(guān)乎全球人類共同體的福祉，需要各國(guó)密切合作，制定并遵守共同的準(zhǔn)則。
編輯：李華山
