清華新聞網(wǎng)6月14日電 6月8日上午，由清華大學(xué)智能產(chǎn)業(yè)研究院（AIR）舉辦的“AIR大師對(duì)話”系列活動(dòng)第三期在圖靈報(bào)告廳舉行，本次活動(dòng)主題為“AI和社會(huì)的未來(lái)：談AI發(fā)展的影響和風(fēng)險(xiǎn)”。活動(dòng)由中國(guó)工程院院士、智能產(chǎn)業(yè)研究院院長(zhǎng)張亞勤教授主持，邀請(qǐng)美國(guó)麻省理工學(xué)院教授、未來(lái)生命研究所創(chuàng)始人、《生命3.0：人工智能時(shí)代，人類的進(jìn)化與重生》作者邁克斯·泰格馬克（Max Tegmark）教授和英國(guó)劍橋大學(xué)計(jì)算與生物學(xué)習(xí)實(shí)驗(yàn)室主任大衛(wèi)·克魯格（David Krueger）教授，就AI發(fā)展的所帶來(lái)的潛在影響、風(fēng)險(xiǎn)及如何監(jiān)管進(jìn)行了深入的交流和討論。
活動(dòng)現(xiàn)場(chǎng)
張亞勤從邁克斯·泰格馬克撰寫的書籍《生命3.0：人工智能時(shí)代，人類的進(jìn)化與重生》引入對(duì)話，生命1.0指的是生物學(xué)上的起源，生命2.0指的是人類文化上的發(fā)展，生命3.0則是指人類技術(shù)的時(shí)代，以及未來(lái)某天可能出現(xiàn)的能夠?qū)W習(xí)并重新設(shè)計(jì)自己的硬件和內(nèi)部結(jié)構(gòu)的人工通用智能等新興技術(shù)。書中提到了先進(jìn)技術(shù)發(fā)展的短期效應(yīng)，如技術(shù)失業(yè)、AI武器和追求人類水平的AGI（人工通用智能）及其可能帶來(lái)的潛在結(jié)果，如社會(huì)結(jié)構(gòu)的改變、人類和機(jī)器的整合，以及正面和負(fù)面的情景。那么，我們現(xiàn)在到底處在一個(gè)什么樣的時(shí)代，我們離生命3.0時(shí)代還有多遠(yuǎn)呢？
邁克斯·泰格馬克發(fā)言
邁克斯·泰格馬克表示，我們正處在一個(gè)機(jī)遇與風(fēng)險(xiǎn)并存的時(shí)代，非常令人振奮，短短數(shù)月就看到大模型技術(shù)及其應(yīng)用光速發(fā)展，幾乎是瞬間席卷全球，影響著整個(gè)人類社會(huì)的生產(chǎn)生活方式。一切都令人們感覺AGI時(shí)代仿佛就要到來(lái)了。然而，在迎接AGI為整個(gè)人類社會(huì)帶來(lái)便利和福利的同時(shí)，邁克斯·泰格馬克和大衛(wèi)·克魯格呼吁：在享受便利的同時(shí)，我們必須需要意識(shí)到AI帶來(lái)的潛在風(fēng)險(xiǎn)與挑戰(zhàn)，并讓AI的研發(fā)和使用更加可控和安全，否則，我們可能將做出了人類歷史上最嚴(yán)重的錯(cuò)誤。
關(guān)于如何應(yīng)對(duì)和監(jiān)管AI發(fā)展可能帶來(lái)的潛在風(fēng)險(xiǎn)，邁克斯·泰格馬克表示，從技術(shù)層面來(lái)說(shuō)，我們可以利用AI去提高AI自身的可解釋性。讓AI去輔助人類給出自身的數(shù)學(xué)證明或讓AI自證其安全性。亦即利用AI簡(jiǎn)化AI的高度復(fù)雜性，從而幫助人們理解AI。當(dāng)我們能夠利用完備的理論體系解釋AI的行為，那一切的AI技術(shù)開發(fā)將可能完全受控于人類，從而解決了AI存在的潛在風(fēng)險(xiǎn)。當(dāng)然這不代表我們需要停止AI的研發(fā)，而是在研發(fā)和應(yīng)用的過(guò)程中經(jīng)過(guò)足夠充分的論證和驗(yàn)證，從而避免潛在的AI失控等風(fēng)險(xiǎn)出現(xiàn)。
張亞勤發(fā)言
對(duì)話中，張亞勤強(qiáng)調(diào)了人工智能發(fā)展應(yīng)秉持3R原則：Responsive（積極響應(yīng)）、Resilient（適應(yīng)發(fā)展）、Responsible（堅(jiān)守價(jià)值）。他表示，我們?cè)谘芯坷碚摗⑺惴ê蛻?yīng)用模型時(shí)，必須考慮技術(shù)的意義和可能帶來(lái)的結(jié)果，并將倫理問(wèn)題和價(jià)值觀置于技術(shù)之上。這樣才能更好地推進(jìn)技術(shù)發(fā)展，建立更好的信任關(guān)系。
本次活動(dòng)是清華大學(xué)智能產(chǎn)業(yè)研究院（AIR）舉辦的“大師對(duì)話”系列活動(dòng)之一，旨在邀請(qǐng)國(guó)內(nèi)外知名的AI專家和學(xué)者，就AI的前沿技術(shù)、應(yīng)用、發(fā)展趨勢(shì)等話題進(jìn)行對(duì)話和分享，為推動(dòng)AI的科學(xué)研究和產(chǎn)業(yè)發(fā)展提供一個(gè)高端的交流平臺(tái)。
供稿：智能產(chǎn)業(yè)研究院
編輯：李華山
審核：郭玲
