清華新聞網(wǎng)5月23日電 近日，交叉信息院助理教授于洋課題組與北京大學(xué)助理研究員王劍曉合作完成的論文《通過(guò)儲(chǔ)能設(shè)施防御對(duì)抗性攻擊》（Defending Against Adversarial Attacks by Energy Storage Facility）獲得能源領(lǐng)域知名會(huì)議——國(guó)際電氣與電子工程師協(xié)會(huì)電力與能源協(xié)會(huì)年會(huì)（IEEE Power & Energy Society General Meeting,，IEEE PESGM）2022年最佳論文獎(jiǎng)。
圖1 對(duì)智能電網(wǎng)中AI算法的攻擊方法以及對(duì)電力系統(tǒng)運(yùn)行的威脅
論文研究了智能電網(wǎng)中的人工智能算法攻擊帶來(lái)的經(jīng)濟(jì)風(fēng)險(xiǎn)和對(duì)策,。研究指出,，算法攻擊已經(jīng)能夠威脅實(shí)體經(jīng)濟(jì)的新型風(fēng)險(xiǎn)，這類(lèi)風(fēng)險(xiǎn)隱蔽性強(qiáng),，因此難以被察覺(jué)和究責(zé),，但卻會(huì)給經(jīng)濟(jì)帶來(lái)重大損失。然而,，和計(jì)算機(jī)領(lǐng)域“用算法對(duì)抗迎擊算法攻擊”的思路不同的是,，實(shí)體經(jīng)濟(jì)中存在著能夠?qū)顾惴ü舻奈锢碓O(shè)備。因此,，人工智能時(shí)代，實(shí)體經(jīng)濟(jì)有必要投建“對(duì)抗算法攻擊的新基建”,。
智能電網(wǎng)是一個(gè)依賴(lài)數(shù)據(jù)和學(xué)習(xí)模式的信息物理系統(tǒng),，人工智能算法（AI）構(gòu)成了智能電網(wǎng)的“思考和感知系統(tǒng)”,。然而，智能電網(wǎng)面臨一種新型威脅,，即通過(guò)設(shè)計(jì)噪聲誤導(dǎo)數(shù)據(jù)驅(qū)動(dòng)的AI模型,，誘使AI基于錯(cuò)誤感知學(xué)會(huì)錯(cuò)誤知識(shí)、最后做出錯(cuò)誤決策,。
論文指出AI的錯(cuò)誤決策會(huì)給物理電網(wǎng)帶來(lái)巨大經(jīng)濟(jì)損失,。在德克薩斯州，5%的對(duì)抗性攻擊可以使一個(gè)季度的總發(fā)電成本增加17%,，約有二千萬(wàn)美元,。研究發(fā)現(xiàn)，在低碳化后,，這種隱蔽的供給會(huì)帶來(lái)更大損失：當(dāng)風(fēng)能滲透率增加到40%以上時(shí),，5%的對(duì)抗性攻擊會(huì)使發(fā)電成本增加23%。需要指出的是,，算法攻擊和傳統(tǒng)對(duì)電網(wǎng)的攻擊完全不同,。傳統(tǒng)電網(wǎng)攻擊是通過(guò)造成設(shè)備損壞和大面積停電來(lái)實(shí)現(xiàn)，而算法攻擊的目的不是一次性癱瘓電網(wǎng),，而是以“潤(rùn)物細(xì)無(wú)聲”的方式,，讓電力系統(tǒng)在不知不覺(jué)中遭受“聚沙成塔”的巨大經(jīng)濟(jì)損失。
圖2 不同可再生比例下的成本損失率
該研究還提出了利用物理資產(chǎn)防御對(duì)抗性算法攻擊的新方法：投資于儲(chǔ)能系統(tǒng),。目前所有的文獻(xiàn)都集中在開(kāi)發(fā)防御對(duì)抗性攻擊的算法上,。研究發(fā)現(xiàn)，當(dāng)智能電網(wǎng)中有足夠多的儲(chǔ)能資產(chǎn)時(shí),，即便我們察覺(jué)不到算法攻擊,、算法攻擊也成功的誤導(dǎo)了AI，儲(chǔ)能也能阻隔AI的錯(cuò)誤衍生為經(jīng)濟(jì)損失,。實(shí)際上,，AI被誤導(dǎo)會(huì)改變價(jià)格信號(hào)，從而觸發(fā)儲(chǔ)能的響應(yīng),，這種儲(chǔ)能的逐利行為卻避免了整個(gè)系統(tǒng)的經(jīng)濟(jì)損失,。
交叉信息院2020級(jí)在讀博士生李佳蔚為本文第一作者，交叉信息院2022級(jí)預(yù)研博士生陳琳為本文通訊作者,，其他作者包括交叉信息院助理教授于洋以及北京大學(xué)助理教授王劍曉,。本工作獲得了上海期智研究院的資金支持。
國(guó)際電氣與電子工程師協(xié)會(huì)電力與能源協(xié)會(huì)年會(huì)是全球最具影響力的電力行業(yè)旗艦會(huì)議,，每年在北美地區(qū)召開(kāi)一次,，是全球電力和能源學(xué)者、工程師最主要的學(xué)術(shù)會(huì)議。每年在會(huì)議上獲得該榮譽(yù)的論文比例不到投稿總數(shù)的2%,。
供稿：交叉信息研究院
編輯：覃霞
審核：周襄楠
