清華新聞網5月23日電 近日，交叉信息院助理教授于洋課題組與北京大學助理研究員王劍曉合作完成的論文《通過儲能設施防御對抗性攻擊》（Defending Against Adversarial Attacks by Energy Storage Facility）獲得能源領域知名會議——國際電氣與電子工程師協會電力與能源協會年會（IEEE Power & Energy Society General Meeting，IEEE PESGM）2022年最佳論文獎。
圖1 對智能電網中AI算法的攻擊方法以及對電力系統(tǒng)運行的威脅
論文研究了智能電網中的人工智能算法攻擊帶來的經濟風險和對策。研究指出，算法攻擊已經能夠威脅實體經濟的新型風險，這類風險隱蔽性強，因此難以被察覺和究責，但卻會給經濟帶來重大損失。然而，和計算機領域“用算法對抗迎擊算法攻擊”的思路不同的是，實體經濟中存在著能夠對抗算法攻擊的物理設備。因此，人工智能時代，實體經濟有必要投建“對抗算法攻擊的新基建”。
智能電網是一個依賴數據和學習模式的信息物理系統(tǒng)，人工智能算法（AI）構成了智能電網的“思考和感知系統(tǒng)”。然而，智能電網面臨一種新型威脅，即通過設計噪聲誤導數據驅動的AI模型，誘使AI基于錯誤感知學會錯誤知識、最后做出錯誤決策。
論文指出AI的錯誤決策會給物理電網帶來巨大經濟損失。在德克薩斯州，5%的對抗性攻擊可以使一個季度的總發(fā)電成本增加17%，約有二千萬美元。研究發(fā)現，在低碳化后，這種隱蔽的供給會帶來更大損失：當風能滲透率增加到40%以上時，5%的對抗性攻擊會使發(fā)電成本增加23%。需要指出的是，算法攻擊和傳統(tǒng)對電網的攻擊完全不同。傳統(tǒng)電網攻擊是通過造成設備損壞和大面積停電來實現，而算法攻擊的目的不是一次性癱瘓電網，而是以“潤物細無聲”的方式，讓電力系統(tǒng)在不知不覺中遭受“聚沙成塔”的巨大經濟損失。
圖2 不同可再生比例下的成本損失率
該研究還提出了利用物理資產防御對抗性算法攻擊的新方法：投資于儲能系統(tǒng)。目前所有的文獻都集中在開發(fā)防御對抗性攻擊的算法上。研究發(fā)現，當智能電網中有足夠多的儲能資產時，即便我們察覺不到算法攻擊、算法攻擊也成功的誤導了AI，儲能也能阻隔AI的錯誤衍生為經濟損失。實際上，AI被誤導會改變價格信號，從而觸發(fā)儲能的響應，這種儲能的逐利行為卻避免了整個系統(tǒng)的經濟損失。
交叉信息院2020級在讀博士生李佳蔚為本文第一作者，交叉信息院2022級預研博士生陳琳為本文通訊作者，其他作者包括交叉信息院助理教授于洋以及北京大學助理教授王劍曉。本工作獲得了上海期智研究院的資金支持。
國際電氣與電子工程師協會電力與能源協會年會是全球最具影響力的電力行業(yè)旗艦會議，每年在北美地區(qū)召開一次，是全球電力和能源學者、工程師最主要的學術會議。每年在會議上獲得該榮譽的論文比例不到投稿總數的2%。
供稿：交叉信息研究院
編輯：覃霞
審核：周襄楠
