中國在人工智能(AI)領(lǐng)域的發(fā)展今年掀起了一個小高潮,，不論是DeepSeek大模型、全球首款通用Agent Manus還是會“十八般武藝”的人形機(jī)器人,，都走入更多普通人的視野和生活,，“具身智能”更首次寫入中國政府工作報告。當(dāng)前AI蓬勃發(fā)展的熱潮下,，我們需要哪些冷思考,？圖靈獎得主、2024基礎(chǔ)科學(xué)終身成就獎得主,、中國科學(xué)院院士姚期智近日表示,，未來人們需要對AI進(jìn)行更多理論研究，同時關(guān)注AI在關(guān)鍵應(yīng)用中的安全風(fēng)險,。
據(jù)東西問客戶端報道,，3月21日，在清華大學(xué)舉辦的2025國際基礎(chǔ)科學(xué)大會(ICBS2025)新聞發(fā)布會上,，姚期智表示,，目前AI領(lǐng)域的前沿研究更像實驗科學(xué)，即人們?nèi)〉昧撕芏喑删?，擁有很多?shù)據(jù),，但依然不太了解其根源。因此,，我們需要更加深入地了解AI原理和基準(zhǔn),，將AI控制得更好，并優(yōu)化算法,。
在AI發(fā)展過程中,，姚期智強調(diào)需要更多地關(guān)注AI安全。例如AI幻覺會對其在關(guān)鍵領(lǐng)域的應(yīng)用帶來難以承擔(dān)的風(fēng)險,。因此,，了解這種不安全的現(xiàn)象出現(xiàn)的原因至關(guān)重要。很多人認(rèn)為,，AI發(fā)展和保障AI安全性之間存在矛盾,，最終不得不做出取舍或平衡，然而,，姚期智認(rèn)為,，這兩者實際上能夠合二為一。
姚期智說：“如果你可以設(shè)計出最安全的AI技術(shù),，那么就可以贏得市場,。因此,，確保AI安全性,，不僅能夠在未來防止AI濫用,，也能確保商業(yè)上的發(fā)展和成功，更重要的是,，解決這一問題也推動了基礎(chǔ)科學(xué)的發(fā)展,。”
談及全球生成式人工智能的主力軍大多數(shù)是“90后”“95后”,，甚至“00后”,，姚期智解釋，雖然AI這門科學(xué)和計算機(jī)科學(xué)差不多誕生于同一時代,，已有七八十年的歷史,，但大模型的出現(xiàn)為AI研究開辟了新的路徑。從技術(shù)上來說,，AI不像數(shù)學(xué),、物理研究需要大量復(fù)雜的基礎(chǔ)知識，相較而言更容易上手,。因此很多年輕人在大學(xué)本科階段就能夠看到AI領(lǐng)域的前沿,。“DeepSeek團(tuán)隊100多位了不起的年輕人所做的工作就非常令人興奮,，它使得AI學(xué)科在中國的發(fā)展取得了非常有利的地位,。”
編輯：李華山
