【學(xué)術(shù)科研】智能算法安全全國(guó)重點(diǎn)實(shí)驗(yàn)室召開(kāi)第一屆學(xué)術(shù)委員會(huì)第二次會(huì)議
2025年5月24日，智能算法安全全國(guó)重點(diǎn)實(shí)驗(yàn)室（以下簡(jiǎn)稱“實(shí)驗(yàn)室”）第一屆學(xué)術(shù)委員會(huì)第二次會(huì)議在中國(guó)科學(xué)院計(jì)算技術(shù)研究所（以下簡(jiǎn)稱“計(jì)算所”）召開(kāi)。實(shí)驗(yàn)室學(xué)術(shù)委員會(huì)委員、中國(guó)科學(xué)院重大科技任務(wù)局等指導(dǎo)單位，中關(guān)村實(shí)驗(yàn)室和在京相關(guān)領(lǐng)域全國(guó)重點(diǎn)實(shí)驗(yàn)室專家代表，實(shí)驗(yàn)室科研骨干代表等60余人參加會(huì)議。
會(huì)議開(kāi)幕式由計(jì)算所科研處韓銀和處長(zhǎng)主持。計(jì)算所所長(zhǎng)、黨委書(shū)記陳熙霖研究員在致辭中對(duì)院機(jī)關(guān)、指導(dǎo)單位、學(xué)術(shù)委員會(huì)委員、在京國(guó)家實(shí)驗(yàn)室和兄弟全國(guó)重點(diǎn)實(shí)驗(yàn)室長(zhǎng)期以來(lái)的支持、幫助與指導(dǎo)表示感謝，并強(qiáng)調(diào)實(shí)驗(yàn)室是計(jì)算所歷史上第一個(gè)聚焦軟件算法方向的全國(guó)重點(diǎn)實(shí)驗(yàn)室，具有里程碑意義。學(xué)術(shù)委員會(huì)主任李國(guó)杰院士在致辭中指出，破解人工智能算法的“自主性”與“可控性”的對(duì)立統(tǒng)一，這是智能安全的核心挑戰(zhàn)。針對(duì)黑盒模型不可解釋性、概率計(jì)算不確定性和系統(tǒng)涌現(xiàn)風(fēng)險(xiǎn)三大根源，實(shí)驗(yàn)室團(tuán)隊(duì)在中國(guó)科學(xué)院院刊發(fā)表的《智能算法安全：內(nèi)涵、科學(xué)問(wèn)題與關(guān)鍵技術(shù)》提出了三大攻關(guān)方向，即算法可信域判定、模型透明化監(jiān)測(cè)及人機(jī)系統(tǒng)臨界感知。相關(guān)研究雖構(gòu)建了初步理論框架，但應(yīng)對(duì)“算法幻覺(jué)”等難題仍需突破經(jīng)典計(jì)算范式，并呼吁學(xué)界專家對(duì)現(xiàn)有成果深入論證，共筑智能時(shí)代安全基座。
學(xué)術(shù)委員會(huì)會(huì)議由費(fèi)愛(ài)國(guó)院士主持。實(shí)驗(yàn)室主任程學(xué)旗研究員系統(tǒng)闡述了實(shí)驗(yàn)室的戰(zhàn)略布局與發(fā)展脈絡(luò)。他指出，實(shí)驗(yàn)室以構(gòu)建智能算法理論體系、打造數(shù)字基礎(chǔ)設(shè)施、服務(wù)國(guó)家重大需求為三大核心使命，并重點(diǎn)聚焦智能算法TRC安全范式構(gòu)建這一關(guān)鍵科學(xué)問(wèn)題。基于此戰(zhàn)略定位，實(shí)驗(yàn)室規(guī)劃了五大研究方向：智能算法安全基礎(chǔ)理論、算法風(fēng)險(xiǎn)監(jiān)測(cè)評(píng)估、智能裝備安全增強(qiáng)、智能系統(tǒng)算法對(duì)抗及認(rèn)知智能算法博弈。此外，程學(xué)旗還詳細(xì)介紹了實(shí)驗(yàn)室在任務(wù)攻關(guān)、前沿理論與技術(shù)創(chuàng)新及核心基礎(chǔ)設(shè)施建設(shè)方面取得的重要進(jìn)展，特別強(qiáng)調(diào)了各研究方向的協(xié)同推進(jìn)態(tài)勢(shì)。陳薇研究員、山世光研究員、郭瑞杰正高級(jí)工程師、曹婍副研究員和徐冰冰副研究員分別作了專題報(bào)告。
與會(huì)專家對(duì)實(shí)驗(yàn)室建設(shè)以來(lái)取得的階段性進(jìn)展給予了高度評(píng)價(jià)，并提出了寶貴的意見(jiàn)和建議；學(xué)術(shù)委員會(huì)委員針對(duì)報(bào)告內(nèi)容以及智能算法安全學(xué)科內(nèi)涵、實(shí)驗(yàn)室定位和發(fā)展戰(zhàn)略等問(wèn)題展開(kāi)了深入交流討論：專家們一致認(rèn)為，實(shí)驗(yàn)室應(yīng)繼續(xù)聚焦智能算法安全的核心問(wèn)題，特別是在大模型背景下，進(jìn)一步聚焦算法安全性、魯棒性以及隱私保護(hù)等方面的挑戰(zhàn)，推動(dòng)智能算法安全標(biāo)準(zhǔn)制定、技術(shù)評(píng)估與測(cè)試平臺(tái)建設(shè)；建議實(shí)驗(yàn)室面向國(guó)家重大需求，同時(shí)加強(qiáng)與產(chǎn)業(yè)界的合作，共同推動(dòng)智能算法安全技術(shù)的落地應(yīng)用。
未來(lái)，實(shí)驗(yàn)室將進(jìn)一步深入貫徹落實(shí)黨中央關(guān)于建設(shè)網(wǎng)絡(luò)強(qiáng)國(guó)、數(shù)字中國(guó)的重大決策部署，面向人工智能安全、算法安全治理及認(rèn)知安全計(jì)算等重大需求，夯實(shí)學(xué)科基礎(chǔ)、建設(shè)一流團(tuán)隊(duì)、服務(wù)國(guó)家戰(zhàn)略！