NeurIPS 全稱 Annual Conference on Neural Information Processing Systems，與 ICML、ICLR 并稱為人工智能領(lǐng)域“三大頂級(jí)會(huì)議”。該會(huì)議在中國(guó)計(jì)算機(jī)學(xué)會(huì)推薦會(huì)議列表中列為 A 類會(huì)議，在 CORE Conference Ranking 中被評(píng)為 A* 級(jí)別，其 H5-index 高達(dá) 330 以上，長(zhǎng)期穩(wěn)居全球人工智能與機(jī)器學(xué)習(xí)國(guó)際學(xué)術(shù)會(huì)議影響力之首。NeurIPS 的投稿數(shù)量和競(jìng)爭(zhēng)激烈程度屢創(chuàng)新高，2025年在主會(huì)有效投稿量突破21575篇情況下，錄用率不足 24.52%，體現(xiàn)出其極高的學(xué)術(shù)認(rèn)可度與難度。本次成果的入選，不僅代表了團(tuán)隊(duì)在異構(gòu)分布式機(jī)器學(xué)習(xí)研究方向上的重要進(jìn)展，也標(biāo)志著我校在人工智能領(lǐng)域的國(guó)際影響力實(shí)現(xiàn)了新跨越。
論文針對(duì)異構(gòu)分布式機(jī)器學(xué)習(xí)（Heterogeneous Federated Learning, HtFL）中的異構(gòu)模型難以聚合收斂的核心瓶頸展開研究�，F(xiàn)有方法往往依賴代理數(shù)據(jù)或模型壓縮方法，容易帶來(lái)隱私風(fēng)險(xiǎn)與知識(shí)傳遞不完整的問(wèn)題。為此，本文提出了新一代框架 FedFree，通過(guò)“逐層知識(shí)對(duì)齊”機(jī)制（layer-wise alignment），實(shí)現(xiàn)跨異構(gòu)模型的數(shù)據(jù)無(wú)關(guān)知識(shí)共享。具體而言，F(xiàn)edFree 設(shè)計(jì)了反向逐層知識(shí)遷移（reverse layer-wise transfer）與知識(shí)增益熵（Knowledge Gain Entropy, KGE），在保證隱私安全的前提下，有效緩解了細(xì)粒度知識(shí)丟失問(wèn)題。理論分析與實(shí)驗(yàn)結(jié)果均表明，F(xiàn)edFree 不僅實(shí)現(xiàn)了嚴(yán)格的收斂性保證，而且在計(jì)算機(jī)視覺(jué)典型數(shù)據(jù)集上顯著優(yōu)于現(xiàn)有方法，最高精度提升超過(guò)46%，展示了強(qiáng)大的性能提升。
這一研究成果對(duì)于未來(lái)的應(yīng)用場(chǎng)景具有廣闊前景。在邊緣計(jì)算場(chǎng)景中，F(xiàn)edFree框架能夠提升異構(gòu)設(shè)備間的協(xié)同建模能力；在自動(dòng)駕駛與車聯(lián)網(wǎng)中，該框架可增強(qiáng)多車型、異構(gòu)傳感器間的聯(lián)合學(xué)習(xí)魯棒性；在大模型訓(xùn)練應(yīng)用場(chǎng)景中，該框架可以實(shí)現(xiàn)有效的大小模型協(xié)同訓(xùn)練效果，加速整體大模型的訓(xùn)練效果，在無(wú)人機(jī)群協(xié)作及電力系統(tǒng)巡檢等領(lǐng)域，F(xiàn)edFree框架的數(shù)據(jù)無(wú)關(guān)與隱私保護(hù)特性能夠保障模型高效、安全地訓(xùn)練。長(zhǎng)遠(yuǎn)來(lái)看，該框架為構(gòu)建面向大模型時(shí)代的高效、安全、普適的分布式智能系統(tǒng)提供了新路徑。
能源大數(shù)據(jù)智慧計(jì)算團(tuán)隊(duì)圍繞以人工智能為核心，在分布式機(jī)器學(xué)習(xí)、多模態(tài)和語(yǔ)言大模型、自然語(yǔ)言處理、知識(shí)圖譜等關(guān)鍵領(lǐng)域進(jìn)行持續(xù)深耕，并已形成一系列高水平成果。近年來(lái)，團(tuán)隊(duì)已有多篇高質(zhì)量論文被NeurIPS、AAAI、ECAI、ECML、CIKM、ICSOC 等國(guó)際頂級(jí)學(xué)術(shù)會(huì)議錄用。展現(xiàn)了持續(xù)向國(guó)際頂尖科研前沿邁進(jìn)的堅(jiān)實(shí)步伐。團(tuán)隊(duì)連續(xù)兩年論文入選 NeurIPS人工智能頂級(jí)國(guó)際學(xué)術(shù)會(huì)議，不僅是對(duì)團(tuán)隊(duì)長(zhǎng)期科研工作的高度肯定，更為我校人工智能與分布式學(xué)習(xí)方向的發(fā)展注入了新的動(dòng)力。未來(lái)，團(tuán)隊(duì)將繼續(xù)聚焦科研前沿，致力于產(chǎn)出更多兼具頂尖學(xué)術(shù)水平與重要現(xiàn)實(shí)意義的研究成果。
來(lái)源：上海電力大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院
