新火種
2024-11-17 
促進信息安全，特斯聯(lián)AI研究強化數(shù)據(jù)隱私保護登上國際頂級期刊
信息技術(shù)大大促進了人類社會的發(fā)展，也讓信息安全不斷受到關(guān)注。不久前，特斯聯(lián)在AI研究中取得新突破，可在機器學習領(lǐng)域中強化數(shù)據(jù)保護，該研究成果已被人工智能領(lǐng)域頂級學術(shù)期刊IEEE T-PAMI 收錄。
互聯(lián)網(wǎng)時代，各類信息安全事故層出不窮。具體到AI領(lǐng)域，AI在機器學習過程中需要“投喂”大量的數(shù)據(jù)，如何確保這些數(shù)據(jù)不涉及個人隱私、企業(yè)乃至國家機密，尤為重要。
此外，AI對話、文字創(chuàng)作等AI工具可收集并存儲用戶輸入的信息，甚至可能從一些涉密敏感人員數(shù)據(jù)中推斷出敏感信息；AI還可以快速生成大量仿真度高的文稿、圖片和音視頻，近期流傳的AI模擬某企業(yè)高管錄音就是典型案例。
應對信息泄露，能夠從技術(shù)上杜絕此類風險無疑是最理想的手段之一。不久前，斯聯(lián)首席科學家、特斯聯(lián)國際總裁邵嶺博士及其合作團隊發(fā)布最新研究成果，提出了基于在線拉普拉斯近似的貝葉斯聯(lián)邦學習框架。該框架通過在線拉普拉斯近似方法來優(yōu)化聯(lián)邦學習中的聚合誤差和局部遺忘問題，不僅推動了機器學習技術(shù)的發(fā)展，也為解決現(xiàn)實世界醫(yī)療、金融、制造等場景中的復雜問題提供了新的思路和工具。該研究成果已被人工智能領(lǐng)域頂級學術(shù)期刊IEEE T-PAMI 2024年46卷第一期收錄。
該研究成果在機器學習領(lǐng)域具有重要的長遠意義：在數(shù)據(jù)隱私保護方面，該框架強化了數(shù)據(jù)隱私保護，符合當前對數(shù)據(jù)安全和隱私日益增長的需求；在異構(gòu)數(shù)據(jù)處理能力方面，這一方法改進了在異構(gòu)數(shù)據(jù)環(huán)境下的模型訓練效果，對于現(xiàn)實世界中常見的數(shù)據(jù)分布不均的場景尤為重要；在模型泛化能力方面，通過減少聚合誤差和局部遺忘問題，該研究提高了模型的泛化能力，使得模型在未見過的數(shù)據(jù)上也能表現(xiàn)良好；在算法效率方面，通過在線拉普拉斯近似和多變量高斯乘積機制，該研究提高了聯(lián)邦學習算法的效率，減少了計算和通信成本；最后，在機器學習模型的健壯性方面，該方法通過先驗損失的設計，增強了模型在面對不同客戶端數(shù)據(jù)分布時的健壯性。
近日，相關(guān)部門提醒，面對人工智能技術(shù)帶來的機遇與挑戰(zhàn)，既要用好人工智能促進生產(chǎn)生活，也要提高人工智能安全意識，共同維護國家安全。特斯聯(lián)相關(guān)AI研究成果，有望從技術(shù)領(lǐng)域，減少人工智能帶來的信息安全風險。
來源：新聞晨報
Tags:
相關(guān)推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內(nèi)容相關(guān)的任何行動之前，請務必進行充分的盡職調(diào)查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產(chǎn)生的任何金錢損失負任何責任。
