新火種
2023-11-03 
美國將成立AI安全研究所以評估前沿模型的風(fēng)險
財聯(lián)社11月2日訊（編輯 夏軍雄）當(dāng)?shù)貢r間周三（11月1日），美國商務(wù)部長雷蒙多表示，美國將成立一個人工智能（AI）安全研究所，以評估前沿AI模型的已知和新出現(xiàn)的風(fēng)險。
雷蒙多周三出席了在英國舉行的AI安全峰會，她在發(fā)表演講時表示：“我?guī)缀蹩隙〞粲踉谧脑S多學(xué)術(shù)界和工業(yè)界的聽眾加入這個聯(lián)盟。我們無法單獨做這件事，私營部門必須挺身而出。”
雷蒙多補充稱，她還將致力于讓美國研究所與英國AI安全研究所建立正式的伙伴關(guān)系。
美國AI安全研究所將隸屬于美國國家標(biāo)準(zhǔn)與技術(shù)研究院（NIST）負(fù)責(zé)，并領(lǐng)導(dǎo)美國政府在AI安全方面的工作，尤其是審查先進的AI模型。
據(jù)悉，該研究所將促進AI模型的安全、保障和測試標(biāo)準(zhǔn)的制定，制定驗證AI生成內(nèi)容的標(biāo)準(zhǔn)，并為研究人員提供測試環(huán)境，以評估新興AI的風(fēng)險并解決已知的影響。
本周一，美國總統(tǒng)簽署了一項關(guān)于AI的行政命令，動用朝鮮戰(zhàn)爭時期的《國防生產(chǎn)法》，要求大型AI公司在開發(fā)對美國國家安全、經(jīng)濟、公共衛(wèi)生或安全構(gòu)成威脅的系統(tǒng)時，必須與美國政府分享安全測試結(jié)果。
除了要求向政府通報正在開發(fā)的AI系統(tǒng)外，上述行政命令還要求企業(yè)共享安全測試結(jié)果。不過，官員表示，這項新要求只適用于科技巨頭的下一代AI系統(tǒng)，而不適用于目前的版本。
拜登政府還提出了其他措施，包括建立AI安全和保障的新標(biāo)準(zhǔn)，防范AI生成的虛假內(nèi)容，保護美國人的隱私和公民權(quán)利，并為工作受到AI威脅的工人提供支持。
Tags:
相關(guān)推薦
- 免責(zé)聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認(rèn)可。 交易和投資涉及高風(fēng)險，讀者在采取與本文內(nèi)容相關(guān)的任何行動之前，請務(wù)必進行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產(chǎn)生的任何金錢損失負(fù)任何責(zé)任。
