新火種
2023-11-03 
拜登簽署行政令，評(píng)估人工智能系統(tǒng)安全問題
10月31日消息，據(jù)美國(guó)商務(wù)部官網(wǎng)信息，美國(guó)總體拜登于當(dāng)?shù)貢r(shí)間10月30日簽署了一項(xiàng)行政命令 (EO)，以建設(shè)美國(guó)評(píng)估和減輕人工智能 (AI) 系統(tǒng)風(fēng)險(xiǎn)的能力，以確保安全、保障和信任，同時(shí)促進(jìn)創(chuàng)新、有競(jìng)爭(zhēng)力的人工智能生態(tài)系統(tǒng)，支持工人并保護(hù)消費(fèi)者。美國(guó)商務(wù)部將在實(shí)施行政命令方面發(fā)揮關(guān)鍵作用，將復(fù)雜的標(biāo)準(zhǔn)和評(píng)估能力與報(bào)告要求和自愿措施的強(qiáng)有力結(jié)合結(jié)合起來。
具體來說，美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院（NIST）、工業(yè)與安全局（BIS）、國(guó)家電信和信息管理局（NTIA）以及美國(guó)專利商標(biāo)局（USPTO）將負(fù)責(zé)開展該行政令目標(biāo)的重要組成部分。
“美國(guó)商務(wù)部在美國(guó)政府抓住先進(jìn)人工智能發(fā)展?jié)摿Α⑼瑫r(shí)減輕危險(xiǎn)能力或安全風(fēng)險(xiǎn)的過程中發(fā)揮著關(guān)鍵作用。今天的行政命令重申了我們部門的領(lǐng)導(dǎo)地位，準(zhǔn)備承擔(dān)重大責(zé)任，以實(shí)現(xiàn)總統(tǒng)建設(shè)一個(gè)更安全、更有保障的世界的愿景，”美國(guó)商務(wù)部長(zhǎng)吉娜·雷蒙多 (Gina Raimondo)表示：“在美國(guó)領(lǐng)先公司今年早些時(shí)候做出的自愿承諾的基礎(chǔ)上，總統(tǒng)正在向前邁出關(guān)鍵一步，以促進(jìn)和激勵(lì)人工智能領(lǐng)域安全和負(fù)責(zé)任的創(chuàng)新。”
NIST 的專家將領(lǐng)導(dǎo)美國(guó)政府的人工智能安全技術(shù)工作。他們將在現(xiàn)有工作的基礎(chǔ)上，為前沿人工智能模型的安全和負(fù)責(zé)任的開發(fā)制定行業(yè)標(biāo)準(zhǔn)，創(chuàng)建測(cè)試環(huán)境來評(píng)估這些系統(tǒng)，并制定隱私和人工智能生成內(nèi)容時(shí)的身份驗(yàn)證標(biāo)準(zhǔn)。
美國(guó)商務(wù)部負(fù)責(zé)標(biāo)準(zhǔn)與技術(shù)的副部長(zhǎng)兼 NIST 主任 Laurie Locascio 表示： “為了擴(kuò)大我們?cè)谌斯ぶ悄茴I(lǐng)域的廣泛努力，NIST 將與私人和公共利益相關(guān)者合作，履行行政命令規(guī)定的職責(zé)。”“我們致力于制定有意義的評(píng)估指南、測(cè)試環(huán)境和信息資源，以幫助組織開發(fā)、部署和使用安全可靠的人工智能技術(shù)，并增強(qiáng)人工智能的可信度。”
BIS 將援引《國(guó)防生產(chǎn)法》制定措施，在開發(fā)下一代前沿人工智能模型時(shí)增強(qiáng)安全性，包括要求開發(fā)人員報(bào)告他們?yōu)闇y(cè)試模型而采取的步驟并防止模型被盜。這些措施建立在白宮對(duì)安全、安保和信任的自愿承諾的基礎(chǔ)上，并將促進(jìn)人工智能的安全開發(fā)和使用。
“人工智能技術(shù)是一種強(qiáng)大的工具，如果不安全地開發(fā)和使用或落入惡意行為者手中，它既可能成為正義的力量，也可能帶來潛在的危險(xiǎn)，”工業(yè)和安全部副部長(zhǎng)艾倫·埃斯特維茲 (Alan Estevez)表示。“工業(yè)和安全局隨時(shí)準(zhǔn)備制定今天的行政命令規(guī)定的法規(guī)和程序，以增強(qiáng)安全并保護(hù)我們的國(guó)家安全和外交政策利益，同時(shí)又不妨礙技術(shù)發(fā)展和貿(mào)易蓬勃發(fā)展的能力。”
除其他任務(wù)外， NTIA 將準(zhǔn)備一份報(bào)告，以評(píng)估模型權(quán)重（構(gòu)成人工智能模型關(guān)鍵的數(shù)字?jǐn)?shù)組）在線發(fā)布或“開源”時(shí)的風(fēng)險(xiǎn)和收益。開源材料以及創(chuàng)建它們的社區(qū)可以推動(dòng)創(chuàng)新。但這些模型權(quán)重如果落入壞人之手也可能帶來風(fēng)險(xiǎn)。
“在 NTIA，我們對(duì)開源人工智能系統(tǒng)的力量和前景非常感興趣，”負(fù)責(zé)通信和信息的助理商務(wù)部長(zhǎng)兼 NTIA 管理員 Alan Davidson 表示。“這些系統(tǒng)有潛力在全國(guó)范圍內(nèi)釋放創(chuàng)新，為初創(chuàng)公司、研究人員和個(gè)人提供可用的人工智能工具。但它們?cè)跐撛诘恼`用和傷害方面也帶來了獨(dú)特的風(fēng)險(xiǎn)。作為行政命令工作的一部分，我們將評(píng)估如何以負(fù)責(zé)的方式推進(jìn)開源人工智能系統(tǒng)。”
美國(guó)專利商標(biāo)局將澄清知識(shí)產(chǎn)權(quán)和人工智能交叉點(diǎn)的關(guān)鍵問題。
“在人工智能方面，我們國(guó)家在支持包容性和公平的創(chuàng)新和創(chuàng)業(yè)，以及快速、大規(guī)模地解決世界問題方面擁有巨大潛力。但我們必須深思熟慮、謹(jǐn)慎行事，以降低風(fēng)險(xiǎn)并確保人工智能的采用負(fù)責(zé)知識(shí)產(chǎn)權(quán)的商務(wù)部副部長(zhǎng)和專利商標(biāo)局局長(zhǎng) Kathi Vidal表示：“總統(tǒng)的行政命令實(shí)現(xiàn)了這種平衡，確保我們激勵(lì)關(guān)鍵和新興技術(shù)的創(chuàng)新，包括通過對(duì)發(fā)明者和創(chuàng)造者提供適當(dāng)?shù)闹R(shí)產(chǎn)權(quán)保護(hù)，同時(shí)促進(jìn)國(guó)家安全和人工智能安全。”
該部門還將在國(guó)際場(chǎng)所發(fā)揮關(guān)鍵作用，以確保全球范圍內(nèi)安全、可靠和值得信賴的人工智能開發(fā)和使用。
Tags:
相關(guān)推薦
- 免責(zé)聲明
- 本文所包含的觀點(diǎn)僅代表作者個(gè)人看法，不代表新火種的觀點(diǎn)。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對(duì)本文可能提及或鏈接的任何項(xiàng)目不表示認(rèn)可。 交易和投資涉及高風(fēng)險(xiǎn)，讀者在采取與本文內(nèi)容相關(guān)的任何行動(dòng)之前，請(qǐng)務(wù)必進(jìn)行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨(dú)立判斷。新火種不對(duì)因依賴本文觀點(diǎn)而產(chǎn)生的任何金錢損失負(fù)任何責(zé)任。
