首頁 > AI資訊 > 行業(yè)應(yīng)用 > 拜登簽署行政命令,發(fā)布白宮首個(gè)生成式AI監(jiān)管規(guī)定

拜登簽署行政命令,發(fā)布白宮首個(gè)生成式AI監(jiān)管規(guī)定

新火種    2023-11-01
當(dāng)?shù)貢r(shí)間10月30日,美國總統(tǒng)拜登簽署一項(xiàng)“具有里程碑意義的”行政命令,推出白宮有關(guān)生成式人工智能的首套監(jiān)管規(guī)定。根據(jù)行政命令,美國多個(gè)政府機(jī)構(gòu)需制定標(biāo)準(zhǔn),以防止使用人工智能設(shè)計(jì)生物或核武器等威脅,并尋求“水印”等內(nèi)容驗(yàn)證的最佳方法,擬定先進(jìn)的網(wǎng)絡(luò)安全計(jì)劃。具體而言,命令要求對(duì)人工智能產(chǎn)品進(jìn)行測(cè)試,并將測(cè)試結(jié)果報(bào)告給聯(lián)邦政府。它還提出吸引全球人工智能人才留在美國。據(jù)多家媒體此前報(bào)道,該行政命令要求運(yùn)行云服務(wù)的公司向政府通報(bào)其外國客戶的情況。“行政命令設(shè)定了規(guī)范”白宮在一篇聲明中稱,該行政命令旨在確保美國在兌現(xiàn)人工智能的承諾和管理風(fēng)險(xiǎn)方面發(fā)揮帶頭作用。作為拜登政府負(fù)責(zé)任創(chuàng)新綜合戰(zhàn)略的一部分,它建立在總統(tǒng)之前采取的行動(dòng)的基礎(chǔ)上,其中包括15家領(lǐng)先公司自愿承諾推動(dòng)人工智能安全、可靠和值得信任的發(fā)展的工作。美國媒體POLITICO報(bào)道稱,盡管該命令不具有法律效力,而且白宮之前的人工智能監(jiān)管工作也因缺乏執(zhí)行力而受到批評(píng),但新規(guī)定將通過聯(lián)邦機(jī)構(gòu)的購買力和執(zhí)行工具對(duì)美國市場(chǎng)產(chǎn)生影響力。例如,行政命令特別指示聯(lián)邦貿(mào)易委員會(huì)重點(diǎn)關(guān)注人工智能行業(yè)的反競(jìng)爭(zhēng)行為和消費(fèi)者傷害問題,該機(jī)構(gòu)主席莉娜·汗(Lina Khan)已經(jīng)公開支持這一使命。“這是重要的第一步,重要的是,行政命令設(shè)定了規(guī)范。”喬治城大學(xué)安全與新興技術(shù)中心高級(jí)研究分析師勞倫·卡恩(Lauren Kahn)在接受媒體采訪時(shí)說。白宮將向十多個(gè)政府機(jī)構(gòu)發(fā)布內(nèi)容廣泛的指令。在明年總統(tǒng)選舉之前,大多數(shù)機(jī)構(gòu)將有90至240天時(shí)間來滿足行政命令的要求。命令還將任命一個(gè)白宮人工智能委員會(huì)來協(xié)調(diào)聯(lián)邦政府的相關(guān)活動(dòng),該委員會(huì)由白宮負(fù)責(zé)政策的副幕僚長(zhǎng)擔(dān)任主席,并由來自各主要機(jī)構(gòu)的代表組成。拜登政府一位高級(jí)官員在簡(jiǎn)報(bào)中告訴記者,新規(guī)定主要適用于未來的人工智能模型,“我們不會(huì)召回現(xiàn)有的公開型號(hào)。”《紐約時(shí)報(bào)》報(bào)道稱,該命令針對(duì)的是最先進(jìn)的未來系統(tǒng),但在很大程度上并沒有解決現(xiàn)有聊天機(jī)器人的直接威脅,這些機(jī)器人可能被用來傳播與烏克蘭、加沙或總統(tǒng)競(jìng)選有關(guān)的虛假信息。此外,雖然該命令僅影響美國公司,但由于軟件開發(fā)發(fā)生在世界各地,美國在執(zhí)行這些規(guī)定時(shí)將面臨外交挑戰(zhàn),所以美國政府試圖鼓勵(lì)盟友和對(duì)手制定類似的規(guī)則。必須與政府共享安全測(cè)試結(jié)果行政命令將指導(dǎo)八項(xiàng)行動(dòng):為人工智能安全制定新標(biāo)準(zhǔn),保護(hù)隱私,促進(jìn)公平和公民權(quán)利,維護(hù)消費(fèi)者、患者和學(xué)生的權(quán)利,支持勞動(dòng)者,促進(jìn)創(chuàng)新和競(jìng)爭(zhēng),提升美國在人工智能技術(shù)方面的領(lǐng)導(dǎo)地位,并確保政府負(fù)責(zé)任且有效地使用該技術(shù)。第一個(gè)部分是“人工智能安全新標(biāo)準(zhǔn)”。根據(jù)《國防生產(chǎn)法》,該命令將要求開發(fā)任何對(duì)國家安全、國家經(jīng)濟(jì)安全或國家公共健康安全構(gòu)成嚴(yán)重風(fēng)險(xiǎn)的基礎(chǔ)模型的公司,在訓(xùn)練模型時(shí)通知聯(lián)邦政府,并且必須與聯(lián)邦政府共享所有紅隊(duì)安全測(cè)試的結(jié)果,并開發(fā)標(biāo)準(zhǔn)、工具和測(cè)試手段,以幫助確保人工智能系統(tǒng)安全和可靠。美國國家標(biāo)準(zhǔn)與技術(shù)研究所(The National Institute of Standards and Technology)將為廣泛的紅隊(duì)測(cè)試制定嚴(yán)格的標(biāo)準(zhǔn)。國土安全部將把這些標(biāo)準(zhǔn)應(yīng)用于關(guān)鍵基礎(chǔ)設(shè)施部門,并成立人工智能安全委員會(huì)。能源部和國土安全部還將解決人工智能系統(tǒng)對(duì)關(guān)鍵基礎(chǔ)設(shè)施的威脅,以及化學(xué)、生物、放射性、核和網(wǎng)絡(luò)方面的安全風(fēng)險(xiǎn)。命令要求,通過制定強(qiáng)有力的生物合成篩選新標(biāo)準(zhǔn),防范使用人工智能設(shè)計(jì)危險(xiǎn)生物材料的風(fēng)險(xiǎn)。命令還要求,通過建立檢測(cè)人工智能生成的內(nèi)容和驗(yàn)證官方內(nèi)容的標(biāo)準(zhǔn)和最佳方法,保護(hù)美國人免受人工智能驅(qū)動(dòng)的欺詐和欺騙。商務(wù)部將制定內(nèi)容認(rèn)證和水印指南,以明確標(biāo)記人工智能生成的內(nèi)容。命令要求制定國家安全備忘錄,以指導(dǎo)人工智能和安全方面的進(jìn)一步行動(dòng),由國家安全委員會(huì)和白宮辦公廳主任負(fù)責(zé)。該文件將確保美國軍事和情報(bào)界在其任務(wù)中安全、合乎道德且有效地使用人工智能,并將指導(dǎo)采取行動(dòng)反擊對(duì)手對(duì)人工智能的軍事使用。據(jù)POLITICO和《紐約時(shí)報(bào)》稍早前披露的草案,為了防止強(qiáng)大的人工智能模型落入外國對(duì)手手中,該命令要求開發(fā)強(qiáng)大人工智能模型的公司向商務(wù)部提供定期報(bào)告,并要求亞馬遜和微軟等大型云服務(wù)商在外國客戶租用服務(wù)器訓(xùn)練大模型時(shí)通知政府。隱私、公平、健康、教育方面第二部分是“保護(hù)美國人的隱私”。第一步將涉及管理和預(yù)算辦公室查明政府購買了多少個(gè)人身份信息。行政命令還將制定指導(dǎo)方針,以減輕政府收集、使用、共享和刪除從數(shù)據(jù)經(jīng)紀(jì)人處購買的信息時(shí)的隱私風(fēng)險(xiǎn)。行政命令鼓勵(lì)聯(lián)邦機(jī)構(gòu)采用高端隱私增強(qiáng)技術(shù)來保護(hù)收集的數(shù)據(jù),并鼓勵(lì)國家科學(xué)基金會(huì)資助一個(gè)新的研究網(wǎng)絡(luò),該網(wǎng)絡(luò)專注于開發(fā)、推進(jìn)和部署供聯(lián)邦機(jī)構(gòu)使用的隱私技術(shù)。該命令還涉及人工智能在工作場(chǎng)所的使用,指出不應(yīng)部署人工智能技術(shù)來“鼓勵(lì)不當(dāng)?shù)膭趧?dòng)者監(jiān)視”。第三部分是“促進(jìn)公平和公民權(quán)利”。命令要求為房東、聯(lián)邦福利計(jì)劃和聯(lián)邦承包商提供明確的指導(dǎo),以防止人工智能算法被用來加劇歧視。通過制定在量刑、假釋和緩刑、審前釋放和拘留、風(fēng)險(xiǎn)評(píng)估、監(jiān)控、犯罪預(yù)測(cè)和預(yù)測(cè)性警務(wù)以及法證分析中使用人工智能的最佳實(shí)踐,確保整個(gè)刑事司法系統(tǒng)的公平性。第四部分是“支持消費(fèi)者、患者和學(xué)生”。衛(wèi)生與公眾服務(wù)部將制定一項(xiàng)安全計(jì)劃,以接收涉及人工智能的危害或不安全醫(yī)療保健實(shí)踐的報(bào)告,并采取行動(dòng)進(jìn)行補(bǔ)救。命令要求支持教育工作者部署人工智能支持的教育工具(例如在學(xué)校進(jìn)行個(gè)性化輔導(dǎo)),塑造人工智能改變教育的潛力。第五部分是“支持勞動(dòng)者”。制定原則和最佳方法,為勞動(dòng)者提供指導(dǎo),防止雇主薪酬過低、不公平地評(píng)估工作申請(qǐng)或影響勞動(dòng)力的組織能力。為留住人工智能人才提供便利第六部分是“促進(jìn)創(chuàng)新和競(jìng)爭(zhēng)”。白宮稱,美國在人工智能創(chuàng)新方面已經(jīng)處于領(lǐng)先地位,去年在美國首次籌集資金的人工智能初創(chuàng)公司數(shù)量超過了排在后面的七個(gè)國家的總和。命令提出,通過國家人工智能研究資源試點(diǎn)來促進(jìn)美國各地的人工智能研究,并擴(kuò)大對(duì)醫(yī)療保健和氣候變化等重要領(lǐng)域人工智能研究的資助;通過為小型開發(fā)者和企業(yè)家提供技術(shù)援助和資源,幫助小型企業(yè)突破商業(yè)化,并鼓勵(lì)聯(lián)邦貿(mào)易委員會(huì)行使其權(quán)力,促進(jìn)公平、開放和競(jìng)爭(zhēng)的人工智能生態(tài)系統(tǒng);通過現(xiàn)代化和簡(jiǎn)化簽證標(biāo)準(zhǔn)、面試和審查,擴(kuò)大在關(guān)鍵領(lǐng)域擁有專業(yè)知識(shí)的高技術(shù)移民和非移民在美國學(xué)習(xí)、居留和工作的能力。第七部分是“提升美國在海外的領(lǐng)導(dǎo)力”。命令提出,美國國務(wù)院將與商務(wù)部合作,領(lǐng)導(dǎo)建立強(qiáng)大的國際框架,與國際合作伙伴和標(biāo)準(zhǔn)組織一起加快重要人工智能標(biāo)準(zhǔn)的開發(fā)和實(shí)施,促進(jìn)人工智能在國外安全、負(fù)責(zé)任和維護(hù)權(quán)利地發(fā)展和部署。據(jù)悉,美國副總統(tǒng)卡馬拉·哈里斯將出席本周在倫敦舉行的人工智能安全峰會(huì)。第八部分是“確保政府負(fù)責(zé)任且有效地使用人工智能”。命令要求,為各機(jī)構(gòu)使用人工智能發(fā)布指南,包括制定保護(hù)權(quán)利和安全的明確標(biāo)準(zhǔn)、改進(jìn)人工智能采購并加強(qiáng)人工智能部署;通過更快速、更高效的簽約,幫助機(jī)構(gòu)更快、更便宜、更有效地獲取指定的人工智能產(chǎn)品和服務(wù)。(來源:澎湃新聞)
相關(guān)推薦
免責(zé)聲明
本文所包含的觀點(diǎn)僅代表作者個(gè)人看法,不代表新火種的觀點(diǎn)。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對(duì)本文可能提及或鏈接的任何項(xiàng)目不表示認(rèn)可。 交易和投資涉及高風(fēng)險(xiǎn),讀者在采取與本文內(nèi)容相關(guān)的任何行動(dòng)之前,請(qǐng)務(wù)必進(jìn)行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨(dú)立判斷。新火種不對(duì)因依賴本文觀點(diǎn)而產(chǎn)生的任何金錢損失負(fù)任何責(zé)任。

熱門文章