財聯(lián)社牛占林
2023-12-17 
日本政府?dāng)M成立AI安全問題組織聚焦其在軍事應(yīng)用中的風(fēng)險
12月16日訊（編輯 牛占林）據(jù)日經(jīng)新聞最新報道，日本政府正在考慮明年成立一個組織，探討人工智能(AI)安全方面的問題，包括民用AI技術(shù)被轉(zhuǎn)用于軍事目的的風(fēng)險，旨在在不妨礙研發(fā)的情況下，提高其安全性。
據(jù)悉，預(yù)計最早將在本月舉行的人工智能戰(zhàn)略委員會會議上正式宣布這一計劃，該委員會負(fù)責(zé)討論與AI相關(guān)的國家戰(zhàn)略，成員包括在AI領(lǐng)域有經(jīng)驗的私營部門專業(yè)人員。
關(guān)注的重點將是最先進(jìn)的那一批產(chǎn)品，如OpenAI的ChatGPT。為了避免干擾私營部門，企業(yè)用于提高運營效率的標(biāo)準(zhǔn)AI技術(shù)將不會成為日本政府的目標(biāo)。
AI產(chǎn)品將在進(jìn)入市場之前需要進(jìn)行一系列測試，還有一項提案要求日本政府采購的任何AI產(chǎn)品在使用前都要經(jīng)過專業(yè)機構(gòu)的認(rèn)證。
上述新成立組織計劃研究潛在的國家安全風(fēng)險，例如通過AI獲取制造生物、化學(xué)或其他武器的信息的可能性，還將檢查安全漏洞，包括對網(wǎng)絡(luò)的攻擊。
另外，還將調(diào)查AI變得不受控制的風(fēng)險，以及與錯誤信息和偏見有關(guān)的問題。AI控制的社交媒體賬號，能在網(wǎng)絡(luò)上自動生成內(nèi)容并與人類用戶互動，操縱公眾輿論或煽動情緒。
目前來看，隨著信息技術(shù)的發(fā)展，AI技術(shù)大量運用于軍事領(lǐng)域已經(jīng)成為現(xiàn)實，使用AI收集和分析戰(zhàn)場數(shù)據(jù)等一系列AI操作，在作戰(zhàn)系統(tǒng)中已被廣泛應(yīng)用。而民用AI技術(shù)被轉(zhuǎn)用于軍事目的，幾乎是不可避免的問題。
雖然可能會成立一個全新的機構(gòu)，但最有可能的結(jié)果是將一個新的部門并入現(xiàn)有的組織。候選機構(gòu)包括總務(wù)省下屬的研究AI技術(shù)的國家信息和通信技術(shù)研究所，以及經(jīng)濟產(chǎn)業(yè)省下屬的信息技術(shù)促進(jìn)機構(gòu)。
在本月初，七國集團(tuán)(G7)就AI國際規(guī)則框架達(dá)成了最終協(xié)議。這將成為首份對開發(fā)人員及用戶，規(guī)定AI“所有相關(guān)人員”應(yīng)遵守職責(zé)的全面國際規(guī)則。
G7力爭通過率先展現(xiàn)為防止AI濫用而合作姿態(tài)的形式，獲得G7以外國家和企業(yè)的贊同。日本政府將把此次協(xié)議用于面向國內(nèi)的指導(dǎo)方針制定，即AI開發(fā)商在向市場推出產(chǎn)品之前，需要接受第三方的風(fēng)險評估。
英國和美國在創(chuàng)建人工智能機構(gòu)方面也處于領(lǐng)先地位。11月份，英國成立了全球首個AI安全研究所。在對尖端AI產(chǎn)品上市前后進(jìn)行驗證后，考慮公開其中存在安全風(fēng)險的產(chǎn)品。
美國根據(jù)今年10月拜登總統(tǒng)的行政命令，正在以美國國家標(biāo)準(zhǔn)與技術(shù)研究院為主導(dǎo)，制定AI安全評價方法。旨在與私營公司共同創(chuàng)建一個AI安全聯(lián)盟，以制定評估AI能力和風(fēng)險的方法，并希望私營公司自行進(jìn)行風(fēng)險驗證。
相關(guān)推薦
- 免責(zé)聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認(rèn)可。 交易和投資涉及高風(fēng)險，讀者在采取與本文內(nèi)容相關(guān)的任何行動之前，請務(wù)必進(jìn)行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產(chǎn)生的任何金錢損失負(fù)任何責(zé)任。
