新火種
2023-11-10 
中美參與，28國簽署，首個全球AI安全宣言來了
隨著生成式 AI 技術(shù)的日益成熟，它所帶來的安全議題也逐漸成為公眾和業(yè)界的關(guān)注焦點。這不僅涉及AI如何準(zhǔn)確無誤地生成內(nèi)容，還包括它對整個社會結(jié)構(gòu)和日常生活的深遠影響。
近日，三位在AI領(lǐng)域享有盛譽的圖靈獎得主 Hinton、Bengio 和姚期智，聯(lián)袂發(fā)表了一篇深入探討這個問題的論文《在飛速發(fā)展的時代管理 AI 風(fēng)險》（Managing AI Risks in an Era of Rapid Progress）。他們強烈建議，為了人類的長期福祉，我們必須盡快制定和實施一套切實有效的管理措施，以預(yù)防 AI 無節(jié)制的發(fā)展可能導(dǎo)致的不可預(yù)知風(fēng)險。
正值這個關(guān)鍵時刻，全球首屆 AI 安全峰會在英國布萊切利召開。此次峰會匯集了來自28個國家和地區(qū)的代表。在峰會首日，眾多國家和地區(qū)的代表共同簽署了《布萊切利宣言》。
這一宣言可謂是峰會的亮點之一，它深入探討了大型AI模型在未來可能出現(xiàn)的風(fēng)險，并提出了一系列的解決策略。宣言中還強調(diào)了保障人權(quán)、透明度、可解釋性、公平性、問責(zé)制、監(jiān)管、安全性、人類監(jiān)督、倫理、減少偏見、隱私和數(shù)據(jù)保護的重要性。
《布萊切利宣言》概括了五大核心原則：
國際合作：強調(diào)全球各國需要緊密合作，共同面對由AI帶來的安全挑戰(zhàn)，構(gòu)建一個真正有力的國際合作平臺。
安全標(biāo)準(zhǔn)：建議在AI技術(shù)的各個發(fā)展階段都應(yīng)堅守嚴(yán)格的安全標(biāo)準(zhǔn)，齊心協(xié)力降低與AI相關(guān)的各種風(fēng)險。
AI 道德：明確指出，AI的發(fā)展必須基于堅固的道德基石，它需要全心全意地尊重每一個個體的權(quán)益。
技術(shù)透明度：強調(diào)了提高AI技術(shù)的透明度和問責(zé)性，確保公眾能夠?qū)I技術(shù)有一個清晰的理解，并建立起對其的信任。
知識共享：倡導(dǎo)各國之間開放知識的邊界，鼓勵共享研究成果和合作研究，共同促進AI安全研究的進步。
此外，宣言中還提及了科技巨頭的責(zé)任。在前沿AI技術(shù)的研發(fā)與應(yīng)用中，科技界的巨頭們不僅要持續(xù)推動技術(shù)創(chuàng)新，還必須為其可能帶來的風(fēng)險承擔(dān)起應(yīng)有的責(zé)任，并建立一套安全有效的措施來降低 AI 技術(shù)可能帶來的各種風(fēng)險。
據(jù)英國首相蘇納克表示，《布萊切利宣言》的簽署是一項具有里程碑意義的成就，世界上最大的人工智能強國就了解人工智能風(fēng)險背后的緊迫性達成了一致，這有助于確保我們子孫后代的長遠未來。超過25個國家在AI安全峰會上表示有共同的責(zé)任應(yīng)對人工智能風(fēng)險，并在人工智能安全和研究前沿領(lǐng)域推進重要的國際合作。通過啟動此次峰會，全世界將共同努力確保人工智能的安全，并為子孫后代實現(xiàn)其所有益處。
《布萊切利宣言》展現(xiàn)了國際社會對于AI安全的共同關(guān)注和決心。它標(biāo)志著全球正朝著建立一個共同的AI安全框架邁進，以確保我們能夠充分發(fā)揮AI的潛力，同時有效控制相關(guān)風(fēng)險。
相關(guān)推薦
- 免責(zé)聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風(fēng)險，讀者在采取與本文內(nèi)容相關(guān)的任何行動之前，請務(wù)必進行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產(chǎn)生的任何金錢損失負任何責(zé)任。
