新火種
2023-12-20 
史上最嚴監管法案，鎖住了歐洲大國的AI野心
前言：
近日，歐洲議會、歐盟成員國和歐盟委員會三方就《人工智能法案》達成一致，這一法案被認為是全球首個全面監管人工智能（AI）的法規。
在當前人工智能技術迅速發展的背景下，國際社會對人工智能帶來的風險和挑戰日益關注，這一法案的出臺引起了全球廣泛關注。
作者| 方文三
圖片來源|網 絡
全球首份針對AI監管的全面法規
12月8日，在經過一周的馬拉松式談判和激烈爭論后，歐盟委員會、歐洲議會和歐盟成員國代表就《人工智能法案》達成初步協議，新法案涉及包括ChatGPT在內的通用目的AI系統。
這是全球首份針對AI監管的全面法規，意在從保護人類基本權利和不阻礙人工智能行業發展之間尋求平衡。
法案將AI系統分為低風險、高風險、不可接受風險、特定透明度風險等不同等級，按照風險級別制定相應規定。
不可接受風險等級的AI應用將被直接禁止，包括在特定情況下使用生物特征分類系統和人臉識別系統。
法案還專門針對通用AI系統設置規定，存在系統性威脅的通用AI將接受更嚴格監管。
近日，歐盟經過了馬拉松式的談判后，終于敲定了一項歷史性的AI監管協議，這也將成為全球首個廣泛覆蓋包括生成式AI在內的監管法案，并且是全球對AI監管最為嚴格的法案。
在新規則中，立法者同意嚴格限制面部識別技術的使用，并禁止利用人工智能進行[社會評分]以及[操縱人類行為]的人工智能系統。
新規還禁止利用人工智能剝削那些因年齡、殘疾或經濟狀況而處于弱勢的人。不遵守規則的公司將面臨3500萬歐元或等同于全球收入7%的罰款（二選一）。
將人工智能風險從高到低分為四類
①不可接受的風險：被認為會威脅人們的生命、安全和權利的AI系統，包括公共部門使用的社會評分系統、鼓勵或輔助自殺等危險行為的系統等等。
②高風險：可能會影響關鍵基礎設施（如交通）、教育和社會福利等公民權益的AI系統，包括在手術中應用的AI輔助系統、信用評分系統中的AI系統等等。
③有限的風險：指特定的具有對用戶透明度義務的AI系統，例如聊天機器人。
④最小風險：指已經被廣泛運用的AI系統，包括垃圾郵件過濾器、電子游戲中的AI系統等等。
在鼓勵技術創新和保護人權之間找到平衡點
該法案的核心目的是為了在鼓勵技術創新和保護人權之間找到平衡點。
一方面，鼓勵人工智能技術的進步和創新；另一方面又必須確保技術創新不會侵犯公眾的基本權利。
該法案規定了嚴格的前置審查程序和履行合規義務，重點對具有高風險的人工智能產品和服務實施治理，要求人工智能公司對其算法保持人為控制，向監管機構提供技術文件，并為[高風險]應用建立風險管理系統。
在企業看來，嚴格的制約可能會打擊歐洲公司的創新能力。
今年6月，包括法國空客公司和德國西門子公司在內的數十家最大的歐洲公司表示，如果政府制定的規則過于嚴格，則無法培育創新和幫助當地產業。
對此，歐盟出臺的規則將為人工智能技術的使用提供保障措施，同時避免給企業帶來[過度負擔]。
目前的《人工智能法案》可能會抑制人工智能技術為歐洲[重新加入技術先鋒]的機會。
批準的規則過于極端，有可能破壞歐盟的技術雄心，而不是為人工智能創新提供合適的環境。
其監管理念是設置一系列可變動的監管標準，旨在對風險最高的人工智能系統施加最嚴格的限制，而針對其他風險程度較小的AI工具，則必須披露內容是由人工智能合成。
根據的解釋，此次法案的中心方法論是根據人工智能對社會造成危害的能力，遵循[基于風險]的方法來監管人工智能：風險越高，規則越嚴。
一些人擔心，過多的監管會損害歐洲人工智能相關企業的發展，讓歐洲的人工智能發展落后于其他地區。
歐洲目前在人工智能關鍵技術方面面臨落后的危險。隨著對人工智能基礎模型及應用的全面監管，《人工智能法案》危及制造商和用戶雙方的競爭力和創新能力。
人工智能公司仍有很大的回旋空間
在2021年，《人工智能法案》的初步草案首次公布時，公眾的關注焦點主要集中在元宇宙上現在看來，這種關注已經有所轉移。
在ChatGPT等先進技術出現之后，立法者們意識到他們需要在監管中考慮基礎模型，即那些可用于多種應用場景的強大人工智能模型。
這引發了關于哪些模型應受到監管，以及監管是否會抑制創新的熱烈討論。
《人工智能法案》將要求基礎模型以及基于此構建的人工智能系統提供更詳細的文檔，遵守歐盟版權法，并分享更多關于模型訓練數據的信息。
對于最強大的模型，還有額外的要求。例如，科技公司必須公開其人工智能模型的安全性和能效。
然而，立法者正在尋找一個折衷方案，只對最強大的AI模型應用更嚴格的規則，這些規則按照其訓練所需的計算能力進行分類。公司將自主評估自己是否受到更嚴格規定的約束。
然而，這位官員也表示，隨著技術的進步，歐盟可能會改變評估人工智能模型能力的方式。
結尾：
可能需要數周甚至數月的時間來觀察法案的最終版本。在技術上，該法案的具體內容仍需經過進一步的修訂。
此外，在正式成為法律之前，還需經過審批程序。一旦該法案正式生效，科技公司將有兩年的時間來遵守這些規定。
對于特定的人工智能應用，禁令將在六個月后生效。對于開發基礎模型的公司，他們必須在一年內確保其模型的合法性。
部分資料參考：界面新聞：《歐盟就全球首個AI監管法達成初步協議，有哪些干貨？》，DeepTech深科技：《為何歐盟人工智能法案如此[難產]？》
原文標題:AI芯天下丨熱點丨史上最嚴監管法案，鎖住了歐洲大國的AI野心
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
