新火種
2024-12-03 
關注｜各界擁抱AIGC，AI+安全如何融合發展？
主持人：“i搜，請你來說一說我們的主辦方之一中國電信在AI領域有哪些成果？”
電腦端的i搜：“好的，通過360AI搜索分析，中國電信作為全球領先的電信運營商之一，在AI領域取得了顯著的成果和進展，尤其在大模型技術創新和行業應用方面處于行業領導者地位。其中，星辰大模型是中國電信自主研發且央企首個開源的千億參數大模型……”
近日在ISC.AI 2024上海AI峰會（ISC為互聯網安全大會）的開場，主持人和AI搜索就展開了這樣的一個對話，而在整個論壇過程中，這個基于大模型的搜索也通過現場嘉賓的發言不斷進行速記和解析。
“人工智能作為新一輪科技革命和產業變革的重要群動力，正深刻影響著全球經濟結構和社會發展，隨著技術持續迭代引進，人工智能的安全也日益成為全球關注的焦點?！鄙虾Ｊ衅胀訁^人民政府副區長周如意在峰會致辭中這樣說。
AI時代，安全問題引發全球關注去年11月，包括中國、美國在內的28個國家和歐盟共同簽署了《布萊切利人工智能安全宣言》，一致認為前沿的人工智能技術可能會引發巨大的風險，這也是全球第一份針對人工智能安全的國際性聲明。
剛剛閉幕的第二屆三中全會明確指出，要加強網絡安全體制的建設，建立人工智能安全的監管制度，上海在人工智能方面也開展了諸多的探索和實踐，出臺并實施我國首部人工智能省級地方性法規《上海市促進人工智能產業發展條例》，探索構建體系化的治理框架，統籌人工智能發展與安全，發布《人工智能標準化體系建設指導意見》，推動上海在人工智能標準領域的先行先試，努力培育人工智能高水平的上海標準。
“上個月在上海舉辦的第七屆世界人工智能大會，從一個區域性的展會變成了科技外交的主戰場，此次大會加上了‘暨高級別安全治理大會’，這也說明安全在這方面的至關重要不容忽視?！敝袊娦派虾７止靖笨偨浝砗鷤チ颊f。
人工智能下，安全隱憂大量出現360集團首席運營官葉健在現場表示，大模型帶來巨大機會的同時，也帶來巨大挑戰，“我看到一個數據，可能不太準確，大概以大模型為主現在全世界的收入大概是60億美金左右，其中大約90%被OpenAI一家拿走了。但購買算力的部分，英偉達獲益最多，大概是上千億美金，最后拉升幾十萬億的市值，包括微軟很多的公司。”葉健說，這可能是一場工業革命，有進取心的企業都不敢放棄。“一方面大家投入很足，好像看不到產出，但另一方面誰都不敢放棄在這場工業級革命之前被淘汰。”
“現在企業都在積極擁抱大模型，同時人工智能在用的時候，無論是隱私的泄露、算法的歧視等等都會帶來一些問題?！倍砹_斯自然科學院外籍院士、賽迪研究院副總工劉權說，從人工智能自身的安全講，無論從硬件、操作系統、AI的框架、算法等等，都有諸多的問題，比如說在硬件領域，我們為什么要建一些防磁的安全機房，比如說電磁包括操作系統領域的權限管理，加快AI框架的支撐漏洞，尤其模型應用領域的算法，各個環節都會帶來一些安全問題。
在劉權看來，目前最主要的是數據安全問題，包括三星客戶信息泄露的事件，人工智能使用的過程中，個人隱私、企業敏感數據、以及一些知識產權的網上拓撲或網絡爬蟲的一些知識產權保護的問題等，這些安全問題非常突出。
“算法本身有歧視的問題，有一些對人工智能使用較少的弱勢群體，在人工智能這個算法下，其在未來人工智能的差距或者這個鴻溝會非常大?！眲嗾f，算法本身包括黑盒子、魯棒性、可預測性、可解釋性這些問題，目前都是黑盒子，有很多的問題需要業內解決。
劉權說，有了人工智能的加持，網絡攻擊的成本和門檻越來越低，甚至幾分鐘時間就可以學會惡意攻擊軟件。每個人在互聯網上輸入用戶名和密碼，如果出現網絡攻擊，據了解，一個小時大約80%的密碼都可以被解掉，有了人工智能加持這個方面會非常多，包括現在身份偽造詐騙的現象也越來越多了。
加大技術創新，促進數據安全如何應對AI時代的安全問題？
俄羅斯自然科學院外籍院士、賽迪研究院副總工劉權認為，在法律層面尤其是對于人工智能企業數據的收集和數據的保護機制上，進一步的加強，包括數據來源的合法性，包括數據生成的合規性，是不是符合我們的價值觀，都要考慮。
其次，要加大技術創新力度，促進數據安全，包括安全計算、隱私計算、機密計算等很多的包括一些理論上的研究，這里有大量的工作需要做。
從人工智能的自身安全上來說，無論是硬件、操作系統、AI框架，一方面要加強人工智能的安全底層設計，完善人工智能的治理體系；另一方面加強人工智能的應用安全工作，包括進一步完善人工智能算法體系相關的出臺、增強人工智能技術治理的能力、加強人工智能應用的網絡安全風險評估和分級分類的研究標準等。
Tags:
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
