新火種
2023-09-08 
生成式人工智能有哪些安全問題？vivo 首席安全官談AI挑戰
“生成式人工智能要解決四個方面的安全問題，分別是內生安全的問題、內容安全的問題、運行安全的問題以及合規性的問題?！眝ivo 首席安全官魯京輝在日前舉辦的亞馬遜云科技 re:Inforce 2023 中國站上如是說。
對于生成式 AI 在安全層面給企業帶來的挑戰與機遇。魯京輝表示，生成式人工智能對交互和體驗上帶來的變革毋庸置疑。但是作為一個終端廠商，如何利用手機算力平臺去做好這件事其實也是一個很大的挑戰?！拔覀兙劢褂谧鳛橐粋€智能手機廠商必須做好的工作。其它工作則是通過合作伙伴的賦能。”
vivo 首席安全官魯京輝。受訪者供圖
生成式人工智能要解決四個方面安全問題
亞馬遜云科技認為，安全是構建生成式AI不可回避的重要議題，企業只有在AI旅程中做好數據、模型和應用的安全防護，才能更好地借助AI加速業務創新。在魯京輝看來，AI和安全的關系，一個是AI for Security，一個是Security for AI。
魯京輝認為，生成式人工智能要解決四個方面的安全問題，分別是內生安全的問題、內容安全的問題、運行安全的問題以及合規性的問題。比如，對于內生安全的問題，其核心是要做好相應管理的基線、管理的流程/制度/規范/工具支撐，做好數據源頭的可控。
“推動人工智能行業的健康、有序、可持續發展，必須重視數據安全和個人信息保護，二者是人工智能有序可持續發展的“基石”。”魯京輝提到，vivo的安全戰略是“PROTECT”，即：數據隱私保護、數據風險管理、產品對象安全、關鍵安全技術、安全工程和合規管理、安全攻防。在技術實踐上面，vivo抽象出來千鏡安全范式?！拔覀兪且哉麄€千鏡安全架構為核心，通過安全技術、安全工程、安全攻防來形成整體的能力建設的技術主架。”
生成式人工智能落地到手機上面臨諸多挑戰
魯京輝介紹稱，vivo作為一個終端廠商，在AIGC時代對生成式人工智能的應用，第一是對內部提效，第二是要構建生成式人工智能的產品和服務提供給用戶。
他還強調稱，生成式人工智能對交互和體驗上帶來的變革毋庸置疑。但如何充分利用手機算力平臺去做好這件事其實是一個很大的挑戰。實驗室的成果真正落地到手機上還要考慮很多工程性的問題，比如說功耗、內存的使用、用戶體驗等方面。
魯京輝表示，vivo比較聚焦于作為一個智能手機廠商，在提供生成式人工智能服務的時候必須做好的工作。其它工作則是通過合作伙伴的賦能?！薄皢渭円粋€廠商是無法構建一個健康、有序的生成式人工智能生態的。我們借助亞馬遜云科技的多種安全服務，例如威脅檢測與事件響應（Amazon GuardDuty）、身份認證與訪問控制（Amazon IAM）、網絡與基礎設施安全（Amazon WAF）、數據保護與隱私（Amazon CloudTrail）和風險管控及合規（Amazon Trusted Advisor）等相關服務，去構建相應的云上數據安全?！濒斁┹x說。
新京報貝殼財經記者 孫文軒
編輯 岳彩周
校對 柳寶慶
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
