新火種
2023-11-15 
面對生成式人工智能帶來的多重挑戰，這場講壇探尋破局之法
11月8日上午，上海市互聯網業聯合會2023年度第四期“前沿講壇”在上海對外經貿大學舉行。大成（上海）律師事務所合伙人趙云虎律師作了“人工智能對法律的挑戰及構建可信的人工智能”主題演講，并宣布大成（上海）律師事務所將為中小企業在人工智能運用中遇到的法律問題提供免費資詢服務。
本次講壇聚焦人工智能廣泛應用帶來的新的法律、倫理、道德及社會治理問題，探討構建可信的人工智能的可能性。趙云虎律師還通過多起國內外典型案件，解析AI生成作品版權、開源軟件相關的司法實踐。
AI造假、算法歧視？新智能面臨新挑戰
“一個購物推薦的AI可能會根據用戶的個人信息偏好，對同樣的商品或服務向不同的用戶定價或給予不同的優惠。”趙云虎律師指出，AI模型的訓練依賴于大量的數據，而這些數據可能存在包含偏見、不公平或歧視的內容。如果訓練數據中存在對某些群體的偏見或不平等對待，AI模型在生成內容時也可能體現這些偏見。如果訓練數據不足或不具有代表性，模型也可能無法準確地理解和反映各個群體的多樣性和差異性，從而導致生成內容存在歧視性。AI模型缺乏人類的監督和糾正機制，就無法主動識別和糾正內容中的偏見和歧視，進一步加劇了算法歧視問題。
同時，根據對AIGC質量評估的最新研究，以生成式大模型為代表的生成式人工智能可能會被利用生成含有新犯罪內容的技術工具、被利用獲取犯罪方法以及自主實施違法行為的風險。
在用戶惡意誘導下，生成式大模型可能會被利用編寫功能即時生成詐騙軟件，生成發布有關如何制作或銷售槍支彈藥毒品等各類違禁管制物品的違法犯罪信息。投射在商業領域，可能會因信息誤導引發股票市場動蕩，或因信息不實影響商家和產品信譽嚴重擾亂市場秩序，涉嫌構成損害商業信譽、商品聲譽罪。
生成式大模型還可能會制造和宣傳虛假信息。
在社會層面上，生成式大模型還可能會制造和宣傳虛假信息，引起網絡謠言的傳播，構成對公民個人信息權、隱私權、名譽權的侵犯，情節嚴重的可能會涉嫌構成誣告陷害罪、侵犯公民個人信息罪等。
趙云虎指出，生成式人工智能既存在數據源上的“虛假”，也存在內容生成過程中的“虛假”，“生成式人工智能技術根據其基本原理,實際上很大程度上是一個算法黑箱，人們能夠看到的是輸入和輸出兩端，但中間的工作原理和機制并不清楚，它的結果是靠算力‘燒’出來的，并沒有經驗性的總結”。
如何構建可信賴的人工智能
我國頒布的《生成式人工智能服務管理暫行辦法》在算法、內容、應用、數據安全等方面對生成式人工智能進行了全面的規制。在趙云虎看來，依據此文件，數據提供者、算法/模型開發者以及服務提供者可以采取多種方式共同構建可信賴的人工智能。
對于數據提供者而言，趙云虎建議，要規范數據采集活動，明確合同責任約定。比如，在爬取公開的、非保密的數據時，不應爬取非公開的后臺數據；如果目標網站有反爬取協議，應嚴格遵守網站設置的 Robots協議；應避免使用破解密碼、偽造IP、偽造UA等技術手段以規避或破解網站采取的保護數據的技術措施。
趙云虎律師通過多起國內外典型案件，解析AI生成作品版權、開源軟件相關的司法實踐。
對于履行備案義務的算法/模型開發者而言，趙云虎認為，應遵守備案規定，按要求履行備案手續，并在需要時進行變更或注銷備案手續。在AI研發的過程中，開發者應當采取措施以確保在整個流程中能夠對AIGC的使用情況進行可控、可見、可審計和可追溯的管理（即透明性），制定詳細的標注指南，加強對標注人員的培訓，對標注情況進行質量控制。在與數據使用方之間建立合同或數據使用協議時，明確約定雙方的權利和責任。包括數據的使用范圍、數據保護措施、違約責任等內容。
作為服務提供者，趙云虎從算法、內容、數據、用戶的合規管理上給出了具體建議。例如，要確保生成內容積極向上、宣揚社會正能量，符合道德、法律和倫理的要求；建立強化的虛假信息識別機制，通過算法和技術手段，盡量避免生成虛假信息的內容。通過過濾和驗證機制，提高生成內容的真實性和可信度。在生成的內容中，恰當地標注其來源和生成方式，使用戶能夠辨識出其為生成式人工智能創作的內容，“這都有助于用戶理解和判斷內容的可信度和真實性。”
此外，趙云虎提醒，企業如果打算在內部使用生成式人工智能工具，建議開展使用培訓，并在員工手冊或其他內部制度中規定禁止輸入保密信息或未公開的內容。同時應當避免直接依賴生成式人工智能的輸出結果采取行動，而應在采取行動之前對其輸出結果進行人工審查。
作者：車佳楠
編輯：孫欣祺責任編輯：施薇
來源：上觀新聞
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
