新火種
2024-12-30 
AI可搜出陌生人微信號個人信息安全問題何解？
隨著人工智能的興起，各類AI產品搭載進入手機成為最新趨勢，使用AI產品解決生活中的一些問題也成為日常。然而，新風潮之下，AI也面臨著隱私風險等諸多問題。
近日，#網友稱被陌生人用AI搜出微信號#的話題引發關注。12月10日，有報道曝光了一位網友被陌生人用AI搜出微信號的經歷。這也引起大眾關于AI隱私相關話題的討論。
被陌生人用AI搜出微信號
據媒體報道，一名網友稱，陌生人在字節跳動旗下AI產品豆包中輸入她的名字和學校后，豆包顯示了她的微信賬號，并通過該微信號聯系到她本人。
根據該網友向媒體透露的信息，豆包AI一共列舉出兩條有關她參加活動的信息。其中一條信息是她為學院的教師比賽做攝影師；另一條信息是她在2023年為一個學生劇組招募現場演員（并留下了微信賬號），不過那條帶有她微信賬號的推文是用團隊成員的個人公眾號發布的，并且該文章當時在團隊成立后就刪除了，只發布了一周左右。
報道稱，當時，該網友通過朋友在豆包AI再次試驗，豆包AI同樣顯示了她的微信號。目前，在豆包軟件輸入該網友的學校名字，豆包會要求提供更多信息。搜附有該網友聯系方式的那個項目，它會回復‘沒有聽說過’。
據紅星資本局報道，以“學校+名字”的方式在豆包中隨機搜索到多條結果，其中部分結果顯示了被搜索人物的聯系電話和郵箱。
據媒體信息，豆包對于上述事件回復稱，網友反饋的情況，是豆包基于互聯網上公開信息進行搜索和智能整合，此類聯系方式通過搜索引擎也能夠搜到。目前，豆包已對詢問個人信息類提示詞進行優化，保證即使網上有公開信息的情況下，仍然限制相關信息的露出，做好個人隱私信息的保護。后續，豆包還會繼續優化產品策略，避免對用戶造成類似的誤解和困擾。
AI成個人信息放大鏡？
早在今年7月，豆包因為數據來源的問題引發過關注。當時有個別用戶及媒體猜測稱，豆包能問到自己尚未發布的AI內容，并使用WPS的云端內容訓練AI。
7月22日，針對私人文檔被“投喂”豆包的事情，豆包方面做出了否認。豆包發布了《關于豆包不實傳言的聲明》。聲明稱，近日關注到個別用戶及媒體猜測稱，豆包能問到自己尚未發布的AI內容，并使用WPS的云端內容訓練AI，該傳言完全不實。聲明表示，豆包上部分書目信息，來源于公開信息，豆包也會給出相關網站信息；豆包與WPS在AI訓練層面并未開展任何形式的合作，也沒有使用任何用戶未公開的私人數據進行訓練.
在此次搜索到個人微信的事件中，豆包也是強調其來源是”互聯網上公開信息進行搜索和智能整合“，那么AI是否會成為公開個人信息的放大鏡？
在北京市京師律師事務所律師盧鼎亮看來，人工智能設計的目的是根據訓練數據中的文本內容來提供知識和信息。如果個人微信號、郵箱等信息在公開的、允許被抓取的網頁文本等內容中出現，那么在訓練過程中可能會獲取這些信息。例如，在一些活動宣傳推文等公開信息中出現的聯系方式，是在正常的信息收集范圍內。
“從倫理角度看，抓取個人信息存在一定爭議”。盧鼎亮對媒體表示，如果這些信息是在公開場合且用戶明確知曉并同意被用于知識類工具的訓練等情況，相對來說比較合理。但如果是在用戶不知情的情況下，將其視為隱私的聯系方式等信息用于訓練，就可能侵犯用戶的隱私權，尤其是當這些信息涉及個人敏感信息的情況，可能違反數據保護的規定和倫理審查。
當相關個人信息被刪除后，豆包AI是否可以保留該信息？
盧鼎亮表示，在信息更新和刪除方面，人工智能的訓練數據更新有一定的滯后性。因為訓練數據是通過大規模的文本等內容積累而來，當原網頁等信息源刪除了某些內容后，人工智能可能還沒有及時更新這部分數據。“如果數據主體的信息被主動或被動刪除，人工智能也應該及時刪除，否則會影響數據主體對于信息的控制權。”
盧鼎亮認為，人工智能不應該隨意透露個人隱私信息。正常情況下，應該遵循嚴格的隱私保護原則。此次事件暴露了人工智能在信息篩選和隱私保護機制方面可能存在漏洞。
如何注意個人信息安全？
今年7月，新京報貝殼財經聯合北京智源研究院、中國經濟傳媒協會發布行業首份《中國AI大模型測評報告——公眾及傳媒行業大模型使用與滿足研究》。
在報告里，為了讓大模型更好服務于社會，摸底目前大模型表現以及對個人隱私和求職就業領域的挑戰等問題，新京報貝殼財經聯合智源研究院開展了用戶大模型使用與滿足問卷調查，統計回收387份有效問卷。報告數據顯示，僅約10%用戶表示對使用大模型沒有顧慮，而超5成對數據隱私、技術可靠性有關方面較為擔心，占比分別為55.04%、53.49%。
事實上，相關部門也早已洞悉AI可能帶來的個人信息安全問題。2023年7月發布的《生成式人工智能服務管理暫行辦法》總則中明確提到了尊重他人合法權益，不得危害他人身心健康，不得侵害他人肖像權、名譽權、榮譽權、隱私權和個人信息權益。
此外，在技術發展與治理中，提到生成式人工智能服務提供者（以下稱提供者）應當依法開展預訓練、優化訓練等訓練數據處理活動，涉及個人信息的，應當取得個人同意或者符合法律、行政法規規定的其他情形。
在服務規范中提到，指出提供者應當依法承擔網絡信息內容生產者責任，履行網絡信息安全義務。涉及個人信息的，依法承擔個人信息處理者責任，履行個人信息保護義務；提供者對使用者的輸入信息和使用記錄應當依法履行保護義務，不得收集非必要個人信息，不得非法留存能夠識別使用者身份的輸入信息和使用記錄，不得非法向他人提供使用者的輸入信息和使用記錄。
那么，大眾該如何注意個人信息的安全問題？盧鼎亮指出，網民在上網過程中要時刻意識到個人信息的重要性。對于在網上發布的內容，特別是涉及個人聯系方式等敏感信息，要謹慎考慮發布的必要性和范圍。例如，非必要情況下不要在一些不可信的平臺隨意留下自己的微信號、郵箱等。在使用各種社交平臺、軟件等時，要仔細了解和設置隱私選項。定期檢查自己在網絡上發布過的內容，對于不再需要的或者可能泄露隱私的內容及時刪除。
綜合自紅星新聞、北京商報等
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
