財聯社牛占林
2024-11-22 
科技先驅警告：AI系統可能“與人類作對”
11月21日訊（編輯 牛占林）圖靈獎得主、計算機科學家Yoshua Bengio最新警告稱，人工智能(AI)這項新興技術可能對人類社會產生負面影響，并呼吁進行更多研究以減輕其風險。
Bengio在深度學習方面獲得了多個國際獎項，為AI的發展奠定了基礎，但他現在對這項技術擔憂擔憂，并警告說，一些擁有“強大力量”的人甚至可能希望看到人類被機器取代。
他表示：“展望未來，機器在許多方面和我們人類一樣聰明，這對社會意味著什么？”他補充說，機器可能很快就會擁有人類的大部分認知能力，通用人工智能(AGI)正在變成觸手可及的未來。
“智慧賦予力量。那么誰來控制這種權力呢？擁有遠超人類的智能系統，如果落入壞人之手，可能會很危險，并在地緣政治層面上制造更多的不穩定，比如恐怖主義。”
Bengio認為，只有少數組織和政府能夠負擔得起建造強大的AI機器，而且往往系統越大，它們就越智能?！斑@些機器，你知道的，花費數十億美元來建造和訓練，很少有組織和國家能夠做到這一點，這已經是事實了?！?/p>
如果這樣的話，權力將會越來越集中，比如經濟權力、政治權力、軍事力量。Bengio指出，我們沒有辦法確保這些系統不會傷害人們或不會反對人們……我們不知道如何做到這一點。
而且這樣的前景離我們并不遙遠，Bengio認為，幾十年內就可能實現，因此，人類需要仔細研究許多針對性的問題，并盡快開始緩解可能的風險。
需要進行監管和立法
還有觀點認為，AI機器目前的訓練方式“將導致系統與人類對立”?！按送?，有些人可能想要濫用這種權力，有些人可能很高興看到人類被機器取代，除非我們現在設置正確的護欄?！?/p>
在今年6月份，Bengio聯合許多科學家發表了一封題為“對先進AI發出警告的權利”的公開信，他們呼吁科學家、政策制定者和公眾為減輕這些風險提供指導。
Bengio指出：“政府需要做的第一件事就是制定法規，迫使科技公司在建立這些前沿系統時進行注冊，政府應該知道他們的邊界在哪里，你知道的，這些系統的細節。”
由于AI發展如此之快，政府必須“發揮自己的創造力”，制定能夠適應技術變化的立法。Bengio表示：“為了享受人工智能帶來的好處，我們必須進行監管，我們必須安裝護欄，我們必須對技術的開發進行民主監督?！?/p>
至于AI系統最大的負面影響，Bengio認為短期內應該是虛假信息、錯誤信息、AI影響政治和認知的能力。“隨著我們的發展，將擁有能夠生成更逼真圖像、更逼真聲音和更逼真視頻的機器。”
最難的是，如果我們創造出比我們更聰明、有自己目標的實體，這對人類意味著什么？Bengio回答稱：“這些都是非常困難和重要的問題，目前還沒有答案。但我們需要更多的研究和預防措施來減輕潛在的風險?！?/p>
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
