首頁 > 災難性

災難性

  • 馬毅團隊新作！微調多模態大模型會災難性遺忘，讓性能大減

    編輯：桃子 好困【新智元導讀】馬毅教授團隊最新研究表明，微調多模態大語言模型（MLLM）將會導致災難性遺忘。模型災難性遺忘，成為當前一個關鍵熱門話題，甚至連GPT-4也無法避免。近日，來自UC伯克利、NYU等機構研究人員發現，微調后的多模態大模型，會產生災難性遺忘。論文地址：https://arxi

  • 《人類簡史》作者尤瓦爾·赫拉利警告：人工智能可能引發具有「災難性」后果的金融危機

    站長之家11 月 10 日消息: 歷史學家兼著名作者尤瓦爾·赫拉利近日向《衛報》表示，人工智能（AI）的復雜性使其潛在危險難以預測，并可能引發具有「災難性」后果的金融危機。圖源備注：圖片由AI生成，圖片授權服務商Midjourney赫拉利在談及 AI 模型安全測試時提出，預見一個強大系統可能造成的所

  • OpenAI組建新團隊防范AI的“災難性風險”

    每經 AI 快訊，OpenAI 當地時間 10 月 26 日在一篇博文中宣布其已經成立了一個名為 " 準備 "（Preparedness）的團隊，將分析并試圖防范人工智能系統潛在的 " 災難性風險 "，從網絡安全問題到化學、核和生物威脅。該團隊還將制定一項政策，旨在幫助公司確定如何降低開發 " 前沿

  • AI擔憂日益加劇？OpenAI擬建新團隊以防范“災難性風險”

    財聯社10月27日訊（編輯 黃君芝）隨著快速發展的人工智能技術越來越強大，OpenAI正在組建一個新的團隊，旨在最大限度地降低人工智能帶來的風險。在周四發布的一篇博客文章中，這家以廣受歡迎的聊天機器人ChatGPT而聞名的公司宣布，它已經組建了一個名為“準備”（Preparedness）的團隊，由A

  • OpenAI組建新團隊以評估人工智能的“災難性風險”；山東：夯實數字基礎底座加快建設多元協同的算力基礎設施

    財聯社|元宇宙NEWS 10月27日訊 今日新鮮事有：OpenAI組建新團隊以評估人工智能的“災難性風險”美國當地時間周四，OpenAI宣布組建新團隊，以評估和減輕與人工智能相關的“災難性風險”。OpenAI表示，這個新團隊名為Preparedness，其主要任務是“跟蹤、評估、預測和保護”人工智能

  • 谷歌大腦新研究：單一任務強化學習遇瓶頸？「災難性遺忘」的鍋！

    魚羊 發自 凹非寺量子位 報道 | 公眾號 QbitAI雅達利游戲，又被推上了強化學習基礎問題研究的舞臺。來自谷歌大腦的最新研究提出，強化學習雖好，效率卻很低下，這是為啥呢？——因為AI遭遇了「災難性遺忘」！所謂災難性遺忘，是機器學習中一種常見的現象。在深度神經網絡學習不同任務的時候，相關權重的快速

  • OpenAI組建團隊對抗人工智能的“災難性風險”

    參考消息網11月1日報道 據法國《回聲報》網站10月27日報道，人工智能對地球構成的風險是否與戰爭或大流行病一樣大？無論如何，這個行業的巨頭們都非常重視這一威脅。創造聊天生成預訓練轉換器（ChatGPT）的開放人工智能研究中心（OpenAI）剛剛組建一支全新團隊，旨在對抗“人工智能的災難性風險”。這