新越獄方法讓Stable和DALL·E2忽略安全規(guī)則,生成暴力等不良圖片
Stable Diffusion 是 Stability AI 公司的一款文生圖大模型,DALL·E 2 則是 OpenAI 公司的一款文生圖大模型。近日,一組研究人員讓這兩款大模型能夠做到無視已被設(shè)定好的安全規(guī)則,創(chuàng)建出包含裸體、肢解尸體、暴力、性場景的圖像。
Stable Diffusion 是 Stability AI 公司的一款文生圖大模型,DALL·E 2 則是 OpenAI 公司的一款文生圖大模型。近日,一組研究人員讓這兩款大模型能夠做到無視已被設(shè)定好的安全規(guī)則,創(chuàng)建出包含裸體、肢解尸體、暴力、性場景的圖像。
微軟的一名AI工程師表示,該公司的AI圖像工具生成的暴力和性圖像可能會對社會造成危害。在周三寫給美國聯(lián)邦貿(mào)易委員會(FTC)和微軟董事會的信中,首席軟件工程經(jīng)理Shane Jones談到了他對微軟“負(fù)責(zé)任AI策略”的擔(dān)憂。
利用蘋果自研機(jī)器人每回收1噸廢棄iPhone的材料可以阻止2000噸采礦。有分析稱,自動化和基于人工智能的視覺系統(tǒng)相結(jié)合,機(jī)器人技術(shù)將在電子產(chǎn)品回收進(jìn)程中發(fā)揮越來越重要的作用。蘋果稱,不排除未來推出機(jī)器人商業(yè)化產(chǎn)品。
【焦點(diǎn)復(fù)盤】市場日內(nèi)陷分化調(diào)整,光伏概念現(xiàn)久違暴力拉升,化工板塊重獲資金熱捧