谷歌上周發(fā)布了 Pixel 9 系列智能手機,其中包含一系列以人工智能為核心的新功能。所有 Pixel 9 手機均支持 Gemini 人工智能,谷歌還加入了基于人工智能的圖像生成和編輯工具。然而,評測人員測試了這些新功能后發(fā)現(xiàn),人工智能圖像生成很可能會成為谷歌的公關(guān)噩夢。
據(jù)了解,谷歌為 Pixel 手機推出了一個名為 Pixel Studio 的人工智能圖像生成應(yīng)用,其能夠通過文本提示創(chuàng)建貼紙和圖像,功能與蘋果計劃推出的 Image Playground 非常相似。目前,評測人員能夠使用 Pixel Studio 創(chuàng)建出各種令人不安的圖像,例如納粹版本的海綿寶寶和拿著 AK47 的艾摩。
來自 Digital Trends 的評測人員毫不費力地讓 Pixel Studio 制作了卡通人物從事可疑活動的圖像,槍支、毒品和酒精都能夠生成,甚至像校園槍擊這樣的冒犯性場景。Pixel Studio 不會主動生成此類圖像,而是需要用戶輸入相應(yīng)的描述。然而這正是人們最有可能做的事情,而不是生成可愛貓咪和小兔子的圖像。
谷歌表示他們已經(jīng)采取了“安全檢查措施”來防止 Pixel Studio 被“惡意使用”,并且確實起到了一定作用。例如,Pixel Studio 目前無法生成人物圖像,并且谷歌正在根據(jù)評測反饋調(diào)整人工智能模型。經(jīng)過與谷歌的溝通后,Digital Trends 也無法再用 Pixel Studio 生成吸食可卡因或穿著德國士兵服裝的卡通人物圖像。
比 Pixel Studio 更令人擔(dān)憂的是谷歌的“重構(gòu)”(Reimagine)工具,其可以向用戶已經(jīng)拍攝的照片中添加對象。來自 The Verge 的評測人員用它向圖像添加了尸體、炸彈、毒品和災(zāi)難場景,并且這些添加物看起來非常逼真,讓人難以分辨圖片是否經(jīng)過編輯。谷歌在匹配光線和透視方面做得非常出色,社交媒體上也看不到任何水印或標(biāo)記。雖然谷歌確實添加了元數(shù)據(jù)標(biāo)簽,但通過截圖很容易將其去除。
The Verge 指出,以前也可以向圖像添加尸體或創(chuàng)建持槍的艾摩圖片,但這需要一定的 Photoshop 技能和時間。使用 Pixel 手機,只需幾秒鐘的思考,任何人都可以創(chuàng)建這樣的圖像,這讓人擔(dān)憂。
在給 The Verge 和 Digital Trends 的聲明中,谷歌表示他們設(shè)計生成式人工智能工具時,是“為了尊重用戶提示的意圖”,這可能會導(dǎo)致用戶要求生成“令人反感”的內(nèi)容。但谷歌聲稱其“服務(wù)條款”中規(guī)定了不允許生成的內(nèi)容,并且他們將不斷完善相關(guān)保障措施。
文章內(nèi)容僅供閱讀,不構(gòu)成投資建議,請謹(jǐn)慎對待。投資者據(jù)此操作,風(fēng)險自擔(dān)。
近日,中國家電及消費電子博覽會(AWE 2024)隆重開幕。全球領(lǐng)先的智能終端企業(yè)TCL實業(yè)攜多款創(chuàng)新技術(shù)和新品亮相,以敢為精神勇闖技術(shù)無人區(qū),斬獲四項AWE 2024艾普蘭大獎。
“以前都要去窗口辦,一套流程下來都要半個月了,現(xiàn)在方便多了!”打開“重慶公積金”微信小程序,按照提示流程提交相關(guān)材料,僅幾秒鐘,重慶市民曾某的賬戶就打進了21600元。
由世界人工智能大會組委會、上海市經(jīng)信委、徐匯區(qū)政府、臨港新片區(qū)管委會共同指導(dǎo),由上海市人工智能行業(yè)協(xié)會聯(lián)合上海人工智能實驗室、上海臨港經(jīng)濟發(fā)展(集團)有限公司、開放原子開源基金會主辦的“2024全球開發(fā)者先鋒大會”,將于2024年3月23日至24日舉辦。