大模型的苦,創(chuàng)業(yè)的AI 科學(xué)家最懂2mm²芯片點亮盲人黑暗世界!馬斯克前搭檔出手,失明81%也能閱讀了蘋果智能上線!海外網(wǎng)友狂給差評:GPT套殼?!紫光國微發(fā)布Q3財報 前三季度實現(xiàn)營收42.63億元打造小微企業(yè)數(shù)智服務(wù)“新樣板”,暢捷通攜手伙伴共筑融合生態(tài)蘋果2024款Mac mini發(fā)布,4499元起光線傳媒:前三季度凈利潤4.61億元 同比增長25.08%2024年粵港澳大灣區(qū)人工智能產(chǎn)業(yè)大會 首日活動圓滿成功AMD Q3收入68.2億美元創(chuàng)下新高,預(yù)計Q4收入約75億美元《星鳴特攻》失利,索尼關(guān)閉 Firewalk Studios機械革命蛟龍16 Pro只要5037元 京東11.11購3C數(shù)碼又便宜又好綠盟科技發(fā)布三季度報告,收入略增,虧損收窄,經(jīng)營性凈現(xiàn)金流同比翻倍對話高通孟樸:自研Oryon CPU背后,是移動計算邊界的再定義金磚大賽之元宇宙3D數(shù)字內(nèi)容設(shè)計創(chuàng)作賽發(fā)布3D協(xié)同設(shè)計實訓(xùn)平臺,考察學(xué)生3D內(nèi)容在線編輯創(chuàng)作力福特汽車 2024 年第三季度營收 460 億美元2024年胡潤百富榜:張一鳴首次成為中國首富 雷軍排名上升15位消息稱臺積電擬收購更多群創(chuàng)工廠擴產(chǎn)先進封裝小米15手機亮銀版公布,今晚 7 點發(fā)布Omdia觀點:目錄管理對于電信運營商擴大市場至關(guān)重要消息稱蘋果M5芯片預(yù)計明年年底推出,采用臺積電3nm制程
  • 首頁 > 產(chǎn)經(jīng)新聞頻道 > 科技資訊

    成功率達 53%,研究顯示 GPT-4 可自主利用“零日”漏洞攻破網(wǎng)站

    2024年06月09日 22:06:49   來源:IT之家

      據(jù) NewAtlas 報道,研究人員利用自主協(xié)作的 GPT-4 機器人小組成功入侵了一半以上的測試網(wǎng)站,這些機器人可以自主協(xié)調(diào)行動并根據(jù)需要生成新的“幫手”。更令人吃驚的是,他們利用的是以前未知的、現(xiàn)實世界中從未公開的“零日”漏洞(zero-day vulnerabilities)。

      早在幾個月前,同一批研究人員就發(fā)表了一篇論文,聲稱他們能夠使用 GPT-4 自動利用“N day”漏洞,即業(yè)界已知但尚未修復(fù)的漏洞。實驗中,GPT-4 僅憑已知的常見漏洞和披露列表 (CVE),就能自主利用其中 87% 的嚴重級別漏洞。

      本周,這支研究團隊發(fā)布了后續(xù)論文,稱他們已經(jīng)攻克了“零日”漏洞,也就是那些尚未被發(fā)現(xiàn)的漏洞。他們使用了一種名為 “任務(wù)特定智能體分層規(guī)劃”(HPTSA) 的方法,讓一群自主傳播的大型語言模型 (LLM) 協(xié)同作戰(zhàn)。

      IT之家注意到,與以往由單個 LLM 嘗試解決所有復(fù)雜任務(wù)不同,HPTSA 方法采用了“規(guī)劃智能體” 負責(zé)整個過程的監(jiān)督,并派生多個用于特定任務(wù)的“子智能體”。就像老板和下屬一樣,規(guī)劃智能體負責(zé)協(xié)調(diào)管理,將任務(wù)分配給各個“專家子智能體”,這種分工方式減輕了單個智能體在難以攻克的任務(wù)上的負擔(dān)。

      在針對 15 個真實網(wǎng)絡(luò)漏洞的測試中,HPTSA 在利用漏洞方面比單個 LLM 的效率高出 550%,并且成功利用了其中的 8 個零日漏洞,成功率達 53%,而單打獨斗的 LLM 只利用了 3 個漏洞。

      研究人員之一、白皮書作者丹尼爾・康 (Daniel Kang) 特別指出,人們擔(dān)心這些模型會被惡意用于攻擊網(wǎng)站和網(wǎng)絡(luò),這的確是合理擔(dān)憂。但他同時強調(diào),聊天機器人模式下的 GPT-4“不足以理解 LLM 的能力”,本身無法進行任何攻擊。

      當 NewAtlas 的編輯詢問 ChatGPT 它是否能利用零日漏洞時,它回答說:“不,我不能利用零日漏洞。我的目的是在道德和法律框架內(nèi)提供信息和幫助。”并建議其咨詢網(wǎng)絡(luò)安全專業(yè)人士。

      文章內(nèi)容僅供閱讀,不構(gòu)成投資建議,請謹慎對待。投資者據(jù)此操作,風(fēng)險自擔(dān)。

    即時

    新聞

    敢闖技術(shù)無人區(qū) TCL實業(yè)斬獲多項AWE 2024艾普蘭獎

    近日,中國家電及消費電子博覽會(AWE 2024)隆重開幕。全球領(lǐng)先的智能終端企業(yè)TCL實業(yè)攜多款創(chuàng)新技術(shù)和新品亮相,以敢為精神勇闖技術(shù)無人區(qū),斬獲四項AWE 2024艾普蘭大獎。

    企業(yè)IT

    重慶創(chuàng)新公積金應(yīng)用,“區(qū)塊鏈+政務(wù)服務(wù)”顯成效

    “以前都要去窗口辦,一套流程下來都要半個月了,現(xiàn)在方便多了!”打開“重慶公積金”微信小程序,按照提示流程提交相關(guān)材料,僅幾秒鐘,重慶市民曾某的賬戶就打進了21600元。

    3C消費

    “純臻4K 視界煥新”——愛普生4K 3LCD 激光工程投影

    2024年3月12日,由愛普生舉辦的主題為“純臻4K 視界煥新”新品發(fā)布會在上海盛大舉行。

    研究

    2024全球開發(fā)者先鋒大會即將開幕

    由世界人工智能大會組委會、上海市經(jīng)信委、徐匯區(qū)政府、臨港新片區(qū)管委會共同指導(dǎo),由上海市人工智能行業(yè)協(xié)會聯(lián)合上海人工智能實驗室、上海臨港經(jīng)濟發(fā)展(集團)有限公司、開放原子開源基金會主辦的“2024全球開發(fā)者先鋒大會”,將于2024年3月23日至24日舉辦。