大模型的苦,創(chuàng)業(yè)的AI 科學(xué)家最懂2mm²芯片點(diǎn)亮盲人黑暗世界!馬斯克前搭檔出手,失明81%也能閱讀了蘋果智能上線!海外網(wǎng)友狂給差評:GPT套殼?!紫光國微發(fā)布Q3財(cái)報(bào) 前三季度實(shí)現(xiàn)營收42.63億元打造小微企業(yè)數(shù)智服務(wù)“新樣板”,暢捷通攜手伙伴共筑融合生態(tài)蘋果2024款Mac mini發(fā)布,4499元起光線傳媒:前三季度凈利潤4.61億元 同比增長25.08%2024年粵港澳大灣區(qū)人工智能產(chǎn)業(yè)大會 首日活動圓滿成功AMD Q3收入68.2億美元創(chuàng)下新高,預(yù)計(jì)Q4收入約75億美元《星鳴特攻》失利,索尼關(guān)閉 Firewalk Studios機(jī)械革命蛟龍16 Pro只要5037元 京東11.11購3C數(shù)碼又便宜又好綠盟科技發(fā)布三季度報(bào)告,收入略增,虧損收窄,經(jīng)營性凈現(xiàn)金流同比翻倍對話高通孟樸:自研Oryon CPU背后,是移動計(jì)算邊界的再定義金磚大賽之元宇宙3D數(shù)字內(nèi)容設(shè)計(jì)創(chuàng)作賽發(fā)布3D協(xié)同設(shè)計(jì)實(shí)訓(xùn)平臺,考察學(xué)生3D內(nèi)容在線編輯創(chuàng)作力福特汽車 2024 年第三季度營收 460 億美元2024年胡潤百富榜:張一鳴首次成為中國首富 雷軍排名上升15位消息稱臺積電擬收購更多群創(chuàng)工廠擴(kuò)產(chǎn)先進(jìn)封裝小米15手機(jī)亮銀版公布,今晚 7 點(diǎn)發(fā)布Omdia觀點(diǎn):目錄管理對于電信運(yùn)營商擴(kuò)大市場至關(guān)重要消息稱蘋果M5芯片預(yù)計(jì)明年年底推出,采用臺積電3nm制程
  • 首頁 > 企業(yè)IT頻道 > 數(shù)字化

    Check Point:企業(yè)運(yùn)營中應(yīng)用 AI 的風(fēng)險(xiǎn)與回報(bào)

    2024年08月07日 17:10:49   來源:Check Point

      自從2023年以來,人工智能(AI)技術(shù)不斷取得重大突破、使用場景也不斷豐富。企業(yè)和消費(fèi)者都希望利用人工智能 (AI) 的規(guī)模效益,AI 已幾乎廣泛應(yīng)用于各行各業(yè)。在企業(yè)日常運(yùn)營中,用戶已經(jīng)逐漸習(xí)慣通過AI輔助快速完成數(shù)據(jù)分析、文本轉(zhuǎn)錄、客戶支持等工作任務(wù)。在今年7月于上海舉辦的“2024世界人工智能大會暨人工智能全球治理高級別會議”上,相關(guān)部門發(fā)布了《中國AI大模型工業(yè)應(yīng)用指數(shù)(2024年)》。在這份報(bào)告中可以看出,AI以及大模型的行業(yè)應(yīng)用能力在包含電力、石化、鋼鐵、醫(yī)藥等重點(diǎn)行業(yè)中都有顯著提升。這也意味著在全球范圍內(nèi),AI已經(jīng)成為企業(yè)提升生產(chǎn)力的主要工具之一。

      根據(jù) F2 Strategy 的一項(xiàng)調(diào)查,超過一半的財(cái)富管理公司正在實(shí)施 AI 項(xiàng)目。他們感興趣的用例包括有關(guān)市場狀況和證券隨時(shí)間變化的預(yù)測性分析、用于分析文件的光學(xué)字符識別、工作流程自動化、聊天機(jī)器人等。AI 的潛力顯而易見——它可以將相應(yīng)的人工操作時(shí)間縮短最多 90%。與此同時(shí),超過 60% 的公司表示需要加大 AI 應(yīng)用安全的培訓(xùn)。由此可見,盡管其潛力毋庸置疑,但部署、應(yīng)用AI工具的風(fēng)險(xiǎn)已經(jīng)成為用戶關(guān)注的焦點(diǎn)。

      Check Point的安全專家認(rèn)為,企業(yè)用戶首先應(yīng)該明確認(rèn)知,不法分子也在積極使用 AI。它同樣為攻擊者帶來了好處,可幫助他們顯著擴(kuò)大攻擊活動的規(guī)模和威力。攻擊者甚至可以使 AI 模型本身中毒,致其泄露敏感信息或傳播惡意內(nèi)容。此外,未經(jīng)充分培訓(xùn)的員工可能會在向 AI 工具輸入信息時(shí)無意中暴露敏感信息,而 AI 工具隨后會將這些信息應(yīng)用到其機(jī)器學(xué)習(xí)活動中,這就使得企業(yè)潛在受攻擊維度不斷增多。因此,安全控制必須融入整個(gè) AI 生命周期,包括員工培訓(xùn)。在使用任何 AI 工具之前,用戶必須了解可能輸入的所有數(shù)據(jù)的密級、用于訓(xùn)練 AI 工具的數(shù)據(jù)來源,以及為保護(hù)敏感信息而實(shí)行的安全協(xié)議的具體內(nèi)容。務(wù)必從一開始就將安全控制融入 AI 部署中。開放式 AI 系統(tǒng)帶來了更大的風(fēng)險(xiǎn),因?yàn)樗鼈儗婇_放,這雖然便于它們從大型數(shù)據(jù)集中學(xué)習(xí),但也會被攻擊者操縱。封閉式系統(tǒng)更安全,但需要更多的人工管理和模型訓(xùn)練。企業(yè)應(yīng)該為員工提供深度培訓(xùn),讓他們了解工具及其工作原理,以及如何安全地使用工具,并強(qiáng)調(diào)哪些數(shù)據(jù)可使用,哪些數(shù)據(jù)絕不能暴露在大型語言模型 (LLM) 中,例如支持生成式 AI 應(yīng)用的模型。

      在實(shí)施 AI 解決方案時(shí),必須確定工具的工作范圍,并確保它只能訪問其訓(xùn)練所必需的數(shù)據(jù)。全面了解信息隱私、模型數(shù)據(jù)來源以及內(nèi)置的原生安全機(jī)制。許多 AI 工具都內(nèi)置防御機(jī)制,以防止濫用——舉例來說,ChatGPT 的規(guī)則旨在防止人們用其圖謀不軌,比如構(gòu)建惡意軟件。然而,這些規(guī)則顯然也可通過精心編制的可掩蓋用戶真實(shí)意圖的提示詞繞過。  這是一種專門針對 AI 系統(tǒng)的提示注入攻擊。用戶必須采取強(qiáng)有力的控制措施,防患于未然。從廣義上講,這些控制措施屬于零信任網(wǎng)絡(luò)安全防護(hù)策略的范疇。

      AI 工具,特別支持生成式 AI 的 LLM,不應(yīng)被視為典型的軟件工具。它們更像是工具和用戶的混合體。零信任程序根據(jù)個(gè)人的工作職能、范圍和需求來限制對資源的訪問,并通過限制橫向移動的范圍,限制攻擊者通過攻擊單個(gè)員工而造成的破壞。企業(yè)添加任何軟件工具都會擴(kuò)大攻擊面,為攻擊者提供更多入口點(diǎn)。一款工具,比如 AI 工具,如果可以無限制地訪問個(gè)人身份信息、公司機(jī)密、專有工具、戰(zhàn)略預(yù)測、競爭分析等,一旦遭到入侵,可能會帶來災(zāi)難性后果。因此,在有關(guān) AI 工具實(shí)施的戰(zhàn)略討論中,必須將對此類入侵的防范放在首位。否則,一旦網(wǎng)絡(luò)安全事件發(fā)生,一切為時(shí)已晚。

      作為網(wǎng)絡(luò)安全行業(yè)長期領(lǐng)導(dǎo)者,Check Point公司近幾年一直關(guān)注AI技術(shù)為用戶帶來的風(fēng)險(xiǎn)挑戰(zhàn),并在今年年初發(fā)布Infinity AI Copilot,通過生成式 AI 服務(wù),利用自動化將安全管理速度加快最多 90%,并通過更快的事件緩解和響應(yīng)提高安全性。在今年4月,Check Point公司宣布其Infinity AI Copilot 與微軟展開合作,通過與 Microsoft Azure OpenAI 服務(wù)集成進(jìn)一步增強(qiáng) Check Point Infinity AI Copilot效能。增強(qiáng)后的解決方案現(xiàn)在能利用微軟提供的高級大型語言模型 (LLM) ,更有力、更高效地幫助用戶應(yīng)對各種網(wǎng)絡(luò)安全挑戰(zhàn)。

      Check Point公司中國區(qū)技術(shù)總監(jiān)王躍霖認(rèn)為:“雖然大多數(shù) AI 工具都內(nèi)置安全防護(hù),但企業(yè)必須注意根據(jù)自身的具體需求部署更符合自身特點(diǎn)的安全解決方案。網(wǎng)絡(luò)安全風(fēng)險(xiǎn)可謂是當(dāng)今各企業(yè)所面臨的主要威脅之一,因此企業(yè)有必要采取主動的安全防護(hù)以確保業(yè)務(wù)正常運(yùn)營。AI技術(shù)的不斷落地不僅能夠幫助企業(yè)提升核心競爭力,同時(shí)也會帶來全新的安全威脅。模型的規(guī)模和其所攝入的數(shù)據(jù)以指數(shù)方式擴(kuò)大了攻擊面,一次泄露事件就足以使公司從 AI 所獲得的所有收益化為零。因此,零信任模式下的網(wǎng)絡(luò)安全分析和控制、更有針對性的安全解決方案對于企業(yè)充分釋放 AI 工具的潛力必不可少。”

      文章內(nèi)容僅供閱讀,不構(gòu)成投資建議,請謹(jǐn)慎對待。投資者據(jù)此操作,風(fēng)險(xiǎn)自擔(dān)。

    即時(shí)

    新聞

    敢闖技術(shù)無人區(qū) TCL實(shí)業(yè)斬獲多項(xiàng)AWE 2024艾普蘭獎

    近日,中國家電及消費(fèi)電子博覽會(AWE 2024)隆重開幕。全球領(lǐng)先的智能終端企業(yè)TCL實(shí)業(yè)攜多款創(chuàng)新技術(shù)和新品亮相,以敢為精神勇闖技術(shù)無人區(qū),斬獲四項(xiàng)AWE 2024艾普蘭大獎。

    企業(yè)IT

    重慶創(chuàng)新公積金應(yīng)用,“區(qū)塊鏈+政務(wù)服務(wù)”顯成效

    “以前都要去窗口辦,一套流程下來都要半個(gè)月了,現(xiàn)在方便多了!”打開“重慶公積金”微信小程序,按照提示流程提交相關(guān)材料,僅幾秒鐘,重慶市民曾某的賬戶就打進(jìn)了21600元。

    3C消費(fèi)

    “純臻4K 視界煥新”——愛普生4K 3LCD 激光工程投影

    2024年3月12日,由愛普生舉辦的主題為“純臻4K 視界煥新”新品發(fā)布會在上海盛大舉行。

    研究

    2024全球開發(fā)者先鋒大會即將開幕

    由世界人工智能大會組委會、上海市經(jīng)信委、徐匯區(qū)政府、臨港新片區(qū)管委會共同指導(dǎo),由上海市人工智能行業(yè)協(xié)會聯(lián)合上海人工智能實(shí)驗(yàn)室、上海臨港經(jīng)濟(jì)發(fā)展(集團(tuán))有限公司、開放原子開源基金會主辦的“2024全球開發(fā)者先鋒大會”,將于2024年3月23日至24日舉辦。