作者:JFrog大中華區(qū)總經理 董任遠
JFrog中國技術總監(jiān) 王青
眼下,人工智能(AI)和機器學習(ML)等賽道被熱議,已經成為了習慣。事實上,在DevOps領域,與之相關的話題更是備受矚目。隨著科技不斷演進,這三個領域的融合對于企業(yè)的數(shù)字化轉型和多層次的創(chuàng)新發(fā)揮著越來越重要的作用;谶@一龐大的市場規(guī)模的增長源于基于云的技術和自動化工具的廣泛應用,JFrog便立志要推進DevOps在具體業(yè)務中的實踐。本文將探討,在未來短期之內,由于AI和ML等技術的采用,企業(yè)會更加靈活地構建、部署和管理應用,從而提高整體業(yè)務敏捷性的趨勢。
AI和ML的崛起為DevOps注入了全新的活力。通過AI和ML的引入,企業(yè)能夠更加智能地進行運維和決策,從而優(yōu)化工作流程、降低錯誤率,并實現(xiàn)更高效的自動化。這一趨勢在全球初創(chuàng)企業(yè)和大型企業(yè)中都得到了廣泛的應用,推動了整個DevOps生態(tài)系統(tǒng)的蓬勃發(fā)展。在全球范圍內,初創(chuàng)企業(yè)積極采用這些先進技術和工具,以提高其競爭力并快速適應市場變化。大型企業(yè)則逐漸意識到,特別在數(shù)字時代,采用云原生、AI和ML等技術不僅是一種趨勢,更是提升企業(yè)創(chuàng)新力和業(yè)務效率的關鍵所在。因此,它們紛紛投身于這些技術,通過數(shù)字化轉型賦能業(yè)務。
1. AI和ML對于DevOps的影響
首先,隨著運維機器,包括版本發(fā)布頻率的不斷增加,未來如果有成熟的產品,通過AI工具實現(xiàn)自動化將成為可能。特別是在測試領域,AI測試的自動化實現(xiàn)將會得到強化,其學習能力的提升將顯著幫助開發(fā)者。因此,AI對于Ops團隊和開發(fā)者的支持將實現(xiàn)顯著提升。
其次,模型的安全性也將成為一個重要關注點。Hugging Face是一個在互聯(lián)網上管理大型模型的平臺,國內的模型企業(yè)通常在這個平臺上搜尋最熱門的大型模型,例如來自Facebook的模型,并將其下載到本地。然而,其中存在一個潛在的問題就是惡意上傳模型的風險。惡意上傳者可能在模型中嵌入一些惡意代碼,在本地執(zhí)行模型時就會觸發(fā)這些惡意代碼。這種攻擊方式包括但不限于在機器上植入礦機、竊取密碼等多種攻擊方式。目前,尚無工具能夠完全阻止利用模型進行此類投毒攻擊。
對此,JFrog可提供一些支持,但模型攻擊的方式繁多,對策仍需進一步的研究和發(fā)展。另外,還有一種潛在的威脅是利用大型模型如ChatGPT,通過訓練使其生成惡意代碼。黑客可以通過故意訓練GPT以產生惡意回答,當其他人查詢時,就會得到這些惡意的回復。這種潛在的威脅也需要引起足夠的重視。
2. 良好的基礎設施是AI/ML 計劃實現(xiàn)長期成功的關鍵
高度可擴展、有彈性、分布式、安全和高性能的基礎設施可以決定一個組織的AI/ML 戰(zhàn)略的成敗。JFrog有客戶從事超級計算,并提供機器學習服務,但與此同時,JFrog并未自己使用這些服務,而是將其提供給客戶使用?蛻舻膽脠鼍巴ǔI婕霸贘Frog的超級計算平臺上進行訂單操作。若構建一個模型集群,以進行大規(guī)模的模型計算。為此,需要在平臺上投入資金,首先購買所需的計算機資源,其次購買模型,還需要相關的監(jiān)控服務。用戶在完成支付后確認訂單,此后所有操作都依賴于JFrog系統(tǒng)平臺的分布式、可用性、安全性和高性能的基礎設施即可實現(xiàn)。
由于模型文件非常龐大,甚至單個文件就可能達到100GB,而用戶可能分布在全球各地。假設模型文件存儲在用戶位于北京的總部,但用戶需要在西安的分公司進行訓練,這就要求將整套與模型相關的文件立即傳輸?shù)轿靼。因此,解決如何快速而又確保成功地將100GB的文件傳送到西安,成為了當務之急。眾所周知,這些文件傳輸可能經過公共網絡,因此可能引發(fā)許多性能問題。這些模型的學習運算操作都依賴于底層基礎設施,為實現(xiàn)本地建設和部署則需要大量的資源,而JFrog會將這些因素都納入考慮。
3. AIOps和MLOps的應用情況及優(yōu)勢
互聯(lián)網企業(yè)因需要管理大量的機器,對于AIOps的需求非常高。AI能夠智能地預測流量的變化,識別高峰和低谷,并智能地分配資源,這是互聯(lián)網領域非;竞椭匾男枨。比如在金融領域,對于AI運維平臺的使用并不是那么頻繁,盡管對于一些錯誤日志分析有需求,需要在出現(xiàn)故障時利用AI工具快速定位并解決問題,但金融行業(yè)對于超前采用AI管控運維的意識并不是很強烈。
MLOps通常是由大型互聯(lián)網企業(yè)所推動,在這個環(huán)節(jié)中,JFrog也能夠提供支持。因此,一些大型企業(yè)在這方面的落地較為順暢,他們將模型開發(fā)的能力賦予了DevOps工具平臺上,使得這個過程更為奏效。
4. AI/ML應用過程中需關注的安全問題
JFrog關注到,北美用戶對安全問題的投入已經達到了一個非常高的水平,軟件工程師及企業(yè)的首席信息官普遍具備安全意識,他們會主動采用安全措施。早前,就有名為軟件供應鏈安全SBOM被制定和發(fā)布,目的是定義軟件供應商提供的軟件包含哪些成分,每個成分的開源組件使用什么樣的許可證,存在什么樣的漏洞,這些都是必需的信息。在國內,企業(yè)并沒有這樣的要求,相關的標準也沒有完全形成,中國信息通信研究院正在致力于這項工作。未來,伴隨相關標準和法規(guī)的出臺,這將引導企業(yè)采用開源治理來保障其軟件的安全。在這種情況下,每個企業(yè)都將不得不在DevOps流程中加入軟件包的安全考慮,這就是一個明顯的趨勢。
JFrog Xray專注于漏洞掃描,只需將軟件包上傳到制品庫,就能自動生成SBOM軟件物料清單。相信在2024年,它將變得非常流行,并成為每個企業(yè)都必備的工具。
對于AI工具如何賦能研發(fā)團隊,部分企業(yè)已經開始利用一些高端芯片進行機器學習,為開發(fā)者提供代碼補全的能力。當然,這是為了幫助開發(fā)者更快、更好地編寫代碼。與眾不同的是,JFrog更加注重支持模型供應鏈。企業(yè)要訓練模型,首先需要從互聯(lián)網獲取模型,然后管理和訓練這個模型。在模型中,需要編寫自己的代碼,重新訓練模型,最終發(fā)布自己的模型。因此,JFrog在模型開發(fā)方面提供了對整個端到端生命周期的支持,包括模型內的漏洞掃描和license儲備器,以確保為企業(yè)提供全方位的保障。
2024年,AI和ML將繼續(xù)深刻地塑造DevOps領域,通過自動化執(zhí)行和智能決策提高整個開發(fā)和運維過程的效率,從而減輕開發(fā)團隊的負擔,為團隊提供更高效、智能和創(chuàng)新的開發(fā)和運維解決方案。隨著技術的不斷進步,這些趨勢有望進一步推動DevOps實踐的發(fā)展,使其更適應快速變化的業(yè)務需求。
###
關于JFrog
JFrog Ltd.(納斯達克股票代碼:FROG)的使命是創(chuàng)造一個從開發(fā)人員到設備之間暢通無阻的軟件交付世界。秉承“流式軟件”的理念,JFrog軟件供應鏈平臺是統(tǒng)一的記錄系統(tǒng),幫助企業(yè)快速安全地構建、管理和分發(fā)軟件,確保軟件可用、可追溯和防篡改。集成的安全功能還有助于發(fā)現(xiàn)和抵御威脅和漏洞并加以補救。JFrog的混合、通用、多云平臺可以作為跨多個主流云服務提供商的自托管和SaaS服務。全球數(shù)百萬用戶和7000多名客戶,包括大多數(shù)財富100強企業(yè),依靠JFrog解決方案安全地開展數(shù)字化轉型。一用便知!如欲了解更多信息,請訪問www.jfrogchina.com或者關注我們的微信官方賬號:JFrog捷蛙。
文章內容僅供閱讀,不構成投資建議,請謹慎對待。投資者據(jù)此操作,風險自擔。
近日,中國家電及消費電子博覽會(AWE 2024)隆重開幕。全球領先的智能終端企業(yè)TCL實業(yè)攜多款創(chuàng)新技術和新品亮相,以敢為精神勇闖技術無人區(qū),斬獲四項AWE 2024艾普蘭大獎。
“以前都要去窗口辦,一套流程下來都要半個月了,現(xiàn)在方便多了!”打開“重慶公積金”微信小程序,按照提示流程提交相關材料,僅幾秒鐘,重慶市民曾某的賬戶就打進了21600元。
由世界人工智能大會組委會、上海市經信委、徐匯區(qū)政府、臨港新片區(qū)管委會共同指導,由上海市人工智能行業(yè)協(xié)會聯(lián)合上海人工智能實驗室、上海臨港經濟發(fā)展(集團)有限公司、開放原子開源基金會主辦的“2024全球開發(fā)者先鋒大會”,將于2024年3月23日至24日舉辦。