一、背景
蛇年伊始,DeepSeek憑借其卓越表現(xiàn)火爆出圈,讓AI大模型瞬間成為街頭巷尾熱議的焦點(diǎn),也讓大眾重新燃起對(duì)AGI(通用人工智能)“平民化”的信心,DeepSeek通過先進(jìn)的模型架構(gòu),帶來的高效率與低成本優(yōu)勢(shì),加快了應(yīng)用場(chǎng)景的百花齊放。
嘉為藍(lán)鯨早在23年初就接入GPT等大模型在運(yùn)維領(lǐng)域中孵化應(yīng)用場(chǎng)景,而到本次DeepSeek評(píng)測(cè)和應(yīng)用,又增加了更多實(shí)踐。那怎么用好DeepSeek服務(wù)于運(yùn)維,我們?cè)谠O(shè)計(jì)上始終秉持智能化運(yùn)維進(jìn)程里面的兩個(gè)設(shè)計(jì)原則:平臺(tái)化和場(chǎng)景化。
平臺(tái)化:不只是提供工具,而是賦能工具的構(gòu)建能力,無論從數(shù)據(jù)開發(fā)過程、機(jī)器學(xué)習(xí)模型開發(fā)過程,還是大模型智能體開發(fā)過程,提供的是兼容各類場(chǎng)景的開發(fā)平臺(tái);
場(chǎng)景化:數(shù)據(jù)、AI不能脫離運(yùn)維場(chǎng)景進(jìn)行,如果沒有實(shí)用化、工程化的落地,那么數(shù)據(jù)AI的應(yīng)用也只是圖個(gè)新鮮,因而所有的能力都會(huì)以能力調(diào)用的方式集成到產(chǎn)品中。
二、LLMOps平臺(tái)+DeepSeek優(yōu)勢(shì)
嘉為藍(lán)鯨運(yùn)維大模型開發(fā)平臺(tái)(簡(jiǎn)稱LLMOps平臺(tái))致力于為運(yùn)維全生命周期提供卓越的運(yùn)維工具支持,為業(yè)務(wù)通用AI場(chǎng)景提供工具支持,為滿足不同業(yè)務(wù)場(chǎng)景需求提供自定義開發(fā)擴(kuò)展能力。
1、LLMOps平臺(tái)作為運(yùn)維大模型開發(fā)平臺(tái),分為兩個(gè)模塊
(1)大模型服務(wù)模塊
提供跨公私域多種大語言模型接入(內(nèi)置60多種常見模型適配器,也包含DeepSeek各類尺寸的接入),為上層工具和應(yīng)用提供統(tǒng)一的使用和運(yùn)維接口,并提供權(quán)限、審計(jì)、監(jiān)控、配額限流等管理能力,LLM 資源管理則提供了 AI 場(chǎng)景建設(shè)過程中用到的各種資源、工具的支持。包括知識(shí)庫管理、工具管理、智能 Agent 管理、Prompt 管理等。
(2)大模型開發(fā)模塊
提供了LLM Agent Framework ,這是一個(gè) LLM 智能 Agent 應(yīng)用開發(fā)框架,提供單 Agent 智能代理與基于 Graph 編排的多 Agent 智能代碼構(gòu)建支持,使用 Graph 組合 Agent,Chain,Retriever 等各類子組件,編排業(yè)務(wù)流程,解決復(fù)雜多變的業(yè)務(wù)問題,同時(shí)最大程度保留可復(fù)用性。
作為整個(gè)嘉為藍(lán)鯨一體化運(yùn)維體系的一部分,與一體化運(yùn)維系統(tǒng)之間通過功能調(diào)用,以及數(shù)據(jù)和知識(shí)接入,形成有機(jī)互動(dòng),實(shí)現(xiàn)更為豐富的場(chǎng)景化應(yīng)用。
2、在運(yùn)維領(lǐng)域應(yīng)用,我們?cè)u(píng)測(cè)了各個(gè)國內(nèi)外大模型的適用場(chǎng)景和落地效果,DeepSeek相比其他大模型,的確讓人眼前一亮
(1)算力效率革新
DeepSeek通過多模態(tài)深度Transformer架構(gòu),以及動(dòng)態(tài)稀疏激活機(jī)制,實(shí)現(xiàn)了萬億參數(shù)級(jí)的高效推理,能對(duì)文字、代碼、數(shù)學(xué)符號(hào)等不同類型文本進(jìn)行統(tǒng)一理解與生成。在運(yùn)維領(lǐng)域,解決了不突破企業(yè)數(shù)據(jù)安全限制的要求下,實(shí)現(xiàn)低成本的高質(zhì)量大模型的部署和應(yīng)用。
(2)深度洞察
DeepSeek的對(duì)齊強(qiáng)化學(xué)習(xí)框架則刺透人類意圖的次元壁。通過海量高質(zhì)量數(shù)據(jù)鍛造的語義理解鋒刃,在對(duì)話場(chǎng)景中實(shí)現(xiàn)94.3%的意圖識(shí)別準(zhǔn)確率,非常適合作為運(yùn)維領(lǐng)域全能助手,識(shí)別用戶的意圖,然后調(diào)用私域知識(shí)或運(yùn)維工具獲取信息,精準(zhǔn)解答用戶問題。
(3)持續(xù)進(jìn)化基因
DeepSeek通過持續(xù)預(yù)訓(xùn)練框架使模型具備“細(xì)胞級(jí)”迭代能力,加上低訓(xùn)練成本優(yōu)勢(shì),可以在智能運(yùn)維場(chǎng)景落地過程中,持續(xù)消費(fèi)企業(yè)積累的知識(shí),進(jìn)行模型的訓(xùn)練微調(diào),不斷進(jìn)化生長(zhǎng),成為企業(yè)“量身定制”的智能運(yùn)維專家。
3、LLMOps關(guān)鍵產(chǎn)品功能示意
(1)多模型接入
支持60+模型接入框架,包括私有化部署和托管接入方式,同時(shí)通過LLM Gateway屏蔽不同LLM模型之間的差異,為上層應(yīng)用提供業(yè)界標(biāo)準(zhǔn)的OpenAI 協(xié)議API 接口,并提供權(quán)限、審計(jì)、監(jiān)控、配額限流等管理能力。
(2)私域知識(shí)接入
進(jìn)行RAG預(yù)處理,并支持文件上傳、手工錄入、網(wǎng)頁知識(shí)三種形式;可在聊天過程中可指定回復(fù)引用知識(shí)庫。
(3)支持工具開發(fā)
創(chuàng)建/編輯工具,填寫工具的基本信息,調(diào)用接口和請(qǐng)求參數(shù);可在會(huì)話和智能體開發(fā)中調(diào)用。
(4)提示詞與角色定義
創(chuàng)建prompts并支持在線調(diào)試,基于prompts設(shè)定角色,并選擇不同大模型進(jìn)行聯(lián)調(diào),支持接口及開發(fā)框架調(diào)用。
(5)智能體開發(fā)框架
提供智能體開發(fā)框架,包括單Agent智能代理與基于編排的多Agent智能代碼構(gòu)建支持。
6、LLMOps+DeepSeek問答
三、DeepSeek在智能運(yùn)維場(chǎng)景應(yīng)用
嘉為藍(lán)鯨探索大模型,包括DeepSeek在智能運(yùn)維場(chǎng)景的應(yīng)用,仍然從一體化運(yùn)維的業(yè)務(wù)視角出發(fā),不是從單點(diǎn)場(chǎng)景視角提升,而是業(yè)務(wù)閉環(huán)視角整體提升。
企業(yè)IT運(yùn)維一體化場(chǎng)景涵蓋了多個(gè)運(yùn)維活動(dòng),日常維護(hù)、變更發(fā)布、故障應(yīng)急、服務(wù)響應(yīng)、優(yōu)化提升、安全管控等均需要跨多個(gè)運(yùn)維領(lǐng)域完成,場(chǎng)景驅(qū)動(dòng)了各個(gè)業(yè)務(wù)域之間的業(yè)務(wù)集成和技術(shù)集成設(shè)計(jì)。
以典型的事件生命周期管理為例,基于大模型重構(gòu)提升場(chǎng)景如下:
四、應(yīng)用場(chǎng)景清單
五、應(yīng)用場(chǎng)景詳細(xì)描述
1、產(chǎn)品使用助手
(1)內(nèi)容描述
IT運(yùn)維團(tuán)隊(duì)逐漸向SRE、平臺(tái)工程轉(zhuǎn)型,過程中依賴各種運(yùn)維工具體系建設(shè)和推廣。每次運(yùn)維新產(chǎn)品發(fā)布或者產(chǎn)品功能更新,都需要花費(fèi)大量時(shí)間組織用戶培訓(xùn)和使用答疑,費(fèi)時(shí)費(fèi)力。借助大模型如DeepSeek強(qiáng)大的推理能力,結(jié)合產(chǎn)品使用手冊(cè),可以低成本實(shí)現(xiàn)面向用戶的產(chǎn)品使用助手,主要包含如下功能:
1)知識(shí)管理能力
支持手動(dòng)上傳各類格式的文檔知識(shí),如md、doc、pdf、excel、ppt等;支持和企業(yè)內(nèi)已有的知識(shí)庫對(duì)接,并能同步更新。
2)知識(shí)檢索能力
支持通過向量相似度或關(guān)鍵詞等多種方式進(jìn)行知識(shí)檢索和知識(shí)召回,如基于標(biāo)題或特定字段的向量召回或全文檢索匹配召回,再根據(jù)多路召回的知識(shí)進(jìn)行去重和排序,選擇最相關(guān)的知識(shí)片段,輸入給大模型進(jìn)行上下文學(xué)習(xí)和總結(jié),旨在優(yōu)化信息檢索的覆蓋率和精確度。
3)大模型提煉總結(jié)
遵循最佳提示詞框架,與大模型進(jìn)行交互,把提示詞模板和檢索到的知識(shí)片段按照特定格式發(fā)送給大模型進(jìn)行總結(jié),利用大模型強(qiáng)大的推理能力,返回符合用戶意圖的問題回復(fù)。
4)IM工具集成
支持和企業(yè)內(nèi)已有的IM工具進(jìn)行集成,如企業(yè)微信、釘釘、飛書等,進(jìn)一步提升產(chǎn)品使用助手的用戶覆蓋,降低用戶使用工具的門檻。
(2)價(jià)值收益
1)新產(chǎn)品或新功能推廣效率提升顯著;
2)功能使用類ITSM工單降低50%以上。
(3)技術(shù)實(shí)現(xiàn)
基礎(chǔ)大模型/提示詞工程/知識(shí)庫/RAG。
2、IT觀測(cè)助手
(1)內(nèi)容描述
IT監(jiān)控工具是IT運(yùn)維的第一個(gè)建設(shè)工具,作為運(yùn)維人員的“眼睛”,IT監(jiān)控在“數(shù)字化”、“云原生”、“信創(chuàng)”的大趨勢(shì)下正在向“可觀測(cè)”領(lǐng)域持續(xù)演進(jìn)發(fā)展,而當(dāng)大模型來臨之際,可觀測(cè)也需要具備各種人工智能能力,主動(dòng)性地提升IT人員在故障發(fā)現(xiàn)、故障定位、故障處置上的效率和質(zhì)量,從而更好地保障業(yè)務(wù)正常運(yùn)轉(zhuǎn)。
借助大模型的能力,可結(jié)合Chatops建設(shè)IT觀測(cè)助手實(shí)現(xiàn)以下功能:
1)觀測(cè)智能問答
借助大模型語文識(shí)別,提供私域和公域知識(shí)的智能問答。
2)告警關(guān)聯(lián)數(shù)據(jù)提取
當(dāng)發(fā)生告警時(shí),觀測(cè)助手可主動(dòng)提供此對(duì)象以及與此對(duì)象相關(guān)的其他對(duì)象的指標(biāo)/日志/Trace/拓?fù)涞刃畔?,供IT運(yùn)維人員進(jìn)行故障診斷定位。
3)推理式告警根因分析
觀測(cè)助手可基于應(yīng)用橫縱向拓?fù)湫畔⑻峁└蚍治鐾扑]能力。
4)告警處置引導(dǎo)及操作執(zhí)行
觀測(cè)助手可基于根因分析和故障決策樹的定位能力,以及應(yīng)急處置能力提供引導(dǎo)式故障處置執(zhí)行。
5)告警處置過程內(nèi)容總結(jié)
針對(duì)告警的定位、協(xié)同過程、定位和處置、業(yè)務(wù)驗(yàn)證結(jié)果形成告警處理事件總結(jié)。
6)告警處置方案自動(dòng)回寫知識(shí)庫并更新
針對(duì)告警的發(fā)現(xiàn)、定位和處置結(jié)果自動(dòng)回寫到歷史事件知識(shí)庫中,以供下一次的故障處置提供參考。
7)監(jiān)控告警插件編寫
基于公域知識(shí)提供各種組件的監(jiān)控指標(biāo)定義和插件編碼,自動(dòng)生成相應(yīng)監(jiān)控告警插件。
8)監(jiān)控、告警策略編寫
基于公域知識(shí)提供和自動(dòng)生成各類組件的告警閾值策略
(2)價(jià)值收益
1)持續(xù)增強(qiáng)第二代監(jiān)控——可觀測(cè)的自動(dòng)化監(jiān)控告警的推廣和覆蓋的運(yùn)營能力;
2)提升從告警發(fā)現(xiàn)、故障定位、故障處置的效率;
3)將紛繁復(fù)雜、持續(xù)迭代的運(yùn)維經(jīng)驗(yàn)和能力沉淀到工具和平臺(tái)上,以“智能”替換“專家”,形成IT運(yùn)維的核心能力建設(shè)。
(3)技術(shù)實(shí)現(xiàn)
1)結(jié)合Chatops技術(shù)提供人機(jī)交互;
2)基于CMDB與APM的橫縱向拓?fù)錁?gòu)建的知識(shí)圖譜算法提供故障定位能力;
3)基于LLM的語義識(shí)別/Functioncall/知識(shí)庫提供高效的引導(dǎo)式故障處置能力;
4)整合CMDB、ITSM、自動(dòng)化、可觀測(cè)、數(shù)據(jù)與AI/LLM提升IT故障發(fā)現(xiàn)、協(xié)同、定位、處置等業(yè)務(wù)連續(xù)性閉環(huán)管理能力。
3、IT服務(wù)臺(tái)智能助手
(1)內(nèi)容描述
隨著企業(yè)信息系統(tǒng)的增多,IT服務(wù)請(qǐng)求數(shù)量同步增多,單靠增加人力的方式來保持服務(wù)臺(tái)的正常運(yùn)營變得非常困難,從而引發(fā)客戶滿意度降低、運(yùn)營成本居高不下等問題,因此如何提升IT服務(wù)臺(tái)運(yùn)營效率成為亟待解決的問題。
結(jié)合對(duì)服務(wù)臺(tái)工作場(chǎng)景的分析,借助基于大模型的IT服務(wù)臺(tái)智能助手,可以大幅提升服務(wù)臺(tái)運(yùn)營效率:
1)智能問答:提供更準(zhǔn)確的咨詢問題答復(fù),減少到服務(wù)臺(tái)坐席的咨詢請(qǐng)求量;
2)智能提單:引導(dǎo)用戶自助提單,以減少服務(wù)臺(tái)代提單工作量;
3)智能派單:結(jié)合一、二線處理人員的工作負(fù)載,智能派單至負(fù)載最低的處理人員,減少坐席人工識(shí)別和派單工作量;
4)智能推薦:在接收到服務(wù)請(qǐng)求的同時(shí),智能助手根據(jù)對(duì)工單內(nèi)容的理解,更準(zhǔn)確地推薦知識(shí)庫中沉淀的解決方案,從而提高請(qǐng)求的處理效率。
(2)價(jià)值收益
1)提高服務(wù)臺(tái)運(yùn)營效率;
2)提升客戶/用戶滿意度。
(3)技術(shù)實(shí)現(xiàn)
1)基于即時(shí)通訊、大模型、RAG、知識(shí)庫實(shí)現(xiàn)智能問答;
2)基于LLM的語義識(shí)別/Functioncall實(shí)現(xiàn)智能提單;
3)結(jié)合運(yùn)維人員工作任務(wù)數(shù)據(jù)、相似任務(wù)用時(shí)等進(jìn)行工作負(fù)載判斷;
4)基于大模型、RAG、知識(shí)庫實(shí)現(xiàn)智能問答。
4、IT知識(shí)庫智能助手
(1)內(nèi)容描述
經(jīng)驗(yàn)總結(jié)與知識(shí)沉淀非常重要,常被稱為企業(yè)運(yùn)營的“第二大腦”。但知識(shí)管理的建設(shè)一直是一個(gè)讓管理者頭疼的問題,無法投入專職的知識(shí)運(yùn)營人員,運(yùn)維人員忙于事務(wù)也很難兼顧知識(shí)的沉淀。沒有知識(shí)的知識(shí)庫,其功能再豐富也沒意義。如今借助基于大模型的智能知識(shí)助手,讓低成本的知識(shí)運(yùn)營變得可能:
1)智能總結(jié)知識(shí)
結(jié)合工單的詳情與處理過程、溝通評(píng)論、即時(shí)聊天記錄等日常解決用戶問題的過程數(shù)據(jù),借助大模型的分析總結(jié)能力,即時(shí)或定期進(jìn)行自動(dòng)化的知識(shí)總結(jié)并錄入知識(shí)庫;
2)智能檢索知識(shí)
提供更準(zhǔn)確、更易維護(hù)的知識(shí)檢索模式。相比傳統(tǒng)知識(shí)檢索,基于大模型的智能檢索方式可以自動(dòng)學(xué)習(xí)知識(shí)庫內(nèi)容,無需手動(dòng)標(biāo)注規(guī)則。新知識(shí)入庫后,模型通過向量化實(shí)時(shí)納入檢索范圍,同時(shí)結(jié)合用戶反饋(如點(diǎn)擊率、采納率)自動(dòng)優(yōu)化檢索排序(如將高頻采納的解決方案置頂)。
(2)價(jià)值收益
1)提升知識(shí)沉淀效率和質(zhì)量;
2)降低知識(shí)運(yùn)營的人力成本;
3)提高知識(shí)消費(fèi)的便捷性。
(3)技術(shù)實(shí)現(xiàn)
通過API及對(duì)應(yīng)IM工具的SDK獲取過程記錄,結(jié)合大模型提示詞進(jìn)行知識(shí)總結(jié)。
5、CMDB智能助手
(1)內(nèi)容描述
CMDB作為運(yùn)維管理的“基石”,其數(shù)據(jù)的質(zhì)量非常重要。借助CMDB智能助手,可以讓配置數(shù)據(jù)的接入和消費(fèi)環(huán)節(jié)更便捷與高效,以助力CMDB的數(shù)據(jù)治理與運(yùn)營。
1)智能采集開發(fā):在已有的配置采集插件協(xié)議的約束下,通過自然語言提高采集插件的開發(fā)效率,包括插件代碼生成、插件代碼檢查等;
2)智能配置查詢:以提示詞方式便捷對(duì)配置數(shù)據(jù)進(jìn)行消費(fèi),包括影響分析、路徑查詢、關(guān)聯(lián)查詢等;
3)智能拓?fù)渖桑阂蕴崾驹~方式便捷生成配置拓?fù)鋱D;
4)智能運(yùn)營報(bào)告:以提示詞方式便捷生成運(yùn)營報(bào)告,減少手工統(tǒng)計(jì)與排版工作。
(2)價(jià)值收益
1)降低配置自動(dòng)采集門檻,提高自動(dòng)化采集率;
2)提高配置數(shù)據(jù)的消費(fèi)便捷性;
3)降低配置管理的運(yùn)營成本。
(3)技術(shù)實(shí)現(xiàn)
開發(fā)協(xié)議、查詢協(xié)議、低代碼協(xié)議與大模型結(jié)合,實(shí)現(xiàn)自然語言與技術(shù)協(xié)議的轉(zhuǎn)換。
6、IT工單智能助手
(1) 內(nèi)容描述
工單作為工作協(xié)同的信息載體,是團(tuán)隊(duì)在日常工作中頻繁操作的對(duì)象。如果給工單加上“大腦”,對(duì)團(tuán)隊(duì)協(xié)同的效率將會(huì)大幅提升。IT工單智能助手,可以讓運(yùn)維工單更智能,運(yùn)維工作更省心。
1)借助大模型泛化能力,自動(dòng)生成與業(yè)務(wù)相關(guān)的關(guān)鍵字和正則表達(dá)式,替代人工質(zhì)檢實(shí)現(xiàn)全自動(dòng)化工單轉(zhuǎn)入轉(zhuǎn)出質(zhì)檢;
2)利用大模型去提取關(guān)鍵參數(shù)并進(jìn)行參數(shù)標(biāo)注化轉(zhuǎn)義,并將查證后的內(nèi)容自動(dòng)回復(fù),實(shí)現(xiàn)工單智能化查證回復(fù);
3)構(gòu)建投訴報(bào)告生成智能體,基于手機(jī)號(hào)查詢多平臺(tái)多類型投訴信息,1秒自動(dòng)生成投訴報(bào)告,極大提升報(bào)告編寫效率。
(2)價(jià)值收益
1)工單流轉(zhuǎn)問題的損耗降低;
2)工單平均處理的時(shí)長(zhǎng)減少;
3)運(yùn)維工作協(xié)同的效率提升。
(3)技術(shù)實(shí)現(xiàn)
結(jié)合大模型/Functioncall、知識(shí)庫實(shí)現(xiàn)與第三方質(zhì)檢接口集成。
7、應(yīng)急智能助手
(1)內(nèi)容描述
應(yīng)急預(yù)案是IT應(yīng)急管理中最核心的資產(chǎn),如何創(chuàng)建全面且指導(dǎo)性的應(yīng)急預(yù)案是應(yīng)急管理中最核心的工作,應(yīng)急智能助手能基于文字描述識(shí)別用戶意圖,結(jié)合歷史應(yīng)急預(yù)案和應(yīng)用架構(gòu)手冊(cè),輔助生成應(yīng)急預(yù)案。
面對(duì)應(yīng)急故障事件,可以按照企業(yè)IT應(yīng)急報(bào)告內(nèi)容和格式要求,基于應(yīng)急事件全生命周期記錄,輔助生成應(yīng)急故障報(bào)告。
同時(shí)應(yīng)急智能助手,能支持對(duì)話窗智能化查詢應(yīng)急預(yù)案/場(chǎng)景,應(yīng)急事件總結(jié)/演練計(jì)劃,通過對(duì)話發(fā)起應(yīng)急演練,啟動(dòng)應(yīng)急事件,全面提升應(yīng)急交互模式。
(2)價(jià)值收益
1)提升預(yù)案準(zhǔn)確性和有效性;
2)提升報(bào)告生成效率;
3)極大提升IT應(yīng)急效率。
(3)技術(shù)實(shí)現(xiàn)
1)將應(yīng)急預(yù)案庫和應(yīng)用架構(gòu)向量化存放在知識(shí)庫,利用RAG和大模型提示詞能力生成應(yīng)急預(yù)案;
2)利用Functioncall構(gòu)建應(yīng)急報(bào)告數(shù)據(jù)查詢工具Tools,在調(diào)用大模型提示詞對(duì)應(yīng)急數(shù)據(jù)進(jìn)行潤色生成符合格式的應(yīng)急故障報(bào)告;
3)通過意圖識(shí)別實(shí)現(xiàn)智能路由,支持多場(chǎng)景的應(yīng)急需求。
8、變更發(fā)布智能助手
(1)內(nèi)容描述
當(dāng)應(yīng)用系統(tǒng)變更異常時(shí),能夠結(jié)合業(yè)務(wù)系統(tǒng)變更歷史信息和完整的應(yīng)用拓?fù)湫畔?,快速給出變更異常影響面分析;并結(jié)合運(yùn)維大模型領(lǐng)域知識(shí),對(duì)異常報(bào)錯(cuò)進(jìn)行分析,輔助變更人員快速定位根因。
通過對(duì)話框構(gòu)建變更智能問答助手,運(yùn)維人員可以通過自然語言查詢所有變更記錄,同時(shí)能輔助生成變更周報(bào)/月報(bào)。
(2)價(jià)值收益
1)快速識(shí)別變更影響面,提升變更異常分析效率,降低變更影響;
2)提升變更周報(bào)月報(bào)的質(zhì)量和生成效率。
(3)技術(shù)實(shí)現(xiàn)
1)將大模型和小模型技術(shù)結(jié)合,實(shí)現(xiàn)對(duì)變更異常的多維度分析,實(shí)現(xiàn)變更異??焖俣ㄎ?
2)構(gòu)建多個(gè)變更智能工具Tools:變更記錄查詢/報(bào)告生成/通識(shí)變更問答,通過意圖識(shí)別模塊導(dǎo)航到對(duì)應(yīng)的智能工具。
9、應(yīng)用巡檢智能助手
(1)內(nèi)容描述
面對(duì)多種巡檢類型,需要支持命令行、API、界面內(nèi)容等多種數(shù)據(jù)源,利用應(yīng)用巡檢智能助手進(jìn)行統(tǒng)一分析和巡檢判斷,生成統(tǒng)一的巡檢報(bào)告,解決單一對(duì)象人工巡檢問題。
巡檢結(jié)果智能分析,巡檢過程中出現(xiàn)的重點(diǎn)指標(biāo)、可疑進(jìn)程、意外事件,通過應(yīng)用巡檢智能助手,從橫向縱向等多維度對(duì)進(jìn)行結(jié)果進(jìn)行深度分析,并支持多范圍多對(duì)象多領(lǐng)域的統(tǒng)計(jì)展示。
(2)價(jià)值收益
1)支持異構(gòu)應(yīng)用的統(tǒng)一巡檢,將運(yùn)維人員從高頻人工巡檢中釋放,提升巡檢的效率和準(zhǔn)確性;
2)支持自然語言發(fā)起巡檢查詢結(jié)果,提升應(yīng)用巡檢體驗(yàn)。
(3)技術(shù)實(shí)現(xiàn)
1)利用大模型多模態(tài)能力實(shí)現(xiàn)界面內(nèi)容自動(dòng)巡檢,結(jié)合自動(dòng)化工具,實(shí)現(xiàn)傳統(tǒng)界面內(nèi)容的自動(dòng)化巡檢;
2)結(jié)合大模型運(yùn)維通識(shí)問答和RAG知識(shí)庫能力,實(shí)現(xiàn)對(duì)巡檢指標(biāo)外的異常結(jié)果分析和建議。
10、智能編碼助手
(1)內(nèi)容描述
在代碼輔助編寫場(chǎng)景,我們通過 BKGPT 插件對(duì)接大模型和IDE,讓開發(fā)者可以在編程工具里閉環(huán)信息檢索的過程,大大提升了開發(fā)問題查詢效率。其次,我們提供了 BKCodeAI 插件,可以實(shí)現(xiàn)根據(jù)注釋中的需求描述,進(jìn)行代碼生成和補(bǔ)全,當(dāng)前已經(jīng)支持函數(shù)級(jí)代碼生成。
另一方面,在 git push 時(shí),會(huì)自動(dòng)觸發(fā) AI CodeReview 任務(wù),CR 任務(wù)將異步執(zhí)行,不會(huì)阻塞 push 操作,CR 任務(wù)執(zhí)行完成后會(huì)在 IDE 彈窗提醒 CR 詳情鏈接。
(2)價(jià)值收益
1)與編程IDE結(jié)合,提升腳本編寫、工具開發(fā)效率;
2)輔助開發(fā)主管進(jìn)行代碼審查或者自動(dòng)進(jìn)行腳本出錯(cuò)分析,提升代碼質(zhì)量。
(3)技術(shù)實(shí)現(xiàn)
基礎(chǔ)大模型/文本生成/知識(shí)庫/RAG/IDE插件。
11、可觀測(cè)助手為例
(1)告警關(guān)聯(lián)知識(shí)推薦
小鯨可基于知識(shí)庫,可以根據(jù)告警事件內(nèi)容結(jié)合知識(shí)庫找出相關(guān)聯(lián)的知識(shí),并給予解決方案的推薦。
內(nèi)置運(yùn)維知識(shí)庫,無需整理也能直接使用;可批量導(dǎo)入知識(shí)庫文件,基于用戶歷史經(jīng)驗(yàn)提供更豐富的解決方案;告警產(chǎn)生后根據(jù)算法訓(xùn)練的結(jié)果,匹配知識(shí)庫里的解決方案。知識(shí)推薦效果如下圖:
(2)知識(shí)庫智能問答
運(yùn)維人員通常通過經(jīng)驗(yàn)或查找資料來處理告警事件,效率低下且耗時(shí)??梢詫栴}拋給小鯨,基于LLMOps直接提供解決方案推薦、正則匹配規(guī)則編寫等針對(duì)性回答。
通過全局劃詞問答或者右下角的機(jī)器人圖標(biāo)入口,均可向“小鯨”詢問,無需切換工具。無論是技術(shù)解釋、命令用法,還是故障排查,小鯨都能即時(shí)提供專業(yè)解答,大幅提升工作效率。實(shí)現(xiàn)效果如下圖:
(3)告警處置引導(dǎo)
結(jié)合預(yù)測(cè)性對(duì)話流與大模型,小鯨觀測(cè)助手能夠?qū)崿F(xiàn)對(duì)話智能引導(dǎo),引導(dǎo)用戶完成智能提單引導(dǎo)、智能故障處置引導(dǎo)等場(chǎng)景:根據(jù)故障排查的場(chǎng)景,預(yù)設(shè)引導(dǎo)性場(chǎng)景,智能機(jī)器人識(shí)別關(guān)鍵字以后進(jìn)入引導(dǎo)場(chǎng)景,確保問題能夠迅速被識(shí)別和解決。
實(shí)現(xiàn)效果如下圖:
六、前景展望
DeepSeek這一波平民化,除了帶來推理能力和性能瓶頸突破外,最核心的是可以進(jìn)入“千家萬戶”,使得各行業(yè)和領(lǐng)域使用前沿模型變得更為簡(jiǎn)單。大模型在運(yùn)維領(lǐng)域的應(yīng)用前景,我們認(rèn)為這是一個(gè)改變運(yùn)維人員和運(yùn)維對(duì)象交互、實(shí)現(xiàn)AI大規(guī)模落地普及的時(shí)刻,未來發(fā)展,我們有如下思考和展望:
1、基于一體化運(yùn)維業(yè)務(wù)的運(yùn)維智能體會(huì)爆發(fā)式增長(zhǎng)
基于低成本高效率的大模型,可以把各個(gè)人機(jī)交互的運(yùn)維場(chǎng)景再做一次,再做一次是基于多智能體編排的模式,生成更多整合應(yīng)用,且與一體化運(yùn)維是完整聯(lián)動(dòng)的,不只是單個(gè)場(chǎng)景的提升;
2、基于機(jī)器學(xué)習(xí)算法+大模型的融合場(chǎng)景更優(yōu)
機(jī)器學(xué)習(xí)算法對(duì)于數(shù)據(jù)處理有天然優(yōu)勢(shì),大模型對(duì)于語義識(shí)別和邏輯推理有天然優(yōu)勢(shì),兩者相結(jié)合,可以在故障分析診斷層面、智能工單的相似度分析和智能回復(fù)層面等有更好地融合場(chǎng)景落地;
3、大模型應(yīng)用開發(fā)平臺(tái)共建生態(tài)會(huì)成為主流
不只是基于原生大模型的問答應(yīng)用,而是知識(shí)庫、工具、編排、智能體、統(tǒng)一網(wǎng)關(guān)的整體建設(shè),構(gòu)建可持續(xù)建設(shè)的體系,會(huì)成為生態(tài)模式,客戶及合作伙伴都可以有更大的想象空間;
4、自適應(yīng)學(xué)習(xí)與知識(shí)演化
系統(tǒng)能夠根據(jù)環(huán)境的變化和數(shù)據(jù)反饋,自動(dòng)調(diào)整自身的行為、策略或參數(shù),以及隨著實(shí)踐、技術(shù)發(fā)展和經(jīng)驗(yàn)積累而不斷更新、優(yōu)化或重組知識(shí),運(yùn)維智能體能夠更靈活、高效地應(yīng)對(duì)復(fù)雜的運(yùn)維需求,在大部分相對(duì)標(biāo)準(zhǔn)的運(yùn)維場(chǎng)景中,實(shí)現(xiàn)智能決策執(zhí)行。
免責(zé)聲明:以上內(nèi)容為本網(wǎng)站轉(zhuǎn)自其它媒體,相關(guān)信息僅為傳遞更多信息之目的,不代表本網(wǎng)觀點(diǎn),亦不代表本網(wǎng)站贊同其觀點(diǎn)或證實(shí)其內(nèi)容的真實(shí)性。如稿件版權(quán)單位或個(gè)人不想在本網(wǎng)發(fā)布,可與本網(wǎng)聯(lián)系,本網(wǎng)視情況可立即將其撤除。