一、背景

　　蛇年伊始，DeepSeek憑借其卓越表現(xiàn)火爆出圈，讓AI大模型瞬間成為街頭巷尾熱議的焦點(diǎn)，也讓大眾重新燃起對(duì)AGI(通用人工智能)“平民化”的信心，DeepSeek通過(guò)先進(jìn)的模型架構(gòu)，帶來(lái)的高效率與低成本優(yōu)勢(shì)，加快了應(yīng)用場(chǎng)景的百花齊放。

　　嘉為藍(lán)鯨早在23年初就接入GPT等大模型在運(yùn)維領(lǐng)域中孵化應(yīng)用場(chǎng)景，而到本次DeepSeek評(píng)測(cè)和應(yīng)用，又增加了更多實(shí)踐。那怎么用好DeepSeek服務(wù)于運(yùn)維，我們?cè)谠O(shè)計(jì)上始終秉持智能化運(yùn)維進(jìn)程里面的兩個(gè)設(shè)計(jì)原則：平臺(tái)化和場(chǎng)景化。

　　平臺(tái)化：不只是提供工具，而是賦能工具的構(gòu)建能力，無(wú)論從數(shù)據(jù)開(kāi)發(fā)過(guò)程、機(jī)器學(xué)習(xí)模型開(kāi)發(fā)過(guò)程，還是大模型智能體開(kāi)發(fā)過(guò)程，提供的是兼容各類場(chǎng)景的開(kāi)發(fā)平臺(tái);

　　場(chǎng)景化：數(shù)據(jù)、AI不能脫離運(yùn)維場(chǎng)景進(jìn)行，如果沒(méi)有實(shí)用化、工程化的落地，那么數(shù)據(jù)AI的應(yīng)用也只是圖個(gè)新鮮，因而所有的能力都會(huì)以能力調(diào)用的方式集成到產(chǎn)品中。

　　二、LLMOps平臺(tái)+DeepSeek優(yōu)勢(shì)

　　嘉為藍(lán)鯨運(yùn)維大模型開(kāi)發(fā)平臺(tái)(簡(jiǎn)稱LLMOps平臺(tái))致力于為運(yùn)維全生命周期提供卓越的運(yùn)維工具支持，為業(yè)務(wù)通用AI場(chǎng)景提供工具支持，為滿足不同業(yè)務(wù)場(chǎng)景需求提供自定義開(kāi)發(fā)擴(kuò)展能力。

　　1、LLMOps平臺(tái)作為運(yùn)維大模型開(kāi)發(fā)平臺(tái)，分為兩個(gè)模塊

　　(1)大模型服務(wù)模塊

　　提供跨公私域多種大語(yǔ)言模型接入(內(nèi)置60多種常見(jiàn)模型適配器，也包含DeepSeek各類尺寸的接入)，為上層工具和應(yīng)用提供統(tǒng)一的使用和運(yùn)維接口，并提供權(quán)限、審計(jì)、監(jiān)控、配額限流等管理能力，LLM 資源管理則提供了 AI 場(chǎng)景建設(shè)過(guò)程中用到的各種資源、工具的支持。包括知識(shí)庫(kù)管理、工具管理、智能 Agent 管理、Prompt 管理等。

　　(2)大模型開(kāi)發(fā)模塊

　　提供了LLM Agent Framework ，這是一個(gè) LLM 智能 Agent 應(yīng)用開(kāi)發(fā)框架，提供單 Agent 智能代理與基于 Graph 編排的多 Agent 智能代碼構(gòu)建支持，使用 Graph 組合 Agent，Chain，Retriever 等各類子組件，編排業(yè)務(wù)流程，解決復(fù)雜多變的業(yè)務(wù)問(wèn)題，同時(shí)最大程度保留可復(fù)用性。

　　作為整個(gè)嘉為藍(lán)鯨一體化運(yùn)維體系的一部分，與一體化運(yùn)維系統(tǒng)之間通過(guò)功能調(diào)用，以及數(shù)據(jù)和知識(shí)接入，形成有機(jī)互動(dòng)，實(shí)現(xiàn)更為豐富的場(chǎng)景化應(yīng)用。

　　2、在運(yùn)維領(lǐng)域應(yīng)用，我們?cè)u(píng)測(cè)了各個(gè)國(guó)內(nèi)外大模型的適用場(chǎng)景和落地效果，DeepSeek相比其他大模型，的確讓人眼前一亮

　　(1)算力效率革新

　　DeepSeek通過(guò)多模態(tài)深度Transformer架構(gòu)，以及動(dòng)態(tài)稀疏激活機(jī)制，實(shí)現(xiàn)了萬(wàn)億參數(shù)級(jí)的高效推理，能對(duì)文字、代碼、數(shù)學(xué)符號(hào)等不同類型文本進(jìn)行統(tǒng)一理解與生成。在運(yùn)維領(lǐng)域，解決了不突破企業(yè)數(shù)據(jù)安全限制的要求下，實(shí)現(xiàn)低成本的高質(zhì)量大模型的部署和應(yīng)用。

　　(2)深度洞察

　　DeepSeek的對(duì)齊強(qiáng)化學(xué)習(xí)框架則刺透人類意圖的次元壁。通過(guò)海量高質(zhì)量數(shù)據(jù)鍛造的語(yǔ)義理解鋒刃，在對(duì)話場(chǎng)景中實(shí)現(xiàn)94.3%的意圖識(shí)別準(zhǔn)確率，非常適合作為運(yùn)維領(lǐng)域全能助手，識(shí)別用戶的意圖，然后調(diào)用私域知識(shí)或運(yùn)維工具獲取信息，精準(zhǔn)解答用戶問(wèn)題。

　　(3)持續(xù)進(jìn)化基因

　　DeepSeek通過(guò)持續(xù)預(yù)訓(xùn)練框架使模型具備“細(xì)胞級(jí)”迭代能力，加上低訓(xùn)練成本優(yōu)勢(shì)，可以在智能運(yùn)維場(chǎng)景落地過(guò)程中，持續(xù)消費(fèi)企業(yè)積累的知識(shí)，進(jìn)行模型的訓(xùn)練微調(diào)，不斷進(jìn)化生長(zhǎng)，成為企業(yè)“量身定制”的智能運(yùn)維專家。

　　3、LLMOps關(guān)鍵產(chǎn)品功能示意

　　(1)多模型接入

　　支持60+模型接入框架，包括私有化部署和托管接入方式，同時(shí)通過(guò)LLM Gateway屏蔽不同LLM模型之間的差異，為上層應(yīng)用提供業(yè)界標(biāo)準(zhǔn)的OpenAI 協(xié)議API 接口，并提供權(quán)限、審計(jì)、監(jiān)控、配額限流等管理能力。

　　(2)私域知識(shí)接入

　　進(jìn)行RAG預(yù)處理，并支持文件上傳、手工錄入、網(wǎng)頁(yè)知識(shí)三種形式;可在聊天過(guò)程中可指定回復(fù)引用知識(shí)庫(kù)。

　　(3)支持工具開(kāi)發(fā)

　　創(chuàng)建/編輯工具，填寫(xiě)工具的基本信息，調(diào)用接口和請(qǐng)求參數(shù);可在會(huì)話和智能體開(kāi)發(fā)中調(diào)用。

　　(4)提示詞與角色定義

　　創(chuàng)建prompts并支持在線調(diào)試，基于prompts設(shè)定角色，并選擇不同大模型進(jìn)行聯(lián)調(diào)，支持接口及開(kāi)發(fā)框架調(diào)用。

　　(5)智能體開(kāi)發(fā)框架

　　提供智能體開(kāi)發(fā)框架，包括單Agent智能代理與基于編排的多Agent智能代碼構(gòu)建支持。

　　6、LLMOps+DeepSeek問(wèn)答

　　三、DeepSeek在智能運(yùn)維場(chǎng)景應(yīng)用

　　嘉為藍(lán)鯨探索大模型，包括DeepSeek在智能運(yùn)維場(chǎng)景的應(yīng)用，仍然從一體化運(yùn)維的業(yè)務(wù)視角出發(fā)，不是從單點(diǎn)場(chǎng)景視角提升，而是業(yè)務(wù)閉環(huán)視角整體提升。

　　企業(yè)IT運(yùn)維一體化場(chǎng)景涵蓋了多個(gè)運(yùn)維活動(dòng)，日常維護(hù)、變更發(fā)布、故障應(yīng)急、服務(wù)響應(yīng)、優(yōu)化提升、安全管控等均需要跨多個(gè)運(yùn)維領(lǐng)域完成，場(chǎng)景驅(qū)動(dòng)了各個(gè)業(yè)務(wù)域之間的業(yè)務(wù)集成和技術(shù)集成設(shè)計(jì)。

　　以典型的事件生命周期管理為例，基于大模型重構(gòu)提升場(chǎng)景如下：

　　四、應(yīng)用場(chǎng)景清單

　　五、應(yīng)用場(chǎng)景詳細(xì)描述

　　1、產(chǎn)品使用助手

　　(1)內(nèi)容描述

　　IT運(yùn)維團(tuán)隊(duì)逐漸向SRE、平臺(tái)工程轉(zhuǎn)型，過(guò)程中依賴各種運(yùn)維工具體系建設(shè)和推廣。每次運(yùn)維新產(chǎn)品發(fā)布或者產(chǎn)品功能更新，都需要花費(fèi)大量時(shí)間組織用戶培訓(xùn)和使用答疑，費(fèi)時(shí)費(fèi)力。借助大模型如DeepSeek強(qiáng)大的推理能力，結(jié)合產(chǎn)品使用手冊(cè)，可以低成本實(shí)現(xiàn)面向用戶的產(chǎn)品使用助手，主要包含如下功能：

　　1)知識(shí)管理能力

　　支持手動(dòng)上傳各類格式的文檔知識(shí)，如md、doc、pdf、excel、ppt等;支持和企業(yè)內(nèi)已有的知識(shí)庫(kù)對(duì)接，并能同步更新。

　　2)知識(shí)檢索能力

　　支持通過(guò)向量相似度或關(guān)鍵詞等多種方式進(jìn)行知識(shí)檢索和知識(shí)召回，如基于標(biāo)題或特定字段的向量召回或全文檢索匹配召回，再根據(jù)多路召回的知識(shí)進(jìn)行去重和排序，選擇最相關(guān)的知識(shí)片段，輸入給大模型進(jìn)行上下文學(xué)習(xí)和總結(jié)，旨在優(yōu)化信息檢索的覆蓋率和精確度。

　　3)大模型提煉總結(jié)

　　遵循最佳提示詞框架，與大模型進(jìn)行交互，把提示詞模板和檢索到的知識(shí)片段按照特定格式發(fā)送給大模型進(jìn)行總結(jié)，利用大模型強(qiáng)大的推理能力，返回符合用戶意圖的問(wèn)題回復(fù)。

　　4)IM工具集成

　　支持和企業(yè)內(nèi)已有的IM工具進(jìn)行集成，如企業(yè)微信、釘釘、飛書(shū)等，進(jìn)一步提升產(chǎn)品使用助手的用戶覆蓋，降低用戶使用工具的門(mén)檻。

　　(2)價(jià)值收益

　　1)新產(chǎn)品或新功能推廣效率提升顯著;

　　2)功能使用類ITSM工單降低50%以上。

　　(3)技術(shù)實(shí)現(xiàn)

　　基礎(chǔ)大模型/提示詞工程/知識(shí)庫(kù)/RAG。

　　2、IT觀測(cè)助手

　　(1)內(nèi)容描述

　　IT監(jiān)控工具是IT運(yùn)維的第一個(gè)建設(shè)工具，作為運(yùn)維人員的“眼睛”，IT監(jiān)控在“數(shù)字化”、“云原生”、“信創(chuàng)”的大趨勢(shì)下正在向“可觀測(cè)”領(lǐng)域持續(xù)演進(jìn)發(fā)展，而當(dāng)大模型來(lái)臨之際，可觀測(cè)也需要具備各種人工智能能力，主動(dòng)性地提升IT人員在故障發(fā)現(xiàn)、故障定位、故障處置上的效率和質(zhì)量，從而更好地保障業(yè)務(wù)正常運(yùn)轉(zhuǎn)。

　　借助大模型的能力，可結(jié)合Chatops建設(shè)IT觀測(cè)助手實(shí)現(xiàn)以下功能：

　　1)觀測(cè)智能問(wèn)答

　　借助大模型語(yǔ)文識(shí)別，提供私域和公域知識(shí)的智能問(wèn)答。

　　2)告警關(guān)聯(lián)數(shù)據(jù)提取

　　當(dāng)發(fā)生告警時(shí)，觀測(cè)助手可主動(dòng)提供此對(duì)象以及與此對(duì)象相關(guān)的其他對(duì)象的指標(biāo)/日志/Trace/拓?fù)涞刃畔ⅲ㊣T運(yùn)維人員進(jìn)行故障診斷定位。

　　3)推理式告警根因分析

　　觀測(cè)助手可基于應(yīng)用橫縱向拓?fù)湫畔⑻峁└蚍治鐾扑]能力。

　　4)告警處置引導(dǎo)及操作執(zhí)行

　　觀測(cè)助手可基于根因分析和故障決策樹(shù)的定位能力，以及應(yīng)急處置能力提供引導(dǎo)式故障處置執(zhí)行。

　　5)告警處置過(guò)程內(nèi)容總結(jié)

　　針對(duì)告警的定位、協(xié)同過(guò)程、定位和處置、業(yè)務(wù)驗(yàn)證結(jié)果形成告警處理事件總結(jié)。

　　6)告警處置方案自動(dòng)回寫(xiě)知識(shí)庫(kù)并更新

　　針對(duì)告警的發(fā)現(xiàn)、定位和處置結(jié)果自動(dòng)回寫(xiě)到歷史事件知識(shí)庫(kù)中，以供下一次的故障處置提供參考。

　　7)監(jiān)控告警插件編寫(xiě)

　　基于公域知識(shí)提供各種組件的監(jiān)控指標(biāo)定義和插件編碼，自動(dòng)生成相應(yīng)監(jiān)控告警插件。

　　8)監(jiān)控、告警策略編寫(xiě)

　　基于公域知識(shí)提供和自動(dòng)生成各類組件的告警閾值策略

　　(2)價(jià)值收益

　　1)持續(xù)增強(qiáng)第二代監(jiān)控——可觀測(cè)的自動(dòng)化監(jiān)控告警的推廣和覆蓋的運(yùn)營(yíng)能力;

　　2)提升從告警發(fā)現(xiàn)、故障定位、故障處置的效率;

　　3)將紛繁復(fù)雜、持續(xù)迭代的運(yùn)維經(jīng)驗(yàn)和能力沉淀到工具和平臺(tái)上，以“智能”替換“專家”，形成IT運(yùn)維的核心能力建設(shè)。

　　(3)技術(shù)實(shí)現(xiàn)

　　1)結(jié)合Chatops技術(shù)提供人機(jī)交互;

　　2)基于CMDB與APM的橫縱向拓?fù)錁?gòu)建的知識(shí)圖譜算法提供故障定位能力;

　　3)基于LLM的語(yǔ)義識(shí)別/Functioncall/知識(shí)庫(kù)提供高效的引導(dǎo)式故障處置能力;

　　4)整合CMDB、ITSM、自動(dòng)化、可觀測(cè)、數(shù)據(jù)與AI/LLM提升IT故障發(fā)現(xiàn)、協(xié)同、定位、處置等業(yè)務(wù)連續(xù)性閉環(huán)管理能力。

　　3、IT服務(wù)臺(tái)智能助手

　　(1)內(nèi)容描述

　　隨著企業(yè)信息系統(tǒng)的增多，IT服務(wù)請(qǐng)求數(shù)量同步增多，單靠增加人力的方式來(lái)保持服務(wù)臺(tái)的正常運(yùn)營(yíng)變得非常困難，從而引發(fā)客戶滿意度降低、運(yùn)營(yíng)成本居高不下等問(wèn)題，因此如何提升IT服務(wù)臺(tái)運(yùn)營(yíng)效率成為亟待解決的問(wèn)題。

　　結(jié)合對(duì)服務(wù)臺(tái)工作場(chǎng)景的分析，借助基于大模型的IT服務(wù)臺(tái)智能助手，可以大幅提升服務(wù)臺(tái)運(yùn)營(yíng)效率：

　　1)智能問(wèn)答：提供更準(zhǔn)確的咨詢問(wèn)題答復(fù)，減少到服務(wù)臺(tái)坐席的咨詢請(qǐng)求量;

　　2)智能提單：引導(dǎo)用戶自助提單，以減少服務(wù)臺(tái)代提單工作量;

　　3)智能派單：結(jié)合一、二線處理人員的工作負(fù)載，智能派單至負(fù)載最低的處理人員，減少坐席人工識(shí)別和派單工作量;

　　4)智能推薦：在接收到服務(wù)請(qǐng)求的同時(shí)，智能助手根據(jù)對(duì)工單內(nèi)容的理解，更準(zhǔn)確地推薦知識(shí)庫(kù)中沉淀的解決方案，從而提高請(qǐng)求的處理效率。

　　(2)價(jià)值收益

　　1)提高服務(wù)臺(tái)運(yùn)營(yíng)效率;

　　2)提升客戶/用戶滿意度。

　　(3)技術(shù)實(shí)現(xiàn)

　　1)基于即時(shí)通訊、大模型、RAG、知識(shí)庫(kù)實(shí)現(xiàn)智能問(wèn)答;

　　2)基于LLM的語(yǔ)義識(shí)別/Functioncall實(shí)現(xiàn)智能提單;

　　3)結(jié)合運(yùn)維人員工作任務(wù)數(shù)據(jù)、相似任務(wù)用時(shí)等進(jìn)行工作負(fù)載判斷;

　　4)基于大模型、RAG、知識(shí)庫(kù)實(shí)現(xiàn)智能問(wèn)答。

　　4、IT知識(shí)庫(kù)智能助手

　　(1)內(nèi)容描述

　　經(jīng)驗(yàn)總結(jié)與知識(shí)沉淀非常重要，常被稱為企業(yè)運(yùn)營(yíng)的“第二大腦”。但知識(shí)管理的建設(shè)一直是一個(gè)讓管理者頭疼的問(wèn)題，無(wú)法投入專職的知識(shí)運(yùn)營(yíng)人員，運(yùn)維人員忙于事務(wù)也很難兼顧知識(shí)的沉淀。沒(méi)有知識(shí)的知識(shí)庫(kù)，其功能再豐富也沒(méi)意義。如今借助基于大模型的智能知識(shí)助手，讓低成本的知識(shí)運(yùn)營(yíng)變得可能：

　　1)智能總結(jié)知識(shí)

　　結(jié)合工單的詳情與處理過(guò)程、溝通評(píng)論、即時(shí)聊天記錄等日常解決用戶問(wèn)題的過(guò)程數(shù)據(jù)，借助大模型的分析總結(jié)能力，即時(shí)或定期進(jìn)行自動(dòng)化的知識(shí)總結(jié)并錄入知識(shí)庫(kù);

　　2)智能檢索知識(shí)

　　提供更準(zhǔn)確、更易維護(hù)的知識(shí)檢索模式。相比傳統(tǒng)知識(shí)檢索，基于大模型的智能檢索方式可以自動(dòng)學(xué)習(xí)知識(shí)庫(kù)內(nèi)容，無(wú)需手動(dòng)標(biāo)注規(guī)則。新知識(shí)入庫(kù)后，模型通過(guò)向量化實(shí)時(shí)納入檢索范圍，同時(shí)結(jié)合用戶反饋(如點(diǎn)擊率、采納率)自動(dòng)優(yōu)化檢索排序(如將高頻采納的解決方案置頂)。

　　(2)價(jià)值收益

　　1)提升知識(shí)沉淀效率和質(zhì)量;

　　2)降低知識(shí)運(yùn)營(yíng)的人力成本;

　　3)提高知識(shí)消費(fèi)的便捷性。

　　(3)技術(shù)實(shí)現(xiàn)

　　通過(guò)API及對(duì)應(yīng)IM工具的SDK獲取過(guò)程記錄，結(jié)合大模型提示詞進(jìn)行知識(shí)總結(jié)。

　　5、CMDB智能助手

　　(1)內(nèi)容描述

　　CMDB作為運(yùn)維管理的“基石”，其數(shù)據(jù)的質(zhì)量非常重要。借助CMDB智能助手，可以讓配置數(shù)據(jù)的接入和消費(fèi)環(huán)節(jié)更便捷與高效，以助力CMDB的數(shù)據(jù)治理與運(yùn)營(yíng)。

　　1)智能采集開(kāi)發(fā)：在已有的配置采集插件協(xié)議的約束下，通過(guò)自然語(yǔ)言提高采集插件的開(kāi)發(fā)效率，包括插件代碼生成、插件代碼檢查等;

　　2)智能配置查詢：以提示詞方式便捷對(duì)配置數(shù)據(jù)進(jìn)行消費(fèi)，包括影響分析、路徑查詢、關(guān)聯(lián)查詢等;

　　3)智能拓?fù)渖桑阂蕴崾驹~方式便捷生成配置拓?fù)鋱D;

　　4)智能運(yùn)營(yíng)報(bào)告：以提示詞方式便捷生成運(yùn)營(yíng)報(bào)告，減少手工統(tǒng)計(jì)與排版工作。

　　(2)價(jià)值收益

　　1)降低配置自動(dòng)采集門(mén)檻，提高自動(dòng)化采集率;

　　2)提高配置數(shù)據(jù)的消費(fèi)便捷性;

　　3)降低配置管理的運(yùn)營(yíng)成本。

　　(3)技術(shù)實(shí)現(xiàn)

　　開(kāi)發(fā)協(xié)議、查詢協(xié)議、低代碼協(xié)議與大模型結(jié)合，實(shí)現(xiàn)自然語(yǔ)言與技術(shù)協(xié)議的轉(zhuǎn)換。

　　6、IT工單智能助手

　　(1) 內(nèi)容描述

　　工單作為工作協(xié)同的信息載體，是團(tuán)隊(duì)在日常工作中頻繁操作的對(duì)象。如果給工單加上“大腦”，對(duì)團(tuán)隊(duì)協(xié)同的效率將會(huì)大幅提升。IT工單智能助手，可以讓運(yùn)維工單更智能，運(yùn)維工作更省心。

　　1)借助大模型泛化能力，自動(dòng)生成與業(yè)務(wù)相關(guān)的關(guān)鍵字和正則表達(dá)式，替代人工質(zhì)檢實(shí)現(xiàn)全自動(dòng)化工單轉(zhuǎn)入轉(zhuǎn)出質(zhì)檢;

　　2)利用大模型去提取關(guān)鍵參數(shù)并進(jìn)行參數(shù)標(biāo)注化轉(zhuǎn)義，并將查證后的內(nèi)容自動(dòng)回復(fù)，實(shí)現(xiàn)工單智能化查證回復(fù);

　　3)構(gòu)建投訴報(bào)告生成智能體，基于手機(jī)號(hào)查詢多平臺(tái)多類型投訴信息，1秒自動(dòng)生成投訴報(bào)告，極大提升報(bào)告編寫(xiě)效率。

　　(2)價(jià)值收益

　　1)工單流轉(zhuǎn)問(wèn)題的損耗降低;

　　2)工單平均處理的時(shí)長(zhǎng)減少;

　　3)運(yùn)維工作協(xié)同的效率提升。

　　(3)技術(shù)實(shí)現(xiàn)

　　結(jié)合大模型/Functioncall、知識(shí)庫(kù)實(shí)現(xiàn)與第三方質(zhì)檢接口集成。

　　7、應(yīng)急智能助手

　　(1)內(nèi)容描述

　　應(yīng)急預(yù)案是IT應(yīng)急管理中最核心的資產(chǎn)，如何創(chuàng)建全面且指導(dǎo)性的應(yīng)急預(yù)案是應(yīng)急管理中最核心的工作，應(yīng)急智能助手能基于文字描述識(shí)別用戶意圖，結(jié)合歷史應(yīng)急預(yù)案和應(yīng)用架構(gòu)手冊(cè)，輔助生成應(yīng)急預(yù)案。

　　面對(duì)應(yīng)急故障事件，可以按照企業(yè)IT應(yīng)急報(bào)告內(nèi)容和格式要求，基于應(yīng)急事件全生命周期記錄，輔助生成應(yīng)急故障報(bào)告。

　　同時(shí)應(yīng)急智能助手，能支持對(duì)話窗智能化查詢應(yīng)急預(yù)案/場(chǎng)景，應(yīng)急事件總結(jié)/演練計(jì)劃，通過(guò)對(duì)話發(fā)起應(yīng)急演練，啟動(dòng)應(yīng)急事件，全面提升應(yīng)急交互模式。

　　(2)價(jià)值收益

　　1)提升預(yù)案準(zhǔn)確性和有效性;

　　2)提升報(bào)告生成效率;

　　3)極大提升IT應(yīng)急效率。

　　(3)技術(shù)實(shí)現(xiàn)

　　1)將應(yīng)急預(yù)案庫(kù)和應(yīng)用架構(gòu)向量化存放在知識(shí)庫(kù)，利用RAG和大模型提示詞能力生成應(yīng)急預(yù)案;

　　2)利用Functioncall構(gòu)建應(yīng)急報(bào)告數(shù)據(jù)查詢工具Tools，在調(diào)用大模型提示詞對(duì)應(yīng)急數(shù)據(jù)進(jìn)行潤(rùn)色生成符合格式的應(yīng)急故障報(bào)告;

　　3)通過(guò)意圖識(shí)別實(shí)現(xiàn)智能路由，支持多場(chǎng)景的應(yīng)急需求。

　　8、變更發(fā)布智能助手

　　(1)內(nèi)容描述

　　當(dāng)應(yīng)用系統(tǒng)變更異常時(shí)，能夠結(jié)合業(yè)務(wù)系統(tǒng)變更歷史信息和完整的應(yīng)用拓?fù)湫畔ⅲ焖俳o出變更異常影響面分析;并結(jié)合運(yùn)維大模型領(lǐng)域知識(shí)，對(duì)異常報(bào)錯(cuò)進(jìn)行分析，輔助變更人員快速定位根因。

　　通過(guò)對(duì)話框構(gòu)建變更智能問(wèn)答助手，運(yùn)維人員可以通過(guò)自然語(yǔ)言查詢所有變更記錄，同時(shí)能輔助生成變更周報(bào)/月報(bào)。

　　(2)價(jià)值收益

　　1)快速識(shí)別變更影響面，提升變更異常分析效率，降低變更影響;

　　2)提升變更周報(bào)月報(bào)的質(zhì)量和生成效率。

　　(3)技術(shù)實(shí)現(xiàn)

　　1)將大模型和小模型技術(shù)結(jié)合，實(shí)現(xiàn)對(duì)變更異常的多維度分析，實(shí)現(xiàn)變更異?？焖俣ㄎ?

　　2)構(gòu)建多個(gè)變更智能工具Tools：變更記錄查詢/報(bào)告生成/通識(shí)變更問(wèn)答，通過(guò)意圖識(shí)別模塊導(dǎo)航到對(duì)應(yīng)的智能工具。

　　9、應(yīng)用巡檢智能助手

　　(1)內(nèi)容描述

　　面對(duì)多種巡檢類型，需要支持命令行、API、界面內(nèi)容等多種數(shù)據(jù)源，利用應(yīng)用巡檢智能助手進(jìn)行統(tǒng)一分析和巡檢判斷，生成統(tǒng)一的巡檢報(bào)告，解決單一對(duì)象人工巡檢問(wèn)題。

　　巡檢結(jié)果智能分析，巡檢過(guò)程中出現(xiàn)的重點(diǎn)指標(biāo)、可疑進(jìn)程、意外事件，通過(guò)應(yīng)用巡檢智能助手，從橫向縱向等多維度對(duì)進(jìn)行結(jié)果進(jìn)行深度分析，并支持多范圍多對(duì)象多領(lǐng)域的統(tǒng)計(jì)展示。

　　(2)價(jià)值收益

　　1)支持異構(gòu)應(yīng)用的統(tǒng)一巡檢，將運(yùn)維人員從高頻人工巡檢中釋放，提升巡檢的效率和準(zhǔn)確性;

　　2)支持自然語(yǔ)言發(fā)起巡檢查詢結(jié)果，提升應(yīng)用巡檢體驗(yàn)。

　　(3)技術(shù)實(shí)現(xiàn)

　　1)利用大模型多模態(tài)能力實(shí)現(xiàn)界面內(nèi)容自動(dòng)巡檢，結(jié)合自動(dòng)化工具，實(shí)現(xiàn)傳統(tǒng)界面內(nèi)容的自動(dòng)化巡檢;

　　2)結(jié)合大模型運(yùn)維通識(shí)問(wèn)答和RAG知識(shí)庫(kù)能力，實(shí)現(xiàn)對(duì)巡檢指標(biāo)外的異常結(jié)果分析和建議。

　　10、智能編碼助手

　　(1)內(nèi)容描述

　　在代碼輔助編寫(xiě)場(chǎng)景，我們通過(guò) BKGPT 插件對(duì)接大模型和IDE，讓開(kāi)發(fā)者可以在編程工具里閉環(huán)信息檢索的過(guò)程，大大提升了開(kāi)發(fā)問(wèn)題查詢效率。其次，我們提供了 BKCodeAI 插件，可以實(shí)現(xiàn)根據(jù)注釋中的需求描述，進(jìn)行代碼生成和補(bǔ)全，當(dāng)前已經(jīng)支持函數(shù)級(jí)代碼生成。

　　另一方面，在 git push 時(shí)，會(huì)自動(dòng)觸發(fā) AI CodeReview 任務(wù)，CR 任務(wù)將異步執(zhí)行，不會(huì)阻塞 push 操作，CR 任務(wù)執(zhí)行完成后會(huì)在 IDE 彈窗提醒 CR 詳情鏈接。

　　(2)價(jià)值收益

　　1)與編程IDE結(jié)合，提升腳本編寫(xiě)、工具開(kāi)發(fā)效率;

　　2)輔助開(kāi)發(fā)主管進(jìn)行代碼審查或者自動(dòng)進(jìn)行腳本出錯(cuò)分析，提升代碼質(zhì)量。

　　(3)技術(shù)實(shí)現(xiàn)

　　基礎(chǔ)大模型/文本生成/知識(shí)庫(kù)/RAG/IDE插件。

　　11、可觀測(cè)助手為例

　　(1)告警關(guān)聯(lián)知識(shí)推薦

　　小鯨可基于知識(shí)庫(kù)，可以根據(jù)告警事件內(nèi)容結(jié)合知識(shí)庫(kù)找出相關(guān)聯(lián)的知識(shí)，并給予解決方案的推薦。

　　內(nèi)置運(yùn)維知識(shí)庫(kù)，無(wú)需整理也能直接使用;可批量導(dǎo)入知識(shí)庫(kù)文件，基于用戶歷史經(jīng)驗(yàn)提供更豐富的解決方案;告警產(chǎn)生后根據(jù)算法訓(xùn)練的結(jié)果，匹配知識(shí)庫(kù)里的解決方案。知識(shí)推薦效果如下圖：

　　(2)知識(shí)庫(kù)智能問(wèn)答

　　運(yùn)維人員通常通過(guò)經(jīng)驗(yàn)或查找資料來(lái)處理告警事件，效率低下且耗時(shí)?？梢詫?wèn)題拋給小鯨，基于LLMOps直接提供解決方案推薦、正則匹配規(guī)則編寫(xiě)等針對(duì)性回答。

　　通過(guò)全局劃詞問(wèn)答或者右下角的機(jī)器人圖標(biāo)入口，均可向“小鯨”詢問(wèn)，無(wú)需切換工具。無(wú)論是技術(shù)解釋、命令用法，還是故障排查，小鯨都能即時(shí)提供專業(yè)解答，大幅提升工作效率。實(shí)現(xiàn)效果如下圖：

　　(3)告警處置引導(dǎo)

　　結(jié)合預(yù)測(cè)性對(duì)話流與大模型，小鯨觀測(cè)助手能夠?qū)崿F(xiàn)對(duì)話智能引導(dǎo)，引導(dǎo)用戶完成智能提單引導(dǎo)、智能故障處置引導(dǎo)等場(chǎng)景：根據(jù)故障排查的場(chǎng)景，預(yù)設(shè)引導(dǎo)性場(chǎng)景，智能機(jī)器人識(shí)別關(guān)鍵字以后進(jìn)入引導(dǎo)場(chǎng)景，確保問(wèn)題能夠迅速被識(shí)別和解決。

　　實(shí)現(xiàn)效果如下圖：

　　六、前景展望

　　DeepSeek這一波平民化，除了帶來(lái)推理能力和性能瓶頸突破外，最核心的是可以進(jìn)入“千家萬(wàn)戶”，使得各行業(yè)和領(lǐng)域使用前沿模型變得更為簡(jiǎn)單。大模型在運(yùn)維領(lǐng)域的應(yīng)用前景，我們認(rèn)為這是一個(gè)改變運(yùn)維人員和運(yùn)維對(duì)象交互、實(shí)現(xiàn)AI大規(guī)模落地普及的時(shí)刻，未來(lái)發(fā)展，我們有如下思考和展望：

　　1、基于一體化運(yùn)維業(yè)務(wù)的運(yùn)維智能體會(huì)爆發(fā)式增長(zhǎng)

　　基于低成本高效率的大模型，可以把各個(gè)人機(jī)交互的運(yùn)維場(chǎng)景再做一次，再做一次是基于多智能體編排的模式，生成更多整合應(yīng)用，且與一體化運(yùn)維是完整聯(lián)動(dòng)的，不只是單個(gè)場(chǎng)景的提升;

　　2、基于機(jī)器學(xué)習(xí)算法+大模型的融合場(chǎng)景更優(yōu)

　　機(jī)器學(xué)習(xí)算法對(duì)于數(shù)據(jù)處理有天然優(yōu)勢(shì)，大模型對(duì)于語(yǔ)義識(shí)別和邏輯推理有天然優(yōu)勢(shì)，兩者相結(jié)合，可以在故障分析診斷層面、智能工單的相似度分析和智能回復(fù)層面等有更好地融合場(chǎng)景落地;

　　3、大模型應(yīng)用開(kāi)發(fā)平臺(tái)共建生態(tài)會(huì)成為主流

　　不只是基于原生大模型的問(wèn)答應(yīng)用，而是知識(shí)庫(kù)、工具、編排、智能體、統(tǒng)一網(wǎng)關(guān)的整體建設(shè)，構(gòu)建可持續(xù)建設(shè)的體系，會(huì)成為生態(tài)模式，客戶及合作伙伴都可以有更大的想象空間;

　　4、自適應(yīng)學(xué)習(xí)與知識(shí)演化

　　系統(tǒng)能夠根據(jù)環(huán)境的變化和數(shù)據(jù)反饋，自動(dòng)調(diào)整自身的行為、策略或參數(shù)，以及隨著實(shí)踐、技術(shù)發(fā)展和經(jīng)驗(yàn)積累而不斷更新、優(yōu)化或重組知識(shí)，運(yùn)維智能體能夠更靈活、高效地應(yīng)對(duì)復(fù)雜的運(yùn)維需求，在大部分相對(duì)標(biāo)準(zhǔn)的運(yùn)維場(chǎng)景中，實(shí)現(xiàn)智能決策執(zhí)行。

免責(zé)聲明：以上內(nèi)容為本網(wǎng)站轉(zhuǎn)自其它媒體，相關(guān)信息僅為傳遞更多信息之目的，不代表本網(wǎng)觀點(diǎn)，亦不代表本網(wǎng)站贊同其觀點(diǎn)或證實(shí)其內(nèi)容的真實(shí)性。如稿件版權(quán)單位或個(gè)人不想在本網(wǎng)發(fā)布，可與本網(wǎng)聯(lián)系，本網(wǎng)視情況可立即將其撤除。