Teverant AI · AI 應用趨勢

2026-08-24

AI Agent企業應用怎麼做:5步落地方案

從需求判斷、場景篩選到流程拆解、權限設計、系統接入與效果評估,系統講解 AI Agent企業應用的5步落地方法,幫助企業在4—6週內完成從最小閉環到受控上線。

先判斷:企業需要的是 AI Agent,還是普通自動化工具

企業引入AI能力時,第一項工作不是選擇模型,而是判斷任務型別。知識檢索、流程自動化與自主執行解決的是不同問題。如果把所有需求都歸入Agent,專案會承擔額外的整合、權限和審計成本,也更難穩定驗收。

需求特徵更合適的方案判斷依據
主要任務是查詢制度、產品資料或內部文件RAG知識助手系統只需檢索相關內容並生成回答,不需要修改業務資料或推動後續流程
操作步驟明確,判斷條件固定,目標介面相對穩定規則引擎或RPA任務路徑可以預先編排,輸入與輸出邊界清晰,不需要根據語義臨時改變計劃
需要結合上下文判斷,跨多個系統取數,並按中間結果選擇後續動作AI Agent執行路徑無法完全預設,系統必須在約束範圍內呼叫工具、調整步驟並處理異常

因此,「能回答問題」不應成為Agent立項標準。一個面向業務執行的Agent,至少要形成可檢查的閉環:接收任務,補齊所需資訊,作出判斷,呼叫系統執行操作,返回處理結果,並在超出權限、資訊不足或工具失敗時轉交人工。若系統最終只是給出一段建議,再由員工自行登入多個系統完成操作,它仍然屬於助手,而不是完整的執行型Agent。

判斷是否需要Agent,可以先檢查流程中是否存在真正的動態決策。例如,客戶請求需要結合歷史記錄、當前合同和庫存狀態決定處理方式;不同判斷結果又會觸發不同的審批、通知或資料寫入。此類流程可能適合Agent。相反,如果每個輸入都對應唯一動作,採用確定性自動化通常更容易測試,也更便於控制風險。

立項依據還應從模型表現轉向業務結果。團隊需要先明確希望改變什麼:縮短單次處理時間、降低返工與差錯、減少單位任務成本、提升有效轉化,或擴大非工作時段的服務覆蓋。目標確定後,再定義現狀基線、統計口徑、觀察週期與人工對照方式。模型評分可以用於診斷問題,但不能替代業務驗收。

  • 如果收益只能表述為「回答更自然」或「演示更智慧」,暫不適合進入業務立項。
  • 如果任務價值明確,但錯誤操作可能造成較大損失,應先限制可執行動作,並保留人工確認環節。
  • 如果系統接入、資料授權和異常處理的投入明顯高於可預期收益,應優先使用助手或局部自動化。
  • 如果任務頻繁發生、人工處理成本可識別,且執行結果能夠追蹤,才具備進一步核算ROI的條件。

市場成長、部署週期變化和標杆案例,只能說明相關技術正在進入企業流程,不能替代本企業的判斷。最終決策仍應落在三個問題上:場景是否確實需要動態判斷,風險能否通過權限與人工介入得到約束,預期收益能否覆蓋建設及持續執行成本。三者沒有同時成立時,不做Agent往往是更穩妥的工程選擇。

第一步:篩選場景,用五個指標找出最值得落地的流程

場景篩選的目標不是尋找「最先進」的業務,而是確定首輪試點能否形成可驗證、可回退的閉環。客服、銷售跟進、IT 維運和票據處理可以進入候選池,但不能因為它們常見就直接立項。企業仍需檢查自身是否具備穩定的任務量、相對統一的操作方式,以及可供 Agent 呼叫的資料和系統能力。

建議建立一張場景評分表。它不是通用行業標準,而是用於統一業務、技術和風控團隊的判斷口徑。每個候選流程從以下五個方面評估:

評估維度需要確認的問題適合首輪試點的特徵
任務頻次任務是否持續發生?人工投入是否可以被記錄?業務量穩定,改造前後容易比較
規則清晰度輸入、判斷條件和輸出要求能否說明?異常是否有處理路徑?主要步驟明確,少數例外可轉人工
資料可得性所需文件、記錄和業務欄位是否存在?是否允許呼叫?資料來源確定,品質問題可以定位
系統可操作性Agent 需要查詢還是寫入?目標系統是否提供穩定介面?呼叫範圍有限,操作結果能夠追蹤和撤銷
錯誤容忍度出錯後會造成什麼影響?能否複核、攔截或補救?錯誤不會直接觸發不可逆的高風險後果

評分時不要簡單相加。任務頻次和規則清晰度決定價值是否容易驗證,資料與系統條件決定方案能否實施,錯誤容忍度則決定是否適合讓 Agent 執行動作。一個業務量很大的流程,如果需要訪問的資料尚未整理,或者一次誤操作就可能產生嚴重後果,仍不適合作為首個專案。

首個場景還應主動縮小邊界。較穩妥的做法是只服務一個明確的使用者群,處理一類輸入和輸出相對固定的任務,並連接少量必要系統。例如,不要一開始改造完整的客戶服務鏈路,可以先限定為某類諮詢的資料檢索、答覆草擬與人工確認。這樣既能觀察 Agent 的判斷過程,也便於區分模型、知識資料和系統介面分別造成了什麼問題。

同時設定排除項,比提高候選場景的評分更重要。以下情況暫不進入首輪試點:

  • 任務偶發,難以形成穩定樣本,也無法持續衡量投入產出;
  • 流程責任人不明確,異常發生後無人決定如何處置;
  • 關鍵資料缺失、品質不可控,或存取權限無法合法取得;
  • 業務規則主要依賴個人經驗,尚未形成可描述的處理邊界;
  • Agent 的動作可能直接引發不可撤銷的付款、授權或關鍵配置變更。

篩選完成後,輸出不應只是一份場景名稱清單。每個入選項至少要寫清目標使用者、任務起點、預期輸出、所需資料、涉及系統、人工複核點和禁止執行的動作。只有這些邊界能夠被業務負責人確認,場景才適合進入下一步的流程拆解。

第二步:拆解流程,把「讓 Agent 處理」變成可執行任務鏈

場景確定後,不要直接編寫提示詞或配置工具。先把現有業務畫成一條可檢查、可中斷、可回退的任務鏈。所謂「讓 Agent 處理退款申請」仍然過於寬泛:它沒有說明申請從哪裡進入、需要讀取哪些記錄、什麼情況下可以繼續、誰有權提交退款,也沒有定義失敗後的去向。這樣的需求即使能做出演示,也難以進入生產環境。

建議按以下結構繪製流程圖,併為每個節點補齊責任主體:

流程要素需要明確的問題典型產物
觸發條件由使用者請求、系統事件、定時任務還是人工指派啟動?事件定義、啟動範圍
輸入資料需要哪些欄位、文件和歷史記錄?資料是否完整、可讀取?輸入清單、缺失項規則
判斷規則哪些條件有固定口徑,哪些需要結合上下文判斷?規則表、決策分支
工具呼叫需要查詢或寫入哪些業務系統?呼叫失敗如何重試?介面與權限清單
業務動作Agent 只是提出建議,還是可以建立工單、修改狀態或提交審批?動作定義、審批要求
輸出結果結果交給誰,以什麼格式返回,是否需要儲存依據?結構化結果、操作記錄
異常處理遇到資料衝突、工具超時或判斷不確定時轉給誰?終止、重試與人工接管路徑

拆解時最重要的判斷,是把確定性處理與開放性判斷分開。欄位格式檢查、金額核對、狀態匹配、閾值判斷等任務,應優先交給程式、規則引擎或 RPA。它們的輸入輸出明確,也更容易測試。模型適合承擔意圖識別、長文本摘要、材料歸納、候選方案生成等需要理解上下文的工作。不要讓模型計算本可由程式碼精確完成的結果,也不要用大量固定規則勉強覆蓋語義判斷。

每個節點都要標註執行者,可以使用四類標籤:Agent、規則或程式、RPA、人工。選擇依據不是哪種技術更新,而是任務是否需要語義推理、是否已有穩定介面、動作能否逆轉,以及錯誤後果是否可接受。例如,Agent 可以閱讀退款說明並整理理由,規則程式負責核驗金額和訂單狀態,RPA 可在缺少介面的舊系統中錄入資訊,最終退款提交則由有權限的人員確認。

流程圖還應突出關鍵決策點。退款放行、對外報價、合同條款變更、生產故障處置等動作,通常會產生資金、法律承諾或業務連續性影響。對此,不宜讓 Agent 從理解請求一路執行到底。更穩妥的做法是讓它準備材料、給出判斷依據和建議動作,在真正寫入系統或對外生效之前暫停,由責任人確認。人工確認不能只是一個形式按鈕;介面中應同時呈現原始輸入、引用依據、擬執行動作和影響範圍,使審核者能夠判斷,而不是重新調查整個流程。

異常路徑應與正常路徑同時設計。至少要處理輸入缺失、文件無法解析、多個數據源衝突、工具呼叫失敗、模型置信不足和人工超時等情況。如果 PDF 或掃描材料無法直接讀取,可先經過文字識別和結構化處理,再進入檢索或判斷環節。任何無法滿足前置條件的任務,都應停止在明確節點,保留上下文並轉交人工,而不是由 Agent 猜測缺失資訊後繼續執行。

首輪試點應先驗證單個 Agent 能否完成最小閉環:接收任務、取得必要資訊、形成判斷、呼叫有限工具、輸出結果,並在風險節點等待確認。只有當職責邊界已經清楚,單體流程的日誌、權限和異常機制能夠穩定執行後,才值得拆分為財務、合規、業務等多個 Agent。多 Agent 可以隔離專業職責,但也會引入任務交接、狀態同步、權限傳遞和故障定位問題。若單 Agent 尚未閉環,增加協同角色通常只會把原本清晰的錯誤擴散到編排層。

這一階段的驗收物不是一張概念流程圖,而是一套可執行定義:每一步的輸入與輸出、執行主體、可呼叫工具、權限邊界、人工確認點、失敗處理方式以及全程留痕要求。只有這些內容明確後,後續系統接入和效果評估才有可驗證的基礎。

第三步:設計權限,明確 Agent 能看什麼、能做什麼

Agent 的權限不能沿用傳統員工帳號的配置方式。員工會結合制度、經驗和責任邊界判斷是否繼續操作,Agent 則可能把一次授權理解為持續可用的能力。權限設計因此不能只回答「是否允許訪問系統」,還要分別約束它能讀取的資料、可以呼叫的工具,以及能夠提交或執行的動作。

權限層需要明確的問題典型控制方式
資料權限可以檢視哪些欄位、客戶和時間範圍欄位脫敏、按租戶隔離、限定查詢條件、禁止批次下載
工具權限可以呼叫哪些介面,呼叫頻率和參數範圍是什麼介面白名單、參數校驗、額度限制、超時與熔斷
動作權限可以提出建議、建立草稿,還是直接完成業務操作動作分級、審批門檻、雙人複核、執行前確認

這三層不能相互替代。允許 Agent 讀取客戶檔案,不代表允許它批次匯出;允許它查詢訂單,不代表允許修改訂單狀態;允許它計算退款方案,也不代表它有權發起付款。工程上應把「讀、寫、匯出、提交、審批、執行」拆成不同能力點,避免用一個寬泛角色覆蓋整條流程。

每個 Agent 都應使用獨立的機器身份,不復用員工帳號,更不能借用管理員帳戶。身份配置至少要繫結具體用途、可訪問範圍、呼叫額度和失效時間。試點結束、任務撤銷或長期無呼叫時,應及時停用身份並回收憑證。金鑰不應直接寫入提示詞、腳本或配置檔案,而應交由統一的憑證管理機制按需簽發和輪換。

自動執行範圍應由業務風險決定,而不是由模型置信度單獨決定。可撤銷、影響範圍有限且規則明確的操作,可以在參數校驗通過後自動完成;涉及較大資金、個人敏感資訊、外部合同承諾或無法恢復的變更,則應停在審批節點。模型評分只能作為審批輸入,不能替代授權規則。

  • 低風險任務:資訊分類、記錄補全、內部草稿生成等,可允許自動處理,但仍需保留結果記錄。
  • 中風險任務:工單流轉、客戶回覆草擬、業務欄位修改等,可由 Agent 提交,指定人員確認後生效。
  • 高風險任務:資金操作、帳戶停用、價格承諾、敏感資料外發等,只允許生成建議和證據,不直接執行。

人在環路不應只是介面上的「確認」按鈕。審批頁面需要同時展示輸入資訊、引用依據、擬執行動作、關鍵參數和影響對象,使審批人能夠判斷 Agent 為什麼這樣做。若審批人只能看到一句結論,人工審核就容易退化為形式確認。

權限控制還需要與審計鏈同步建設。每次任務應能夠還原使用者請求、檢索到的資料、模型形成的判斷、實際呼叫的介面、使用的參數、審批人員以及最終執行結果。對於敏感欄位,可在審計記錄中脫敏,但不能因此丟失事件關聯關係。審計目標不是儲存全部對話,而是能夠回答「誰以什麼身份,依據什麼資訊,對哪個對象執行了什麼動作」。

最後要預先定義異常處置路徑:檢測到越權請求時立即拒絕;連續呼叫失敗時暫停任務;執行結果偏離預期時阻斷後續步驟;已經產生副作用時優先呼叫補償或回滾流程;無法自動恢復時轉交人工。只有暫停、撤銷和接管都能實際執行,Agent 才算獲得了受控權限,而不是被接入了一個缺少邊界的超級帳號。

第四步:接入系統,讓 Agent 真正進入業務現場

Agent 能否進入生產環境,關鍵不在於模型是否會回答問題,而在於它能否獲得可信上下文,並通過受控介面完成業務動作。接入工作應從一條具體流程出發:需要讀取哪些資料、查詢哪些系統、寫回什麼結果、失敗後如何恢復。不要先建設覆蓋全公司的「大平台」,再尋找使用場景。

先處理可用的知識,而不是把檔案直接交給模型。制度文件、產品資料、歷史案例等內容可通過 RAG 提供給 Agent。入庫前需要完成去重、切分、後設資料補充和權限標記,並保留檔案版本、發布日期、適用範圍及原文位置。檢索結果必須能夠回到來源段落,否則業務人員難以核驗,過期制度也可能繼續影響判斷。

PDF、掃描合同、票據和圖片表格不能只做全文儲存。可先使用 OCR 提取文字、表格與關鍵欄位,再進行版面校正和品質檢查。對於金額、日期、客戶名稱等會影響後續動作的欄位,應設定置信度門檻;識別結果不確定時轉人工確認,而不是讓 Agent 根據上下文猜測。結構化後的內容還要繼承原檔案的存取權限,避免知識庫成為繞過業務授權的新入口。

系統接入優先選擇穩定 API。API 的輸入輸出邊界清楚,更容易做權限控制、錯誤處理和呼叫審計。對於沒有可用介面、但頁面結構長期穩定的舊系統,可讓 RPA 執行查詢、下載、錄入等介面操作。此時 Agent 負責判斷下一步任務,RPA 只執行已經約束好的動作。若頁面頻繁改版、驗證碼較多或操作結果難以確認,RPA 的維護成本可能超過改造介面,應在試點前驗證。

CRM、ERP、訂單、工單及訊息系統不宜分別暴露給 Agent。更穩妥的做法是將業務能力封裝成用途明確的工具,例如「查詢客戶狀態」「建立售後工單」「讀取訂單明細」,而不是開放通用資料庫查詢或任意腳本執行。統一入口至少應處理以下事項:

  • 身份傳遞:使用當前使用者或服務帳號的真實權限,不因 Agent 接入而擴大授權範圍。
  • 參數約束:校驗欄位型別、取值範圍和必填項,拒絕模型生成的異常參數。
  • 呼叫保護:設定併發限制、超時機制、冪等標識和有限重試,防止重複下單或重複通知。
  • 審計記錄:儲存請求人、呼叫工具、輸入參數、執行結果及失敗原因,支援問題追蹤。
  • 高風險攔截:付款、刪除、批次修改和對外發送等操作,在執行前進入人工審批。

部署方式最後決定,不要預設選擇私有化。選型應同時檢查資料敏感度、響應時延、呼叫頻率和長期維護能力。公有模型介面適合先驗證流程,但要確認資料留存、傳輸和供應商合規邊界;私有部署可以增強環境控制,卻會引入算力配置、模型升級、推理最佳化、監控值守和持續適配等工作。

判斷項需要確認的問題
資料邊界原文、檢索片段和呼叫日誌是否允許離開企業控制環境
響應要求業務流程能夠接受多長等待時間,峰值呼叫是否穩定
成本結構應比較實際呼叫支出與算力、維運及模型適配的總成本
執行能力是否具備版本管理、故障切換、安全修補和效果迴歸能力

本步的驗收標準不是「已經連上系統」,而是 Agent 能在權限範圍內取得正確資料、呼叫指定工具、識別執行失敗,並在高風險節點停下來等待確認。只有這條受控鏈路能夠完整執行,Agent 才算真正進入業務現場。

第五步:評估效果,用業務指標而不是演示效果驗收

Agent 能完成一次演示,不等於它能在真實流程中穩定工作。驗收應回答三個問題:業務結果是否改善,新增風險是否可控,全部成本計入後是否仍值得繼續。為避免上線後找不到參照,專案組應在試點前固定統計範圍、樣本條件與計算方法,並記錄一段可比較的人工流程基線。

先凍結基線,再討論提升

基線至少應覆蓋平均處理耗時、首輪解決比例、人工接管佔比、差錯比例、每項任務成本以及最終業務結果。最後一項需按場景定義,例如銷售流程觀察有效線索轉化,客服流程觀察問題解決與後續投訴,營運流程觀察訂單完成或異常恢復情況。

口徑要寫進驗收文件。例如,「處理時長」從請求進入佇列開始,還是從 Agent 首次呼叫模型開始;「一次解決」是否允許補充詢問;人工只做確認是否計為介入。若試點前後使用不同定義,結果沒有比較價值。

觀察維度建議指標驗收時需排除的干擾
經營結果收入變化、成本節省、轉化結果促銷、季節波動、客戶結構變化
流程執行端到端耗時、單位時間處理量、人工接管比例任務難度和進入通路差異
模型與工具結果正確性、工具呼叫成功情況、重試與超時系統故障、介面限流、資料缺失
業務風險越權訪問、錯誤執行、客戶投訴及人工撤銷重複事件和未確認告警

這些指標不能彼此替代。響應更快但投訴增加,不應判定為成功;模型回答正確,但寫入業務系統頻繁失敗,也不能進入正式執行。專案組應預先設定硬性停止條件,尤其是權限越界、不可逆操作和涉及客戶權益的錯誤。

按四個階段驗證,而不是直接開放執行權

  • 離線測試:使用脫敏歷史任務和專門構造的邊界樣本,檢查任務理解、工具選擇、參數生成和拒絕策略。測試集應包含正常流程、資訊不足、系統異常及惡意輸入。
  • 影子執行:接收真實請求並生成建議,但不呼叫會改變業務狀態的介面。將其輸出與人工處理結果及後續業務結果對照,重點觀察不同任務型別下的穩定性。
  • 小流量灰度:只開放給限定使用者、限定流程或低風險任務。高影響動作繼續由人工確認,同時記錄每次接管、修改和撤銷的原因。
  • 正式上線:達到約定閾值後逐步擴大範圍,保留監控、審計、降級和停用機制。模型、提示詞、知識庫或介面發生變化後,應重新驗證受影響的任務鏈。

影子階段不能只比較文本相似度。真正需要檢查的是:如果採納該建議,訂單狀態、客戶問題或營運事件是否得到正確處理。對於沒有明確標準答案的任務,可由業務人員盲審,並記錄「可直接採用、修改後採用、不可採用」的結果及原因。

統一 ROI 口徑,避免只計算模型費用

可將年度淨收益定義為年度可歸因收益減去全部年度成本,再以總投入為分母計算 ROI。收益包括可驗證的增收、人工工時釋放和差錯損失減少;投入則應納入模型呼叫、業務系統改造、資料整理、人工複核、監控審計以及持續維運。被釋放的工時只有實際減少外包支出、避免新增招聘或轉用於可計量工作時,才適合計入收益。

外部案例可用於補充指標清單,不能直接套用其效率增幅或收益比例。企業之間的任務複雜度、人工成本、歷史資料品質和系統整合深度不同。最終是否擴大上線範圍,應以同口徑基線、真實業務樣本、風險事件記錄和完整成本賬為依據。

用4—6週完成首輪試點:從最小閉環到受控上線

4—6週適合作為首輪試點的計劃視窗,不代表所有專案都能在這一週期內投產。它的目標不是交付完整平台,而是驗證一個問題:在邊界明確、權限受控的條件下,Agent能否穩定完成一段真實業務流程,併產生足以覆蓋成本與風險的收益。若系統介面、資料品質或合規審批尚未準備好,應縮小範圍,不應壓縮測試環節。

階段主要工作階段產物通過條件
第1週評估候選場景,梳理現有流程,採集人工處理基線,登記資料、權限與執行風險試點邊界、流程圖、基線記錄、風險清單、停止條件輸入輸出可定義,責任人明確,結果能夠驗收
第2—3週整理必要知識,連接試點所需系統,在沙箱中驗證任務鏈最小知識集、介面清單、測試用例、異常處理路徑至少一個業務閉環可以端到端執行
第4—5週先進行影子執行,再開放小範圍流量;僅授權可撤銷、低影響的動作接管記錄、失敗日誌、錯誤歸因、權限審計記錄異常能夠發現、攔截、追蹤並由人工接手
第6週複核品質、業務價值、風險事件與總體成本擴大、調整或停止的評審結論達到試點前約定的驗收門檻

第2—3週最容易出現範圍膨脹。工程上應優先跑通「接收任務—讀取必要資訊—生成判斷—呼叫工具—返回結果—人工確認」這一最小鏈路。報表、複雜編排和非必要介面可以後置。閉環尚未穩定時增加功能,只會擴大故障定位範圍。

進入影子執行後,Agent可以生成建議和擬執行動作,但不直接影響生產資料。團隊應對照人工結果,記錄偏差來自知識缺失、模型判斷、工具呼叫還是流程定義。灰度階段再逐步開放動作權限,並保留人工接管、操作留痕、快速撤銷和緊急停用機制。

第6週的結論不應只看回答準確率。評審需要同時檢查業務收益、執行品質、風險記錄與全部成本。全部成本應覆蓋模型呼叫、系統整合、人工複核、維運以及異常處置。若收益方向成立但主要問題可修復,可以調整後繼續;若關鍵風險無法約束,或流程本身缺少穩定輸入,應停止擴展。正式上線也不是專案終點,模型、知識內容和業務規則仍需隨流程變化持續維護。

企業第一個 AI Agent應該優先選擇什麼場景?

優先考慮邊界清楚、發生頻繁、人工成本可記錄、結果可核驗且錯誤影響可控制的流程。首個試點不宜選擇跨部門責任模糊、資料來源不穩定或一次錯誤就可能造成重大損失的任務。能否形成短閉環,比場景是否複雜更重要。

AI Agent一定要私有化部署嗎?

不一定。部署方式應由資料敏感度、監管要求、網路邊界、模型能力和維運條件共同決定。敏感資料也不必預設全部進入模型,可先採用欄位脫敏、最小資料傳遞、訪問隔離和日誌審計。若必須私有化,還需確認企業是否具備模型更新、容量管理與故障處理能力。

Agent接入ERP、CRM時,API和RPA怎麼選擇?

系統提供穩定API時,應優先使用API,因為參數、返回值和權限邊界更容易驗證。RPA適合缺少介面、短期無法改造的舊系統,但頁面變化可能導致流程失效。涉及寫入、審批、付款或狀態變更時,無論採用哪種方式,都應增加身份校驗、冪等控制、操作審計與人工確認。

如何判斷 AI Agent試點應該擴大還是停止?

擴大試點的前提是業務收益可復現,失敗原因可解釋,人工接管負擔可接受,風險事件處於預設邊界內。若關鍵錯誤反覆出現、系統依賴長期不穩定、總成本缺乏改善空間,或必須依賴大量人工補救才能執行,就應縮小範圍或停止。停止條件應在第1週寫入試點方案,而不是在結果不理想時臨時修改。