自检:貴司對智能體(Agent)友善嗎?

作者:張烽

一、趨勢:AI時代,業務全面對接勢不可擋

最近幾年,全球科技產業經歷了一場靜默而深刻的範式轉移。如果說前十年是“互聯網+”的黃金時代,那麼當下及未來十年,則將是“AI+”的確定性未來。从ChatGPT掀起的大模型浪潮,到各行各業爭先恐後地進行智能體部署,一個不爭的事實正在浮現:AI不再是錦上添花的工具,而正在成為企業生存與發展的基礎設施。

這種趨勢的背後,是三重力量的共同推動。

首先是成本效率的幾何級躍升。 傳統業務流程中,人工處理資訊、協調資源、決策判斷等環節,不僅成本高昂,而且效率受限於人類的生理極限。而AI智能體可以7×24小時工作,處理速度是人類的百上千倍,且錯誤率隨著訓練不斷下降。以客服場景為例,一個訓練有素的AI客服智能體可以同時處理數千個對話,單次服務成本僅為人工的百分之一甚至更低。當競爭對手以十分之一的成本、十倍的速度完成同樣的業務時,不擁抱AI的企業無異於在跑步比賽中綁住雙腿。

其次是數據價值的深度釋放。 企業積累了海量的業務數據,但這些數據往往沉睡在各個系統之中,未能轉化為真正的資產。AI智能體的核心能力之一,就是能夠從非結構化的、雜亂的數據中提取洞見,形成決策支持。過去需要分析師花一周時間完成的報表分析,AI可能在幾分鐘內就能完成,並且能夠發現人類難以察覺的相關性和趨勢。這種能力讓數據從“事後記錄”變成了“實時決策”的核心驅動。

第三是市場競爭的倒逼效應。 先行者正在利用AI建立新的競爭壁壘。在零售領域,AI驅動的動態定價和個性化推薦系統正在重塑消費者體驗;在製造業,AI智能體優化排產和預測性維護正在大幅提升設備綜合效率;在金融行業,AI風控和智能投顧正在重新定義服務的邊界。當行業中的創新者已經開始用AI重構業務流程時,後發者面臨的將不僅是“要不要做”的選擇,而是“落後多少”的差距。

這一輪AI革命與以往的技術變革有著本質區別。 互聯網改變了資訊的傳播方式,移動互聯網改變了連接的方式,而AI改變了“思考”和“行動”的方式。智能體不再是被動執行指令的工具,而是能夠理解目標、規劃路徑、調用工具、形成閉環的自主實體。這意味著,企業與AI的對接,不能停留在“裝個軟體”“上個系統”的層面,而必須深入到業務邏輯、管理流程、組織架構的根本層面。

二、對接:理解“對接AI”的四重維度

要判斷一家公司是否做好了對接AI的準備,首先要明確“對接”的內涵。這絕不是一個單點動作,而是一個涉及內外部、橫跨多層次的系統工程。具體來看,至少包含四個維度。

(一)內部管理對接

內部管理對接是企業對接AI的基礎層,指的是將AI智能體嵌入企業內部運營管理的各個環節。這包括但不限於:

人力資源管理:利用AI進行履歷篩選、面試安排、員工画像、培訓推薦、績效分析等。AI智能體可以快速處理大量候選人資訊,識別匹配度最高的履歷,甚至通過自然語言處理技術對面試記錄進行輔助評估。

財務管理:財務報銷的自動審核、發票資訊的自動提取與錄入、預算執行的實時監控、異常交易的智能預警。成熟的財務AI智能體可以自動完成三單匹配,識別重複報銷和不合規票據。

行政管理:會議安排的智能協調、差旅方案的自動推薦、辦公資源的動態調配。智能體可以根據參會人員的日程偏好和實時交通資訊,自動找到最合適的會議時間和地點。

流程審批:將固定規則的審批流程自動化,同時對異常情況進行智能分流和處理。AI智能體能夠學習過去的審批決策模式,對常規事項自動審批,對複雜事項標記並轉人工。

(二)外部業務對接

外部業務對接是企業對接AI的核心價值層,指的是將AI智能體應用於面向客戶、供應商和合作夥伴的業務環節。

行銷與獲客:AI驅動的用戶行為分析、個性化內容推薦、廣告投放優化、潛在客戶評分。智能體可以實時分析用戶在網站、APP上的行為軌跡,預判其購買意向,並在最佳時機推送最合適的產品資訊。

銷售與轉化:智能銷售助手可以為銷售人員提供客戶画像、溝通建議、競品對比、報價策略。更進一步的,自動銷售智能體(如對話式商務機器人)可直接完成從諮詢到下單的全流程。

客戶服務:這是目前AI智能體應用最廣泛的場景。智能客服可以處理大部分常見問題,通過情感識別技術感知用戶情緒,必要時無縫轉接人工。智能外呼系統可以進行客戶回訪、滿意度調查、欠費提醒等。

供應鏈與採購:供應商評估的自動化和智能化、採購需求預測、訂單狀態追蹤、物流路徑優化。AI智能體能夠整合內外部數據,預測原材料價格走勢,輔助採購決策。

(三)生態系統對接

這是更高階的對接形態,指的是企業以智能體的形式參與到更大的商業生態系統中,與其他組織的智能體進行“機-機對話”和協作。

跨組織流程自動化:在供應鏈場景中,採購商的AI智能體可以與供應商的AI智能體自動完成詢價、比價、下單、確認、對帳、付款等一系列交互,全程無需人工干預。

行業數據共享與協同:在物流、金融、醫療等行業中,多個參與方的智能體可以在統一的數據標準和協議下,共享脫敏後的數據,進行聯合建模和優化。

平台型生態的智能體市場:一些大型平台正在構建“智能體商店”,企業可以發布自己的智能體供他人調用,也可以訂閱第三方的專業智能體。例如,一個電商平台的賣家智能體,可以與物流公司的配送智能體、支付機構的結算智能體、行銷服務商的推廣智能體協同工作。

聯盟鏈上的智能合約執行:在區塊鏈支持的多方協作中,AI智能體可以監控預設條件是否滿足,自動觸發智能合約的執行,實現高度可信的自動化協同。

(四)治理合規對接

這是不得不談、不能不重視的保障層,指的是企業AI能力的建設必須符合法律法規、行業規範和社會倫理要求。

數據合規:AI智能體對數據的採集、處理、存儲、傳輸,必須符合《個人信息保護法》、GDPR等法規的要求。這包括獲得用戶授權、實現數據的匿名化或去標識化、支持用戶的數據刪除權等。

算法透明度與可解釋性:當AI智能體做出的決策影響用戶權益(如信貸審批、招聘篩選、保險定價)時,企業需要能夠解釋該決策的關鍵依據。黑箱化的模型在高風險場景面臨越來越嚴格的監管壓力。

內容安全與價值觀對齊:面向公眾的AI對話智能體,需要確保其生成內容不違反法律法規和公序良俗,不傳播虛假資訊、歧視性言論或有害內容。這需要建立從預訓練到微調再到實時監控的多層安全機制。

責任邊界與應急機制:當AI智能體的行為造成損失時,責任如何劃分?企業的治理架構中,必須明確智能體的行為邊界、人類監督的介入時機、以及事故後的處置流程。

三、現狀:多數公司的業務尚未準備好對接AI

如果以上述四重維度作為標尺來審視大多數公司,會發現一個令人尷尬的現實:號稱要“擁抱AI”的企業,其業務系統和管理流程對智能體來說,環境極為惡劣,甚至可以說是“敵對”的。

(一)從內部管理看:數據沼澤與流程迷宮

內部管理對AI的最大障礙,首先體現在數據品質上。AI智能體不是魔法師,它依賴高品質的、結構化的、語義一致的數據。然而,很多企業內部的數據狀態可以用“慘不忍睹”來形容:

不同部門的同一字段(如“客戶名稱”、“產品型號”)在各自的系統中使用完全不同的命名規則和編碼體系;

紙質單據與電子文檔並存,大量關鍵資訊被鎖死在掃描件、PDF圖片甚至語音錄音中,AI需要先進行複雜的OCR和語音識別才能“看懂”;

歷史數據缺失、錄入錯誤、重複記錄普遍存在,數據治理一直停留在口號層面;

業務流程本身缺乏標準化,同樣的審批事項在不同分支機構、不同經辦人手中可能走完全不同的路徑。

當AI智能體試圖接入這樣的內部系統時,它面對的不是清晰暢通的資訊高速公路,而是一個到處是坑洼、斷頭和死胡同的數據沼澤。一個報銷審批智能體,如果連“差旅費”和“交通費”在各系統中的分類邏輯都不一致,它又如何能夠自動審核?

(二)從外部業務看:界面封閉與流程任性

面向外部的業務系統同樣問題重重。許多企業的客戶界面、交易系統在設計之初根本沒有考慮過“AI智能體將作為用戶”這一場景。

API(應用程式介面)的缺失或不規範是最大痛點。 一個希望自動完成產品比價的AI採購智能體,如果目標供應商的網站沒有開放的、規範的、有認證機制的產品資訊介面,它就不得不採用“模擬瀏覽器”的方式去爬取網頁——這種方式脆弱、低效、且往往違反網站服務條款。很多企業依然把“對外介面”看作一個技術問題而不是戰略問題,提供的API文件過時、認證方式落後、限流策略不透明,對智能體的調用極不友好。

流程設計的人類中心主義同樣嚴重。 絕大多數業務系統的交互界面是為人類視覺、人類反應時間、人類注意力模式設計的:複雜的多級菜單、需要“懸停”才能出現的操作選項、動態刷新的驗證碼、強制閱讀的彈窗公告……這些設計對人類用戶可能只是略微不便,對AI智能體卻是難以逾越的障礙。一個希望自動完成訂單查詢的智能體,當遇到一個需要先點開三級菜單、再在模糊的日期選擇器中尋找“最近7天”選項、然後面對一個隨時可能彈出的滿意度調查彈窗時,它的自動化腳本將變成一個布滿條件分支和異常處理的“脆弱巨獸”。

(三)從生態參與看:各自為政與標準缺失

如果說內部和業務對接的問題還可以靠企業自身的努力來解決,那麼生態層面的挑戰則遠遠超出了單個企業的控制範圍。

**首要問題是各企業間系統架構的異構性。**A公司的ERP與B公司的CRM,底層數據模型完全不同;這個行業的訂單狀態碼與那個行業的物流狀態碼含義互不相通。當多個企業的智能體試圖協同完成一個端到端的業務流程時,它們首先需要解決的不是複雜的業務邏輯,而是最基礎的“翻譯”問題——而這個翻譯工作往往需要大量的定制開發,完全違背了自動化協同的初衷。

標準和協議的缺失或碎片化是更深層次的問題。 雖然一些行業組織、技術聯盟在推動B2B集成標準(如EDI的某些版本、RosettaNet、OASIS等),但這些標準要麼過於陳舊,沒有考慮智能體的自主交互需求;要麼過於複雜,實施成本高昂;要麼覆蓋面有限,只在特定行業或特定環節適用。一個覆蓋“智能體發現-能力協商-數據交換-狀態同步-異常處理-結算清算”全鏈條的、開放通用的標準協議,目前尚付之闕如。

信任和安全機制更是生態協同的攔路虎。 一家企業的智能體如何驗證另一家企業智能體的身份和授權?交互過程中的敏感數據如何確保不被洩露或被第三方竊聽?當某個智能體行為異常(例如被惡意劫持)時,如何快速發現並切斷其生態訪問權?這些問題在傳統的API安全框架(OAuth、API密鑰、mTLS等)下部分有解,但當交互主體從“企業系統”變為“自主智能體”,當交互模式從“請求-回應”變為“多輪對話與自主決策”時,現有的安全模型顯得捉襟見肘。

(四)從治理合規看:責任真空與監管滯後

合規方面的問題同樣令人擔憂。許多企業在推進AI的過程中,基本上是“先跑起來再說”,治理架構嚴重滯後於技術部署。

AI決策的責任歸屬模糊——當一個人力資源AI智能體錯誤地篩掉了合格的候選人,是算法工程師的責任?業務部門的責任?還是AI本身的責任(如果法律上可以這麼說的話)?企業內部往往缺乏清晰的、可操作的責任分配規則,最後變成誰都不負責。

倫理審查機制缺失——什麼樣的AI應用場景需要經過倫理審查?誰來組成審查委員會?審查的標準是什麼?大多數企業根本沒有建立相關的制度和流程。結果就是,一些有明顯歧視風險或隱私風險的AI應用,在沒有充分評估的情況下就上線了,直到被投訴或引發輿情才匆忙補救。

監管合規的“平移思維”——很多企業將傳統的合規要求直接“平移”到AI場景,而沒有理解AI帶來的新問題。例如,數據保護法規要求用戶有權“解釋”自動決策的邏輯,但一個深度神經網絡的決策邊界真的能用自然語言清楚“解釋”嗎?企業往往用“我們的模型基於X、Y、Z三個特徵”這樣的表面解釋來搪塞,而沒有真正解決可解釋性問題。

四、行動:全方位重視的必由之路

面對上述複雜的局面,企業不能只是被動等待技術成熟或標準完善,而必須積極主動地從戰略、技術、業務、合規四個層面系統性地推進AI對接工作。

(一)戰略層面:從“工具思維”轉向“生態思維”

最高管理層需要清醒地認識到,AI不是下一個軟體專案,而是影響商業模式和組織形態的戰略變數。對接AI不是IT部門的事,而是整個公司的事。企業需要制定清晰的AI戰略路線圖,明確未來三到五年內,哪些業務環節將引入AI智能體、哪些智能體能力是自研還是外採、如何平衡自動化與人工、如何應對外部生態的變化。

更重要的是,企業需要做出一個根本性的轉變:從將AI視為提高效率的內部工具,到將AI作為參與外部生態的身份載體。這意味著,企業的戰略規劃中應當包含“我們的智能體將如何與其他組織的智能體協同”“我們在整個智能體生態中希望扮演什麼角色”這樣的思考。

(二)技術層面:構建“對智能體友好”的系統架構

技術團隊需要重新審視現有的系統架構,從“以人為本”的設計理念轉向“人與智能體雙中心”的設計理念。具體而言,企業需要:

全面API化:所有核心業務功能都應通過設計良好、文件齊全、版本可控的API對外暴露,並針對機器對機器的調用場景進行優化(例如,提供批量操作介面、支持異步回調、設計合理的限流和重試策略)。

數據就緒:建立統一的數據治理框架,確保關鍵數據實體(客戶、產品、訂單、供應商等)在全公司範圍內有唯一、清晰、機器可讀的定義。歷史數據的清洗和標註工作要作為戰略投入來對待。

嵌入式智能:將有價值的業務邏輯(比如審批規則、定價策略、風險判斷標準)從硬編碼的應用程式中剝離出來,封裝成可以被AI智能體調用的、獨立的“能力單元”。這樣,智能體可以像搭積木一樣組合這些能力,而不是被迫重複實現或繞過它們。

可觀測性設計:為AI智能體的行為設計充分的日誌、監控和追蹤能力。當多個智能體協同工作時,能夠清晰追溯哪個智能體在什麼時間基於什麼數據做了哪個決策,這是故障排查和責任認定的基礎。

(三)業務層面:重新設計流程與角色

業務部門不能把AI對接完全扔給技術部門。恰恰相反,業務流程的重構是AI落地的關鍵。

流程簡化與標準化:在與AI對接之前,先審視現有流程本身是否合理。一個本身就混亂、充滿特例的流程,自動化之後只會更快地製造混亂。企業需要首先對業務流程進行“瘦身”和標準化,減少不必要的分支和例外情況。

人機協作模式設計:並非所有環節都適合全自動。企業需要明確哪些流程完全交給AI,哪些需要AI先處理再由人工複核,哪些始終保留給人工。關鍵在於設計順暢的“轉交”和“升級”機制,而不是簡單用AI取代人。

員工賦能:AI不是來搶工作的,但AI確實會改變工作的內容。企業需要系統性培訓員工,教會他們如何與AI智能體協作,如何理解和介入智能體的決策過程,如何在智能體失效時接管和處理異常。

(四)合規層面:建立嵌入式治理機制

合規不能是事後的“補丁”,而應當從第一天就嵌入AI系統的設計、開發、部署和運維全生命週期。

AI倫理委員會:建立跨部門的AI倫理審查機制,對高風險AI應用進行前置評估。委員會應當包括法務、合規、業務、技術和外部專家等多方代表。

影響評估流程:在部署任何可能影響用戶權益(尤其是涉及信用、就業、健康、保險等敏感領域)的AI系統前,進行正式的算法影響評估,識別潛在的公平性、透明度、隱私和安全風險。

持續監控與審計:AI系統的行為可能隨著數據分布的變化而漂移。企業需要建立對已上線AI智能體的持續性能監控和周期性審計機制,確保其持續符合合規要求。

透明披露:在適當的情況下,向用戶、合作夥伴和監管機構披露企業正在使用AI智能體的關鍵場景、其基本工作原理、以及用戶的權利(如申訴和人工介入的渠道)。信任建立在透明的基礎之上。

五、謹慎:對接AI的關鍵注意事項

在上述全方位的推進過程中,有幾點尤其值得企業特別關注:

避免“AI解決主義”的迷思。AI很強大,但它不是萬能的。並非所有問題都適合用AI解決,也並非所有業務流程都值得花成本去“AI化”。企業在擁抱AI的同時,需要保持清醒的成本效益判斷。一些業務量很小、規則極其複雜多變、錯誤容忍度極低的

查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 打賞
  • 回覆
  • 轉發
  • 分享
回覆
請輸入回覆內容
請輸入回覆內容
暫無回覆