AI 工作實務 · 管理方法
AI 做錯了,最後誰負責?從客訴、錯價到錯誤報表,拆解企業責任鏈
顧客已聽到換貨承諾、業務已寄出錯價、主管已按照錯表排班,三種錯誤都有一個可以先攔下後果的人。沿著發現、止損、通知、更正和恢復的節點,找出每一步需要的權限與交接證據。

本文目錄
一則客訴有兩個時間點:顧客聽到承諾,以及公司發現可能答錯報價錯一個零,先分清草稿、報價單、訂單與已履行交易錯誤報表沒有寄給外部,公司可能已沿著它做了三個決策責任鏈要列出能做的動作,才看得見公司的缺口第一位發現的人要交什麼,下一位才接得住事後檢討,要讓「為什麼有人按下送出」成為可檢驗的問題誰有權恢復服務?要回到業務後果,還要驗證正常案件在下一起事件發生前,讓責任鏈實際走一次實作工具與延伸閱讀專題編輯:Iris Hsieh|AI 資安與治理編輯
客人把手機上的客服訊息給店員看,要求公司兌現換貨承諾。值班主管看完第一句說「這是機器回的」,第二句問「最後是誰按送出」。兩句話都沒有回答客人的問題:公司昨天說會換貨,今天還算不算數?此刻最重要的,是找一位有權接手案件的人,先確認對客戶說過什麼、哪些人可能收到同樣訊息,以及公司何時給下一次答覆。至於錯誤從哪裡進來、哪一道控制失效、是否產生對外法律責任,分別需要不同證據。
把這幾件事擠在同一場究責會議裡,公司可能一面爭論該誰道歉,一面讓同款錯誤繼續發生。較可行的作法是平行開兩條工作:一條先照顧受影響的人並控制擴大,一條保存當時事實以便查明原因。等影響範圍較清楚,再分派改善與驗收。以下用三個虛構事件,逐步拆解客服、價格與管理報表的責任鏈。這裡分派的是組織內可執行的任務;個案的法律責任另需依交易、事實與適用規範判斷。
一則客訴有兩個時間點:顧客聽到承諾,以及公司發現可能答錯
假設週一下午,一名顧客詢問拆封的特價品能否換貨。客服助理從舊活動說明擷取到「可直接更換」的文字,承辦略讀後送出。週二顧客帶商品到櫃檯,門市依現行規則拒收。客服主管看到的是真實發出去的文字,門市看到的是實體商品與目前規則,兩邊都能出示資料。若只要求最後接觸顧客的店長「自行處理」,一線員工就會在沒有權限的情況下代公司重新承諾。
先安排一位案件窗口向顧客確認訂單、收到訊息的時間與希望得到的協助,再說明何時回覆。可由客服代表對外聯繫,但是否有權同意更換、提供運費或調整原條件,須由公司既有授權決定。門市同時註記已提出申請,在同一位顧客下次來電時能接續處理。若可能影響其他顧客,由營運值班主管暫時把同一類的自動回答轉人工;其他查詢可以照常。先把範圍縮到能安全維持服務的大小,客人才不必等待全套調查結束。
追查時請把四樣東西攤開:顧客的原問題、系統當時找到的活動條文、客服看到的草稿,以及真正送達的訊息。它們未必相同。可能是檢索選錯活動,也可能是草稿漏寫「未拆封」而承辦照貼,還可能承辦曾自行刪除限制句。事後重新詢問工具所得的答案,最多能幫忙檢查目前狀態,不能證明當天客人收到了什麼。歷史訊息若已缺失,只記錄已知事實、替代證據與仍待確認之處,不要以推測補成完整故事。
接著畫出受影響對象的集合。過去幾日所有詢問換貨的人、收到舊活動說明的人、已依該訊息前往門市的人,是三個不同圈子。服務人員可先處理已經到店的個案,由客服主管確認另外兩圈的查找方式與可能誤判。若資料不足以辨認每位受影響的人,不能事先宣稱所有人都已通知;可保留一個讓顧客主動查詢、門市能接續處理的入口。每次向上呈報時都標明目前涵蓋哪一圈,讓資源跟著實際影響走。
這段處理也可能遇到顧客提供的畫面與公司紀錄不同。例如顧客截取的訊息缺少上一則說明,或門市調出的是另一張訂單。客服可以請對方用既有安全管道補上必要前後文,核對時間與案件關聯;仍須保留兩種記載,不能先把其中一份視為不實。窗口在尚未確認時,應依公司權限安排可逆的協助,例如留下商品檢查紀錄與聯絡方式,讓顧客得以離店等待。現場有人可以採取具體行動,才不會把尚待釐清的證據差異變成第二次服務衝突。
事件告一段落的標準應包含顧客端。資料管理者已移除舊文件、工具測試已答對,仍不代表這名顧客拿回應得的答覆。案件紀錄應能看見對外窗口實際回覆了什麼、對方是否還有待處理事項,以及現場同仁能否看到同一安排。若雙方對交易條件仍有爭議,由具授權的人依公司程序與適用規範處理,不能把技術修正當作顧客已接受解決方案的證據。客訴這條線和系統改善這條線可以在不同日子結束。
報價錯一個零,先分清草稿、報價單、訂單與已履行交易
再看一家接單製造商。業務請工具整理新客戶報價,原始價格表以每盒計價,詢價單卻使用每件。採購量100盒,每盒10件,每盒新臺幣1,200元。正確的小計是120,000元。工具把每件120元當成每盒單價,再乘100盒,報成12,000元。兩張表看起來都有單價、數量與總金額,若審價者只拿計算機重做最後一次乘法,也會得到表上的錯價。錯誤其實發生在數字被賦予單位時。
先問錯價停在哪裡。還躺在承辦草稿中,可由承辦撤換,並檢查同批草稿有無相同單位錯配。已由公司寄出,需保留寄件版本、附件與傳送時間,由業務窗口核對客戶是否讀取、回覆或據此採取行動。已產生訂單的案件,還要找出後續出貨、採購、排程及收款是否已啟動。這些狀態影響立刻要做的事,卻無法單靠「有沒有簽名」或「是 AI 算的」斷定契約效力。涉及爭議時,應保留完整往來交由交易與法律權責人員判斷。
負責價格表的產品主管先驗證當時有效的幣別、包裝數量、最小訂購量、折扣及適用客戶。業務主管核對承辦是否具有該額度的發價權,以及審價流程是否能看見原始單位。資訊部追查系統轉換前後的欄位及所用規則。財務可協助估算不同處理情境的經濟影響,但不能把兩個報價的差額直接登記成已發生損失。正確金額與錯價相差108,000元,最後結果可能涉及更正、交易條件調整或其他安排,須依事實另記。
業務通知客戶也要有節奏。先確認對方確實收到哪一版,告知已發現計價單位需複核,提供可直接聯繫的窗口及下一次更新時間,並在後續書面更正時寫明取代哪一份報價。保留舊版本的編號有助於雙方確認討論的是同一筆交易,也能防止其他接單人員從舊信件再次複製相同條件;若公司尚未決定履行方案,避免承諾取消或承諾照價交貨。公司內部同時讓訂單與出貨人員知道暫停的是哪一筆、誰有權解除、其他同客戶案件是否可以正常進行。沒有這個區別,倉庫可能誤停一筆有效急單,讓一項報價事件又引發交期爭議。
找到根因後,採用能被下一筆訂單驗證的修正。讓單價、計價單位與包裝倍率必須來自同一筆有效料號資料,系統以欄位計算小計,把語言模型留在整理報價說明的位置;遇到客戶特殊折數或混裝件數,送到有授權的審價者判斷。重新上線前設三筆資料:正常整盒、換算成件、同料號不同包裝。測試要能證明原先錯價會被攔住,也能證明正常的零散訂單仍然能成交。只把提示改成「請仔細檢查」,沒有交代誰來保證換算一致。
錯誤報表沒有寄給外部,公司可能已沿著它做了三個決策
第三個情境發生在月會。營運簡報寫「新客戶退貨率大幅改善」,主管據此決定放寬某條產品線的抽驗。會後分析師發現,產生圖表的資料把部分待辦退貨排除,摘要又把「截至本週已完成的退貨」寫成「全部退貨」。這起事件沒有一封寫給客戶的錯誤承諾,卻可能影響後續品質、客服人力與採購條件。接手的人應先找出報表被用來做什麼,而非只寄一張修正版到群組。
可用一組假設數據看清錯誤。某期新客戶出貨200筆,已完成退貨8筆,另有6筆仍在辦理。若一筆出貨至多對應一筆退貨,而且這6筆最後都成立,再假設截止日之後不會新增申請,依同一批出貨計算,已完成比例是4%,含待確認件的上界是7%。此刻不能斷言最後比例等於7%,也不能用4%宣稱整期表現已改善。需要核對跨期案件、重複申請及之前期間用的分母,才能比較趨勢。去掉摘要裡一句形容詞,有時比補上第二位小數重要。
這時應有一位能召回決策資料的人。報表負責人標記舊版本,通知曾取得簡報的與會者,列出錯誤指標、可能影響範圍、暫時可用的替代資料及更正時間。主持會議的營運主管回頭查找會議紀錄:抽驗比例是否已調整、客服排班是否已變更、採購是否已向對方提出新條件。每項決策由其權責人確認要維持、暫停或回復。分析師可以修表,未必有權把產線調回去,兩種責任必須同時分派。
資料流也要追到報表以外。相同指標可能同步顯示在區域主管的看板、月獎金的試算表或董事會簡報草稿。請先從實際引用來源及訂閱名單追查,標清哪些已更新、哪些是下載後獨立存在的副本。有些副本無法遠端撤換,就由收件人確認已替換檔案,對重大決策留下簽收紀錄。若只是更正一個格式錯字,不需要動員全公司逐一簽收;對影響支出、人員評價與外部資訊的數字,則應核對修正有沒有抵達使用點。
長期修正由熟悉指標的人定義「完成退貨」「待處理」「同一批出貨」與截止時間,分析人員保留重算表,模型只讀取已核准的指標名稱、期間與備註。覆核者看見一項趨勢說明時,應有辦法從這句話回到數字,再由數字回到查詢口徑。若資料尚未齊全,允許系統產出「目前只能報已完成件數,趨勢待確認」,比硬湊一段管理解讀更可靠。這樣的輸出也讓主管知道今天仍然可以做哪些決定。
責任鏈要列出能做的動作,才看得見公司的缺口
把前三起事件放在一起,最常受到質問的是第一線承辦,最需要立刻動手的卻不只一個人。負責來源的人維護政策、價格表或指標定義;設計流程的人決定工具能讀什麼、何時停下;執行者檢查具體交付物;放行者擁有對客戶承諾或對內改變資源的授權;事件窗口協調補救。小型公司可以由同一人兼幾個角色,仍要分清他在各個時點有哪項權力、看得到什麼證據、可以叫停什麼。
美國國家標準暨技術研究院的 AI 風險管理框架,在治理部分把角色、責任與溝通路徑列為應明確記錄的事項,在管理部分則包括部署後監測、事件回應與復原。經濟合作暨發展組織的問責原則也強調,依個別角色與情境保留追溯資料、流程及決定的能力。前者可用來問公司是否賦予角色權力,後者可用來問事後能否說明決策。兩者是管理參考,沒有替台灣個別交易決定誰應賠償。美國國家標準暨技術研究院風險管理框架/經濟合作暨發展組織問責原則
| 工作節點 | 能決定的事 | 應交接的證據 |
|---|---|---|
| 資料維護 | 哪版政策、價格或數字適用 | 來源、適用期間、異動者 |
| 流程設計 | 哪些步驟自動執行,何時轉人工 | 規則版本、例外條件、測試紀錄 |
| 個案放行 | 哪項承諾、報價或決策可以送出 | 核對依據、授權範圍、送出版本 |
| 事件接手 | 如何停止影響、由誰聯繫 | 已知對象、處置清單、下次更新時間 |
| 業務復原 | 何時恢復,哪些案件要補辦 | 驗收結果、補辦清冊、後續觀察人 |
將表格填完後,試問每一格兩個具體問題。如果今天是週六,這個人請假了,替補者能否讀到必要資料?如果他不同意送出,系統是否允許他按下暫停?如果一位名義上的審核人只能看到成品,看不到原始價格或適用條款,他最多能看出錯字,無法對正確性負完整責任。如果主管要對營運結果負責,卻無從得知自動流程是否替他做了決策,就該先調整授權與顯示機制,再要求主管簽名。
供應商也在責任鏈上,但不宜只寫「有問題找廠商」。採購或服務窗口要能辨別哪項資料可請對方提供、服務可否暫停或切換、公司手上有哪些獨立證據、合約上的回應與協力事項由誰追蹤。供應商確認服務狀態正常,只能回答部分技術問題;公司使用過期價格表造成錯價,仍須回到內部查明。相反地,如果供應服務變更造成多個工作同時異常,個別承辦不能各自猜原因,公司應合併資訊統一追蹤,避免重複通報與各說各話。
第一位發現的人要交什麼,下一位才接得住
接獲異常時,事件窗口先分辨目前是否還會繼續發生、是否有人正在依錯誤資訊行動,以及能否直接回到可靠的舊流程。這三個問題決定當下需要多少人。單一內部草稿的錯別字,可交承辦修正;一個持續替客戶承諾退款的自動回覆,應由能停止發送並接通人工服務的人先處理。主管應讓前線知道,發現疑似重大影響時可以先暫停自己有權控制的動作,也要知道超過權限該找誰。
做一張簡單的事件卡,只收集足以接手的資訊。第一行填「何人在哪個服務、哪個時間發現什麼」;第二行填「一份已觀察到的輸出及其受控位置」;第三行填「哪些動作已經發生、哪些只是假設」;第四行填「誰在處理、何時提供下一次更新」。若顧客原信含個資,事件群組放受限案件編號及必要摘要,讓有權人員回原處查;避免為了釐清小範圍錯誤,把完整客戶資料另外散出去。證據紀錄也需要自己的存取與保存規則。
事件卡的第一版完全可以有空白。主管寧可看到「已確認一筆、同類案件數待查」,也不該看到「應該只有一筆」被下一層簡報寫成既定事實。把每個未知項目旁邊補上負責查核的人與下次更新時間。若到了約定時間還沒有新證據,可以回報正在查哪個系統、有什麼限制,以及受影響者目前能取得哪些服務。定時更新的價值在於減少猜測,並讓經營者在資訊不足時仍可做限縮服務等可逆決定。
另一個常見問題是把現況證據和修正動作覆蓋在一起。資訊人員急著改掉錯誤提示或替換知識庫,結果沒留下錯版內容與生效時間;客服為避免其他人誤用,手動覆蓋了原寄件檔。若風險持續,應先依職權停止有害動作,同步保留可取得的最小紀錄,再把修正版本另存並註記何時切換。切勿為了重現事故,重新對真實客戶發一封錯信或強行還原有風險的服務。示範案件與隔離測試足以回答的問題,就留在測試環境。
事件升級也應明確。舉例說,若已出現對外承諾、可能影響付款、牽涉個人資料或無法界定受影響範圍,可由公司先指定需通知哪些內部權責人。這是內部調度的條件,不等同法令上的申報門檻。對外通知誰、內容與期限,可能取決於產業、契約、資料與案件事實,應由相應權責人確認。行政人員可負責提醒期限與保存回覆,卻不應在沒有依據時自行向受影響者保證「沒有損害」或承認未查明的責任。
一旦事件跨班,值班交接比主管群組內的長串對話更重要。請上一班用自己的話寫下已完成、待確認、禁止重做及下一個時間點,下一班則回述自己要採取的第一個行動。例如報價事件中,「已暫停這張報價的接單轉入」與「已暫停該客戶所有交易」差距很大。把範圍與解除權限寫清楚,並留一個聯絡不到原主管時的代理人。若無人能接棒,應由指揮窗口重新分派,不能因為事件卡有人名就認為責任已交接。
事後檢討,要讓「為什麼有人按下送出」成為可檢驗的問題
調查可以從一條時間線下手。沿順序寫出原始規則何時生效、資料何時匯入、模型取用了哪一版、承辦何時看見、誰做了修改、結果何時送往下游、何時發現異常。每一項先填證據位置,找不到就填未知,再分清是系統記錄的時間、員工回憶,還是事後推算。若不同系統時鐘或時區不一致,應標示時間依據,不要為了讓順序看起來合理而改寫原紀錄。一條帶有缺口的真實時間線,比把推測寫成精確到分秒的報告更有用。
沿著時間線找三個節點:何處首次出現錯誤、哪一道設計應能攔住它、錯誤最後在哪裡變成業務後果。客服案例的第一個節點可能是過期條文,第二個是未顯示有效日期的審閱畫面,第三個才是對顧客送出。錯價案例的第一個節點可能是包裝換算,也可能是來源表本來就填錯;在讀過訂單、價表及轉換紀錄前,兩個說法只能列為待驗假說。報表案例中,計算口徑與摘要措辭可能同時錯,修正其中一個也無法讓決策可靠。
檢討時可以用一個反向提問衡量改善方向:「如果換成另一位經驗相當的同仁,在同樣畫面、同樣權限與同樣交件壓力下,能不能看出問題?」如果只有少數資深人員記得冷門條款,應讓審閱畫面提供依據,或把例外導到最熟悉的角色。若畫面與提醒都清楚,承辦卻反覆略過可行的必要程序,仍可依公司既有管理制度另行處理。分清個人行為與工作設計,才有可能一面維持公平,一面減少下一次錯誤。
跨部門時最有啟發性的證據,往往是「各自都做對了什麼」。財務依照原先報表字典只統計已完成件數,營運習慣把報表當成當期全貌,簡報工具又省略了狀態說明。三方各自的局部目標都說得通,交接處卻沒有人確認文字能否支持主管的推論。此時若要求三方每次都再看一遍,反而增加耗時,仍無人知道應看哪一欄。比較有效的是為每個決策指標指定能解釋口徑的人,並要求在關鍵狀態未結案時保留待確認提示。
將改善措施寫成能驗收的句子。把「加強教育」改成「值班人員在沒有現行活動條款時能將詢問轉入人工佇列,顧客能取得案件編號」;把「優化報價」改成「相同料號有兩種包裝時,缺少包裝碼就無法產生正式發價版本」;把「多檢查數字」改成「待退件存在時,報表同時顯示已完成件數與待確認件數,摘要保留期間」。每句話都指定一個會失敗的測試條件。沒有失敗條件的承諾,很難證明修正真正有效。
還要設計一個正常案件作為對照。客服轉人工的修正若把所有詢問都送到人工,錯誤回覆可能降了,等候時間卻急劇拉長。報價攔截若把不同包裝一律禁止,就會堵住原來合法的特殊訂單。應以少量已知可放行、已知要擋、資訊不足要升級的案件合測,再觀察正式流程是否新增排隊與例外。經營者要看的,是風險如何從一個節點移往另一個節點,有沒有替新增工作配上人力與權限。
誰有權恢復服務?要回到業務後果,還要驗證正常案件
發生錯誤後,有人傾向停掉所有 AI 功能,直到每一項根因都釐清。若錯誤只影響某一類政策問答,所有服務停擺可能讓客戶連查詢物流都無法完成。可以把恢復分成幾個可說明的範圍:已確認安全的功能繼續服務,受影響的功能降為僅產生草稿,仍無法掌握影響的部分維持人工。決定範圍時看的是工作與權限,而非工具名稱。這也讓修復團隊知道先交出哪一部分,能讓前線最快恢復穩定。
恢復前至少把兩種權限分清楚。技術人員能部署已修版本,業務權責人能接受服務回到指定工作範圍後的剩餘不確定性。小公司老闆可能同時負責兩者,仍可先留下技術驗證資料,再記下業務放行條件。若內部規定要求不同人覆核,就依其程序;別把單純能操作後台的人默認為同時擁有營運授權。相反地,主管即使有放行權,也需要知道測了什麼、還有哪些功能不能使用,才能作出有效決定。
例如先恢復客服草稿,讓值班員在人工送出前對照現行條款,並對活動品、拆封品等例外另走分流。指定一位營運主管在首批案件後抽看實際紀錄,留意顧客是否又因相同理由到店爭議。如再出現已知錯誤,依事前約定回到人工服務。這裡的首批數量與觀察期間應反映服務量及後果;低頻案件只觀察一個工作日上午,很可能根本等不到同類情境。應先列出必須涵蓋的事件種類,再決定觀察多久。
恢復報價時,可讓一名熟悉訂單的人用過去已結束的案件,在隔離環境重新走一次價格表到報價單的路徑,對照包裝單位、小計與顧客收到的格式。某筆若原本有議價特例,應檢查是否仍能依權限輸入例外依據,而非把原本談好的條件全部打回。恢復報表時,請一位沒有參與修正的營運主管讀摘要,說明他會做哪個決定,再請分析師核對這個解讀是否受數據支持。能否正確使用資訊,也是功能是否恢復的一部分。
所有已遭影響的舊案件,另列補救清單。每列寫實際使用點、可能後果、對應處理、負責人與完成證據,保留受控的案件編號以便查詢。修正系統只能避免後續擴大,無法自動替先前依錯誤數字調整排班的主管重做決定。若某個主管檢查後決定維持原安排,也要記下維持的原因與依據,避免下一班因看見舊版錯誤而重複撤回。重大案件的結案時間應以補救與殘餘風險都已有交代為準。
在下一起事件發生前,讓責任鏈實際走一次
要知道制度是不是可用,可以用一場桌上演練取代對著組織圖開會。主持人拿出一則虛構客訴,只給第一線同仁平時會看得到的資訊,請他用現有管道尋找可接手者。過一段時間,再提供第二線查到的舊政策版本;接著加入顧客已到店、主管休假或供應商尚未回覆等變化。每一輪讓參與者說出自己真正有權做什麼、需要哪些資料、會交給誰。把全程卡住的地方記下來,不以答案是否符合主持人預想來評分。
請特別檢查那些看起來理所當然的交接。門市是否能用訂單號找到客服的原始承諾?客服能否知道對方已經到店?假日值班者能暫停哪一種自動回覆,又如何確知已暫停成功?若管理者只知道要打電話給一名休假工程師,演練就發現了一個可解決的單點。補上職務代理、最小操作權限與確認結果的方法,比要求全員背熟緊急聯絡表更容易在真實事件中派上用場。
下一輪用同一套責任表跑錯價,在「收到報價」「訂單成立情況待查」「已安排出貨」三個狀態各停一次,請不同角色說明自己的下一步。再以報表事件檢查誰能找回會議決定,誰能確認舊副本確已更正。最後給每位參與者一張空白交接卡,請他只寫下接手者完成工作所需的最少資訊。若必須聽完整場會議才知道怎麼接,交接仍然太依賴個人經驗。若新同事拿到卡也能找到權責人、明白目前界線,才算留下可複用的能力。
事後向老闆呈報,可以用四行結束。第一行說明誰受到什麼實際影響,目前仍有多少案件待查;第二行說明哪項功能已限制、誰正負責對外與對內補救;第三行交代已確認的失效點、證據與尚待驗證的假說;第四行提出需要老闆做的決定、其他選擇及最晚處理時間。如果只是需要工程團隊修一個可逆的小錯,明確告知已有人接手即可。如果需要對顧客做重大承諾、投入補救資源或接受剩餘風險,就將決定交給真正具有授權的人。公司能在每個時間點說清楚誰手上有何事、如何交棒、用什麼證明完成,客戶才能得到一個可以依靠的答覆。
實作工具與延伸閱讀
延伸閱讀: 從客服知識庫追到 AI 幻覺發生的位置 。
用一筆虛構的錯誤承諾,請客服、業務與資訊演練交接及恢復。向天地人洽詢企業內訓。
圖片與素材說明:封面為 AI 生成的概念插畫,內文圖解由天地人依本文繪製。
本文由 TARAISG(TIANDIREN AI SOLUTION GROUP)使用 AI 模型產生正文、整理來源並設計實務工具。方法依據與限制列於文末;案例為明確標示的教學假設。未有具名紀錄時,不宣稱經人工或專家審核。
查看內容製作與更正說明