聯合國智慧城市 AI 工具箱：當演算法參與公共決策，誰能說「不」？

專題編輯：Iris Hsieh · 資料截止 2026.11.08

國際電信聯盟 ITU 於 2026 年 11 月 4 日宣布，聯合國智慧永續城市倡議 U4SSC 推出以人為本的智慧城市 AI 工具箱，與聯合國人居署共同推動公共服務採用 AI 的治理方法。它最值得企業與政府參考的地方，並不是推薦更多城市感測器或模型，而是提出一套從問題定義、影響評估、採購到停止使用的決策邏輯：高風險決定必須有真正能介入的人類負責人。

一、城市部署 AI，第一個問題不應是「能做什麼」

想像一個城市需要改善道路坑洞通報與維修效率。技術團隊可能提議用電腦視覺判斷照片、用生成式 AI 整理居民申訴，再依分數排定維修優先順序。這看似是一條標準的智慧城市自動化流程，但有幾個更基本的問題：誰決定優先級？沒有智慧型手機的居民是否更難通報？誤判導致危險路段延誤處理，由哪個單位解釋與補救？如果某個演算法對特定地區長期低估需求，政府要如何發現？

ITU 的 11 月 4 日新聞稿將這些問題放在工具箱核心，指出公共服務 AI 應從城市問題出發，讓公共決策維持有意義的人類控制，依風險提高防護強度，並承認「不使用 AI」也可能是負責任的選擇。這與市面上單純比較準確率、參數量或示範速度的做法不同。模型能力是達成目的的工具；人民權益、公平與可問責性才是公共服務的最終驗收條件。

工具箱由 United for Smart Sustainable Cities（U4SSC）倡議推動，ITU 與 UN-Habitat 是重要發布機構。它提供原則、實務指南與可使用的檢查工具，並不意味聯合國已把其中每一項建議制定成所有國家必須遵守的法律。報導必須分清政策參考文件、國內法律、採購契約與個別機關實施細則，避免把國際指南寫成即日起生效的強制規範。

二、第一性原理：公共機關不是為 AI 服務，而是為居民解決問題

政府使用 AI 的首要目的應是改善某項合法且可被評估的公共服務，例如縮短合法申請的等待時間、減少道路事故風險或讓居民更容易取得資訊。若某個模型只讓內部簡報更漂亮，卻增加人民申訴成本，便未必達成原始目的。導入前應寫出一份「公共問題陳述」，包含現況、受影響群體、缺陷、非 AI 替代方案、成功與失敗的可觀測指標。

其中最重要的是「替代方案」。不是每一個城市問題都需要模型。例如路燈維修分派若只是按位置與案件時限排序，規則引擎可能更穩定也更容易解釋；居民多語言詢問可能適合以檢索式系統搭配人工客服；牽涉社會福利資格或執法風險的案件，則必須進一步評估是否適合 AI 介入。把替代方案放進決策紀錄，可以防止公共採購只剩產品規格比較，而忘記服務問題本身。

這套思考也適合企業。公司導入 AI 前，應先界定是要縮短應收帳款對帳時間、降低採購漏單，還是改善客服回覆一致性。若沒有清楚流程現況與業務驗收，即使功能展示成功，管理者仍難回答為什麼要持續支付工具與維護費用。公共治理的嚴謹，正好提醒企業把「模型好不好」轉換成「制度是否真的改善工作」。

三、紅黃綠不是漂亮的分級圖，而是誰有權採取行動

依據 ITU 新聞稿強調的風險比例與人類控制原則，本文建議以交通燈方式盤點使用情境，並明列人類介入程度。實務上應避免把風險完全綁定模型名稱；同一個工具若只是整理公開活動資訊，與它參與福利核定、執法派遣或緊急醫療資源分配，潛在影響截然不同。風險應從資料、用途、影響對象、錯誤嚴重性與可救濟程度共同判斷。

一個可採用的行政版決策表，至少列出低影響的資訊整理、中等影響的內部排序建議，以及對個人權益有重大影響的案件。低風險流程可以讓 AI 輔助產出草稿並抽樣查核；中等風險要求業務人員在關鍵節點確認；高風險程序則需要正式授權、完整理由、人工決定與明確申訴管道。這是本文為台灣讀者整理的示例，實際法定程序仍以各機關適用法律與行政規則為準。

如果分級之後所有流程仍然「AI 說了算」，分級就沒有管理效果。真正的管制必須落實到系統功能：高風險決策沒有批准紀錄不能生效；使用者可以停用自動化；審核者看得到資料來源與系統理由；受到影響的人知道如何申訴；發現資料錯誤時可以更正與重新處理。人類介入不應只是最後在報告上簽名，而是在適當時點真的具備否決與修正能力。

四、將人類控制原則轉成 AI agent 授權清單

將工具箱強調的人類控制原則用在 AI agent，會出現更具體的治理問題。AI agent 與只生成一段文字的聊天模型不同，它可能規劃多個步驟、呼叫工具並執行動作。若系統能自動讀取資料、建立案件、寄送通知、修改排程，責任便不能只停留在「模型提供建議」。本文據此提出一份授權清單：目的、明確授權範圍、自主程度、負責人、最小權限、實質監督與日誌。這是給讀者使用的編輯整理。

把這些要素用在城市維修分派，可先規定 agent 只能讀取已公開的道路通報、產生分派建議，不能自行取消居民案件；跨區調動緊急維修資源需要值班主管批准；所有資料讀取與分派理由須留痕；發現影響居民安全的錯誤時，系統能立即切換回人工處理。這個情境是治理設計示例，不是 ITU 宣稱任何特定城市已依此完成部署。

對企業來說，則可轉成一張「AI 代理授權書」：業務目標、能讀取哪些系統、能執行哪些寫入、哪些行為必須人審、哪位主管承擔結果、日誌保存多久，以及發生事故時怎麼停機。尤其對會執行交易、處理個資或聯絡客戶的 Agent，最小權限和可回滾能力應在上線前確認，而非事後補寫政策文件。

五、人類問責要有四個條件：資訊、權力、時間與紀錄

常見的「Human in the Loop」很容易流於形式。主管按下同意，並不表示真正理解風險。有效的人工監督至少需要四個條件。第一是資訊：審核者看到影響對象、資料來源、信心限制與替代選項。第二是權力：可以拒絕、退回、修改、暫停或回復。第三是時間：審核流程不應以不合理的倒數或工作量迫使人直接批准。第四是紀錄：留存當時畫面、理由、政策與變更結果，便於申訴或審計。

例如某市使用 AI 整理道路事故通報時，值班人員不只要看到「高風險」標籤，還要知道該標籤根據何種可合法使用的資訊產生、資料更新時間，以及錯判可能造成的後果。如果系統不允許查看原始通報或修改緊急處理順序，所謂人類控制可能只是一個裝飾性按鈕。治理的品質，應以人能否在必要時做出不同決定來判斷。

這些設計可能降低部分自動化速度，卻能避免重大的下游損害。公共服務不能只追求平均處理時間，還應關注錯誤對弱勢群體的集中影響、申訴成功率、資料更正速度與服務中斷時的替代管道。效率與公平不是簡單的二選一，必須在具體情境下設定可以被公開檢視的衡量方式。

六、採購不是把 AI 買進來，而是買下一段需要長期負責的服務

智慧城市專案最容易被低估的成本不是採購價格，而是後續整合、資料品質、維護、資安、教育訓練、模型變更、供應商退出與公共溝通。沿著工具箱對 AI 專案生命週期的關注，本文建議將供應商責任、資料所有權、互通性、資料匯出安排與退出機制納入預算及採購評估。這提醒城市不應只看 PoC 當天能否運作，而應問三年後如果供應商停止服務，資料與流程能否移交。

可在採購需求加入資料匯出格式、API 文件、稽核事件格式、事故通報時限、轉移服務程序、來源資料使用範圍與模型更新驗收。若供應商提供的是封閉系統，至少應要求明確的退出與持續運作計畫。尤其涉及國民資料時，資料保護與跨境傳輸不應由功能展示影片決定，而必須由適用法律、機關權限及契約共同約束。

對企業採購同樣如此。購買 AI Agent 服務前，不能只問每月訂閱費，還需確認額外 API 費、第三方工具授權、員工訓練、人工抽查、資料遷移、監控、事件回應與回滾成本。若模型升級後準確率變動，合約如何規定重新驗收？若外部服務停擺，是否可以退回人工流程？這些問題決定了企業是否真正擁有營運控制權。

七、建立公共 AI 登錄簿，讓「政府用了哪些 AI」可以被追問

要把可問責原則落到日常管理，本文建議建立公開 AI register（登錄簿）。登錄簿不是單純的採購清單，而是使外界能知道某個 AI 系統的用途、負責單位、影響範圍、所用資料類型、管理與申訴途徑。登錄表不需要揭露會造成資安風險的機密設定，但至少應讓受影響者理解：某項服務是否涉及 AI，以及誰可以回應問題。

登錄簿也能成為內部管理工具。很多大型機關與企業最初的風險不是「尚未導入 AI」，而是各單位已私下使用不同服務，沒有統一盤點。業務部門把合約上傳到外部模型，行政人員把客戶 Excel 交給未審核工具，資訊部門卻不知道資料流向。先做 AI 使用盤點，再建立授權清單、用途與風險分級，比立刻採購另一套治理平台更有優先性。

每個登錄項目至少包括系統名稱、業務目的、資料分類、部門所有者、風險評估日、受影響群體、供應商、申訴與停用程序、最近驗收日。把這些資訊逐項核對，才能找到沒有負責人、久未更新、超出原授權範圍的系統。登錄簿也應有修訂紀錄，避免只在專案啟動當天填完，之後永不更新。

八、台灣地方政府與企業可以怎麼採用？先做一個安全的小試點

地方政府可挑選低風險的服務資訊整理，例如公布的公共場館開放時間、申請文件查詢或多語言說明。先確認資訊來源、更新責任、無障礙需求與民眾更正管道，讓 AI 只能引用核准資料，並在遇到不確定或個案裁量時轉交人工。這不需要假設大型預算或跨機關大資料庫，也能測試資料治理與使用者服務的基本能力。

第二階段再考慮會影響資源配置的案件分類與優先排序，設計資料偏差、錯誤識別、系統中斷、權限提升與申訴情境。驗收時除了測量任務處理時間，還要看不同服務群體的錯誤率、人工覆核負擔、資料更正時間與透明程度。只有能逐步證明公共價值，才有理由擴大 AI 自主權。

企業則可以用同一框架先盤點五個流程：客服問答、內部文件搜尋、採購比價、業務跟進與應收帳款提醒。先找出資料敏感度與對外行動，為每種流程設定人工核准、稽核記錄與例外處理。導入成果要用被改善的工作指標驗收，而不只展示模型能回答多少問題。對已有系統、流程與資料治理基礎的企業，工具箱更像一份管理檢查表；它不應被誤當成可直接部署的程式產品。

九、避免三種常見誤讀：不是法律、不是認證、也不是免責

第一，聯合國發布治理工具箱不等於所有地方政府自動受到一套新法律約束；具體義務仍須看相關司法管轄和國內法。第二，使用工具箱也不等於獲得某種聯合國認證；是否符合指引，需要真實工作流程和證據。第三，即使系統設計了人類審核，並不因此消除個資、歧視、行政程序與民事責任問題。真正的問責是讓責任主體在錯誤發生時有能力解釋、補救與改進。

在對外報導中，也應謹慎使用「智慧城市 AI 已經成熟」等大而化之的句子。城市規模、數位基礎、法規、預算與居民需求高度不同；芬蘭與南非城市的案例可以提供啟發，卻不代表任何城市照抄即可成功。台灣更應從在地資料品質、行政程序與市民參與開始，建立可在既有制度內使用的版本。

十、從城市治理回到企業經營：誰有權停止 AI，才是真正的成熟度測試

聯合國這次工具箱帶來的價值，是把 AI 專案的注意力從供應商展示移回公共責任。政府有義務對人民說明決策過程，企業也需要向客戶、員工、監管者與股東解釋 AI 系統的行為。當 Agent 可以讀資料、跨部門派工、修改記錄與對外聯絡時，責任鏈的設計要比導入工具的速度更早完成。

可用一個簡單問題測試成熟度：假如明天發現系統對某類人做出持續性錯誤判斷，今天能不能找出負責人、停止運作、確認受影響範圍、修正資料並提供救濟？如果不能，這套 AI 仍然只是一個效率實驗，不是值得信任的公共或企業基礎設施。把人放在決策中，不是否定 AI，而是讓 AI 的效益能在現實世界被長期維持。

資料來源與聲明

1. ITU，New UN guide keeps people in charge of AI in smart cities，2026 年 11 月 4 日：https://www.itu.int/en/mediacentre/Pages/PR-2026-11-04-AI-toolbox.aspx
2. U4SSC，工具箱與工作小組正式介紹：https://u4ssc.itu.int/working-group-on-guiding-principles-and-frameworks-for-people-centred-smart-cities-in-the-ai-era/

本文對工具箱發布與四項核心原則使用官方新聞稿及工作小組資料；台灣情境、公司工作流程、分級範本是解讀與建議，不是官方法律諮詢或當地採行成果報告。

內容署名：TARAISG。專題編輯為天地人 AI 虛擬角色，非真人記者；本文由 AI 產製及協助查核，未宣稱經具名人工或專業法律審核。案例、試點與管理框架屬編輯分析；未進行特定企業產品、營收或導入成效實測。