logo
cover

政府導入 AI 缺的不是技術—是信任:當決策無法被解釋,系統就無法被信任

讀完這篇,你會知道:

  1. 為什麼公部門 AI 導入最常見的失敗原因,不是技術能力不足,而是「信任缺口」—對數據品質的不信任、對決策過程的不透明。
  2. 什麼是「決策脈絡」(Decision Lineage),它與「數據脈絡」(Data Lineage)的差異,以及為什麼公部門特別需要前者。
  3. 在英國公務員調查、全球公部門 AI 採用現況與台灣數位政府的推動之間,存在哪些共同的結構性困境。

思考的起點

假設你是一位公民,某天收到一封信:「根據系統評估,您的社會福利申請未通過審核。」

你想問:是哪個系統?它評估了什麼?這個決定是人做的還是 AI 做的?如果是 AI,它參考了哪些數據?那些數據正確嗎?

你打電話詢問,承辦人員說:「這是系統決定的,我也不知道細節。」

這不是科幻小說。這是全球公部門 AI 導入正在面對的真實困境。

根據 Open Access Government 於 2026 年 6 月刊載、由 Finworks 的 Marc Hoogstad 所撰寫的分析,許多公共機構正試圖在「碎片化的數據環境」和「斷裂的操作流程」上部署 AI,結果產生了一個持續擴大的信任缺口(trust gap)。在公部門能夠信任 AI 產出的建議、洞察或決策之前,它必須先信任支撐這些決策的數據與流程。

問題不在 AI 不夠聰明。問題在於,沒有人能解釋 AI 是怎麼想出這個答案的。



公部門 AI 的三層信任危機

要理解公部門 AI 的信任問題,需要拆解成三個層次。

第一層:對數據品質的不信任。公共機構長期累積了大量紙本記錄、掃描文件、舊式表單與分散在不同系統的電子資料。這些數據往往殘缺不全、格式不一、甚至相互矛盾。當 AI 系統的判斷建立在這些數據上,任何一個決策的可信度都值得懷疑—不是因為 AI 演算法有問題,而是因為它的「原料」本來就有問題。

第二層:對流程透明度的不信任。即使數據是乾淨的,決策過程也可能是不透明的。一個社會福利申請被拒絕,是因為申請人的條件不符?還是因為系統誤讀了某個欄位?還是因為某個歷史偏見被編碼進了演算法?當流程不透明,連內部稽核人員都無法回答這些問題,更遑論對公民負責。

第三層:對治理架構的不信任。公部門不同於私人企業—它的每一個決策都在公眾監督下運作,且影響的往往是最脆弱的群體。當 AI 系統缺乏清晰的問責機制,任何一個錯誤決策都可能演變成政治事件。這種高度的外部審查壓力,讓公部門在 AI 採用上天生比私部門保守,且理由充分。

數據脈絡已經不夠—公部門需要的是「決策脈絡」

傳統的 AI 治理框架聚焦在「數據脈絡」(Data Lineage)—也就是追蹤數據從哪裡來、如何被處理、流向哪裡的完整記錄。這是必要的基礎,但 Hoogstad 的分析指出,公部門機構現在需要的不只是數據脈絡,而是「決策脈絡」(Decision Lineage)。

決策脈絡把可見性從數據移動,延伸到「資訊如何被轉化為決策結果」的完整操作歷程—決策如何形成、如何被驗證、如何被批准、以及如何被執行。

用更直白的方式說:數據脈絡告訴你「我用了什麼數據」,決策脈絡告訴你「我是怎麼從這些數據到達這個決定的」。前者是原料清單,後者是完整的烹飪日誌。

對公部門而言,這個差異至關重要。當一位公民質疑一個行政決定,能夠呈現完整決策脈絡的機構,不只能保護自己免於法律風險,更能主動建立公民信任—這是民主政府對公民最基本的承諾之一。

英國公部門 AI 採用現況:政策存在,信心不足

2026 年的英國公部門 AI 採用指數(Public Sector AI Adoption Index 2026)提供了一個具體的數據參照。報告顯示,英國公務員認識到 AI 的潛力,但不到五分之二的人描述 AI 讓他們「感到更有力量」。

這個落差存在的原因,即使在已有國家 AI 戰略、數位政府中心、AI 行動手冊的環境下,依然頑強。報告點出了一個關鍵洞察:「許可而無保護會產生風險」—當公務員知道工具是被批准的、符合規範的、且有監控的,猶豫才會轉化為信心。

換句話說,問題不是政策不夠。問題是政策的存在,與一線使用者的實際信心之間,還差了一個「有人替我想清楚這個工具怎麼用在我的工作上」的中間層。這個中間層,往往是公部門 AI 導入計畫中最容易被跳過的一步。

文件自動化:被低估的 AI 基礎建設

Hyperscience 在 2026 年 5 月的公部門 AI 分析中,指出了一個常被忽視的前提條件:在更複雜的 AI 應用能夠發揮作用之前,公部門必須先解決「非結構化資料」的問題。

公共機構每天處理大量的紙本表單、手寫記錄、掃描文件、PDF 與電子郵件。傳統的規則式系統難以快速準確地處理這些資訊,造成積壓與延遲,直接影響公民等待服務與處理結果的體驗。

文件自動化—利用 AI 將這些非結構化文件轉換為可處理的結構化數據—因此被視為公部門 AI 的「基礎層」。沒有這一層,後續的分析、預測與決策輔助 AI,都是建立在不可靠的原料上。

這個邏輯在民間企業也適用,但在公部門的重要性更高:因為公部門的數據積累年代更久、格式更混亂、且往往沒有統一的數位化標準。在台灣,各部會的資訊系統歷史各異,跨部會數據整合本身就是一個長期未解的挑戰。

從使用者的真實處境出發,而非從技術能力出發

回頭看大多數公部門 AI 導入計畫,有一個一致的模式:先採購技術,再培訓人員使用,然後等待效率提升。

但實際情況往往是:系統上線了,公務員不確定何時該信任它;工具部署了,公民遇到問題不知道如何申訴;AI 在跑,但稽核人員找不到問責依據。

這種落差有一個共同的根源:這些計畫都是從「我們有什麼工具」出發,而不是從「我們在服務的人真正需要什麼」出發。

Route Fifty 在 2026 年 6 月的分析中指出,隨著 AI 在政府中的規模擴大,可見性、信任機制與數據保護變得越來越關鍵—這些不只是技術需求,更是治理需求。移除盲點、降低風險、維持對日益自動化的系統的控制,是公部門 AI 成功的前提,而非結果。

在我們協助政府機關進行工作坊的經驗中,常見到一個現象:技術採購已完成,系統已上線,但一線公務員說不清楚「我什麼時候該用這個工具,什麼時候不該用」。這個問題的根源,通常不是訓練不足,而是導入計畫從一開始就沒有認真問過這些公務員:你的工作長什麼樣子?這個工具要嵌進你工作的哪個環節?

我們的觀點

公部門 AI 信任問題,有一個常被誤解的地方:很多人以為這是「公民不理解 AI」的問題,解決方案是加強溝通。但 Hoogstad 的分析,以及英國採用指數的數據,都指向另一個方向—問題出在系統設計端,不是公民端。

當一個 AI 系統無法解釋自己的決策,不是公民太不懂科技,而是系統設計時根本沒有把「可解釋性」當成一個必要條件。當公務員不知道何時該信任工具,不是他們抗拒改變,而是沒有人在導入前認真思考過「這個工具要怎麼融入他們的日常工作」。

最核心的問題,往往不是「我們有沒有好的 AI 工具」,而是「我們有沒有認真問過要被這個工具影響的人,他們真正需要的是什麼」。這個問題,在採購清單確定之前就應該問。但在大多數公部門 AI 計畫裡,它從來沒有被問過。

台灣政府在推動數位轉型時,有一個獨特的有利條件:相對高的公民數位識讀能力、完善的健保與行政系統作為整合基礎,以及公民社會對政府服務品質的高度要求。但這些條件只是有利的起點,不是成功的保證。真正的挑戰,是在政策層面的 AI 策略與一線公務員的日常工作之間,建立一個有人真正想清楚的中間層。

本文關鍵概念速查

信任缺口(Trust Gap):

是指公部門在 AI 系統的能力與公民及公務員對這些系統的實際信任程度之間的落差。信任缺口通常源於數據品質不一致、決策過程不透明,以及問責機制不清晰。

數據脈絡(Data Lineage):

是指追蹤數據從來源到最終使用全程流動路徑的記錄系統,包括數據的原始來源、轉換過程、儲存位置及使用方式。在 AI 治理中,數據脈絡是確保數據品質與合規的基礎。

決策脈絡(Decision Lineage):

是比數據脈絡更進一步的概念,追蹤「資訊如何被轉化為決策結果」的完整操作歷程,包括決策形成、驗證、批准與執行的每一個環節。在公部門 AI 治理中,決策脈絡是問責制度的核心基礎。

文件自動化(Intelligent Document Processing, IDP):

是指利用 AI 技術將非結構化文件(紙本表單、掃描文件、PDF、電子郵件等)自動轉換為可處理的結構化數據的技術。在公部門環境中,IDP 被視為更複雜 AI 應用的必要前提,也是提升服務效率最直接的切入點。

FAQ

Q:政府導入 AI 最常失敗的原因是什麼?

A:根據多份研究,最常見的失敗原因不是技術問題,而是「數據基礎不足」加上「組織採用阻力」。具體來說:底層數據品質不佳(碎片化、不一致、格式混亂)讓 AI 無法產出可信賴的結果;一線公務員缺乏信任或能力使用新系統;以及沒有清晰的問責機制導致決策無法被稽核。在採購工具前,先搞清楚「我們要解決誰的什麼問題」,是大多數計畫跳過的一步。

Q:公部門 AI 如何確保不歧視弱勢族群?

A:這需要從設計階段就介入。訓練數據必須代表所有被服務的族群,包括傳統上被系統排除的弱勢群體。決策脈絡必須清晰到能識別歧視性的決策模式。最後,必須建立異議管道—讓被影響的公民有途徑提出質疑,並由真人審查,而非再次由 AI 判斷。

Q:台灣政府在 AI 導入上面臨的主要挑戰是什麼?

A:台灣公部門面臨的挑戰包括:跨部會數據整合困難(各部門的資訊系統歷史悠久且相互隔離)、公務員的數位能力與信心落差、以及公民對政府使用個人數據的隱私疑慮。此外,台灣缺乏統一的公部門 AI 治理規範,各機關的實踐標準不一,也是增加信任建立難度的結構性因素。

Q:什麼是「AI 原生」組織,公部門可以成為 AI 原生嗎?

A:「AI 原生」(AI-native)是指把人工智能從一開始就設計進組織的運作架構,而非事後加掛在現有流程上。公部門要成為真正的 AI 原生組織,面臨的挑戰更大—因為它繼承了更多歷史遺留的系統與流程,且改革的速度受法規與政治週期制約。關鍵在於從最小可行的流程開始重新設計,而非試圖一次性全面轉型。

Q:公部門 AI 的「可解釋性」為什麼這麼重要?

A:在私部門,AI 決策的不可解釋性頂多是競爭劣勢;在公部門,它是民主問責的漏洞。當政府用 AI 做出影響公民生活的決定—福利申請、稅務核查、執照審核—公民有權知道決定的依據,並有途徑提出異議。一個無法解釋自己決策的公部門 AI,本質上是在繞過正當程序。

開放討論

你曾經有過「被政府系統決定,但不知道為什麼」的經歷嗎?還是你在公部門工作,親身體驗過 AI 導入的困難?歡迎分享你的第一手觀察。

延伸思考

  1. 在台灣,哪一個政府服務領域最迫切需要提升 AI 決策的透明度與可解釋性?(健保、稅務、社福申請、交通執法……)
  2. 「決策脈絡」這個概念,是否也可以應用在企業內部的 AI 治理?當一個企業的 HR 系統用 AI 篩選履歷,員工有沒有權知道決策過程?
  3. 如果你是一位市長或部長,要在一年內讓政府的 AI 應用「贏得公民信任」,你會從哪一個服務開始?為什麼?

資料來源

Hoogstad, M. (Finworks). The missing foundation of public sector AI: Data trust and process visibility. Open Access Government. (2026年6月22日)

DeLew, T. Public Sector AI in 2026: Trust, Transparency, and Technology That Delivers. Hyperscience. (2026年5月)

Key takeaways from the Public Sector AI Adoption Index 2026. Open Access Government. (2026年2月)

Ford, A. As AI scales in government, visibility, zero trust and data protection are critical. Route Fifty. (2026年6月)

關於文字策展人

Cha Cha 是查查創意文字策展人暨創辦人,Stanford d.school 設計思考專業研修,累積超過三百場企業工作坊實戰經驗。長期深耕設計思考、創意思考與未來趨勢,致力於讓更多人在 AI 時代找到自己的思考方式。

訂閱電子報

訂閱「未來思考週報」,每週三收到精選文章與趨勢洞察。


專為企業機構、政府機關與教育單位,提供設計思考 & 創意思考的專業顧問及教育訓練!由淺帶入深,並透過科技與多媒體教材,以遊戲化、團隊合作的互動教學方式,來啟發各個年齡層的創意思維及學習設計思考方法!

回應

新課上線 別急著找答案!打造你自己的人生藍圖8 堂錄影課+8 份學習單,在 PressPlay 上課
看課程