Human in the loop 是什麼？Pew 2026：只有 3% 的美國人接受 AI 自己下診斷
重點先看
● Human in the loop 就是讓人留在 AI 的流程裡，重要的決定由人確認、由人負責。
● Pew 2026：只有 3% 的美國人接受 AI 自己下診斷，47% 要有人做最後確認。
● 今天就能做：列出團隊裡一個「出了錯，你會希望是人來負責」的決定。
思考的起點
Human in the loop，中文常翻成「人在迴路」，2026 年它從工程師的術語，變成了一般人的要求。Pew 研究中心 10 月 29 日發布的調查裡，只有 3% 的美國人能接受 AI 自己做診斷。想像一位業務主管，早上打開系統，AI 已經替他排好今天要拜訪的十位客戶，還附上每一位的成交機率。他看了一眼，按下「確認」。這個動作只花了兩秒。那麼，他算是做了決定，還是只是蓋了一個章？
AI 用得越來越普遍：Stanford AI Index 2026 的背景
先看大環境。史丹佛大學以人為本人工智慧研究院（Stanford HAI）2026 年 4 月發布的《AI Index 2026》，在經濟篇整理了幾個數字。
2025 年全球企業的 AI 投資，比前一年多了一倍以上。受調查的組織裡，88% 已經在用 AI；70% 至少在一個業務功能用上生成式 AI。生成式 AI 只花三年，普及率就到 53%，比個人電腦和網際網路都快。
可是同一章也寫到另一面：AI 代理（能自己完成一連串任務的 AI）在幾乎所有業務功能的部署率，都還停在個位數。報告整理的研究也發現，AI 帶來的生產力提升，在結構清楚、成果好衡量的工作上最大，例如客服和軟體開發；在需要更深推理的任務上，提升比較小。
放在一起看：AI 已經是日常工具，但「讓它自己做完、自己決定」這一步，大部分組織還沒有跨過去。原因不全在技術，也在人願不願意把決定交出去。
同一章也提到，AI 對就業的影響開始出現，但很不平均，集中在招募入口和最年輕的工作者：22 到 25 歲的軟體開發人員，就業人數比 2024 年少了將近 20%；三分之一的受訪組織預期未來一年會因為 AI 減少人力。當 AI 和自己的飯碗連在一起，「誰來做最後決定」就不只是流程問題，也是很多人心裡在意的事。
Pew 2026：願意讓 AI 幫忙，但最後要有人確認
Pew 研究中心 2026 年 10 月 29 日發布的報告，由 Eileen Yam 等人執行，在 2026 年 6 月 22 日到 28 日訪問了 3,488 位美國成年人，問他們能不能接受 AI 在醫療裡做八種不同的事。
結果有一個很清楚的模式：大家願意讓 AI 參與，但多數人要有人做最後確認。
例如幫病人翻譯，26% 接受 AI 自己做，52% 接受「AI 做、人最後確認」。分析醫學影像，只有 6% 接受 AI 自己做，60% 要有人確認。到了做診斷，接受 AI 自己來的只剩 3%，47% 要有人確認，41% 完全不想讓 AI 參與。保險理賠的決定，46% 完全不要 AI 插手。
另外，60% 的人說，如果自己的醫師用 AI 來做診斷和治療，會覺得不自在，是覺得自在的人（30%）的兩倍。
讓人擔心的不只是準不準。約一半（47%）的人認為，AI 會讓病人和醫師之間的關係變差，覺得會變好的只有 10%。這個數字很值得停下來看：大家在意的，除了答案對不對，還有那個「被一個人好好看過」的感覺。
年輕人的態度也在變。30 歲以下的美國成年人，有 45% 認為 AI 用在診斷和治療會讓健康結果變差，2022 年同一個年齡層只有 29%。很多人以為年輕人最擁抱 AI，在醫療這件事上，數字顯示他們反而越來越保留。
這份報告的標題，就叫〈美國人對醫療 AI 持開放態度，但希望最後由人來做決定〉。我們之前在〈看病時醫師用了 AI，病人有權知道嗎？Pew 2026 調查：72% 的美國人說「要告訴我」〉談過病人想不想被告知；這一份更進一步，問的是誰來拍板。
醫療是風險最高的場景之一，所以這個模式特別明顯。但它說的事情，放到辦公室裡也成立：越是會影響別人的決定，人越希望有另一個人在後面負責。
連企業採購也一樣：Forrester 預測買家會加倍找人確認
這個模式也出現在企業買東西的時候。
研究顧問公司 Forrester 2026 年 10 月 21 日發布 2027 年企業對企業（B2B）市場預測，新聞稿標題寫著：AI 代理將影響 75% 的 B2B 採購決策。買方會派 AI 代理去找供應商、蒐集資料、分析合約續約。
但同一份預測的第一點是：買方和真人接觸的次數會加倍，用來驗證 AI 給的建議。Forrester 的理由是，AI 沒辦法完整判斷一家供應商合不合適、做不做得到、值不值得信任、出事誰負責，所以買方會更需要跟供應商團隊、分析師、其他客戶和合作夥伴談，確認自己的決定。
Forrester 研究長 Sharyn Leaver 在新聞稿裡說，2027 年 B2B 主管最大的挑戰，是刻意選擇什麼要自動化，以及哪裡仍然需要人的判斷。
這和 Pew 的結果對得上：AI 跑得越快、給的建議越多，人反而越需要找另一個人確認。工具變多了，「人和人談」的需要沒有減少。
同一份預測還有一點，對主管也是提醒。Forrester 預測，在裁減人力的壓力下，行銷主管可能會為了預期中的 AI 生產力，先刪掉多達 25% 的職位；等到效益不如預期，只好在「砍活動預算、把人找回來」和「接受人手不足」之間二選一。把判斷從人身上拿走得太快，代價常常要晚一點才看得到。
人在迴路裡，卻只剩按確認鍵：MIT SMR 的「AI 治理悖論」
問題是，「讓人做最後確認」寫進規定之後，就一定有用嗎？
德州大學奧斯汀分校麥康姆斯商學院管理學副教授 Shefali V. Patil，2026 年 11 月 2 日在《MIT 史隆管理評論》（MIT Sloan Management Review）發表〈AI 治理悖論〉（The AI Governance Paradox），提出一個提醒。
她談的是用 AI 偵測風險的系統，例如抓詐欺交易、網路入侵、法規違規，或護理現場病人惡化的早期徵兆。她認為，現在很多 AI 治理框架雖然把「人在迴路」寫了進去，卻可能讓人變成只會回應 AI 警示的角色，不再主動發現問題，慢慢削弱了風險管理最需要的人的行為。
她引用高可靠性組織（例如核電廠、航空管制）的研究：這些組織之所以能管好重大風險，是因為保護第一線的判斷、把決定權交給最接近問題的人，並且把剛冒出來的異常當成訊號，不當成雜訊。她的建議是，AI 偵測系統也應該向這些經驗學習，把決定權還給最接近問題的人。
她舉的兩個歷史例子很有畫面。1979 年美國三哩島核電廠事故，操作員同時面對一百多個警報，沒有任何優先順序，結果是腦袋當機，反應不過來。2003 年哥倫比亞號太空梭最後一次飛行之前，有工程師懷疑機翼在發射時受損，明明有往上反映的管道，卻因為挑戰高層的代價太高，沒有用上。事後的調查報告說，管理方式在不知不覺中，把工程上的疑慮和不同意見擋在門外。
警報太多，人會麻痺；說不的代價太高，人會沉默。這兩件事，放到今天的 AI 系統裡一樣會發生。
這篇文章的全文需要付費訂閱，我們讀到的是公開的摘要與前段內容。但它點出的事情很重要：人在迴路裡，不等於人在做判斷。如果流程只留給人一個「確認」按鈕，人很快就會變成那位兩秒鐘按完確認的業務主管。
員工那一端：41% 的人資長說，員工可能不敢推翻 AI
要讓人真的做判斷，還要過一關：敢不敢。
IBM 商業價值研究院 2026 年 9 月 21 日發布的人資長調查（1,500 位人資長與同等層級主管、28 國 8,800 位全職員工），裡面有幾個數字剛好回答這件事。
71% 的人資長認為，員工最重要的能力是監督、檢查、必要時推翻 AI 的結果。可是 41% 的人資長也認為，員工可能覺得質疑或推翻 AI 不夠安全；43% 的員工說，AI 出錯的時候，責任會落在自己身上。
想像一下這個處境：公司要你檢查 AI，出了錯算你的，可是你又不太敢說 AI 錯了。換成是你，大概也會選擇按下確認。
同一份調查也有比較好的消息。在人資長至少和其他部門一起決定「哪些決定一定由人來做」的公司，76% 的員工覺得可以放心質疑或推翻 AI 的建議；人資只當顧問的公司，這個比例是 43%。規則講清楚，人才敢開口。
同一份調查裡員工擔心技能退化的那一面，我們在今天另一篇〈團隊變革疲勞怎麼辦？AI 一波接一波，主管可以用「切換」取代「變革」〉談過，這裡就不重複。
用設計思考怎麼解：先問「這個決定，影響的是誰」
先說清楚：上面的 Pew、Forrester、IBM 都是調查或預測，Patil 的文章是管理研究的評論，都沒有在談設計思考。下面是 Cha Cha 給正在導入 AI 的主管的建議。
設計思考是專門處理人的問題的方法。「哪些決定要留給人」看起來像技術或治理問題，其實是人的問題：這個決定影響的是誰？出了錯，他們會希望誰站出來？做決定的人，手上有沒有足夠的資訊，敢不敢說不？
Cha Cha 在工作坊裡遇過一位學員，很堅持要做自己提的題目，組員其實不太想。他沒有出面阻止，讓團隊照著五個步驟一路走完。做到最後，原型和使用者的回饋都顯示這個方向行不通。那位學員也就接受了。Cha Cha 說，面對一個很有把握的人，跟他爭論沒有用；走完過���拿出來的證據，才說服得了人。
這個經驗放在 AI 上也一樣。不管建議來自 AI，還是來自一位很有把握的同事，最後拍板的人都需要證據，也需要一個允許說「不」的過程。
今天就能做的一小步：在團隊裡列出一個「出了錯，你會希望是人來負責」的決定。
列出來之後，難的才開始。這個決定現在是誰在做？他看得到 AI 背後的理由嗎？如果他想推翻 AI，會發生什麼事？要怎麼設計，才不會讓「最後確認」變成兩秒鐘的蓋章？這些問題，很難由主管一個人在會議室裡想完，需要把真的在做這個決定的人找進來。怎麼找、怎麼問、怎麼讓資深和資淺的人都敢說真話，就是工作坊裡要花最多時間的地方。
我們的觀點
這週的幾份資料，指向同一件事：大家願意用 AI，也越用越多，但最後那一步，人想留給人。
我們不建議把「人在迴路」當成一行寫進規章就算完成的事。Patil 的提醒很重要：流程裡有人，不代表人在判斷。IBM 的數字也說明，人要真的判斷，得先覺得安全、知道規則。
AI 很會整理、預測、提出建議。它幫了很大的忙，可是「這個決定影響誰、誰來負責、怎麼樣才算對」，這些是人的問題，AI 再進步也還在。把這些問題想清楚，AI 才用得安心。
我們也想提醒另一個方向的風險。看到 3%、47% 這些數字，有些主管的反應是「那就什麼都要人確認」。這樣做，很快會回到今天這篇開頭的場景：每個人每天按幾百次確認，每一次都只���兩秒。確認的次數越多，每一次的分量就越輕。比較好的做法，是少而清楚：挑出真正重要的那幾個決定，讓負責的人有足夠的資訊和時間，其他的就放心交給 AI。
如果你的公司正在導入 AI，想讓主管和第一線一起，用設計思考把「哪些決定該留給人、人要怎麼判斷」談清楚，歡迎聯絡我們，安排一場企業 AI 工作坊或台北設計思考企業內訓：
https://www.designthinking.com.tw/contactus
概念速查
Human in the loop（人在迴路）：
讓人留在 AI 運作的流程裡，負責檢查、確認或推翻 AI 的結果，重要的決定由人負責。
AI 代理（AI agent）：
能自己規劃並完成一連串任務的 AI，例如替使用者蒐集資料、比價、排程。Stanford AI Index 2026 指出，AI 代理在多數業務功能的部署率仍是個位數。
AI 治理悖論（The AI Governance Paradox）：
Shefali V. Patil 2026 年在 MIT Sloan Management Review 提出的觀點：AI 治理框架把人放進流程，卻可能讓人只回應 AI 的警示，削弱主動判斷。
高可靠性組織（high-reliability organizing）：
研究核電廠、航空母艦、航空管制等高風險組織如何避免重大事故的學術領域。重點包括保護第一線判斷、把決定權交給最接近問題的人。
FAQ
Q：Human in the loop 是什麼意思？
A：中文常翻成「人在迴路」，指讓人留在 AI 的流程裡，負責檢查、確認或推翻 AI 的結果。重要的決定由人負責，AI 負責提供建議與處理資料。
Q：大家能接受 AI 自己做決定嗎？
A：多數人不能。Pew 研究中心 2026 年調查 3,488 位美國成人：只有 3% 接受 AI 自己做診斷，47% 接受「AI 做、人最後確認」，41% 完全不想讓 AI 參與診斷。
Q：AI 會取代企業採購的決策嗎？
A：Forrester 預測 2027 年 AI 代理將影響 75% 的 B2B 採購決策，但也預測買方和真人接觸的次數會加倍，用來驗證 AI 給的建議。
Q：讓人做最後確認就夠了嗎？
A：不一定。MIT Sloan Management Review 2026 年的文章提醒，如果流程只讓人回應 AI 的警示，人可能慢慢失去主動判斷。IBM 2026 年調查也發現，41% 的人資長認為員工可能不敢推翻 AI。
Q：年輕人比較能接受 AI 做醫療決定嗎？
A：不一定。Pew 2026 年調查中，30 歲以下的美國成年人有 45% 認為 AI 用在診斷和治療會讓健康結果變差，比 2022 年的 29% 高出不少，是各年齡層裡最悲觀的一群。
Q：什麼事情都要人確認，是不是最安全？
A：未必。確認的次數太多，每一次就容易變成兩秒鐘的蓋章。比較好的做法是挑出真正重要的決定，讓負責的人有足夠的資訊和時間判斷。
Q：公司要怎麼決定哪些事交給 AI、哪些留給人？
A：可以先從一個問題開始：哪一個決定，出了錯你會希望是人來負責？再把真的在做這個決定的人找進來，一起談清楚。
開放討論
你今天按下的「確認」裡，有幾次是真的在判斷？ 你們團隊有哪一個決定，出了錯會希望是人來負責？ 如果你覺得 AI 錯了，你敢說出來嗎？
資料來源
Pew Research Center，Eileen Yam、Emma Kikuchi、Giancarlo Pasquini（2026/10/29）｜Americans Are Open to AI in Healthcare, but Want Humans Making Final Calls（2026/06/22–28 調查 3,488 位美國成人）
Forrester（2026/10/21）｜Forrester's 2027 B2B Go-To-Market Predictions: AI Agents Will Influence 75% Of B2B Purchase Decisions（新聞稿，引述 Sharyn Leaver）
MIT Sloan Management Review，Shefali V. Patil（2026/11/02）｜The AI Governance Paradox（全文需訂閱，本文依摘要與公開段落）
https://sloanreview.mit.edu/article/the-ai-governance-paradox/
IBM Newsroom（2026/09/21）｜New IBM CHRO Study: AI Puts Critical Thinking at the Center of Workforce Priorities
Stanford HAI（2026/04）｜AI Index Report 2026，Chapter 4: Economy
https://hai.stanford.edu/ai-index/2026-ai-index-report/economy
配圖：Photo by Accuray、Brands&People、Headway on Unsplash
關於文字策展人
Cha Cha 是查查創意文字策展人暨創辦人，Stanford d.school 設計思考專業研修，累積超過三百場企業工作坊實戰經驗。長期深耕設計思考、創意思考與未來趨勢，致力於讓更多人在 AI 時代找到自己的思考方式。