AI審查不能只剩「按確認鍵」：財政部內控要點登場後的責任治理考驗

文：李逸元（國立台灣大學電機工程博士，現任台大資訊工程學研究所元一網宇永續研究中心主任研究員，並於國立陽明交通大學、國立中央大學兼任授課）蕭國振（出身刑事司法實務體系，現為法律系博士生、大專院校兼任講師，具法學與工學雙碩士背景）內控要點登場：規範財政體系財政部於115年8月12日發布《財政部人工智慧應用內控管理要點》，將所屬機關、財政人員訓練所、臺灣菸酒股份有限公司及本部印刷廠納入規範。無論自行開發、委外建置或採購，事前都須依規定評估風險；既有系統發生重大功能變更，也要重新檢視。過去較抽象的治理原則，開始被寫進政府日常的內控程序。這份要點以風險管理為核心，主要可定位為拘束財政部體系內各機關構的行政規則。至此公平、透明、安全、可信賴的AI不再只是原則宣示，而是要落實到系統建置、使用與管理。不過，內控關心的是機關如何管理這類技術；當系統進入個案決策時，舉凡法律依據、正當程序、理由說明與行政救濟仍須個別檢驗。通過內控審查或是風險評估，不代表行政決定當然合法。三分法風險評估與監督機制機關導入人工智慧前，須填具政府人工智慧應用風險評估檢核表，再依判定結果採取不同措施。其中甲類除人類監督與透明標示外，涉及民眾權益時還須採取防護措施、提供警語或提醒，建立申訴、決策解釋與救濟流程，並強化供應商的資安、資料治理及防範歧視偏見要求。乙類依風險與機關資源配置措施，而丙類至少保留人類監督與透明標示。這份檢核表不只是分類工具，也決定機關應採取哪些管理措施。當系統參與具有法律效果或影響民眾權益的行政處分時，要點禁止完全自動裁定，要求保留人為介入與最終覆核等人類控制關卡。對外若有生成圖文或提供互動服務的情況，單位須標示人工智慧輔助或生成；由於輔助決策可能會影響到民眾權益，還要提供申訴、決策解釋與救濟等管道。人為的判斷與人民的權利，至此被帶進制度設計中。即時止損與事件通報應變如果系統經風險評估判定為甲類，或運作中發生嚴重偏差、重大違法內容、資料外洩、實質損害民眾權益等情形，業務單位須暫停部分或全部功能，改由人工備援；若涉及資通安全事件，還須依法完成通報。從上線前評估、重大功能變更時重新檢視，到出現問題後暫停運作，財政部的這份管理要點已搭起基本的風險管理架構。假設一個情境，AI系統先替大量納稅義務人進行風險排序，承辦人每天依照建議逐案確認，最後按下核准鍵。基本上檢核表填過、程序走完、畫面上也有人負責，但承辦人真的知道AI模型為何這樣判斷嗎？有足夠資訊與時間加強甚至重新審查嗎？承辦人能勇敢地推翻系統建議嗎？有時制度看似完整，考驗卻從個案決策才真正浮現。避免人為審查淪為的形式化若承辦人只能依循模型給出的結果，所謂「人為介入與最終覆核」就可能只剩程序上的確認。坐在電腦前的是人，不代表判斷權還在承辦人手上。行政法要問的，是承辦人能否獨立審查、拒絕系統建議，並為最後決定說明理由。這才是人為覆核與「按下確認鍵」的差別。行政院於112年10月3日函頒《行政院及所屬機關（構）使用生成式AI參考指引》，要求承辦人對生成內容作客觀、專業的最終判斷，未經確認的內容不能直接作成行政行為，也不能作為公務決策的唯一依據。財政部如今把人為介入與最終覆核寫進內控，接著要回答的是，如何證明承辦人確實作過獨立判斷。缺乏資訊、時間與否決權，人類監督很容易從Human in the Loop變成Human Clicks the Button。對外透明：從知情到理由說明另外很重要的情境，在民眾收到補稅、裁罰等不利決定時，若只看到「本案使用人工智慧輔助」，知道的只是AI系統曾經參與裁定。至於哪些事實影響判斷？機關為何採納模型輸出？當事人能提出什麼資料反駁？人民需要的未必是演算法、模型權重或原始碼，而是足以理解並質疑決定的資訊。透明標示解決知情，理由說明才讓人民有能力挑戰決定。以另一個可能出現的情境為例，某機關完成系統風險評估後，經過數月系統名稱與介面都沒變，而供應商卻更新基礎模型，以至於資料來源、風險閾值或特徵欄位跟著調整。要點第6點要求「重大功能變更」時重新評估，卻沒有具體說明這些變化何時跨過門檻。外觀看起來沒變，不代表參與判斷的模型還是當初接受評估的版本。追溯機制與模型變更管理若案件日後進入申訴、訴願或行政訴訟等法律程序，機關若只能提出最初的風險評估表，卻無法說明作成決定時使用哪個模型版本、哪些資料與規則，當時的判斷情境就很難重建或重現。因此風險評估不能只停留在導入階段，模型、資料、規則與版本的變動，也需要留下足以追溯的紀錄，也就是說，這邊還有變更管理的議題在。財稅領域掌握人民的所得、財產、交易與身分資料，這些資料經模型分析，可以形成風險分數或異常輪廓，用於輔助選案或查核。即使原始資料的取得與使用符合法律規範，模型形成的評價能否作為行政權行使的依據，仍是不同層次的問題。資料使用合法，不等於推論結果當然可以作為行政決策的基礎。終極考驗：落實責任治理同樣的資料，若經由不同模型、權重或判斷門檻處理，極可能形成不同結果。當這些結果被用來選案、查核，甚至影響行政處分時，機關就不能只以「系統判斷」作為理由，而要回到法律依據與個案事實，說明為何採納模型提出的結果。技術可以協助整理資訊、辨識異常，最後的行政判斷與法律責任，仍應由機關承擔。而這也是財政部這份要點最值得關注的地方；風險評估、人為覆核、透明標示、決策解釋與救濟機制，已經搭起基本架構；接下來要面對的，是人民問「為什麼系統把我判斷成這樣？」時，政府能否說明當時使用的模型與資料、承辦人如何覆核，以及最後作成決定的理由。能夠回答，檢核表才會從內控程序走向責任治理；回答不了，再完整的制度，也可能停留在表格上的合規。特別是，現在的民眾，一定會問的。延伸閱讀從心理操控到制度防詐的下一步：詐騙真正可怕的不是話術，而是讓你不再懷疑當AI不再是黑箱：CID模型如何重塑人工智慧治理的法律邊界？求職徵才成為資安、國安新破口：歐盟為何開始立法管控LinkedIn平台責任？【加入關鍵評論網會員】每天精彩好文直送你的信箱，每週獨享編輯精選、時事精選、藝文週報等特製電子報。還可留言與作者、記者、編輯討論文章內容。立刻點擊免費加入會員！責任編輯：翁世航核稿編輯：羅元祺