人工智慧可以幫助我們看病、申請貸款、尋找工作,也能協助政府審查補助、分配公共資源。它讓決策更快速,卻也帶來一個不能迴避的問題:如果AI做出錯誤決定,甚至因此傷害人民,受害者該向誰申訴?又要如何證明自己受到不公平對待?
AI不是法律上的責任主體,問題就在這裡,但是也不能成為政府或企業卸責的理由。因此,台灣在研議人工智慧專法時,除了規範企業如何開發、測試及使用AI,更應該把人民的權利與損害救濟制度放在核心位置。
第一,人民應有知情權,不能在不知情的情況下被AI決定命運。
當AI被用於醫療、金融、就業、教育、社會福利或其他可能重大影響人民權益的決策時,當事人至少應該知道AI是否參與決策、參與到什麼程度,以及最後的決定由誰作成。
這不代表企業必須公開所有程式碼或演算法細節,而是應讓人民知道自己是否受到AI系統影響,並能找到真正負責的機構。
第二,人民應有要求說明及人工複核的權利。
試想一位求職者,明明符合工作條件,卻因AI履歷篩選而始終無法進入面試。他不知道自己被排除的原因,也沒有機會向真人說明特殊經歷。
如果AI的判斷可能對人民造成重大不利益,就不應讓系統輸出成為無法改變的最終答案。人民應有權要求合理說明,並在適當情況下請求由具備權限的人員重新審查。
人工複核也不能只是形式上的蓋章。負責人員必須真正有能力檢視AI結果、考量個別情況,必要時推翻系統判斷。
第三,應解決人民最難跨越的障礙:證據掌握不平等。
傳統民事訴訟中,受害者通常必須提出證據,說明對方有何違法或過失,以及這些行為如何造成損害。
但AI爭議有一個特殊困難:關鍵證據往往掌握在企業或機關手中。
例如,一位民眾懷疑自己因AI信用評估遭到不合理拒貸,卻無法取得模型使用的資料、評估紀錄或系統版本資訊。要求他證明演算法存在偏誤,無異於要求一位消費者在看不到機器內部構造的情況下,證明機器出了什麼問題。
因此,未來專法應建立適當的證據保障制度。例如,要求高風險AI系統保存必要的決策紀錄,讓法院或主管機關在爭議發生時能夠調查;對於由業者掌握且與案件有關的資料,建立合理的提出義務及證據協力機制。
在特定條件下,如果業者無正當理由拒絕提出依法應保存的關鍵資料,也應讓法院得依個案情況作出適當的證據評價。
當然,這不代表所有AI爭議都應全面倒置舉證責任,更不代表只要AI出錯,所有相關企業就必須自動賠償。責任仍應依照各方角色、法定義務、控制能力、過失或其他適用的責任基礎,以及損害與行為間的因果關係判斷。但不能讓掌握技術與證據的一方,因為資訊不對稱而使受害者永遠無法討回公道。
第四,必須讓人民真正有求償的管道。
如果AI系統造成醫療傷害、財產損失、工作機會喪失、個人資料外洩或人格權侵害,受害者應能依照具體事實,透過既有法律或未來專法尋求賠償。
這也涉及責任如何分配。
AI系統的開發者、提供者、導入者及實際使用者,可能各自掌握不同的資訊與控制能力。系統開發者可能負有安全設計及風險管理義務;企業部署者應負責確認系統適用情境、建立監督機制;政府機關使用AI時,也不能免除依法行政及保障人民權益的責任。
專法應依不同角色建立清楚的義務與責任標準,而不是把所有責任一律推給最後使用AI的人,也不是讓任何參與AI產業的企業都承擔無限制的責任。
對於可能造成重大損害的特定高風險AI系統,還可以進一步評估責任保險或補償機制,避免重大事故發生後,受害者即使勝訴也無法獲得實際賠償。
第五,政府使用AI,更應接受嚴格的權利保障與救濟要求。
企業使用AI可能影響消費者權益,政府使用AI則可能直接影響人民的補助、資格、行政處分及其他法定權利。
政府不能以採購外部系統、委託廠商開發,或演算法屬於廠商技術為理由,拒絕向人民說明行政決定的理由。AI可以協助行政機關處理大量資料,但依法應由政府承擔的責任,不能外包給演算法。
因此,政府使用高風險AI時,應建立事前風險評估、人工監督、紀錄保存及申訴機制;如果AI參與的決策侵害人民權益,也必須保留行政救濟及依法請求國家賠償。
此外,對於大量人民受到同一AI系統錯誤影響的情況,也應檢討如何銜接消費者保護、個人資料保護及團體訴訟等既有制度,避免每一位受害者都必須孤軍奮戰。
AI可以協助決策,但不能取代法律責任。
台灣已經有制定《人工智慧基本法》,為人工智慧發展與治理建立基本原則。下一步,我們需要進一步研議具體而可執行的《人工智慧風險管理及責任法》,此部法律應將《人工智慧損害救濟制度》詳細而完整的納入其中,把人民的知情權、說明權、人工複核權、證據保障及損害救濟制度落實下來。
人工智慧可以協助人類做出更好的決定,但最後必須有人對決定負責;科技可以改變社會,卻不能讓人民失去原本應有的權利。
一個成熟的AI社會,不只是讓機器變得更聰明,更要確保當機器犯錯時,人民仍然有地方申訴、有證據可以追查,也有機會獲得公平的補償。這才是台灣人工智慧治理應該完成的路程。