人工智慧(AI)正在快速改變人類社會。從醫療診斷、金融服務、教育、企業招聘,到政府行政及公共服務,AI已經不再只是科技產業的創新工具,而是逐漸進入影響人民生活、權益甚至命運的重要決策領域。

我們樂見AI帶來的效率與便利,也期待台灣能掌握這波科技革命的契機。然而,在積極推動AI發展的同時,有一個根本問題值得社會正視:當人工智慧作出錯誤判斷,甚至造成人民重大損害時,究竟應該由誰負責?

這不只是技術問題,更是法律、倫理與人權保障的問題。

當AI出錯,人民能向誰求助?

我們試想幾個可能發生的情境:

當醫院採用AI協助判讀醫療影像,卻因系統錯誤而漏掉重大疾病,延誤病人的治療;當企業利用AI篩選求職者,因訓練資料存在偏誤,使符合資格的人遭到不公平淘汰;當銀行使用AI評估信用風險,卻在缺乏合理說明的情況下拒絕民眾貸款;當政府機關利用AI審查社會福利資格,錯誤判定人民不符合補助條件。

以上這些情境有一個共同問題:AI的判斷可能直接影響人民的生命、健康、工作、財產及基本權利。

當事人若提出質疑,企業可能表示系統是由第三方廠商提供;技術廠商可能表示模型只是依據資料運算;使用單位則可能認為自己只是依照系統結果作業。

最後,人民面對的可能是一個沒有人願意負責的技術黑箱。

然而,人工智慧再複雜,也不能成為責任消失的理由。技術可以分工,責任不能因此真空化。

AI不是一般工具,必須建立相應的責任制度

傳統工具的使用,通常可透過製造商、使用者及相關專業人員的責任制度處理。但AI具有自主生成、複雜推論、持續更新及大規模部署等特性,其錯誤可能快速擴散,影響人數也可能遠超過傳統工具。

尤其當AI參與醫療、金融、就業、教育或政府行政等重大決策時,受影響的人民往往無法知道系統使用了哪些資料、採取什麼判斷標準,也未必有能力取得證據,證明自己的權益受到侵害。

如果法律制度仍完全依賴傳統的責任觀念,而沒有針對AI的技術特性建立適當規範,人民可能在面對損害時,陷入舉證困難、責任不明及救濟無門的困境。

因此,AI治理不能只關注如何鼓勵研發、擴大應用及提升產業競爭力,也必須同步建立風險管理與責任制度。

國際已經開始行動,台灣不能只談創新

歐盟已制定《人工智慧法》(AI Act),依照AI可能造成的風險進行分級管理,對部分高風險應用建立強制義務,並禁止特定嚴重侵害基本權利的AI行為。

美國則透過既有法律、行政監管及人工智慧風險管理框架等方式,逐步處理AI帶來的安全、隱私及公平性問題。

台灣也已於2026年公布《人工智慧基本法》,確立人工智慧發展應遵循人類自主、隱私保護、資安、安全、公平及問責等原則,這是我國AI治理的重要起點。

但基本法所確立的原則,仍需要透過更具體的法律制度,才能落實為企業必須遵守的義務、主管機關可以執行的監督權,以及人民真正可以行使的救濟權利。

換言之,台灣已經開始思考如何發展AI,接下來更應該認真思考如何為AI建立完整的責任制度。

AI發展與人民權益保障,不應是二選一

有人可能擔心,增加AI法規會提高企業成本,限制科技創新,甚至影響台灣產業競爭力。

這樣的顧慮值得重視,但不能因此忽略AI失控或不當使用可能造成的社會成本。

真正好的法律,不是全面禁止AI,也不是讓所有企業承擔相同程度的管制,而是依照風險高低採取不同管理方式。

例如,一般文字生成、生活應用工具,可以採取較輕的透明及安全要求;但涉及醫療診斷、金融信用、招聘、教育及政府重大決策的高風險AI,就應要求業者進行事前風險評估、資料品質檢查、安全測試、人工監督及事故通報。

對於嚴重侵害人權的AI行為,則應明確禁止。

同時,人民應有權知道重大決策是否使用AI,有權要求合理說明及人工複核;如果因違法或不當使用AI而受到損害,也應有明確的責任歸屬與求償管道。

這樣的制度不只是保護人民,也能讓守法企業有清楚的遊戲規則,進一步建立社會對AI產業的信任。

台灣應從AI基本法走向具體的責任立法

人工智慧的發展速度,可能遠超過傳統法律修法的速度。但這並不代表法律只能被動追趕,更不代表我們可以等到重大事故發生後,才開始討論誰應該負責。

本文認為,台灣應以《人工智慧基本法》為基礎,進一步研議制定具有強制執行力的《人工智慧風險管理及責任法》,明確規範禁止行為、高風險AI管理、企業責任、政府使用規範、主管機關監督權、違規處罰,以及人民損害救濟制度。

我們需要的不是阻礙AI發展的法律,而是讓AI能夠安全、負責任且值得人民信賴地發展的法律。

人工智慧可以比人類更快速地運算,但不能比人類更不需要負責。

AI時代真正重要的,不只是我們能創造多強大的人工智慧,更是當它影響甚至傷害人類時,我們是否已經建立足以保障人民的制度。

這應該是台灣在追求AI科技進步之際,不能迴避的公共政策課題。