Apple card演算法遭控性別歧視! 紐約金管機構已展開調查

新頭殼newtalk | 戴敏琪 綜合報導
1970-01-01T00:00:00Z
蘋果旗下Apple Card近期被控演算法帶有性別歧視,目前正在接受美國紐約州金融服務署調查。   圖:翻攝自蘋果官網
蘋果旗下Apple Card近期被控演算法帶有性別歧視,目前正在接受美國紐約州金融服務署調查。   圖:翻攝自蘋果官網

蘋果(Apple)和高盛企業(Goldman Sachs)合作發行的信用卡Apple Card,上線短短42天信用額度就破3千億,但近期該卡演算法被爆出帶有性別歧視,目前美國紐約州金融服務署(DFS)已對此著手調查。

工程師David Heinemeier Hansson從上周開始發布一系列推文指出,Apple Card給他的信用額度是他妻子的20倍,但他妻子的信用評分向來比她更高,表示Apple Card的演算法是「性別歧視計畫」。

高盛發言人Andrew Williams回應指出,信用卡額度的審核是基於客戶的信譽,而非性別、種族性傾向等歧視,但Hansson卻指出,高盛在事件爆發後,隨即調高其妻子的信用額度,但並未要求任何證明文件,「顯然沒有解決信用評分系統的演算法偏見」。

Hansson表示,蘋果、高盛都將信用評等交由演算法評估,「雖然並沒有性別歧視的意圖,卻造成性別歧視的結果。』目前美國紐約州金融服務署證實,已針對Apple Card的信用額度設定是否涉及性別歧視展開調查。

隨著演算法應用日益廣泛,其訓練素材是否帶有主觀想法或偏見,已成為目前急需正視的隱憂。先前也有研究指出,使用AI反而會強化社會既有的偏見,黑人的言論更容易被標示為仇恨言論。

蘋果(Apple)和高盛企業(Goldman Sachs)合作發行的信用卡Apple Card,上線短短42天信用額度就破3千億,但近期該卡演算法被爆出帶有性別歧視,目前美國紐約州金融服務署(DFS)已對此著手調查。

工程師David Heinemeier Hansson從上周開始發布一系列推文指出,Apple Card給他的信用額度是他妻子的20倍,但他妻子的信用評分向來比她更高,表示Apple Card的演算法是「性別歧視計畫」。

隨著演算法應用日益廣泛,其訓練素材是否帶有主觀想法或偏見,已成為目前急需正視的隱憂。先前也有研究指出,使用AI反而會強化社會既有的偏見,黑人的言論更容易被標示為仇恨言論。

※登入會員後FB分享可獲得﹝ 台北政治經濟交易所﹞點數100點 每日分享不同篇文章最多可得500點

 

網友留言
留言如有不雅或攻擊性文字、重複灌水、廣告、外站連結等內容,本網站將保有刪除留言之權利
網頁已閒置超過 90 秒囉!
請按任意鍵,或點擊空白處,即可回到文章。