請更新您的瀏覽器

您使用的瀏覽器版本較舊,已不再受支援。建議您更新瀏覽器版本,以獲得最佳使用體驗。

科技

Apple card演算法遭控性別歧視! 紐約金管機構已展開調查

新頭殼

更新於 2019年11月11日03:31 • 發布於 2019年11月11日03:31 • 新頭殼newtalk |戴敏琪 綜合報導
蘋果旗下Apple Card近期被控演算法帶有性別歧視,目前正在接受美國紐約州金融服務署調查。   圖:翻攝自蘋果官網
蘋果旗下Apple Card近期被控演算法帶有性別歧視,目前正在接受美國紐約州金融服務署調查。   圖:翻攝自蘋果官網

新頭殼newtalk

蘋果(Apple)和高盛企業(Goldman Sachs)合作發行的信用卡Apple Card,上線短短42天信用額度就破3千億,但近期該卡演算法被爆出帶有性別歧視,目前美國紐約州金融服務署(DFS)已對此著手調查。

工程師David Heinemeier Hansson從上周開始發布一系列推文指出,Apple Card給他的信用額度是他妻子的20倍,但他妻子的信用評分向來比她更高,表示Apple Card的演算法是「性別歧視計畫」。

高盛發言人Andrew Williams回應指出,信用卡額度的審核是基於客戶的信譽,而非性別、種族性傾向等歧視,但Hansson卻指出,高盛在事件爆發後,隨即調高其妻子的信用額度,但並未要求任何證明文件,「顯然沒有解決信用評分系統的演算法偏見」。

Hansson表示,蘋果、高盛都將信用評等交由演算法評估,「雖然並沒有性別歧視的意圖,卻造成性別歧視的結果。』目前美國紐約州金融服務署證實,已針對Apple Card的信用額度設定是否涉及性別歧視展開調查。

隨著演算法應用日益廣泛,其訓練素材是否帶有主觀想法或偏見,已成為目前急需正視的隱憂。先前也有研究指出,使用AI反而會強化社會既有的偏見,黑人的言論更容易被標示為仇恨言論。

延伸閱讀:

AI演算法帶有偏見! 新研究:黑人用語較易被AI視為仇恨言論

史上最成功信用卡?Apple Card上線短短42天信用額度就破3千億

0 0
reaction icon 0
reaction icon 0
reaction icon 0
reaction icon 0
reaction icon 0
reaction icon 0