AI誤判害西班牙女遇害 專家示警台灣現狀
[NOWnews今日新聞] 曾遭前夫家暴的西班牙女性莉娜（Lina），今年1月因再次被威脅向警察報案，但經警方AI系統VioGén判定為「中風險」的三週後，莉娜慘遭前夫殺害，引發民眾質疑AI系統的保護能力。精神醫學專家、衛福部桃園療養院副院長李俊宏表示，VioGén只是用於風險分級的「假AI」，並沒有比台灣現行的量表高明，台灣攔截潛在傷害的資源比西班牙多，持續精進系統是比較可行的目標。
據BBC中文網報導，莉娜（Lina）今年1月因再次被前夫威脅施暴向警察報案，警方將案件登記在VioGén（性別暴力再犯風險綜合監測）。這是用於評估女性再次遭同一男子襲擊可能性的系統，莉娜被評為「中風險」，向性別暴力法庭申請保護令也遭拒絕，但在三週後莉娜慘遭前夫殺害。這起悲劇也引發VioGén保護女性能力的質疑。
VioGén會詢問關於35個關於虐待及其強度、施虐者是否有武器、心理健康等問題，並將風險分級為「可忽略」、「低」、「中」、「高」或「極度危險」，協助警方分配資源。警方會在1週內跟進高風險受害者、中風險則要30天。
北美和歐洲都使用工具評估再次受到家暴的風險，但僅有西班牙將系統算法與警察實務緊密結合，但自2003年至2021年，西班牙有71名因家暴報警，卻被系統判定為「可忽略、中風險」的女性，遭伴侶或前伴侶殺害。
對此精神醫學專家、衛福部桃園療養院副院長李俊宏在臉書發文指出，西班牙的作法並不能算是AI，僅是針對被家暴的個案，透過VioGén的電腦系統詢問35個問題後，計算分數來判斷風險，這與現行的許多量表的問題、分數計算都一樣，，並非透過深度學習的人工智慧算法去訓練跟應用，權重也是使用過去實證加權，而不是使用本土資料庫訓練演算法。
李俊宏直言，他將這種方式通稱為「假AI」，只是在漂亮的介面上做手算就能做到的事情，還犧牲了警方依據經驗，手動調整風險的靈活性，這說要比台灣現行的親密關係量表高明到哪裡去，個人是不怎麼相信的。
李俊宏也坦言，所有量表都會有偽陽、偽陰的問題，要全不漏接，量表做不到，就算是AI也不可能，但講殘酷一點，風險分級就是資源分級，包括治療資源與防護資源，若被判為中風險，在警方訪視之前，只能靠自己的安全意識跟守望相助。
李俊宏也對比台灣狀況指出，現實世界不可能做到零漏接，台灣目前在家暴防治上，除了警政，還有衛政、社政，資源比西班牙多，要做到「攔截潛在傷害」，系統持續檢討精進，或許是比較可行的目標，也比較容易留任優秀的人員。
※【NOWnews 今日新聞】提醒：如果您或家人、朋友遭受家庭暴力、性侵害或性騷擾的困擾，或是您知道有兒童、少年、老人或身心障礙者受到身心虐待、疏忽或其他嚴重傷害其身心發展的行為，請主動撥113，透過專業社工員處理，救援受虐者脫離危機。
※ 拒絕暴力請撥打：113、110
留言 6