將 DEI 納入企業 AI 人工智慧策略的 3 種方法
生成式 AI 帶來了革命性的發展,然而我們也發現,訓練資料、演算法和其他指導它的輸入中存在偏見。Midjourney 和 ChatGPT 等工具接受了大量資料的訓練,但其中包含了有偏見的內容。
這些現象引發更多人思考:AI 的發展是否真的讓社會變得更加公平?那些過去獲得機會的人,是否仍是同一批人?而歷史上被邊緣化的群體會變成怎樣?他們是否會因為 AI 的智慧化而變得更加不利,甚至被迫離開職場?
(同場加映:你在跟聊天機器人面試嗎?人工智慧的偏見如何影響面試?|AI for DEI)
圖片|generated from Canva
為了消弭落差、創造更永續的未來,企業組織制定 AI 策略時,必須將多元、公平與共融(DEI)納入原則。安永會計師事務所(EY)全球客戶經理 Andy Baldwin 提出三步驟將 DEI 納入企業 AI 人工智慧策略的方式:
一、將 DEI 融入 AI 系統的開發流程中
確保開發期即有多元化代表參與,和多樣性的資料數據輸入,避免演算法偏差風險。設計不當的 AI 系統會放大偏見、排除某些用戶。以診斷皮膚癌為例,如果僅使用白人患者的圖像,來訓練演算法來發現黑色素瘤,那麼黑人患者可能會被遺漏,導致他們難以提前預防,或獲得適當的照護或診斷。
二、將 DEI 納入到員工培訓計劃中
透過培訓讓員工了解如何使用和管理 AI 工具,學習無意識偏見、認知到沒有 DEI 的風險(例如演算法可能有對特定族群的偏見),可以預防 AI 強化現有的不平等。
三、利用 AI 創造機會來提升 DEI
可利用 AI 識別並解決現有的不平等(例如薪資差距),並促進同工同酬或更公平的升遷流程。或透過 AI 協助改善身礙者的工作環境,例如通過語音識別系統,幫助言語障礙者溝通,或利用影像識別技術,輔助視覺障礙者。
(同場加映:OpenAI 會有隱性歧視與偏見嗎?多元共融在 AI 時代將成關鍵|AI for DEI)
Andy Baldwin 指出:「人們應更重視長期存在語言與行為中的偏見和歧視,AI 才能發揮其應有的價值。」企業必須專注於開發能夠促進所有使用者的 AI 系統,並確保它們遵循 DEI 原則,以實現更加共融和有影響力的生活。
Google Cloud UKI 董事總經理談 AI 產業的 DEI 必要應用
在 Google Cloud UKI 董事總經理(MD) Helen Kelisky 接受 AI Business 的專訪中,他強調:「本質上,AI 公司能夠將越多元的觀點融入團隊中,他們的產品就會越強大。」
圖片|Google Cloud
而領導 Google Cloud UKI 團隊的 Helen ,怎麼看待 AI 產業的 DEI 應用?AI 公司應要注意哪些事?
一、「AI 技術團隊內部的多樣性」應列為優先
人工智慧工具的「好壞」取決於它們所訓練的資料。從臉部辨識功能,到語音和語言能力的一切,都受到「技術團隊人員組成」的限制。
如果用於訓練的數據產生基於種族、性別、能力等的偏見,這些偏見將會被 AI 模型繼承,並透過持續的使用而強化。這將導致歧視和不公平問題長期存在。例如,在美國 pwc 針對演算法偏差的報告顯示,黑人在使用自動語音辨識技術 (ASR) 時,遇到的錯誤數量是白人的兩倍。
(同場加映:AI 會取代人類做決策嗎?拋開無意識偏見、擁抱多元共融,巧用 ChatGPT 人類一定要有的能力)
二、從招聘與工作設計中實踐 DEI
在 Google Cloud 的招募流程中,會不斷重新評估面試方式,並擴大靈活的工作選擇。這些積極的變化,有助於吸引新人才加入 Google Cloud 團隊,並為代表性不足群體創造更多公平的機會,同時透過無意識偏見培訓,也讓團隊接受更多樣化的觀點,成為更強大的團隊。
三、AI 產業領導者,應將注意力集中在這三面向
- 開放的招募流程。
- 挑戰內部對話。
- 現有團隊中倡導多元化觀點。
創造一個多元共融的世界,每個你都很重要
- 2024 第三屆多元共融願景獎(7/31 截止報名):https://womany.net/dei/awards
- 給職場專業人士的 DEI 電子報:https://womany.net/s/10rb7ef2
- 報名 DEI 認證班,成為關鍵永續人才:https://womany.net/s/10jkw353
- 女人迷協助企業對內培訓建立 DEI 意識、對外建立僱主品牌形象,理解女人迷 DEI 服務:https://womany.net/dei/solutions
留言 2
lesane
有很多方法可以不用AI也作出貢獻,
有時貢獻可以大過AI版。
AI有很多問題,很少有聽過AI防偏見,就像很少聽人們用數學做心理輔導一樣,這是標價系統的 問題,是系統缺陷。對人們來説,這是機會,因為既然掌握AI的 人們不願意做,那麼普通人就能 在 那些地方贏過 AI。
AI若想製造偏見,那普通人就能在創造平等擊敗AI。
有些時後很明顯是人勝過AI, 當這種事發生時,沒有必要幫AI凹。 飯島愛的 名字不就是Iijima AI?所以並不是拼命貼AI名就會讓生意成功, 人的因素還是很重要,心理建設也很重要。
自己比較好的時後就是自己比較好,對別人客觀 能 幫助對自己也客觀。
06月09日06:20
一慧lily
黃仁勳的AI旋風
希望未來能夠有
機器人老人長照
機器人家事管家
機器人世界和平
06月08日02:32
顯示全部