人際

DEI 快訊|DEI 納入企業 AI 策略的 3 種方法、Google Cloud 擁抱多元化 AI 團隊

女人迷Womany
更新於 06月06日13:30 • 發布於 06月07日13:30 • Womany Ting

將 DEI 納入企業 AI 人工智慧策略的 3 種方法

生成式 AI 帶來了革命性的發展,然而我們也發現,訓練資料、演算法和其他指導它的輸入中存在偏見。Midjourney 和 ChatGPT 等工具接受了大量資料的訓練,但其中包含了有偏見的內容。

這些現象引發更多人思考:AI 的發展是否真的讓社會變得更加公平?那些過去獲得機會的人,是否仍是同一批人?而歷史上被邊緣化的群體會變成怎樣?他們是否會因為 AI 的智慧化而變得更加不利,甚至被迫離開職場?

廣告(請繼續閱讀本文)

(同場加映:你在跟聊天機器人面試嗎?人工智慧的偏見如何影響面試?|AI for DEI

圖片|generated from Canva

廣告(請繼續閱讀本文)

為了消弭落差、創造更永續的未來,企業組織制定 AI 策略時,必須將多元、公平與共融(DEI)納入原則。安永會計師事務所(EY)全球客戶經理 Andy Baldwin 提出三步驟將 DEI 納入企業 AI 人工智慧策略的方式:

一、將 DEI 融入 AI 系統的開發流程中

確保開發期即有多元化代表參與,和多樣性的資料數據輸入,避免演算法偏差風險。設計不當的 AI 系統會放大偏見、排除某些用戶。以診斷皮膚癌為例,如果僅使用白人患者的圖像,來訓練演算法來發現黑色素瘤,那麼黑人患者可能會被遺漏,導致他們難以提前預防,或獲得適當的照護或診斷。

二、將 DEI 納入到員工培訓計劃中

透過培訓讓員工了解如何使用和管理 AI 工具,學習無意識偏見、認知到沒有 DEI 的風險(例如演算法可能有對特定族群的偏見),可以預防 AI 強化現有的不平等。

三、利用 AI 創造機會來提升 DEI

可利用 AI 識別並解決現有的不平等(例如薪資差距),並促進同工同酬或更公平的升遷流程。或透過 AI 協助改善身礙者的工作環境,例如通過語音識別系統,幫助言語障礙者溝通,或利用影像識別技術,輔助視覺障礙者。

(同場加映:OpenAI 會有隱性歧視與偏見嗎?多元共融在 AI 時代將成關鍵|AI for DEI

Andy Baldwin 指出:「人們應更重視長期存在語言與行為中的偏見和歧視,AI 才能發揮其應有的價值。」企業必須專注於開發能夠促進所有使用者的 AI 系統,並確保它們遵循 DEI 原則,以實現更加共融和有影響力的生活。

Google Cloud UKI 董事總經理談 AI 產業的 DEI 必要應用

在 Google Cloud UKI 董事總經理(MD) Helen Kelisky 接受 AI Business 的專訪中,他強調:「本質上,AI 公司能夠將越多元的觀點融入團隊中,他們的產品就會越強大。」

圖片|Google Cloud

而領導 Google Cloud UKI 團隊的 Helen ,怎麼看待 AI 產業的 DEI 應用?AI 公司應要注意哪些事?

一、「AI 技術團隊內部的多樣性」應列為優先

人工智慧工具的「好壞」取決於它們所訓練的資料。從臉部辨識功能,到語音和語言能力的一切,都受到「技術團隊人員組成」的限制。

如果用於訓練的數據產生基於種族、性別、能力等的偏見,這些偏見將會被 AI 模型繼承,並透過持續的使用而強化。這將導致歧視和不公平問題長期存在。例如,在美國 pwc 針對演算法偏差的報告顯示,黑人在使用自動語音辨識技術 (ASR) 時,遇到的錯誤數量是白人的兩倍。

(同場加映:AI 會取代人類做決策嗎?拋開無意識偏見、擁抱多元共融,巧用 ChatGPT 人類一定要有的能力

二、從招聘與工作設計中實踐 DEI

在 Google Cloud 的招募流程中,會不斷重新評估面試方式,並擴大靈活的工作選擇。這些積極的變化,有助於吸引新人才加入 Google Cloud 團隊,並為代表性不足群體創造更多公平的機會,同時透過無意識偏見培訓,也讓團隊接受更多樣化的觀點,成為更強大的團隊。

三、AI 產業領導者,應將注意力集中在這三面向

  • 開放的招募流程。
  • 挑戰內部對話。
  • 現有團隊中倡導多元化觀點。

創造一個多元共融的世界,每個你都很重要

延伸閱讀:

2024 年最重要的人力資源策略:建立歸屬感,績效提高 6 倍、節省 5,200 萬美元|DEI 快訊

2024 年最重要的人力資源策略:建立歸屬感,績效提高 6 倍、節省 5,200 萬美元|DEI 快訊

加入女人迷 Line@,好內容不再漏接

查看原始文章
留言 2
  • lesane
    有很多方法可以不用AI也作出貢獻, 有時貢獻可以大過AI版。 AI有很多問題,很少有聽過AI防偏見,就像很少聽人們用數學做心理輔導一樣,這是標價系統的 問題,是系統缺陷。對人們來説,這是機會,因為既然掌握AI的 人們不願意做,那麼普通人就能 在 那些地方贏過 AI。 AI若想製造偏見,那普通人就能在創造平等擊敗AI。 有些時後很明顯是人勝過AI, 當這種事發生時,沒有必要幫AI凹。 飯島愛的 名字不就是Iijima AI?所以並不是拼命貼AI名就會讓生意成功, 人的因素還是很重要,心理建設也很重要。 自己比較好的時後就是自己比較好,對別人客觀 能 幫助對自己也客觀。
    06月09日06:20
  • 一慧lily
    黃仁勳的AI旋風 希望未來能夠有 機器人老人長照 機器人家事管家 機器人世界和平
    06月08日02:32
顯示全部