DEI 快訊｜DEI 納入企業 AI 策略的 3 種方法、Google Cloud 擁抱多元化 AI 團隊
將 DEI 納入企業 AI 人工智慧策略的 3 種方法
生成式 AI 帶來了革命性的發展，然而我們也發現，訓練資料、演算法和其他指導它的輸入中存在偏見。Midjourney 和 ChatGPT 等工具接受了大量資料的訓練，但其中包含了有偏見的內容。
這些現象引發更多人思考：AI 的發展是否真的讓社會變得更加公平？那些過去獲得機會的人，是否仍是同一批人？而歷史上被邊緣化的群體會變成怎樣？他們是否會因為 AI 的智慧化而變得更加不利，甚至被迫離開職場？
（同場加映：你在跟聊天機器人面試嗎？人工智慧的偏見如何影響面試？｜AI for DEI）
圖片｜generated from Canva
為了消弭落差、創造更永續的未來，企業組織制定 AI 策略時，必須將多元、公平與共融（DEI）納入原則。安永會計師事務所（EY）全球客戶經理 Andy Baldwin 提出三步驟將 DEI 納入企業 AI 人工智慧策略的方式：
一、將 DEI 融入 AI 系統的開發流程中
確保開發期即有多元化代表參與，和多樣性的資料數據輸入，避免演算法偏差風險。設計不當的 AI 系統會放大偏見、排除某些用戶。以診斷皮膚癌為例，如果僅使用白人患者的圖像，來訓練演算法來發現黑色素瘤，那麼黑人患者可能會被遺漏，導致他們難以提前預防，或獲得適當的照護或診斷。
二、將 DEI 納入到員工培訓計劃中
透過培訓讓員工了解如何使用和管理 AI 工具，學習無意識偏見、認知到沒有 DEI 的風險（例如演算法可能有對特定族群的偏見），可以預防 AI 強化現有的不平等。
三、利用 AI 創造機會來提升 DEI
可利用 AI 識別並解決現有的不平等（例如薪資差距），並促進同工同酬或更公平的升遷流程。或透過 AI 協助改善身礙者的工作環境，例如通過語音識別系統，幫助言語障礙者溝通，或利用影像識別技術，輔助視覺障礙者。
（同場加映：OpenAI 會有隱性歧視與偏見嗎？多元共融在 AI 時代將成關鍵｜AI for DEI）
Andy Baldwin 指出：「人們應更重視長期存在語言與行為中的偏見和歧視，AI 才能發揮其應有的價值。」企業必須專注於開發能夠促進所有使用者的 AI 系統，並確保它們遵循 DEI 原則，以實現更加共融和有影響力的生活。
Google Cloud UKI 董事總經理談 AI 產業的 DEI 必要應用
在 Google Cloud UKI 董事總經理（MD） Helen Kelisky 接受 AI Business 的專訪中，他強調：「本質上，AI 公司能夠將越多元的觀點融入團隊中，他們的產品就會越強大。」
圖片｜Google Cloud
而領導 Google Cloud UKI 團隊的 Helen ，怎麼看待 AI 產業的 DEI 應用？AI 公司應要注意哪些事？
一、「AI 技術團隊內部的多樣性」應列為優先
人工智慧工具的「好壞」取決於它們所訓練的資料。從臉部辨識功能，到語音和語言能力的一切，都受到「技術團隊人員組成」的限制。
如果用於訓練的數據產生基於種族、性別、能力等的偏見，這些偏見將會被 AI 模型繼承，並透過持續的使用而強化。這將導致歧視和不公平問題長期存在。例如，在美國 pwc 針對演算法偏差的報告顯示，黑人在使用自動語音辨識技術 (ASR) 時，遇到的錯誤數量是白人的兩倍。
（同場加映：AI 會取代人類做決策嗎？拋開無意識偏見、擁抱多元共融，巧用 ChatGPT 人類一定要有的能力）
二、從招聘與工作設計中實踐 DEI
在 Google Cloud 的招募流程中，會不斷重新評估面試方式，並擴大靈活的工作選擇。這些積極的變化，有助於吸引新人才加入 Google Cloud 團隊，並為代表性不足群體創造更多公平的機會，同時透過無意識偏見培訓，也讓團隊接受更多樣化的觀點，成為更強大的團隊。
三、AI 產業領導者，應將注意力集中在這三面向
- 開放的招募流程。
- 挑戰內部對話。
- 現有團隊中倡導多元化觀點。
創造一個多元共融的世界，每個你都很重要
- 2024 第三屆多元共融願景獎（7/31 截止報名）：https://womany.net/dei/awards
- 給職場專業人士的 DEI 電子報：https://womany.net/s/10rb7ef2
- 報名 DEI 認證班，成為關鍵永續人才：https://womany.net/s/10jkw353
- 女人迷協助企業對內培訓建立 DEI 意識、對外建立僱主品牌形象，理解女人迷 DEI 服務：https://womany.net/dei/solutions
留言 2