近來生成式人工智慧(Generative AI)爆發性的突破,成為每天的焦點新聞,但你我可能被光鮮亮麗的技術所吸引,卻忽略背後所潛藏的問題。
AI像極了雙面刃,儘管增加了生產效率,卻也成為有心人的犯案與擴張權力的工具。另外,AI還暗藏失業、擴大貧富差距等隱憂,各國專家學者無不呼籲立法監理AI的發展,才不會讓科技成為脫韁野馬,一發不可收拾。為此國立陽明交通大學科技與社會研究所副教授彭松嶽,長時間探查AI應用與社會間的關係,期待科技應用得以真正幫助到人們,而不是加劇落差、誤會。
AI是面放大社會樣貌的凸透鏡?!
「AI成為反射特定族群、地區觀點的凸透鏡,對你我的影響也越來越大。」彭松嶽提醒說。AI依賴大數據,不但未能反射客觀、真實,更可能只反映一小部分社會樣貌,因此,更像是面凸透鏡,如果人們不假懷疑的相信,可能會扭曲對世界的認知、價值觀。
「AI是副帶有顏色的鏡片,還可能放大數據背後多數人的偏見。」彭松嶽擔憂地說。人們在收集數據的過程,本身就是權力結構的展現,他繼續解釋:「想要收集一地居民資料或民調數據,就需要大量系統、訪員、分析人員、執行機構等,都須花費大筆資金,因此,數據絕對不是隨意產生,是帶有目的性的。」
「收集人員」與收集對象是誰,是屬於哪些族裔、性別或社會階層;如何決定收集哪些數據,如何定義使用的變項;「機構」為政府,還是民間企業;「挹注資金」從何而來?又有哪一種意識形態。在這些基礎上所誕生的數據與AI,是否客觀,又或者強化了某些意識型態,都值得你我深思。
另外,你知道AI恐怕沒辦法減輕人們工作量,還可能成為增加勞工壓力的高科技工具嗎?因為AI在乎「如何再提高產能、效率」,而非人們存在的價值,以「外送員」工作內容為例,他們的時間、地點、休息乃至收單條件,都被後臺嚴加管控,如果政府沒有及時調整,將可能對職業安全、工時產生(如搶單、趕餐導致意外等)負面影響。
AI數據下的性別、區域偏見
數據偏見在「性別議題」上又特別明顯,重點在於數據是如何被蒐集的?以過去調查量表設計為例,性別欄位僅設定「男/女」,缺乏多元性別光譜設計,導致AI無法完全認識、理解性別的全貌,進而強化特定性別沙文主義。
數據偏見在「性別議題」上又特別明顯,重點在於數據是如何被蒐集的?以過去調查量表設計為例,性別欄位僅設定「男/女」,缺乏多元性別光譜設計,導致AI無法完全認識、理解性別的全貌,進而強化特定性別沙文主義。
例如過去亞馬遜(Amazon)公司曾使用AI來篩選履歷,原先期待提升招聘效率,但系統卻選擇排除絕大多數女性。背後原因在於過去公司的訓練數據,都是男性居多,所以AI系統便主動判定女性能力不好,或者偏執地認定男性對公司有較高效益,如何避免人們因為複製數據,而加劇偏見,是值得反思的問題。
日常生活中我們常看到各種民調、流量分析、環境調查等,背後其實大有玄機。一般人並不會想到數據收集帶著什麼目的?以及哪些人口特徵應該被記錄,又或者收集數據的感應器(監視器、科學儀器等)被放置在何處,蒐集時間在什麼時候。這些看似瑣碎的問題,卻深刻影響數據的最終面貌,例如:觀測的儀器、監視器被放置在富裕區域,還是貧困地區,背後又基於甚麼目的,會造成哪些社會後果等。
「數據會影響我們如何看待這些地區、性別及族群等重要議題,如果我們將其視為『看不見』地帶,進而選擇忽略,便會重塑人們對某些地區、國家和族群的觀感,甚至影響到政策制定者的最終決策。」彭松嶽提醒說。所以你我能做的,是適時監督、注意任何國家、企業與組織收集數據時的方式與過程。
因此,部分倡議者認為建置AI時,應考慮性別、種族、階級、身體狀況等多重因素,然後在數據庫中擴大相關參數,才能讓社會邊緣群體被看見,AI也能做出細致、全面且妥善的判斷。
亞洲智慧城市的關鍵:當地社會結構
近來AI廣泛應用在生活、工作的大小層面,尤其在全球大城市裡的應用,更是各國政府極為關注的議題。
令彭松嶽感到訝異的,是各國對於智慧城市的想像、AI運用,有著非常大的差異,例如:部分城市專注公開數據如何改善交通問題,開發出預測公車到點的程式;還有些城市則著重於如何提升城市美感,進而邀請藝術家在街頭上的設施進行裝飾美化,再透過科技達成線上、線下串聯,強化社區間的連結。
AI智慧城市是什麼?各國政府都發揮了創意在作夢,其中亞洲智慧城市發展經常貼合當地社會結構之上,與當地歷史背景、人口結構有著莫大關聯,彭松嶽分析日本的橫濱市發現:
日本因面臨長期經濟衰退,同時遇上嚴峻高齡化、少子化等挑戰,以及311大地震、福島核災等天災衝擊,日本政府於2014年提出「地方創生」,期待透過強化地方發展,修正東京都會區一極集中、地方人口流失等問題。
在「地方創生」的基礎上,建造許多具備智慧設備的實驗性住宅,社區內部可透過系統,詳細監測內部水、電、食物等資源的使用情況,再給出建議、調整,還有無人巴士等服務。彭松嶽分析說:「橫濱著眼於長期復興和社會改革的路徑,不單是AI技術應用,更是獨特的案例。」橫濱市貼緊當地社會需求,應用科技來對城市進行有序管理,不止留住年輕就業人口,也吸引大量國際人才。
至於作為臺灣首善之都—臺北市智慧城市如何發展,又有什麼內涵?彭松嶽指出,臺北市的演進大致與全球趨勢相近,像是早期Wi-Fi等基礎建設,或是近年來強調運用科技來強化公民參與、以及自下而上(bottom-up)的機制,鼓勵市民與民間私人組織提出市政建議,及解決方案。
不過彭松嶽也觀察到,儘管臺北市政府強調公民參與及自下而上的創新,但實際參與的多數是具有商業或技術背景、研究人員(包括智庫法人),而非普通市民。這種情況,主要歸因於技術與參與機制設計的限制,當市民提案轉變成專案時,便會遇上卡關問題,無法發揮實質貢獻。所以公民從提案到專案,要如何確保市民、技術專家、公務體系雙方得以溝通,是目前所面臨的挑戰。
歐美智慧城市的新創基因
我們將智慧城市的視角由亞洲轉向歐美,一座城市得完善、創新地運用AI外,如何能吸引全世界懂得「作夢」的IT人才前來,更是關鍵,例如愛爾蘭採取稅收優惠等方式,讓智慧城市成為跨國科技公司進入歐美的門戶,藉此敞開大門匯集了世界各地的IT人才。
城市裡最為人熟知的為「黑客松(hackathon)」,又稱程式設計馬拉松。黑客松一開始為公司內部推動創意激盪的方法,後來演變成跨地域的大型活動,讓世界各地懷抱創意的人們都可來此提案,豐富了人們對城市的各種想像。黑客松時間通常數小時到幾天,是一項以「創新為根本」的活動,期間沒有任何限制,IT工程師、圖形設計師與專案經理合作,透過創意碰撞,編寫出一個個特定專案。「在酒吧裡所寫出的程式碼,也能在一夕間改變了科技界!」是對科技人風靡黑客松的寫照。
此外比較亞洲和歐美的智慧城市,也能發現黑客松文化讓歐美趨於開放創新,政府、科技公司更針對極具創意的團隊進行輔導,讓創新點子得以真正落地商轉,為改善都市生活、環境盡一份力。
AI迅速發展下,從亞洲到歐美各國都有其因應之道,人們無數的想像、創意跟著美夢成真,但怎麼做才能維持「科技始終來自於人性」的美好想像?彭松嶽提醒,人們應拆解、認識背後的權力運作模式,並時刻反思AI所帶來的利與弊,才能避免成為脫韁野馬,反過頭來束縛了對人性的重視與同情。
本文授權轉載自人文·島嶼平台,原文連結在此。
留言 0