近來生成式人工智慧（Generative AI）爆發性的突破，成為每天的焦點新聞，但你我可能被光鮮亮麗的技術所吸引，卻忽略背後所潛藏的問題。
AI像極了雙面刃，儘管增加了生產效率，卻也成為有心人的犯案與擴張權力的工具。另外，AI還暗藏失業、擴大貧富差距等隱憂，各國專家學者無不呼籲立法監理AI的發展，才不會讓科技成為脫韁野馬，一發不可收拾。為此國立陽明交通大學科技與社會研究所副教授彭松嶽，長時間探查AI應用與社會間的關係，期待科技應用得以真正幫助到人們，而不是加劇落差、誤會。
AI是面放大社會樣貌的凸透鏡？！
「AI成為反射特定族群、地區觀點的凸透鏡，對你我的影響也越來越大。」彭松嶽提醒說。AI依賴大數據，不但未能反射客觀、真實，更可能只反映一小部分社會樣貌，因此，更像是面凸透鏡，如果人們不假懷疑的相信，可能會扭曲對世界的認知、價值觀。
「AI是副帶有顏色的鏡片，還可能放大數據背後多數人的偏見。」彭松嶽擔憂地說。人們在收集數據的過程，本身就是權力結構的展現，他繼續解釋：「想要收集一地居民資料或民調數據，就需要大量系統、訪員、分析人員、執行機構等，都須花費大筆資金，因此，數據絕對不是隨意產生，是帶有目的性的。」
「收集人員」與收集對象是誰，是屬於哪些族裔、性別或社會階層；如何決定收集哪些數據，如何定義使用的變項；「機構」為政府，還是民間企業；「挹注資金」從何而來？又有哪一種意識形態。在這些基礎上所誕生的數據與AI，是否客觀，又或者強化了某些意識型態，都值得你我深思。
另外，你知道AI恐怕沒辦法減輕人們工作量，還可能成為增加勞工壓力的高科技工具嗎？因為AI在乎「如何再提高產能、效率」，而非人們存在的價值，以「外送員」工作內容為例，他們的時間、地點、休息乃至收單條件，都被後臺嚴加管控，如果政府沒有及時調整，將可能對職業安全、工時產生（如搶單、趕餐導致意外等）負面影響。
AI數據下的性別、區域偏見
數據偏見在「性別議題」上又特別明顯，重點在於數據是如何被蒐集的？以過去調查量表設計為例，性別欄位僅設定「男／女」，缺乏多元性別光譜設計，導致AI無法完全認識、理解性別的全貌，進而強化特定性別沙文主義。
數據偏見在「性別議題」上又特別明顯，重點在於數據是如何被蒐集的？以過去調查量表設計為例，性別欄位僅設定「男／女」，缺乏多元性別光譜設計，導致AI無法完全認識、理解性別的全貌，進而強化特定性別沙文主義。
例如過去亞馬遜（Amazon）公司曾使用AI來篩選履歷，原先期待提升招聘效率，但系統卻選擇排除絕大多數女性。背後原因在於過去公司的訓練數據，都是男性居多，所以AI系統便主動判定女性能力不好，或者偏執地認定男性對公司有較高效益，如何避免人們因為複製數據，而加劇偏見，是值得反思的問題。
日常生活中我們常看到各種民調、流量分析、環境調查等，背後其實大有玄機。一般人並不會想到數據收集帶著什麼目的？以及哪些人口特徵應該被記錄，又或者收集數據的感應器(監視器、科學儀器等)被放置在何處，蒐集時間在什麼時候。這些看似瑣碎的問題，卻深刻影響數據的最終面貌，例如：觀測的儀器、監視器被放置在富裕區域，還是貧困地區，背後又基於甚麼目的，會造成哪些社會後果等。
「數據會影響我們如何看待這些地區、性別及族群等重要議題，如果我們將其視為『看不見』地帶，進而選擇忽略，便會重塑人們對某些地區、國家和族群的觀感，甚至影響到政策制定者的最終決策。」彭松嶽提醒說。所以你我能做的，是適時監督、注意任何國家、企業與組織收集數據時的方式與過程。
因此，部分倡議者認為建置AI時，應考慮性別、種族、階級、身體狀況等多重因素，然後在數據庫中擴大相關參數，才能讓社會邊緣群體被看見，AI也能做出細致、全面且妥善的判斷。
亞洲智慧城市的關鍵：當地社會結構
近來AI廣泛應用在生活、工作的大小層面，尤其在全球大城市裡的應用，更是各國政府極為關注的議題。
令彭松嶽感到訝異的，是各國對於智慧城市的想像、AI運用，有著非常大的差異，例如：部分城市專注公開數據如何改善交通問題，開發出預測公車到點的程式；還有些城市則著重於如何提升城市美感，進而邀請藝術家在街頭上的設施進行裝飾美化，再透過科技達成線上、線下串聯，強化社區間的連結。
AI智慧城市是什麼？各國政府都發揮了創意在作夢，其中亞洲智慧城市發展經常貼合當地社會結構之上，與當地歷史背景、人口結構有著莫大關聯，彭松嶽分析日本的橫濱市發現：
日本因面臨長期經濟衰退，同時遇上嚴峻高齡化、少子化等挑戰，以及311大地震、福島核災等天災衝擊，日本政府於2014年提出「地方創生」，期待透過強化地方發展，修正東京都會區一極集中、地方人口流失等問題。
在「地方創生」的基礎上，建造許多具備智慧設備的實驗性住宅，社區內部可透過系統，詳細監測內部水、電、食物等資源的使用情況，再給出建議、調整，還有無人巴士等服務。彭松嶽分析說：「橫濱著眼於長期復興和社會改革的路徑，不單是AI技術應用，更是獨特的案例。」橫濱市貼緊當地社會需求，應用科技來對城市進行有序管理，不止留住年輕就業人口，也吸引大量國際人才。
至於作為臺灣首善之都—臺北市智慧城市如何發展，又有什麼內涵？彭松嶽指出，臺北市的演進大致與全球趨勢相近，像是早期Wi-Fi等基礎建設，或是近年來強調運用科技來強化公民參與、以及自下而上（bottom-up）的機制，鼓勵市民與民間私人組織提出市政建議，及解決方案。
不過彭松嶽也觀察到，儘管臺北市政府強調公民參與及自下而上的創新，但實際參與的多數是具有商業或技術背景、研究人員(包括智庫法人)，而非普通市民。這種情況，主要歸因於技術與參與機制設計的限制，當市民提案轉變成專案時，便會遇上卡關問題，無法發揮實質貢獻。所以公民從提案到專案，要如何確保市民、技術專家、公務體系雙方得以溝通，是目前所面臨的挑戰。
歐美智慧城市的新創基因
我們將智慧城市的視角由亞洲轉向歐美，一座城市得完善、創新地運用AI外，如何能吸引全世界懂得「作夢」的IT人才前來，更是關鍵，例如愛爾蘭採取稅收優惠等方式，讓智慧城市成為跨國科技公司進入歐美的門戶，藉此敞開大門匯集了世界各地的IT人才。
城市裡最為人熟知的為「黑客松（hackathon）」，又稱程式設計馬拉松。黑客松一開始為公司內部推動創意激盪的方法，後來演變成跨地域的大型活動，讓世界各地懷抱創意的人們都可來此提案，豐富了人們對城市的各種想像。黑客松時間通常數小時到幾天，是一項以「創新為根本」的活動，期間沒有任何限制，IT工程師、圖形設計師與專案經理合作，透過創意碰撞，編寫出一個個特定專案。「在酒吧裡所寫出的程式碼，也能在一夕間改變了科技界！」是對科技人風靡黑客松的寫照。
此外比較亞洲和歐美的智慧城市，也能發現黑客松文化讓歐美趨於開放創新，政府、科技公司更針對極具創意的團隊進行輔導，讓創新點子得以真正落地商轉，為改善都市生活、環境盡一份力。
AI迅速發展下，從亞洲到歐美各國都有其因應之道，人們無數的想像、創意跟著美夢成真，但怎麼做才能維持「科技始終來自於人性」的美好想像？彭松嶽提醒，人們應拆解、認識背後的權力運作模式，並時刻反思AI所帶來的利與弊，才能避免成為脫韁野馬，反過頭來束縛了對人性的重視與同情。
本文授權轉載自人文·島嶼平台，原文連結在此。
留言 0