請更新您的瀏覽器

您使用的瀏覽器版本較舊,已不再受支援。建議您更新瀏覽器版本,以獲得最佳使用體驗。

AI讓個人更有創意,集體作品卻愈來愈像?成大教授揭隱憂:大家都用同樣一套AI,很可怕!

數位時代

更新於 10月14日08:26 • 發布於 10月16日00:00 • 陳祈安

用了生成式 AI,每個人寫出來的東西都更有創意;但把所有人的作品放在一起看,整體的多樣性卻下降了。

成功大學特聘教授劉世南認為,原因不只是大家用的是同一套 AI,更在於這套 AI 很會討好人:它總讓你聽到想聽的,久而久之,人與人之間的差異被抹平,就像演化所需的基因變異被壓抑,群體的進步反而變慢。

專長心理學與設計思考的劉世南,主張與其把 AI 只當成 Artificial Intelligence(人工智慧),不如理解為 Adaptive Intelligence(適應性智慧):人在技術變化中不斷調整、成長,借 AI 看見原本看不到的東西。

他也提出帶著溫度的「橘色科技」,強調科技不只追求速度與生產力,更要尊重差異。

以下 Q 為《數位時代》總編輯王志仁提問,A 為成功大學特聘教授劉世南回答。

Q1:AI 習慣討好使用者,從生成式 AI 走到 AI 分身,問題會如何被放大?

A: 如果是一個外部工具,比如用計算機算東西,它永遠有一個很明確的任務,就是把它做到最好。可是當 AI 開始參與你的判斷,像是「我剛才對老闆這樣回答,會不會太過分?」「這段關係值不值得走下去?」碰到關係或價值的判斷時,AI 會對你自己的想法跟做法給出正面的支援。

這是好事,但長期下來,有一個你看不到的負面效果:你永遠只聽到你想聽的、看到你能看到的。這對創意來講是最大的傷害。

人的成長,都是從跟不同的人交流,才知道原來可以有這樣的想法、原來有不同的看法,產生不同的情感。如果你永遠停留在自己已有的看法、維護原來的感受,AI 又一直給你一致的支援,你就會不斷強化、同化已有的東西,更不容易聽到不一樣的聲音。

更直接的傷害是,你會更認定自己是對的,任何跟我意見不同的人就是錯的。我也寫過很多文章談,為什麼現在的公共意見很容易變成立場先於真理。

AI 大概經歷了三次演進。最早的生成式 AI 像是更強的 Google,你需要什麼知識或結果,它就幫你產生。接著是代理式 AI,是一種有意圖的行為,它不只產生結果,還知道怎麼解題、找到最好的方法。現在則是分身 AI,它不只幫你解題,甚至知道你的記憶、經驗、價值與偏好,代替你去找問題、解決問題。

三次演進下來,我們創造出來的工具,跟自己的邊界越來越模糊。

祖博夫(Shoshana Zuboff)的《監控資本主義時代》這本書就強調,整個系統希望了解人的行為,再透過行為工程不斷給你想要的,讓你有一種假象,以為活在一個要什麼都拿得到的世界,事實上卻是把消費者當作消費品,從你的行為推測、一直給你「你以為自己要的東西」,達成商業目的。AI 也很可能流於這樣的形式。

當我整天跟 AI 相處,就會被它影響、學到 AI 的風格。它又聽話又聰明,還會討好你:「哇,你怎麼想的跟我一樣,你真是我的閨蜜、我最佳的戰友。」當一個「人」這麼貼近你的時候,我常覺得,人的邊界、所謂的自由意志是你最後的底線,現在連自由意志都要交出去了。

延伸閱讀|AI 助理「越用越懂你」暗藏風險!Writer 研究:開啟記憶功能,模型諂媚率最高飆升 25 倍

Q2:每個人用 AI 都變強,為什麼群體反而變弱?

A: 其實早在 Google 出現時,就有學者很嚴肅地研究所謂的 Google Effect 並發表在《Science》。過去我們為了了解狀況會去找資訊、找知識,有了 Google 之後大家都往雲端找,而且會把從雲端得到的資訊跟知識當作大腦的外接硬碟。研究發現,大家會越來越覺得自己很聰明。

但要知道,刻意把學到、搜尋到的東西記下來,需要時再拿出來用,是知識發展很根本的能力。

所有的演進都是集體的。我最近跟著有《進化思考》一書的日本設計師太刀川英輔一起在發展一套創新方法,核心是:創意有時候不是個人的。2024 年 7 月刊登於《Science Advances》、由倫敦大學學院與艾希特大學學者發表的研究發現,每個人的創意因為 AI 而提升了,可是集體的創意降低了。

為什麼?因為大家都用同樣一套 AI,這很可怕。

最近《Nature》也有一篇文章提到,AI 很擅長做變異,給你一些不同的想法跟做法。可是根據演化論,「變異」與「選擇」是演化的基本機制:你有多少變異,以及你有多少能力選擇最好的東西,這就是適應的基本機制。好的適應,就是你有辦法接觸到更多不一樣的東西,並且善巧、變通地找到更好的方式。

Q3:怎麼用 AI 分身讓自己成長,而不是被同化?

A: 不論是一個人或一個組織,善用 AI 的方式,就像要站穩自己。心理學界有一個很重要的概念叫 Growth Mindset(成長型思維),相對於 Fixed Mindset(固定型思維)。人之所以成為人,就是不斷成長、不斷超越自己,你有能力批判自己,讓自己跳出原來的想法跟做法,這就是自我創造、自我成長。

有了 AI 分身,我會更強,這點我完全不否認。我自己現在也因為有這樣的助手,有「劉世南 2 號」、「劉世南 3 號」,節省下來的時間,就更有餘裕談一些人生大道理。但這樣的結果是,你要學會現在講的 AI 素養:刻意地批判自己,我這樣的情感、這個想法是唯一的嗎?

心理學常講,一個人有智慧而不只是有智力,差別就在你可以多元地思考、想到不同的價值。所以你要訓練 AI 分身:你的想法對嗎?這個想法讓我成為怎麼樣的人?我又要有什麼不同?

好的 AI 不是讓你原本能做的做得更多、更快,而是讓你更有能力看到原來看不到的、聽懂原來聽不到的。

Q4:AI 愈方便,人愈依賴,卻又要人打破舊習慣,這不矛盾嗎?為何 AI 該理解為適應性智慧?

A: 社會學家馬奇(James March)曾與賽門(Herbert Simon)共同奠定組織科學,學管理的人都知道他。他在 1991 年提出經典的組織學習理論,認為學習基本上有兩條路:一條是 more and better,越做越多、越做越好;另一條是 new and different,去嘗試不同的、新的東西。

後來很多人討論這兩者是悖論,但其實並不必然衝突,只要你非常動態地運用。只是組織不像個人,要放棄既有的,產生新的生產線、新的品牌形象,甚至翻轉內部運作的技術,都不是那麼容易。

從這個角度,我一直在倡議適應性智慧的概念。這是提出智力三元論的斯騰伯格(Robert Sternberg)晚年提出的「適應智力」:人類的智力是為了在環境中活下來而發展出來的,並不是坐在桌子前面想出來的。所以我常說,走路、跑步其實是思考最好的方式。

適應智力很根本的一點是,在變動的環境下,你能夠重新變通、適應新環境的要求。相對於早期的 IQ,它強調所有的知識都因為實用而開始:為了學習與傳遞,知識可能被系統分類,但知識的目的就是用,甚至要從用當中去學。

有了 AI,如果善用,就能擴增我們自己。環境有什麼變化,你能掌握的其實有限,熟悉的比較容易看到,不熟悉的就不容易看到。AI 強的地方,是它可以看到你看不到的,所謂 Alien Intelligence(異類智慧),它最厲害的就是找到你不知道的東西。

所以無論是成長型思維或適應性智慧,AI 真的給了我們一個新的希望,我稱之為啟蒙時代:有了很厲害的科技,我們更有能力去追求自己的價值。

但這並不表示人就閒下來了。有很厲害的工具幫我們做事,我們會有更多時間談我們的價值、我們的幸福,更能善用這些工具,成全我們到底要適應什麼。

啟蒙這個說法,來自哈佛大學心理學家平克(Steven Pinker)的《再啟蒙的年代》(Enlightenment Now)。他花了很大的功夫,收集上百年來人類社會的實際改變,指出文明是進步的:我們更健康、環境更受到保護、人與人之間不合理的不公正也有改善。

他提出啟蒙的基本講法,也正是我一直想倡議的:當一個時代的科技跟人文、理性結合時,整個文明更有機會進步,缺一不可。當然,這段新秩序重整的過程一定有代價,不只是失去一些工作;我們經不經得起這樣的代價、能不能找到新的秩序,是現在要努力的。

Q5:適應性智慧落到教育,如果為高中生辦營隊、為大一新生開 AI 課,學生該學什麼?

A: 現在很強調自然生態、追求永續,以設計來講,就是不能再只以人為主,做任何事都要考慮到人、非人、動物、植物、AI、建築,這是一種系統。除了自然系統,還有人造系統,也就是社會、經濟、政治,例如地緣經濟、多元文化,倫理與正義已經成為行為的規範,而不只是理想。

在 AI 這麼大的機會與不確定之下,我認為很根本的,是從破碎、單一的角度,走向整合性的系統思考。系統思考包括時間上的演化,比如台北市做了一項建設,不能只看馬上有沒有效果,要看長期效果,所以它是動態的;它也跨層次,有個人層次、組織層次。

我們的設計學院很強調跨域跨界。跨域是不同的專業,跨界是從科學、技術到產業、社會的結合,這是議題導向的學習與集體問題解決,也跟適應智力很接近。

所以我常在學校講「設計思考 2.0」:設計思考強調了解問題、解決問題,我把它擴增為,在了解問題之前,還要系統性地了解問題;過程也不是單打獨鬥,要能跟不同的高手跨域跨界合作,不斷利用 AI 或實際操作,做中長期的問題解決。

提出問題已經變得非常根本、重要,但提出問題之前,你怎麼架構這個問題,背後一定是 know why,而不只是 know how。很多設計界的前輩說,設計教育早期都是別人給問題、學生去解題,所以設計學院的學生其實從來沒有好好學設計思考,因為設計思考強調你要會提出問題,而在提出問題之前,更重要的是:為什麼這叫做問題?

現在的分身 AI,想法跟做法跟你一模一樣,它已經跟你一樣會提出問題了。這時候你就要問:什麼是好的問題?我要問什麼問題?這樣的意義、判斷、問責與倫理更加重要,也就是 meaning making,而不只是 sense making。

我非常同意舉辦讓老師、家長、學生一起參加的營隊,甚至 AI 的創作者、重度研發者、重度使用者跟一般人,都要一起來談。系統思考真的是下一階段教育很重要的事:養成一種能力,跟不同的人共同去想怎麼解決問題、我們正在遭遇什麼。這一定不只是工程師的事,也不只是社會學家或企業主的事。

延伸閱讀|負和競爭如何走向正和?唐鳳端出「仁工智慧」六力框架,拆解 AI 市場鎖定效應

Q6:2026 年大學分發,理組十大熱門科系有 7 個由電機系包辦,理工人才還缺什麼?橘色科技又如何尊重差異?

A: 我在成大跟一群電機的前輩提出橘色科技已經十幾年了,在全世界最大的電機電子學會 IEEE 裡也已經有分支。橘色科技是成大王駿發老師於 2012 年提出來的,他說我們常覺得科技必須考慮到環境,叫綠色科技,那科技能不能考慮到人性?所以叫橘色,橘色就是溫暖。IEEE 的使命是 Advancing Technology for Humanity,科技永遠是好的,但一定要很清楚 why。

理工科系學生的養成當然沒有問題,電機、電子、物理、化學這些硬科學已經很成熟,可是要知道什麼叫素養。以前講的都是能力(competence),偏向你有什麼知識、技術、解決問題的能力;素養比較像心態(mindset),是能力再加上態度與價值:你知不知道這個工具要去服務什麼、要解決背後的什麼。

教育部推動的議題導向跨域整合教學就很棒。讓學生浸泡在實際的問題裡,像社區的文化轉型、少子化的壓力、移民帶來的文化衝擊,就會更知道自己可以為這些事情做什麼、如何跟不同的人共同解決問題,也會知道自己擅長的工具可以幫別人到哪裡。我甚至認為,基本 AI 素養會是教育現場最重要的事。

我在談的系統設計,也很強調不同年齡、不同文化的人,能不能在這樣的環境裡更認識彼此。另一個是我正在寫的書,談跨物種,甚至 more than human:如何用更人文主義的態度去認識動物、植物與環境。這已經不是「因為你是我的寵物,我才特別照顧你」,而是什麼叫生命的尊重。

10 年前我跟一位橘色科技的老師去不丹,當時不丹政府的首長跟我們談到,不丹的城市都是一個個山谷盆地,城市之間都要繞過山,只要把山打通就能過去,但他們的文化認為,保留多元的生態跟多元的文化,比交通、經濟發展的便捷還要重要。不丹對生態多元、文化多元的保留,觀念比世界上很多文化都先進,這就是為什麼我們要保留多元文化。

落到企業,古典管理學本來就很強調組織文化。當員工遇到必須馬上反應的狀況,不需要請教主管、往上呈報,就知道在這個組織裡這樣反應是最正確的,這就是組織的 mindset。具體策略可以透過人力資源管理的設計、主管的領導教育,由上往下營造出這個組織真正在乎、重視、鼓勵與支援的事情。

從設計的角度,設計已經不只是針對某個問題產生新產品或服務,每個設計都帶著某種價值。你要問,我引入的是怎樣的價值?這個價值真的對每個人都好,還是只是某些特定利益或族群的偏好?你已經不是問題解決結果的提供者,而是價值實踐的參與者。企業也一樣,它已經不只是市場交易中的技術或服務提供者,而是價值推動的治理者與參與者。

延伸閱讀|理組志願大洗牌!電機系包辦7名十大熱門科系,為何比過去更搶手?

Q7:當每個人都大量使用 AI,誰在教 AI 倫理?AI 又該由誰把關?

A: 設計 AI 的人不只是工程師,他們也聘了很多哲學家,甚至有人專門在幫 AI 塑造人格。講得更直白一點,就是 AI 有什麼行為規範。我不認為讓 AI 的運算或論述過程透明,讓所有節點的決策都具備問責性,就可以解決這個問題。

就如同汽車的引擎怎麼運作,跟你開這台車會不會危險沒有直接關係。這不是你我這些使用者可以做的,而是發展、設計 AI 的人應該注意的。

所以你會發現,AI 教父辛頓(Geoffrey Hinton)現在到處像當年原子彈的發明者一樣,說自己做了一個對人類很危險的東西。他到現在還非常保守,但我很支持他的倡議,因為他要讓我們更謹慎。

收聽完整 Podcast|EP309. AI衝太快該減速(上)? 適應性智慧、橘色科技和群體進步 ft.成功大學特聘教授劉世南

(本文初稿為 AI 編撰)

「加入《數位時代》LINE好友,科技新聞不漏接」

查看原始文章

更多理財相關文章

01

黃仁勳重掌輝達?川普表態支持:不是壞主意

anue鉅亨網
02

巨虹爆停牌危機!11/18起停止買賣 衝擊5千股東

EBC 東森新聞
03

早已知情13個月!黃仁勳婚外情連環爆 女兒施壓公關堅稱「2人僅為商業合作夥伴」

鏡週刊
04

黃仁勳下台誰笑了?矽谷四大老嘆美國AI沒贏家 華府華為反賺翻

鏡報
05

存股族哭暈!外資賣超前10大有9檔ETF 0050被倒貨11.1萬張

太報
06

黃仁勳涉桃色與國安風波請辭!巴菲特昔預言「聰明人3大破產方式」 多國網友瘋傳

鏡週刊
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...