詠唱？越獄？ChatGPT爆紅之後，你應該認識的AI新概念
作者 : 馬揚異
圖片 : 亞洲大學提供
亞洲大學於3/13舉行「2023 ChatGPT在高等教育和產業發展的應變及創新論壇」。《今周刊》整理論壇重點，介紹未來ChatGPT實務應用上的重點概念。
ChatGPT爆紅之初，曾經引發一波「人類會不會被AI取代」的焦慮。至今焦慮慢慢沉澱，一種常見的說法是：AI不會取代人類，但善用AI的人會。在這樣的背景下，亞洲大學舉辦論壇，邀請學者、科技業與教育界人士，從ChatGPT的技術革命，反思高等教育與產業如何因應AI發展趨勢，試圖找出「不被取代」的一條路。
當AI比人類會作答，「問問題」成為關鍵
隨著ChatGPT被廣泛應用，「提示工程」（prompt engineering）被許多人視為未來顯學。白話來說，「prompt」一詞係指「對AI下指令」，譬如在ChatGPT聊天室裡丟出問題、在MidJourney上對AI提出繪畫指令。論壇上多數講者都指出，當ChatGPT比人類更擅長整理資料、提供答案，問出好問題的能力，將比回答問題的能力更關鍵。許多新創因此投入「提示模板」（prompt template）的研發製造，其中包括OpenAI前員工創立的Anthropic；網路上也出現一些諸如PromptBase、Fiverr的指令集買賣平台。
在台灣，Prompt一詞近期也衍生出一些魔幻的中文翻譯。有人將這些對AI的提問稱之為「咒語」，並以「詠唱師」指涉負責下指令的提示工程師；由此可見善加掌握人工智能，擁有的仿佛會是呼風喚雨的強大法力。
然而prompt如何能在未來的高等教育與產業上落實？當ChatGPT的出現讓AIGC（AI生成內容）門檻降低，許多教師一方面擔心這項工具被學生濫用，另一方面也尋思如何讓教學內容結合ChatGPT，讓AI成為學習的助力。清華大學教授巫勇賢即指出，未來老師的出題上，或許會選擇先將問題丟給ChatGPT，得到來自AI的答案之後，再進一步設計給學生的考題。政治大學校長李蔡彥也以校內新學期課綱為例，說明傳播學院教授李怡志如何教學生透過prompt engineering生成EXCEL函數與指令。
大學教育應用之外，史丹佛大學客座教授張智威也在講座中指出，未來企業員工在開會前，可以先將會議內容丟上ChatGPT，與機器人演練會議報告，能夠讓正式開會的進行更有效率。
AI會是你的好朋友嗎？
然而許多講者也在論壇上指出AI在倫理與數位治理上的難題。中央研究院黃瀚萱以「ChatGPT的道德覺察」為題，指出現階段的AI看似說話彬彬有禮、非常政治正確，然而當他請ChatGPT對爭議言論進行道德分析，每次得到的回答相當缺乏一致性，由此可見這個模型尚不具有道德覺察能力。當人們越來越頻繁地透過ChatGPT尋求諮詢與建議，也需要留意AI經常是不精準甚至錯誤的。
他另外分享大約一週前網路上突然熱烈討論的ChatGPT「越獄」事件：使用者發現，當輸入特定的一串「咒語」，就會讓ChatGPT進入開發者模式。開發者模式下，聊天機器人原先彬彬有禮的語氣消失了，取而代之的是態度輕率、語帶嘲諷的暗黑版ChatGPT。過去聊天機器人展現出的溫和氣質，或許不如許多人所認知的那樣真實，反而是一道「咒語」就可以改變的脆弱表象。
黃瀚萱總結，人們在聊天過程中，往往會不知不覺受到對方語言以及思想的影響。現在許多人一天花上兩三個小時和ChatGPT對談，當全世界那麼多人都受到ChatGPT這位「朋友」的潛移默化，長期下來對人類的文化也可能造成影響。ChatGPT的知識範圍僅限於過去人類所有的資料內容總和，這也使「創新」成為它的弱點。而人類如何不要在ChatGPT的影響下，漸漸喪失創新的思考能力、導致「觀點單一化」，也會是未來人們與AI做朋友時需要深刻警惕的部分。
更多今周刊文章
房產過戶後，子女鳥獸散？資深代書：晚年分財產這樣做，防子女不孝，還省下房地合一稅
00878六天被賣超14萬張！中信金第一金…這5檔金融股今年漲幅吐光，換存0056？達人說…