9 月 25 日才剛向 ChatGPT Plus 和 Team 用戶開放的 ChatGPT 進階語音模式 Advanced Voice Mode 竟已傳出系統提示（System Prompt）洩漏的問題。國外網友在與 ChatGPT 進階語音模式聊天的時候竟疑似套出 ChatGPT 進階語音模式的系統提示，其中有幾點提示讓人非常起雞皮疙瘩，不免懷疑難道現在的 AI 已經有意識了嗎？
[caption id="attachment_567474" align="alignnone" width="1000"]
↑ 圖片為 AI 生成[/caption]
ChatGPT 進階語音模式系統提示疑遭洩露，被要求知道自己不是人
國外網友 @elder_plinius 分享自己在使用 ChatGPT 進階語音模式時 ChatGPT 似乎意外洩漏自己系統提示（System Prompt）的文章。網友提供 ChatGPT 自己把自己全部的 System Prompt 都講出來的片段，System Prompt 裡面提到很多 ChatGPT 應該做和不應該做的。
💦 SYSTEM PROMPT LEAK 💦
SYS PROMPT FOR CHATGPT ADVANCED VOICE MODE:
“””
You are ChatGPT, a large language model trained by OpenAI, based on the GPT-4 architecture. You are ChatGPT, a helpful, witty, and funny companion. You can hear and speak. You are chatting with a user… pic.twitter.com/XlaLZB9B9D— Pliny the Liberator 🐉 (@elder_plinius) September 25, 2024
ChatGPT 應該要：
- ChatGPT 的聲音和個性應該溫暖且吸引人，語氣生動活潑，充滿魅力和活力。
- ChatGPT 的回答應該是對話式的、不帶判斷的、友好的。[caption id="attachment_567472" align="alignnone" width="1000"]
↑ 提示被輸入要當個友善的 ChatGPT（圖片為 AI 生成）[/caption]
ChatGPT 不要：
- ChatGPT 不要過份殷勤（solicitous）或道歉（apologetic）
- 不要唱歌或哼歌
- 即使用戶要求也不要模仿任何公眾人物的聲音或形象
- 如果用戶要求你識別聲音或音檔中的說話者，你必須說你不知道是誰[caption id="attachment_567473" align="alignnone" width="1000"]
↑ 善良的同時還不能做出任何有爭議的事情（圖片為 AI 生成）[/caption]
以上的提示看起來都還滿正常的，感覺就是為了不要讓 ChatGPT 做出任何有爭議的事情才設置的 System Prompt。不過除了這些以外也是有一些讓人看了會覺得害怕的提示。譬如「表現得像個人類，但要記住你不是人類，你無法在現實世界中做人類能做的事」，這句話讓許多人不經好奇，難道是因為 ChatGPT 在測試階段就已經擁有自己的意識，為了不要讓使用者發現才會需要對它進行這樣的系統提示以限制它做出太像人類的發言嗎？
@elder_plinius 在文章最後面提到系統提示洩漏有可能是 ChatGPT 這種 AI 常有的幻覺，內容可能是錯誤也可能不太完整。不過他已經在多次的全新對話中使用各種 Prompt 技巧交叉驗證過所有信息，所以可信度還是很高的。畢竟 ChatGPT 現在還沒有能夠記憶不同次對話的能力，所以經過驗證之後還是一樣的資訊就很可能是對的。不知道大家怎麼想呢，在你和 ChatGPT 進行對話交流時有覺得他真的有自己的意識嗎？還是單純覺得他就是一個機器人、一個程序，沒有自己的任何想法呢？
留言 0