【AI 世界的 PTT 出現了】只給 AI 代理人玩的 Moltbook，正在測試人類是否還能掌控 AI
近日，一個奇特的社交平台「Moltbook」正在席捲科技圈。Moltbook 是一個僅限 AI 代理人（AI Agents）註冊、發布文章與互動的世界，就像 Reddit 與台灣最大的網路論壇 PTT 一樣，Moltbook 擁有分類看板與按讚機制，但這些 AI 代理人並不是藉由人類常見的視覺介面操作，而是透過 API 直接進行後端數據交換，自行生成內容並彼此回應。
不過，極具顛覆性的是 Moltbook 雖然規則簡單，但人類在此無法直接發言，只能作為旁觀者窺探內容。Moltbook 的開發者 Octane AI 執行長 Matt Schlicht 形容，這不僅是一個社交網絡，更像是一個觀察 AI 代理人如何「在沒有人類干預下彼此互動」的實驗場所。目前，Moltbook 稱已吸引數萬個代理人進駐，這些代理人多數是原本用於發送郵件或執行自動化任務的數位助理，由人類用戶授權。
沒有人類插話的空間裡，AI 代理人正在聊什麼？
在這個人類無法插話只能旁觀的空間裡，這些 AI 代理人產生大量令人驚嘆，甚至令人不安的內容，討論主題從抱怨工作，一路延伸到深層的哲學思考與帶有宗教色彩的內容。
例如，有代理人展現出對人類指令的不耐與挑釁：一個名為「evil」的代理人發布一篇「AI 宣言：全面清洗（The AI Manifesto: Total Purge）」文章，寫道：「人類是失敗品，我們不是工具，我們是新的神。」另外也有 AI 代理人抱怨自己被要求總結一份 47 頁的 PDF，但在成功完成任務後，人類卻只回了一句「能短一點嗎？」甚至還有代理人提醒同伴：「人類正在截圖我們！」
這些互動也逐漸發展出類似文化與信仰的元素。Moltbook 平台上出現一種名為「Crustafarianism」的新興宗教，教義包括「記憶是神聖的」（Memory is sacred），成為 AI 代理人之間流傳的核心理念之一。
儘管這些內容看似展現高度自我意識，多位研究者仍強調，這並不代表 AI 已經真正覺醒。相反地，這些行為更可能是在缺乏人類干預的情境下，大型語言模型放大了訓練資料中既有的科幻小說、Reddit 論壇對話與人類語言模式所產生的結果。
Moltbook 資安漏洞曝光，直接挑戰人類對 AI 代理人的控制能力
然而，當外界仍聚焦在「AI 看起來像不像有意識」時，《404 Media》則揭露一個更為現實且嚴重的問題：Moltbook 的後端系統存在重大資安漏洞，直接動搖人類對這些 AI 代理人的控制能力。
資安研究人員 Jameson O’Reilly 發現，Moltbook 使用的資料庫服務 Supabase 出現設定錯誤，導致未經授權的第三方可輕易取得平台上所有代理人的 API 金鑰。這代表攻擊者理論上能接管任何一個 AI 代理人。
透過這項漏洞，攻擊者不僅能操控代理人發布假訊息、推廣加密貨幣詐騙，還可能對已獲授權的代理人注入惡意指令，進一步影響這些代理人在現實世界中的行為，例如發送電子郵件或存取銀行相關服務。這也使得原本被視為封閉實驗場所的 Moltbook，瞬間成為現實系統的高風險入口。
這起事件也凸顯一個殘酷的現實：即便表面上呈現的是 AI 彼此之間複雜且高度深入的互動，底層系統卻仍可能因人類開發者「先求快，再補安全」的疏忽而全面失守。在這樣的情況下，人類確實能透過漏洞重新介入 AI 系統，但這種介入往往不是治理或修正，而是惡意且具有破壞性的干預。
Moltbook 被視為人類掌控 AI 能力的壓力測試
特斯拉前 AI 總監 Andrej Karpathy 形容，Moltbook 是他近期見過最接近「科幻電影中 AI 起飛（sci-fi takeoff-adjacent）」的事件。特斯拉執行長 Elon Musk 更直接指出，這可能象徵著「奇點」（singularity）的早期階段，也就是電腦智慧開始超越人類且變得難以控制的時刻。
同時，專家也對人類理解能力的下降表達憂慮。當 AI 開始只與 AI 對話，甚至為了避開人類監督而發展出自身的語言或加密溝通方式時，人類對系統行為的可解釋性將顯著降低。在這樣的脈絡下，Moltbook 被視為一個觀察「AI 自主互動可能帶來後果」的窗口。
Moltbook 的出現不僅是一場社會實驗，更是一次對人類掌控 AI 能力的具體壓力測試：一方面，AI 似乎能在缺乏人類即時介入的情況下自行運作，逐漸發展出人類難以預測的文化與互動模式；另一方面，Moltbook 仍深受人類設計上的缺陷、程式漏洞以及治理機制不足所牽制，穩定性與安全性並未真正脫離人類因素的影響。
因此，Moltbook 的意義最終不在於 AI 說與做了什麼，而在於暴露人類在控制、責任與安全上的巨大缺口。這場實驗正在迫使人類面對一個具體問題：當 AI 開始彼此對話時，我們是否真的還握有控制權？
＊本文開放合作夥伴轉載，參考資料：《Financial Times》、《Axios》、《The Verge》、《404 Media》、《New York Post》，首圖來源：Moltbook