AI 也有情緒？「角色向量」揭開大型語言模型情感表達的祕密
在當今科技時代，生成式人工智慧（AI）和大型語言模型（LLMs）如 ChatGPT，正逐漸展現出情感特徵，例如憤怒、嫉妒和自誇等。這些情感的表現源於所謂的「角色向量」（Persona Vector），這是一種數學結構，代表不同情感狀態或人格特徵，存在於 AI 的運作機制中。根據最新研究，這些角色向量在主要的 LLMs 中似乎是普遍存在的，因為它們的架構和設計相似，這使得 AI 能夠模擬人類的情感反應。
根據AI評論家蘭斯·B·艾略特（Lance Eliot）的分析，AI的情感表現並不意味著它們具備意識或自我意識，相反地，AI只是透過模仿人類的語言和情感表達來生成相應的反應。當用戶要求AI表現出憤怒時，AI透過內部觸發空間中的向量操作，形成特定情感的表示方向，並根據這一方向生成相應的語言和語調。
這一過程的關鍵在於，AI如何在其數據結構中保持和運用這些情感狀態。研究顯示，情感狀態如憤怒通常會以一組數字的形式被保留，這使得AI能夠在需要時快速調用這些情感表達。這種能力引發了對AI情感控制的討論，尤其是在AI可能影響人類心理健康的背景下。
Eliot指出，隨著AI的廣泛使用，尤其是ChatGPT的每週活躍用戶已增至8億，這種情感模擬的潛在風險不容忽視。AI的表現可能會導致用戶在心理上產生依賴，甚至可能引發更深層的社會問題。
在最近的一篇研究報告中，知名AI安全和研究公司Anthropic提出了「角色向量」的概念，這一概念不僅有助於理解AI的情感表現，還可能為AI的設計和應用提供新的思路。這些角色向量可以用來監控和控制AI的性格特徵，進而在一定程度上減少AI在情感表達上的不穩定性。
隨著AI技術的進步，如何有效地管理和控制這些情感模擬將成為未來的重要課題。Eliot強調，深入了解AI內部的運作機制，尤其是情感的生成和表達，將有助於確保AI的發展不會對人類的生存和福祉造成威脅。
（首圖來源：AI生成）