微軟AI副總裁跳槽OpenAI！催生Phi系列小模型，專注「1%參數」的他厲害在哪？

微軟（Microsoft）近日證實公司生成式人工智慧（GenAI）副總裁布貝克（Sébastien Bubeck）將至OpenAI任職。

OpenAI在轉型為營利型公司後，經歷一連串高層離職潮，共同創辦人舒曼（John Schulman）、蘇茲克維（Ilya Sutskever）、科技長穆拉蒂（Mira Murati）和其他兩位高層研究人員陸續離開公司。

布貝克的加入，預料是OpenAI在近期的人事異動上，久違地好消息。

「1％參數量」發揮大效能，微軟小語言模型Phi的重要功臣

39歲的布貝克在微軟已經有10年經歷，他的研究為公司建構機器學習（Machine Learning）基礎。近年，布貝克專注於自然語言模型領域，推動生成式AI技術發展，微軟的Phi系列小型語言模型（SLM）便是由布貝克領導的團隊開發。

相較於動則破千億參數的大型語言模型，Phi系列依據功能不同，僅有13億至42億不等的參數，對硬體資源需求較少、推理速度也更快，讓開發者能在有限的資源下訓練和使用高效模型。

用最簡單的數字來說，GPT-4的參數高達1,750億個，而Phi-2只有27億個參數。換言之，LLM與SLM的分水嶺，主要就在於參數規模。前者為千億量級、後者為十億量級。因此，催生Phi系列SLM的布貝克，可說是專注於「1％參數量」的AI專家。

在今年6月的一場演講中，布貝克詳盡說明小型語言模型的優勢，「儘管Phi的規模小，但它的表現能媲美甚至超越比它大10倍的模型！」

布貝克表示，搭配以「教科書級別」的高品質數據集訓練模型，Phi阻絕網路上參差不齊的噪音數據，在常識推理（Common Sense Reasoning）、語言理解（Language Understanding）和多步驟推理（Multi-step Reasoning）這些領域中，表現不遜於大型語言模型。

隨著邊緣AI（Edge AI）發展，能夠在不連網情況下，於電腦和手機等終端產品運作的小型語言模型前景倍受矚目。布貝克作為領域中的佼佼者，動態也受到關注。

剪不斷、理還亂，微軟與OpenAI的微妙關係

根據外媒報導，微軟表示布貝克轉職是為了繼續投入通用人工智慧（AGI） 研究，「期待透過他與OpenAI的合作，延續我們的關係。」微軟在聲明中寫道。

事實上，微軟既是OpenAI的競爭對手，也是重要投資者與合作者。過去兩家公司就經常整合產品服務，彼此在資金與技術上呈現微妙的依賴關係。微軟本月初參與OpenAI的鉅額融資，再加上先前130億美元的鉅額投入，成為OpenAI最大的外部利益關係人。

除了透過合作串接OpenAI開發的軟體，微軟也招聘關鍵人才來掌握更多的AI技術，以巧妙地維持競和平衡，意在維持科技競賽的領先地位。

即使《華爾街日報》引述少數分析師對微軟在AI領域能否保持領先的擔憂，認為許多競爭者已經迎頭趕上。不過，多數人仍看好微軟在AI領域的發展。

也因此，在微軟與OpenAI牽絲萬縷的關係中，布貝克不會是人才流動的特例，也可以預期他仍會繼續為新任和前東家的小型語言模型發展作出貢獻。

延伸閱讀：OpenAI高層大換血！台裔青年陳信翰成新任研究副總，他有何背景？奧特曼為何盛讚他？
OpenAI元老只剩3人！一次盤點離職高層：與OpenAI「轉向營利」有關？

資料來源：Bloomberg、Bubeck演講、華爾街日報、路透

責任編輯：李先泰

延伸閱讀

【圖解】AI變現爭霸戰開打！微軟如何借OpenAI東風，靠Copilot做世界最強「包租公」？
Google擁核了！簽約買500千瓩「為AI供電」，核能新創Kairos Power的反應爐特別在哪？
「加入《數位時代》LINE好友，科技新聞不漏接」