【只做「安全超智慧」】OpenAI 宮鬥關鍵人物開公司！Ilya Sutskever 成立 Safe Superintelligence
OpenAI 共同創辦人、前首席科學家伊利亞‧蘇茨克維（Ilya Sutskever），是去年 11 月 OpenAI 宮鬥劇的關鍵人物，他在歷經與董事會投票開除執行長奧特曼、表示感到後悔轉而支持奧特曼回歸後，似乎沉默了一陣子。直到今年 5 月，他宣布從 OpenAI 離職，並表示會在「適當的時機」分享他接下來的工作，一連串行動，皆引發外界好奇。
一個月後，蘇茨克維終於浮出水面，6/19 在社群平台 X 宣布他成立了一家新創「Safe Superintelligence」（簡稱 SSI），而且只有一個目標和一個產品：安全超智慧（safe superintelligence）。
SSI 辦公室分別位於美國加州帕羅奧圖、以色列特拉維夫，並且正在招募人才。
把 AI 安全擺第一，無意銷售 AI 產品或服務
蘇茨克維在 SSI 公告寫道，這是世界上第一個直接面向 SSI 的實驗室，SSI 是他們的使命、公司名字、整個產品路線圖，因為 SSI 是他們唯一的焦點。因此，其技術發展將兼顧安全性和功能，並確保在快速推進 AI 系統的同時，優先考量安全性。
蘇茨克維向《Bloomberg》表示，SSI 的特別之處在於，在開發出安全超智慧前，他們不會做任何其他事。「我們的單一焦點意味著，不會因管理費用或產品週期而分心，而我們的業務模式意味著安全、保障和進步都不受短期商業壓力的影響。」
換言之，蘇茨克維試圖在不受 OpenAI、Google 和 Anthropic 等競爭對手的干擾的情況下，繼續自己的工作，而且不會面對 AI 團隊經常面臨的外部壓力。當然，要將 AI 安全放在首位，訣竅在於確定什麼能讓一個 AI 系統，比另一個 AI 系統更安全，或是更不安全。
I am starting a new company: https://t.co/BG3K3SI3A1
— Ilya Sutskever (@ilyasut) June 19, 2024
根據《Bloomberg》，蘇茨克維對此還很模糊，但明確表示新公司將嘗試透過 AI 系統在工程上的突破來實現安全，而不是單純依賴技術上的護欄。他表示，「我們說的安全，是指核能安全的安全，而不是『信任和安全』中的安全。」
SSI 讓人想起 OpenAI 的初衷
《Bloomberg》分析，SSI（安全超智慧）在某種程度上，呼應了 OpenAI 的成立宗旨：一個研究組織，試圖建立一個能在許多任務上能夠等於甚至超越人類的通用人工智慧。不過 OpenAI 為了能夠幫運算能力募集大量資金，組織結構也發生轉變，因此與微軟建立了緊密的合作關係，並推動帶來營收的產品。
與蘇茨克維同日公開離職消息的前 OpenAI 研究人員 Jan Leike，當時便在社群平台 X 揭露，OpenAI 在過去幾年推出閃亮產品的重要性，已經超越安全的文化與程序。
隨著 AI 模型的規模指數性成長，所有 AI 參與者皆必須面臨的難題是，必須為不斷飆升的運算需求付出代價。
SSI 想要存活下來容易嗎？
上述經濟現實，讓投資 SSI 成為一場賭注──押注蘇茨克維的團隊取得突破，讓他們比競爭對手更具優勢，而且並不期待他們創造出有利可圖的熱門產品。此外，SSI 追求的「超智慧」，與大多數科技公司追求人類水平的人工智慧不同，最終能否實現、或找出建構方法，業界尚未達成共識。
蘇茨克維拒絕透露 SSI 的財務支持者的名字，也拒絕透露他籌集了多少資金。不過，SSI 還有兩位共同創辦人，其中之一是投資者、前蘋果 AI 負責人 Daniel Gross，另一位是 OpenAI 前研究人員 Daniel Levy。蘇茨克維在 AI 產業中，也有近乎神話的地位──他曾是 Google 科學家，後來被挖角至 OpenAI，在 AI 領域有諸多貢獻。
創始團隊的背景，加上幾十年來研究人員一直在探討如何讓 AI 變得更安全，SSI 在募集資金上可能不會遇到什麼困難。共同創辦人 Gross 就提到，「在我們面臨的所有問題中，資金不會是其中之一。」
蘇茨克維說，他花了數年時間思考 AI 的安全問題，並已經想到了一些方法。「在最基本的層面上，安全超智慧應該有不會大規模傷害人類的特性，」在此之後，SSI 希望安全超智慧成為一股向善的力量，並在一些關鍵價值觀例如民主、自由的基礎上開展營運。
蘇茨克維表示，主導 AI 模型將有助於發展安全超智慧，但 SSI 的目標是更強大的東西。他說，在目前的 AI 系統中「你可以與它交談，進行對話，然後就結束了。」而他想要追求的系統將更加通用且功能更廣泛。
【推薦閱讀】
◆ Google 軟體工程總監揭 4 個成為資料工程師要知道的事──如果你不喜歡可能會失望
＊本文開放合作夥伴轉載，資料來源：《Bloomberg》、《The Verge》、Ilya Sutskever、Jan Leike。首圖來源：取自 OpenAI。