OpenAI 在「12 Days of OpenAI」最後一天以推理模型 o1 後繼者──o3 和 o3-mini 模型，為 OpenAI 這一年努力劃下句點，更為來年帶來期待。
根據 OpenAI 對 o3 模型的展示，這款相較上一代帶來性能大幅提升。OpenAI 也透露，正在對新的推理模型進行安全訓練，並在模型正式釋出前接受第三方測試人員的檢驗。執行長奧特曼（Sam Altman）表示，計劃明年 1 月底先釋出 o3-mini，o3 也將緊跟在後。
那麼外界所期待的 GPT-5 呢？《華爾街日報》報導透露 OpenAI 開發 GPT-5 所遭遇的困難。OpenAI 並未將 o3 偽裝成 GPT-5 向世人亮相，它與 GPT-5 是完全不同的專案，可說是做為下次 ChatGPT 重大升級的前奏。
報導指出，GPT-5 在 OpenAI 內部以代號 Orion 稱之，已經開發超過 18 個月，起初規劃 2024 年推出，但燒錢開發的同時發生意外延誤，導致整個開發計畫延宕，而訓練 Orion 的成本可能多達 5 億美元，相較奧特曼曾稱訓練 GPT-4 耗資超過 1 億美元，這樣的結果恐怕讓 OpenAI 研究人員受挫。
此外，Orion 訓練過程一大關鍵在於缺乏資料，OpenAI 或競爭對手過往訓練模型從網路上挖掘公開資料的成果有限，如今需要更多品質更好的資料才能幫助模型訓練。
OpenAI 已為 Orion 進行至少 2 次大規模訓練，訓練過程不僅會產生處理所有資料的高昂成本，同時耗費大量時間，一次訓練需要數個月，而且不保證成功。報導也指出，OpenAI 已將資源轉移到可能影響 Orion 開發的其他產品上。
人們期待驅動生成式 AI 的新模型性能勝過 GPT-4o，同時減少錯誤產生，不難看出為何對 GPT-5 抱有期待。但對 OpenAI 而言，強化推理模型可能是未來開發生成式 AI 新模型的關鍵。
i think the wsj is the overall best us newspaper right now, but they published an article called "The Next Great Leap in AI Is Behind Schedule and Crazy Expensive" many hours after we announced o3?! https://t.co/JkA83TNTfO
— Sam Altman (@sama) December 22, 2024
▲ 奧特曼對《華爾街日報》這次報導感到不解，未做更多回應。
The Next Great Leap in AI Is Behind Schedule and Crazy Expensive
ChatGPT o3 is coming in January, but there’s still no word on GPT-5
（首圖來源：shutterstock）
留言 0