請更新您的瀏覽器

您使用的瀏覽器版本較舊,已不再受支援。建議您更新瀏覽器版本,以獲得最佳使用體驗。

科技

OpenAI Whisper 實測顯示,Apple M3 Max/M2 Ultra 比 RTX 4090 還要快

電腦王阿達

更新於 2023年12月15日00:29 • 發布於 2023年12月15日00:29 • Rocky

隨著 AI 應用越來越多,能為工作和生活提升不少使用效率,因此現在買新電腦、組裝電腦時,也都會考量到 AI 效能好不好,最近就有國外網友使用 OpenAI Whisper 的語音轉文字,來測試 Apple M 系列與目前最強顯卡、也是消費型 AI 算力最強的 RTX 4090 相比,哪一個速度最快,實測顯示,M2 Ultra、M3 Max 速度比 RTX 4090 未優化前還快。

圖片來源:OpenAI

OpenAI Whisper 實測顯示,Apple M3 Max/M2 Ultra 比 RTX 4090 還要快

OpenAI Whisper 可說是目前最強的語音轉文字模型之一,先前我們也介紹過網頁版,以及如何在 Windows 10/11 電腦本地安裝和使用 Whisper 模型,無論是中文、英文、日文、還是其他國家語言,幾乎都能準確將影片或聲音中的語音轉成文字,而且完全免費使用。

而最近 Apple 推出一款 MLX 的開源框架,這是專為 M 系列晶片開發的,讓開發者可以利用這框架來進行項目設計、測試和優化,為了了解 Apple M 系列與 RTX 4090 的差距,幾天前國外就有一位 Oliver Wehrens 網友分享 OpenAI Whisper 的測試數據。

他將 M1 Pro 和 RTX 4090 進行比對,使用一個 10 分鐘的聲音檔案,M1 Pro 為 0:03:36.296329 完成,也就是 216 秒轉完,跟 RTX 4090 的 0:03:06.707770(186 秒相比),慢了 30 秒,約 16%,Oliver Wehrens 表示測試過程中,所有 GPU 核心都有充分利用,並且關閉所有程式和禁用桌布等相關背景運行:

隨後一位 Ivan Filoravanti 網友也幫忙測試 M2 Ultra 和 Max 的結果,這兩顆測試出來就比 RTX 4090 還要快。

[embed]https://twitter.com/ivanfioravanti/status/1734644638357573679[/embed]

M3 Max(40 核心 GPU)用了 100 秒就完成,M2 Ultra(76 核心 GPU)更只要 95 秒,比起 RTX 的 186 秒快上不少:

只不過隨後使用 NVIDIA 優化模型(insanely-fast-whisper)後,RTX 4090 就完全超前了,這 10 分鐘的聲音檔只需 8 秒就能轉完全部,速度非常驚人。Oliver Wehrens 也有實測在 macOS 運行這模型,但都比 MLX 框架還要慢。

由此可見,在不考量其他因素的環境中,RTX 4090 還是最強王者。而 Apple M 系列雖然輸,但有一個明顯優勢,就是「功耗」,遠低於 RTX 4090。Oliver Wehrens 也補充這結果不是科學測量,只是為了展現 Apple MLX 框架。

以下是 Oliver Wehrens 的測試環境

MacBook 規格:

  • M1 Pro 的 14 吋 MacBook,8 個(6 個效能和 2 個效率)核心(2021 年型號)
  • 32GB 記憶體
  • 16 核心 GPU

PC 規格:

  • Intel Core I7-12700KF 8x 3.60GHz
  • 64GB 記憶體
  • GeForce RTX 4090, 24GB GDDR6X / Palit RTX 4090 GameRock OmniBlack
0 0
reaction icon 0
reaction icon 0
reaction icon 0
reaction icon 0
reaction icon 0
reaction icon 0

留言 2

  • Tim Yao 姚小新
    拿沒有對 4090 優化過、但對 Apple Core ML 優化過的東西來比較然後說 4090 慢,就先拿來做標題,之後才用對 4090 優化過的來測,然後又說其實 4090 還是王者,只是耗電還是比 Apple 大。總之怎麼比都要說 Apple 沒有輸嗎?然後這個標題只有部份事實而已,算是農場標題嗎?
    2023年12月18日00:26
  • Yvan+
    掛上AI⋯⋯⋯⋯天下無敵! 明年還有⋯⋯AI鍋鏟,AI醬油,AI橡皮擦,AI紙袋,AI蚊香,AI⋯⋯⋯⋯ 掛上AI加價賣,管你跟AI有啥關係!
    2023年12月15日17:08
顯示全部