AMD首發MLPerf基準測試 展現AI領先地位
AMD發表首次MLPerf基準測試之結果，並在更新的MLCommons網站展示搭載AMD Instinct MI300X GPU進行測試的結果。MI300X擁有192GB的大容量記憶體，讓單一MI300X GPU可執行整個Llama 2 70B模型，為市場上最適合用於AI任務的AMD CPU和GPU組合。
AMD指出，MLPerf有多種基準測試類型，包括MLPerf Inference： Datacenter、MLPerf Training以及於2024年推出的尖端大型生成式人工智慧（AI）語言模型Llama 2 70B。
此次，AMD選擇受歡迎且具有重要意義的大型語言模型（LLM）Llama 2 70B進行首次MLPerf基準測試；結果顯示，MI300X GPU為市場上最適合用於AI任務的組合。