開(kāi)放式機(jī)器學(xué)習(xí)工程聯(lián)盟 MLCommons 在美國(guó)加州當(dāng)?shù)貢r(shí)間公布推出適用于消費(fèi)類 PC 的 AI 性能的 MLPerf Client 基準(zhǔn)測(cè)試的 0.5 版，這是該測(cè)試的第一個(gè)公開(kāi)版本。

MLCommons 稱，MLPerf Client 基準(zhǔn)測(cè)試是 AMD、英特爾、微軟、英偉達(dá)、高通以及頂級(jí) PC OEM 等利益相關(guān)方共同合作的成果，各方為該測(cè)試提供了大量的專業(yè)知識(shí)和資源。

MLPerf Client 基準(zhǔn)測(cè)試 0.5 版是基于 meta 的 Llama 2 7B 開(kāi)源 LLM，它包含四項(xiàng) AI 任務(wù)，分別是內(nèi)容創(chuàng)作、創(chuàng)意撰寫以及對(duì)兩份長(zhǎng)度不同的文本進(jìn)行提煉概括。該版本當(dāng)下支持兩種加速途徑，分別是 DirectML ONNX 和 OpenVINO（僅適用于英特爾 GPU）。

在初始階段，該基準(zhǔn)測(cè)試僅能在 Windows x86-64 設(shè)備上運(yùn)行，并且可以在以下設(shè)備上正常運(yùn)行：AMD Radeon RX 7900 系列獨(dú)立顯卡；英特爾銳炫獨(dú)顯（顯存最低 8GB）；英偉達(dá) GeForce RTX 40 系列獨(dú)顯（顯存最低 12GB）；銳龍 AI9 系列處理器（內(nèi)存最低 32GB）；酷睿 Ultra 200 系處理器搭載英特爾銳炫核顯（內(nèi)存最低 16GB）。

盡管當(dāng)前僅局限于特定的設(shè)備和操作系統(tǒng)，但 MLCommons 透露，MLPerf Client 在未來(lái)會(huì)擴(kuò)大支持范圍，涵蓋 macOS 和 Windows on Arm 設(shè)備。同時(shí)，它還會(huì)引入更多的硬件加速途徑和更廣泛的 AI 模型測(cè)試場(chǎng)景，以此滿足持續(xù)發(fā)展的市場(chǎng)需求。