開放工程聯盟MLCommons宣布成立新的MLPerf個人端工作組，替桌上型電腦、筆記型電腦和工作站等個人端裝置創建機器學習基準。MLPerf個人端工作組的初始參與者包括AMD、Arm、華碩、戴爾、英特爾、聯想、微軟、Nvidia和高通等公司。

MLCommons之前所創建的MLPerf基準測試套件，是資料中心人工智慧基準測試的黃金標準，而MLCommons正在利用以社群為中心的協作開發方法，結合對機器學習技術的知識，創建消費者個人端系統基準測試套件。

人工智慧技術的重要性不言而喻，已經成為運算裝置使用者日常的一部分，而個人端系統晶片加入各種人工智慧硬體加速功能，不少作業系統和應用程式也都整合了人工智慧功能。MLCommons指出，隨著這些軟硬體功能的增加，許多機器學習模型會在個人端系統本地執行，因此產業需要一個可靠且標準的方法，來衡量個人端系統上人工智慧加速解決方案的效能與效率。

MLPerf個人端基準把焦點擺在終端使用者的真實用例上，這有助於更準確地反映日常使用人工智慧系統的實際表現。MLCommons將社群的回饋當作基礎，官方計畫第一個MLPerf個人端基準測試會針對大型語言模型，特別是Llama 2。

創建適用於個人端裝置的機器學習基準，有許多困難需要克服。在個人端執行大型語言模型，需要在系統的效能與模型輸出的品質取得平衡點，而這對於制定基準測試是一項挑戰，因為高品質的輸出，代表著需要更多的運算資源，而這可能影響系統整體效能。

其次，當使用特定資料集和模型時，可能涉及著作權和授權問題，需要經妥善處理避免違反法律規定。同時，MLCommons還需要透過將Llama 2的工作負載，納入MLCommons訓練和推理基準套件，來解決安全性問題。