Hugging Face逆向工程DeepSeek-R1,將打造開放推理模型Open-R1
支付動態 · 2025-01-31

Hugging Face透過對DeepSeek-R1進行逆向工程,結合社群協作,將開發開源推理模型Open-R1,讓研究人員能驗證技術細節並最佳化訓練流程,推動人工智慧透明化發展

中國人工智慧公司所開發的DeepSeek-R1模型發布以來,相對低廉的硬體與訓練成本就能展現高水準推理能力,在市場引發極大震盪。Hugging Face現正根據DeepSeek所公布的研究內容進行逆向工程,試圖推出名為Open-R1的開放版本,期望在透明、可驗證的環境下讓研究社群能更深入了解該突破性技術。

由於DeepSeek-R1以遠低於市場預期的成本達到與先進模型相近的推理表現,業界與學界都希望能了解技術全貌,但DeepSeek未公開完整的訓練資料集與程式碼,使得外界對其稱為開源模型的真實性存有疑慮。Hugging Face工程師認為,如果只釋出模型權重與部分技術報告,仍不足以滿足真正的開放標準,因而決定透過逆向工程與大規模協作,建置完整可供研究者自行驗證與調整語言模型,成為推理模型的開放訓練工作管線與資料集。

深度學習社群之所以對此舉格外關注,主要是因為DeepSeek-R1在數學、程式開發與科學領域的推理能力,甚至能與知名的OpenAI o1模型一較高下,而開發成本卻聲稱僅有美國人工智慧公司花費的一小部分。一旦Hugging Face成功重現Open-R1,研究人員將可確切掌握其中關鍵架構、訓練步驟,以及在有限硬體資源下達到高效訓練的方法。

目前Hugging Face團隊的做法,是先分析DeepSeek發布的技術報告與模型論文,並嘗試從現有權重中推斷其訓練配方與資料分布。由於DeepSeek並未開放完整的資料集與程式碼,Hugging Face需要召集志願者,共同整理出可供公開使用的高品質推理資料,藉此復刻或接近DeepSeek-R1所使用的多階段訓練策略。

當Open-R1順利出爐,將不只是一個DeepSeek-R1複製品,更可能在技術透明度與研究價值上進一步超越原始模型。Open-R1可供任何人檢閱並改良強化學習流程、語言模型結構以及推理邏輯。這對需要確保模型輸出精度與可控性的企業而言相當重要,也進一步突顯了開源社群在推動人工智慧技術發展時所扮演的關鍵角色。

Open-R1模型的訓練將使用Hugging Face的Science Cluster運算資源,該叢集有96個節點,每個節點有8張顯示卡,共768顆Nvidia H100可用於密集訓練,Hugging Face預計在數周內推出第一個可公開測試的原型版本。

Popular articles
GeoComply report: Betting while at NFL games soaring so far this season
Sports Betting
Wynn Resorts obtains United Arab Emirates gaming license
Regulation
1spin4win releases unique slot Don Catleone Hold and Win featuring gangster cats
Online Casino
ESPN Bet collects $3M handle in New York mobile debut
Sports Betting
Crypto in gambling: Market overview 2024
Marketing
UK Council Accountant Who Stole £1m to Fund Gambling Addiction Jailed for Five Years
Regulation
GamingTECH CEE Awards 2025: The Online Voting Battle Begins February 12!
Online Casino
Industry sources: Time to pump the brakes a little on an Alberta online market rollout
Sports Betting
Online gambling, crypto pose ongoing money laundering risks in Philippines, analyst says
Southeast Asia
SBC Awards Americas 2025: Shortlisted Nominees Announced
HUIDU Focus
Online casino in Germany: Schleswig-Holstein issues licences for live casino and table games
Online Casino
The ultimate gambler? How Bet365’s Denise Coates became Britain’s richest woman
Sports Betting
Pennsylvania: Valley Forge Casino opening new dining hall
Regulation
Dutch gambling regulator wanrs lottery over advertorial
Regulation
Hotel-casino court rulings reveal flaws in AI price-fixing allegations
Regulation
Home
Game
Cooperation
Find
My