Covenant-72B完成訓練,開啟去中心化AI新時代

Hacker News March 2026
Source: Hacker Newsdecentralized AIopen source AIlarge language modelArchive: March 2026
The Covenant-72B project has completed pre-training, marking a historic milestone as the largest decentralized large language model ever created. This 72-billion-parameter model, t

隨著Covenant-72B預訓練階段的成功完成,AI發展格局已到達一個關鍵的轉折點。這項成就標誌著迄今為止規模最大的、去中心化協作構建尖端大語言模型的努力取得了圓滿成功,整個項目完全在傳統企業超大規模資料中心框架之外運行。該項目通過協調一個由自願參與的全球分散式計算節點組成的網絡,完成了720億參數模型的訓練,為另一種AI未來提供了強有力的概念驗證。

Covenant-72B的成功完成,解決了去中心化機器學習固有的一系列複雜技術挑戰。其核心創新不在於新穎的模型架構,而在於協調層——一套使異構、全球分佈的硬體能夠進行穩定高效訓練的協定、框架和激勵機制。項目結合了具有魯棒性檢查點的異步訓練技術、確保參與者正確執行分配訓練任務的新型可驗證計算協定,以及基於可驗證工作單元和資料品質獎勵貢獻的代幣激勵系統,克服了延遲、節點流失、硬體差異和信任問題。

其結果是,一個720億參數模型的訓練軌跡和最終基準測試性能首次證明,去中心化協調能夠達到此前僅中心化叢集才具備的穩定性。這驗證了一套基於彈性與自願參與而非實體基礎設施資本支出的AI開發新技術棧。

技術分析

Covenant-72B預訓練的完成是一項巨大的工程壯舉,解決了去中心化機器學習固有的一系列複雜技術挑戰。核心創新不在於新穎的模型架構,而在於協調層——一套使異構、全球分佈的硬體能夠進行穩定高效訓練的協定、框架和激勵機制。

傳統大模型訓練依賴於單一資料中心內緊密耦合、高頻寬的互連,以在數千個相同的GPU之間同步梯度。Covenant項目必須克服延遲、節點流失(參與者加入和離開)、硬體差異和信任問題。它通過結合具有魯棒性檢查點的異步訓練技術、一種確保參與者正確執行分配訓練任務的新型可驗證計算協定,以及一個基於可驗證工作單元和資料品質獎勵貢獻的代幣激勵系統,實現了這一目標。

一個關鍵突破是開發了一種容錯的分散式優化器,能夠處理顯著的延遲和部分更新而不會發散。這使得即使網路中有相當一部分節點暫時離線或速度緩慢,模型也能取得進展。此外,該項目實施了先進的資料路由和分片技術,以確保在不可信節點間訓練資料的隱私和完整性,這是處理預訓練所需多樣化資料集的必要條件。

其結果是,一個720億參數模型的訓練軌跡和最終基準測試性能首次證明,去中心化協調能夠達到此前僅中心化叢集才具備的穩定性。這驗證了一套基於彈性與自願參與而非實體基礎設施資本支出的AI開發新技術棧。

行業影響

Covenant-72B的成功在AI行業引發了震動,挑戰了其基本的經濟和運營假設。多年來,主流敘事一直是構建前沿AI需要數十億美元的資料中心資本投入,這為除了資金最雄厚的公司和國家之外的所有參與者創造了難以逾越的護城河。這個項目打破了這種敘事,證明可以調動集體、分散式的資源來實現類似的結果。

最直接的影響是訪問的民主化。獨立研究人員、學術機構和較小的新創公司現在有了一條可行的途徑,可以在不需要企業贊助或雲服務積分的情況下,為前沿規模的模型開發做出貢獻並從中受益。這降低了進行新穎研究和專業化微調的門檻,可能釋放一波在利基和垂直應用領域的創新浪潮,而這些應用對於通用的企業模型來說是不經濟的。

透明度和可審計性成為其固有特性。

More from Hacker News

无标题AINews has identified a critical breakthrough in the evolution of AI coding agents: PMB, a persistent memory system buil无标题AINews has uncovered OpenPlan, a novel infrastructure layer that functions as a real-time navigation system for AI agent无标题The proliferation of large language model providers has created a new operational challenge for developers: how to consiOpen source hub5068 indexed articles from Hacker News

Related topics

decentralized AI62 related articlesopen source AI225 related articleslarge language model81 related articles

Archive

March 20262347 published articles

Further Reading

The Open Source AI Deadline: December 3, 2026, and the End of API DominanceA single date—December 3, 2026—has emerged as a focal point for the open source AI community. This is not a random guessEdster本地AI代理集群挑戰雲端在自主系統中的主導地位開源項目Edster透過實現複雜的多代理集群完全在本地硬體上運行,為AI自主性帶來了典範轉移。這項發展挑戰了以雲端為中心的AI服務模式,為開發者提供了前所未有的隱私保護、成本控制與客製化能力。Meshcore 架構崛起:去中心化 P2P 推論網路能否挑戰 AI 霸權?名為 Meshcore 的新架構框架正逐漸受到關注,它為中心化的 AI 雲端服務提出了一個激進的替代方案。透過將消費級 GPU 和專用晶片組織成點對點推論網路,其目標在於普及大型語言模型的存取、大幅降低成本,並促進一個更開放的生態系統。家用GPU革命:分散式運算如何讓AI基礎設施民主化一場靜默的革命正在全球科技愛好者的地下室與遊戲間醞釀。受SETI@home的啟發,新的分散式運算平台正利用閒置的消費級GPU,為AI時代打造去中心化的超級電腦。這項運動有望讓AI運算資源的取得更加普及。

常见问题

这次模型发布“Covenant-72B Completes Training, Ushering in Decentralized AI Era”的核心内容是什么?

The AI development landscape has reached a pivotal inflection point with the successful completion of the Covenant-72B pre-training phase. This achievement represents the culminati…

从“How does Covenant-72B decentralized training actually work technically?”看,这个模型发布为什么重要?

The completion of Covenant-72B's pre-training is a monumental engineering feat that solves a series of complex technical challenges inherent to decentralized machine learning. The core innovation lies not in a novel mode…

围绕“What are the real-world use cases for an open, decentralized AI model?”,这次模型更新对开发者和企业有什么影响?

开发者通常会重点关注能力提升、API 兼容性、成本变化和新场景机会,企业则会更关心可替代性、接入门槛和商业化落地空间。