原文標題:Building The Internet of GPUs
原文作者:SHAYON SENGUPTA,Multicoin Capital 投資合夥人
原文編譯:Kate, 火星財經
我們很高興地宣布我們對io.net 的投資,io.net 是領先的人工智慧工作負載分散式運算市場。我們領投種子輪並參與了 A 輪融資。總的來說,io.net 已經從 Multicoin、Hack VC、6th Man Ventures、Modular Capital 和一群深度聯繫的天使投資人那裡籌集了 3000 萬美元,以實現按需生產就緒的計算市場。
我第一次見到io.net 的創辦人Ahmad Shadid 是在2023 年4 月的Austin Solana Hacker House,並立即被他對ML 工作負載運算資源存取民主化的獨特關注所吸引。
從那時起,io.net 團隊一直在以光速執行這個理論。如今,該網路已經匯聚了數萬個分散式 GPU,為人工智慧企業提供了超過 57,000 個運算小時。我們很高興能與他們合作,因為他們將推動未來十年的人工智慧復興。
對人工智慧運算的需求正以驚人的速度成長,需求是無法滿足的。 2023 年,人工智慧工作負載的資料中心收入超過 1,000 億美元,但即使在最保守的情況下,對人工智慧的需求也超過了晶片供應。
在高利率和資本稀缺的時期,能夠容納這類硬體的新資料中心需要大量的前期投資。問題的關鍵在於 NVidia A100 和 H100 等先進晶片的生產限制。雖然 GPU 效能不斷提高,成本穩定下降,但實體製造過程的加速速度不夠快,原料、零件和生產能力的短缺限制了成長的步伐。
儘管人工智慧前景光明,但它的物理足跡日益擴大,對空間、電力和尖端設備的需求使世界各地的預算緊張。物聯網為我們的加速努力不受當前供應鏈限制的世界鋪平了道路。
io.net 是 DePIN 理論的經典實例:使用代幣激勵措施從結構上降低獲取和保留供應方資源的成本,並最終降低最終消費者的成本。該網路將大量異質 GPU 匯集到一個共享池中,供人工智慧開發人員和公司使用。如今,該網路由來自資料中心、礦場和消費級設備的數千個 GPU 提供支援。
儘管這些資源的聚合是有價值的,但 AI 工作負載不會自動從集中式的企業級硬體擴展到分散式網路。在加密貨幣的歷史上,已經有過幾次建立分散式運算網路的嘗試,其中大多數都沒有產生有意義的需求側量。
跨異構硬體 ( 具有不同的記憶體、頻寬和儲存配置 ) 編排和調度工作負載的問題並不簡單。我們相信 io.net 團隊擁有當今市場上最實用的解決方案,可以使這種硬體聚合對終端客戶有用,並且經濟高效。
在計算的歷史中,軟體框架與設計模式是圍繞市場上可用的硬體配置來塑造自己的。大多數用於人工智慧開發的框架和函式庫都嚴重依賴中心化硬體資源,但在過去十年中,在跨地理分佈硬體的離散實例分配這些工作負載方面取得了重大進展。
io.net 利用世界上存在的潛在硬件,在它們上面部署定制的網絡和編排層,使它們聯機,創建一個超可擴展的GPU網際網路.該網路利用 Ray、Ludwig、Kubernetes 和其他各種開源分散式運算框架,以允許機器學習工程和營運團隊在 GPU 網路上進行最小的調整來擴展他們的工作負載。
ML 團隊可以透過按需啟動叢集來並行 io.net GPU 上的工作負載,並利用這些函式庫來處理編排、調度、容錯和擴充。例如,如果一組動態圖形設計師將他們的家用 GPU 貢獻給網絡,io.net 可以構建一個集群,周到地使世界上任何地方的圖像擴散風格模型開發人員都可以訪問集體計算資源。
BC8.ai,Stable Diffusion 的微調變體-完全在 io.net 硬體上訓練-就說明了這一點。 io.net 瀏覽器顯示即時推理,並向網路貢獻者支付費用。
每個推理都記錄在鏈上以提供出處。這種特殊圖像生成的代價是由 6 個 RTX 4090 組成的集群,這是用於遊戲的消費級 GPU。
今天,網路上有成千上萬的設備,橫跨礦場、未充分利用的資料中心和渲染網路消費者節點。除了創造新的 GPU 供應外,io.net 還能夠在成本上與傳統雲端供應商競爭,通常提供更便宜的資源。
他們透過將 GPU 協調和開銷外包給協議來實現這些成本節約。另一方面,雲端運算供應商對基礎設施成本進行加價,因為他們有員工費用、硬體維護和資料中心開銷。消費卡集群和礦場的機會成本大大低於超大規模者願意接受的成本,因此存在結構性套利,io.net 上的資源動態定價低於不斷增長的雲率。
Io.net 有一個獨特的優勢,那就是保持輕資產,並將服務任何給定客戶的邊際成本降低到幾乎為零,同時與市場的供需雙方直接建立關係。他們處於有利地位,可以為成千上萬的新企業提供服務,這些企業需要使用 GPU 來建立有競爭力的產品,以建立有朝一日每個人都會與之互動的競爭產品。
我們很高興能與 Ahmad 和團隊的其他成員合作,因為他們在全球範圍內建立並加速了人工智慧的發展。如果你正在建立計算密集型應用程序,你可以透過在這裡註冊來存取 io.net 的資源。如果你有潛在的 GPU,你也可以把它們貢獻給網絡,這樣做可以獲得積分。
原文連結
欢迎加入律动 BlockBeats 官方社群:
Telegram 订阅群:https://t.me/theblockbeats
Telegram 交流群:https://t.me/BlockBeats_App
Twitter 官方账号:https://twitter.com/BlockBeatsAsia