在這篇文章中，我們將深入探討Meta公布的兩個全新擁有24,000個GPU的數據中心級別集群的細節。這些集群旨在訓練其Llama 3大型語言AI模型，代表著Meta在人工智能研究和開發領域，特別是自然語言處理、語音識別和圖像生成，邁出的重要一步。
文章大鋼
Meta的24k GPU AI集群
Meta的AI研究超級計算機（RSC），首次於2022年揭曉，是基於此的新訓練集群。相比原始的集群，這兩個新集群各包含24,576個Nvidia Tensor Core H100 GPU，顯著超過先前16,000個Nvidia A100 GPU的配置。Meta表示，這一增加使得集群能夠支持更大更複雜的模型，為生成式AI產品開發鋪平道路。
集群的設計和性能
這兩個集群在網絡基礎設施上有所不同，但都連接了400 Gbps的端點。一個採用基於Arista 7800的RoCE網絡解決方案，另一個則配備Nvidia Quantum2 InfiniBand織物。兩者均使用Meta自主開發的開放GPU硬件平台Grand Teton，後者是Zion-EX平台的後續產品，具有更高的主機到GPU帶寬、計算和數據網絡帶寬，以及功率包絡。
存儲解決方案和軟件優化
對於存儲，這些集群使用了基於Linux檔案系統在用戶空間API的解決方案，背後支持著Meta的“Tectonic”分布式存儲解決方案。此外，Meta還與Hammerspace合作開發了一個平行網絡檔案系統（NFS）。
為未來的AI研究創造基礎
Meta正在不斷演進其PyTorch基礎AI框架，使其適用於數以萬計的GPU訓練。此外，公司通過創建AI聯盟，致力於建立一個開放的生態系統，旨在為AI開發帶來“透明度、審查和信任”，從而推動所有人都能從中受益的創新，並將安全和責任放在首位。
朝著創新的未來邁進
Meta意識到昨日或今日的解決方案可能不足以滿足明日的需求。因此，公司正在不斷評估和改進其基礎設施的每一個方面，從物理和虛擬層到軟件層及其以外。Meta的目標是創建靈活且可靠的系統，以支持快速發展的新模型和研究。
通過對這些關鍵技術和創新的探討，本文旨在為讀者提供深入的見解和理解，展示Meta如何在人工智能領域推動科技的邊界，並為未來的創新奠定基礎。這不僅展示了公司對於開放創新的承諾，也反映了其在建立一個更加安全、負責任的AI開發生態系統方面的努力和遠見。
常見問題與答覆
題1：Meta的新AI集群有什麼特點？
答：Meta的新AI集群包含24,576個Nvidia Tensor Core H100 GPU，相較於先前的16,000個A100 GPU有顯著提升。這使得集群能支持更大、更複雜的模型，推動生成式AI產品開發。
題2：這些AI集群如何實現數據傳輸和存儲？
答：這些集群使用400 Gbps的端點連接，並根據具體需求選擇RoCE網絡或Nvidia Quantum2 InfiniBand織物。存儲方面，利用Linux檔案系統在用戶空間API和Meta的“Tectonic”分布式存儲解決方案，以及與Hammerspace合作開發的平行網絡檔案系統（NFS）。
題3：Meta在AI研究和開發方面有什麼長遠計劃？
答：Meta計劃到2024年底，將其基礎設施擴展至包含350,000個Nvidia H100 GPU，以支持更先進的AI研究和開發。公司還致力於通過AI聯盟建立一個開放的生態系統，促進透明度、審查和信任，推動負責任的AI創新。