Mạng NVIDIA Ethernet tăng tốc siêu máy tính AI lớn nhất thế giới, được xây dựng bởi xAI

NVIDIA (NASDAQ:) oday thông báo rằng cụm siêu máy tính Colossus của xAI bao gồm 100.000 GPU NVIDIA Hopper Tensor Core ở Memphis,ạngNVIDIAEthernettăngtốcsiêumáytínhAIlớnnhấtthếgiớiđượcxâydựngbởNền tảng nào tốt hơn, Forex hay FXCM Tennessee, đã đạt được quy mô lớn này bằng cách sử dụng nền tảng mạng NVIDIA ™ Ethernet, được thiết kế để mang lại hiệu suất vượt trội cho các nhà máy AI siêu quy mô, nhiều người thuê sử dụng Ethernet dựa trên tiêu chuẩn, cho mạng Truy cập bộ nhớ trực tiếp từ xa (RDMA).

Colossus, siêu máy tính AI lớn nhất thế giới, đang được sử dụng để đào tạo gia đình Grok của xAI gồm các mô hình ngôn ngữ lớn, với các chatbot được cung cấp như một tính năng cho người đăng ký X Premium. xAI đang trong quá trình tăng gấp đôi kích thước của Colossus lên tổng cộng 200.000 GPU .

Cơ sở hỗ trợ và siêu máy tính hiện đại được xAI và NVIDIA xây dựng chỉ trong 122 ngày, thay vì khung thời gian thông thường cho các hệ thống có kích thước này có thể mất nhiều tháng đến nhiều năm. Phải mất 19 ngày kể từ khi giá đỡ đầu tiên lăn xuống sàn cho đến khi khóa đào tạo bắt đầu.

Trong khi đào tạo mô hình Grok cực lớn, Colossus đạt được hiệu suất mạng chưa từng có. Trên cả ba tầng của kết cấu mạng, hệ thống đã trải qua sự suy giảm độ trễ ứng dụng bằng không hoặc mất gói do xung đột luồng. Nó đã duy trì 95% thông lượng dữ liệu được kích hoạt bởi kiểm soát tắc nghẽn Spectrum-X.

Mức hiệu suất này không thể đạt được ở quy mô lớn với Ethernet tiêu chuẩn, tạo ra hàng nghìn xung đột luồng trong khi chỉ cung cấp 60% thông lượng dữ liệu.

"AI đang trở nên quan trọng và đòi hỏi phải tăng hiệu suất, bảo mật, khả năng mở rộng và hiệu quả chi phí", Gilad Shainer, phó chủ tịch cấp cao về mạng tại NVIDIA cho biết. "Nền tảng mạng NVIDIA Spectrum-X Ethernet được thiết kế để cung cấp cho các nhà đổi mới như xAI xử lý, phân tích và thực thi khối lượng công việc AI nhanh hơn, từ đó đẩy nhanh quá trình phát triển, triển khai và thời gian đưa ra thị trường các giải pháp AI."

"Colossus là hệ thống đào tạo mạnh mẽ nhất trên thế giới", Elon Musk nói trên . "Công việc tốt đẹp của nhóm xAI, NVIDIA và nhiều đối tác / nhà cung cấp của chúng tôi."

"xAI đã xây dựng siêu máy tính lớn nhất, mạnh nhất thế giới", người phát ngôn của xAI cho biết. "GPU Hopper và Spectrum-X của NVIDIA cho phép chúng tôi vượt qua ranh giới đào tạo các mô hình AI ở quy mô lớn, tạo ra một nhà máy AI siêu tăng tốc và tối ưu hóa dựa trên tiêu chuẩn Ethernet."

Trung tâm của nền tảng Spectrum-X là , hỗ trợ tốc độ cổng lên tới 800Gb / s và dựa trên bộ chuyển mạch Spectrum-4 ASIC. xAI đã chọn ghép nối công tắc Spectrum-X SN5600 với để có hiệu suất chưa từng có.

Mạng Spectrum-X Ethernet cho AI mang đến các tính năng tiên tiến mang lại băng thông hiệu quả cao và có thể mở rộng với độ trễ thấp và độ trễ đuôi ngắn, trước đây chỉ dành riêng cho InfiniBand. Các tính năng này bao gồm định tuyến thích ứng với công nghệ NVIDIA Direct Data Placement, kiểm soát tắc nghẽn, cũng như khả năng hiển thị kết cấu AI nâng cao và cách ly hiệu suất - tất cả các yêu cầu chính đối với các đám mây AI tạo nhiều người thuê và môi trường doanh nghiệp lớn.

Bài viết này được tạo và dịch với sự hỗ trợ của AI và đã được biên tập viên xem xét. Để biết thêm thông tin, hãy xem Điều Kiện & Điều Khoản của chúng tôi.

Tuyên bố: Nội dung bài viết này không thể hiện quan điểm của trang web FTI, nội dung chỉ mang tính chất tham khảo không mang tính chất tư vấn đầu tư. Đầu tư là rủi ro, hãy lựa chọn cẩn thận! Nếu có bất kỳ vấn đề nào liên quan đến nội dung, bản quyền,… vui lòng liên hệ với chúng tôi và chúng tôi sẽ điều chỉnh trong thời gian sớm nhất!