Siêu máy tính 200.000 GPU của Elon Musk

Colossus trang bị 100.000 chip H100 ra mắt vào tháng 7/2024, đặt tại Memphis, Tennessee (Mỹ), nhưng hiện gấp đôi số lượng GPU. Phòng Thương mại Greater Memphis cho biết hệ thống sử dụng 150 MW từ Công ty Điện, khí đốt và nước Memphis (MLGW) và Cơ quan Quản lý thung lũng Tennessee (TVA). Ngoài ra, nó có thêm 150 MW từ pin Megapack của Tesla làm nguồn dự phòng, đảm bảo duy trì hoạt động trong trường hợp mất điện hoặc nhu cầu tăng cao.

Dự án Colossus bắt đầu được đề cập vào tháng 3/3024. Khi đó, Elon Musk tuyên bố kế hoạch xây dựng siêu máy tính gọi là "Gigafactory of Compute" để đào tạo AI Grok. Sau hai tháng, ông chọn địa điểm ở Memphis để đặt hệ thống, dù gặp rất nhiều khó khăn. Đến tháng 7/2024, hệ thống bắt đầu hoạt động với 100.000 chip H100, được Musk gọi là "siêu máy tính lớn nhất thế giới về đào tạo AI". Khi đó, ông tuyên bố sớm nhân đôi quy mô tính toán lên 200.000 chip trong "vài tháng tới".

Quá trình thiết lập Colossus diễn ra với tốc độ đáng kinh ngạc, chỉ mất 122 ngày để đưa vào vận hành. CEO Nvidia Jensen Huang cho biết thông thường quá trình này phải mất 4 năm xét về quy mô của siêu máy tính.

Tuy nhiên, việc tiêu tốn năng lượng khiến dự án liên tục vấp phải sự phản đối từ cư dân và các nhóm bảo vệ môi trường, lo ngại tác động của Colossus đến chất lượng không khí và sức khỏe cộng đồng. Mức tổng công suất 300 MW ở giai đoạn hai được đánh giá "khổng lồ", tương đương lượng điện cấp cho 300.000 hộ dân. Các nhà cung cấp điện đã trấn an các bên liên quan rằng họ có thể đáp ứng yêu cầu của xAI mà không ảnh hưởng đến nguồn cung cho các hộ dân ở khu vực này.

Không dừng lại ở 200.000 GPU, Elon Musk được cho là muốn tiếp tục nâng cấp siêu máy tính này lên một triệu GPU và đang huy động vốn để sớm đạt mục tiêu này.

 

 

Bên trong siêu máy tính Colossus của Elon Musk

Huy Đức (theo Tom's Hardware)