Máy tính AI nhỏ nhất thế giới

Theo Interesting Engineering, máy tính mini DGX Spark của Nvidia sẵn sàng ra mắt thị trường, dự kiến bắt đầu bán ra vào ngày 15/10. Dù trông giống một chiếc máy tính để bàn nhỏ gọn chỉ nặng gần 1,2 kg, DGX Spark là cỗ máy AI mạnh mẽ được thiết kế để giúp các nhà phát triển, nhà khoa học nghiên cứu và sinh viên chạy những mô hình tiên tiến tại chỗ. Theo mô tả của Nvidia, siêu máy tính AI nhỏ nhất thế giới hứa hẹn hiệu suất tương đương trung tâm dữ liệu với hình thức nhỏ gọn đặt vừa trên bàn làm việc.

Bộ phận cốt lõi của DGX Spark là bộ xử lý GB10 Grace Blackwell Superchip mới của Nvidia, kết hợp CPU Grace chứa 20 lõi Arm và GPU Blackwell chứa các lõi CUDA tương tự card đồ họa RTX 5070. Nvidia đã tối ưu hóa cấu hình này để phát triển AI trên máy tính để bàn, cho phép người dùng tinh chỉnh và chạy mô hình lớn mà không cần phụ thuộc vào truy cập đám mây từ xa. GB10 cung cấp khả năng tính toán AI lên đến 1.000 nghìn tỷ phép toán mỗi giây nhờ lõi Tensor thế hệ thứ năm và hỗ trợ định dạng dữ liệu 4-bit (FP4)

Hệ thống cũng tích hợp công nghệ kết nối NVLink-C2C, cung cấp băng thông gấp 5 lần so với chuẩn kết nối tốc độ cao PCIe Gen 5, cho phép di chuyển dữ liệu liền mạch giữa CPU và GPU, phù hợp với các tác vụ đòi hỏi bộ nhớ lớn như suy luận mô hình, mô phỏng robot và nhiệm vụ AI tạo sinh.

Nvidia trang bị cho DGX Spark bộ nhớ LPDDR5x 128 GB, chia sẻ giữa CPU và GPU, cùng với ổ cứng lưu trữ NVMe 4 TB. Các tùy chọn kết nối bao gồm 4 cổng USB-C, Wi-Fi 7 và một cổng HDMI. Thiết bị chạy hệ điều hành DGX của Nvidia, phiên bản tùy chỉnh của Ubuntu Linux cài sẵn phần mềm AI và công cụ phát triển. DGX Spark đủ nhỏ để xếp vừa trong balô nhưng cũng đủ mạnh để chạy những mô hình suy luận AI hiện đại.

Theo PC Mag, các nhà phát triển có thể sử dụng DGX Spark để huấn luyện, tinh chỉnh và triển khai mô hình AI mà không gặp độ trễ hoặc mất chi phí tính toán dựa trên đám mây. Theo Nvidia, đây là một trạm làm việc tại chỗ có thể dễ dàng kết nối với nền tảng điện toán đám mây DGX Cloud hoặc cơ sở hạ tầng tăng tốc khác khi mở rộng khối lượng công việc.

Ngoài DGX Spark, Nividia cũng đang chuẩn bị tung ra DGX Station, siêu máy tính để bàn AI với chip GB300 Grace Blackwell Ultra mạnh mẽ hơn. Bộ đôi DGX Spark và DGX Station đánh dấu nỗ lực của Nvidia nhằm khiến máy tính AI trở nên dễ tiếp cận hơn với các nhà nghiên cứu và phòng thí nghiệm nhỏ.

An Khang (Theo Interesting Engineering, PC Mag)