Thứ 5, 21/11/2024, 23:50[GMT+7]

Nvidia chuyển máy chủ DGX H100 đầu tiên cho FPT

Thứ 6, 10/05/2024 | 11:35:22
1,356 lượt xem
Hệ thống máy chủ DGX H100 được nhập về Việt Nam ngày 9/5, đánh dấu bước đầu tiên trong việc hiện thực hóa nhà máy AI của FPT và Nvidia.

Hệ thống DGX H100 đầu tiên của FPT về Việt Nam.

DGX H100 về Việt Nam sau hai tuần diễn ra lễ ký kết hợp tác giữa hai tập đoàn công nghệ trong việc xây dựng nhà máy AI. Đại diện FPT Smart Cloud, đơn vị phụ trách triển khai dự án, cho biết việc này giúp đảm bảo tiến độ tích hợp công nghệ và xây dựng siêu máy tính phục vụ phát triển trí tuệ nhân tạo.

FPT không công bố nhập về bao nhiêu máy chủ, nhưng khẳng định "loạt DGX H100 còn lại sẽ tiếp tục được đưa về Việt Nam thời gian tới" để hoàn thiện công nghệ, đẩy nhanh quá trình nghiên cứu và phát triển sản phẩm.

Tại lễ ký kết ngày 23/4 ở Hà Nội, FPT cho biết sẽ đầu tư 200 triệu USD để cùng Nvidia thành lập nhà máy AI Factory, sử dụng hệ thống siêu máy tính với chip H100 cho nghiên cứu và phát triển, với mục tiêu mở rộng hệ sinh thái điện toán đám mây có chủ quyền của Việt Nam.

DGX H100 được đánh giá là cỗ máy AI mạnh nhất, được hàng loạt công ty công nghệ hàng đầu thế giới như Tesla, Meta, Microsoft săn đón. Theo báo cáo của hãng nghiên cứu Omdia, các doanh nghiệp phải chờ từ 36 đến 52 tuần từ khi đặt hàng với Nvidia, do nhu cầu sản phẩm tăng cao. Trên thị trường, mỗi cỗ máy này được rao bán với giá từ 300.000 đến 500.000 USD tùy cấu hình và thời gian nhận hàng.

DGX H100 chứa tám GPU H100, kết nối qua NVLink. Hệ thống cũng sử dụng chip Intel Xeon Platinum 8480C kép, tổng cộng 112 lõi và bộ nhớ hệ thống 2 TB, phục vụ cho công việc AI chuyên sâu. Theo công bố, hệ thống này có hiệu suất cao hơn sáu lần và kết nối mạng nhanh hơn hai lần so với máy chủ thế hệ trước, đáp ứng yêu cầu tính toán với hàng nghìn tỷ thông số của mô hình ngôn ngữ lớn (LLM). Đây cũng là hệ thống nền tảng tạo nên Eos - siêu máy tính mạnh nhất của Nvidia hiện nay.

Cận cảnh  DGX H100. Ảnh: Vân Anh

Cận cảnh DGX H100.

Ngoài huấn luyện AI, H100 cũng được Tesla dùng để phát triển các sản phẩm xe tự lái, hay startup Xeureka của Nhật Bản sử dụng để nghiên cứu thuốc, cải thiện hoạt động khám chữa và điều trị bệnh.

Theo vnexpress.net