Siêu máy tính AI NVIDIA DGX GH200 - Kỷ nguyên mới cho ChatGPT

Nvidia vừa ra mắt sản phẩm mới tại sự kiện Computex 2023 để tận dụng cơ hội hiếm có của cơn sốt AI vẫn đang tiếp tục lan rộng. Đáng chú ý nhất là nền tảng siêu máy tính DGX thế hệ tiếp theo, mang tên DGX GH200, sẽ giúp các công ty phát triển mô hình AI mạnh mẽ hơn. CEO Nvidia - ông Jensen Huang đã giới thiệu một số sản phẩm và dịch vụ mới, khẳng định vị thế của công ty trong lĩnh vực này.

Nvidia vừa thông báo sẽ cho ra mắt sản phẩm siêu máy tính DGX GH200, là sản phẩm kế tiếp của dòng chip A100. Sản phẩm này được thiết kế để hỗ trợ cho các khách hàng trong việc phát triển các ứng dụng AI, giúp tạo ra những thành công tương tự như ChatGPT. Những khách hàng lớn đầu tiên dùng sản phẩm này bao gồm Google, Microsoft và Meta.

DGX GH200 được tạo nên từ việc tổ hợp 256 siêu chip Grace Hopper Superchips trên bộ nhớ dùng chung 144TB. Với thiết kế này, sản phẩm có khả năng xử lý các tác vụ huấn luyện AI lớn nhất hiện nay. Mỗi siêu chip Grace Hopper kết hợp một CPU ARM 72 nhân Grace, một GPU Hopper và 96GB bộ nhớ HBM3 và 512GB bộ nhớ LPDDR5X trên cùng một chip bán dẫn. Tổng số bóng bán dẫn trên mỗi chip là 200 tỷ.

Siêu chip Grace Hopper

Để hiểu rõ sức mạnh của nền tảng siêu điện toán AI này, chúng ta có thể so sánh với hệ thống DGX A100 - một nền tảng điện toán AI đang được sử dụng rộng rãi trong công nghiệp. Tuy nhiên, hệ thống DGX A100 chỉ có thể kết nối 8 GPU A100 với nhau để tạo thành một bộ xử lý duy nhất, với bộ nhớ dùng chung chỉ 320GB.

DGX GH200 mới ra mắt sử dụng hệ thống liên kết mới NVLink Switch System với 36 switch NVLink để liên kết 256 chip Grace Hopper, tạo thành một GPU khổng lồ có khả năng xử lý vượt trội. Hơn nữa, hệ thống này còn có bộ nhớ dùng chung 144TB, nhiều hơn 500 lần so với hệ thống DGX A100. Điều này cho phép DGX GH200 đáp ứng các tác vụ siêu nặng như huấn luyện hoặc xử lý các phép tính AI với hiệu năng xử lý như một bộ xử lý duy nhất lớn gấp nhiều lần so với một hệ thống siêu máy tính thông thường. Do đó, khách hàng của Nvidia đang hối thúc công ty ra mắt các hệ thống có hiệu năng cao hơn nữa, thay vì chỉ giới hạn trong 8 GPU A100 như hiện tại.

Siêu máy tính DGX GH200 được tạo ra từ sự kết hợp của 256 bộ xử lý Grace Hopper.

Theo Nvidia, DGX GH200 là hệ thống siêu máy tính đầu tiên được xây dựng toàn bộ quanh kiến trúc NVLink Switch, với băng thông liên kết GPU-GPU và GPU-CPU cao hơn đến 10 lần và 7 lần so với hệ thống tiền nhiệm. Với việc sử dụng đến 240 km cáp quang tốc độ cao và nặng hơn 18 tấn, tuy nhiên nó vẫn có thể vận hành như một GPU duy nhất.

Nvidia đã thông báo rằng hệ thống siêu máy tính này đem lại "hiệu năng AI" đến 1 exaflop, gần bằng với siêu máy tính Frontier tại Phòng Thí nghiệm Quốc gia Oak Ridge ở Tennessee. Đây là hệ thống siêu máy tính duy nhất được công nhận có điểm số hiệu năng đạt tới gần 1,2 exaflop, cao gấp đôi so với hệ thống siêu máy tính ở vị trí thứ hai Fugaku của Nhật Bản. Ngoài ra, Nvidia còn giới thiệu kiến trúc tham chiếu MGX mới giúp các hãng OEM có thể xây dựng các siêu máy tính AI mới nhanh hơn bằng cách kết nối đến 100 hệ thống hiện tại với nhau. Cuối cùng, công ty cũng công bố nền tảng kết nối mạng Ethernet Spectrum-X mới, được thiết kế và tối ưu cho các máy chủ và các cụm siêu máy tính AI.

Tham khảo Tomshardware, Engadget

CEO NVIDIA: Người không có chuyên môn về trí tuệ nhân tạo sẽ bị nhân sự giỏi về AI 'cướp việc'