Microsoft Azure vừa thông báo về sản phẩm mới nhất của mình là các máy ảo được trang bị GPU NVIDIA H100 cao cấp nhằm tăng tốc bộ máy trí tuệ nhân tạo như ChatGPT. Các máy ảo mới này được thiết kế đặc biệt để cung cấp tính toán hiệu năng cao cho các công việc trí tuệ nhân tạo đòi hỏi sức mạnh xử lý mạnh mẽ. Sau đây, hãy cùng Tin Học Đại Việt khám phá hiệu năng khủng mà GPU này mang lại nhé.

Các máy ảo mới này được thiết kế đặc biệt để cung cấp tính toán hiệu năng cao cho các công việc trí tuệ nhân tạo đòi hỏi sức mạnh xử lý mạnh mẽ. Với GPU NVIDIA H100, các máy ảo có thể cung cấp hiệu suất nhanh hơn và hiệu quả hơn cho các ứng dụng trí tuệ nhân tạo sinh như ChatGPT. Sản phẩm mới nhất của Microsoft Azure nhằm cung cấp công nghệ tiên tiến nhất cho phát triển và triển khai trí tuệ nhân tạo cho khách hàng của mình. Bằng cách tận dụng sức mạnh của GPU H100 của NVIDIA, các máy ảo Azure có thể giúp doanh nghiệp tăng tốc các dự án trí tuệ nhân tạo của họ và đạt được kết quả tốt hơn trong thời gian ngắn hơn.

“Tại Microsoft, chúng tôi đang đối mặt với thách thức này bằng cách áp dụng 10 năm kinh nghiệm trong siêu tính toán và hỗ trợ các khối lượng công việc đào tạo Trí tuệ Nhân tạo lớn nhất để tạo ra cơ sở hạ tầng Trí tuệ Nhân tạo có khả năng thực hiện hiệu suất lớn ở quy mô rộng.Cloud Microsoft Azure, và cụ thể là các máy ảo được tăng tốc đồ họa (GPU) của chúng tôi, cung cấp nền tảng cho nhiều tiến bộ Trí tuệ Nhân tạo từ cả Microsoft lẫn khách hàng của chúng tôi. Việc cùng thiết kế siêu máy tính với Azure đã rất quan trọng để mở rộng nhu cầu đào tạo Trí tuệ Nhân tạo khó tính của chúng tôi, tạo điều kiện cho nghiên cứu và công việc điều chỉnh trên các hệ thống như ChatGPT.” – Greg Brockman, Chủ tịch kiêm Đồng sáng lập của OpenAI.

Microsoft đã giới thiệu ND H100 v5 VM cho phép khách hàng sử dụng theo yêu cầu với kích thước từ tám đến hàng nghìn GPU NVIDIA H100 được kết nối thông qua mạng lưới NVIDIA Quantum-2 InfiniBand. Khách hàng sẽ thấy hiệu suất nhanh hơn đáng kể cho các mô hình Trí tuệ Nhân tạo so với VM ND A100 v4 thế hệ trước với các công nghệ đổi mới như:

• 8 GPU Tensor Core NVIDIA H100 được kết nối thông qua NVSwitch và NVLink 4.0 tiên tiến
• InfiniBand Quantum-2 CX7 NVIDIA 400 Gb/s cho mỗi GPU với 3,2 Tb/s cho mỗi VM trong một mạng non-blocking fat-tree
• NVSwitch và NVLink 4.0 với băng thông bisectional 3,6TB/s giữa 8 GPU cục bộ trong mỗi VM (Virtual Machine)
• Bộ xử lý Intel Xeon Scalable thế hệ 4
• Kết nối host to GPU với PCIE Gen5 sở hữu băng thông 64GB/s cho mỗi GPU
• 16 kênh của DDR5 DIMMs 4800MHz.