Vừa qua, MLCommons, một nhóm phát triển các bài kiểm tra chuẩn cho công nghệ trí tuệ nhân tạo (AI), đã công bố kết quả cho một bài kiểm tra mới xác định tốc độ hệ thống khi huấn luyện các thuật toán được sử dụng cho các chatbot như ChatGPT – và Nvidia (NVDA.O) đã đứng đầu. Sau đây, hãy cùng chúng tôi tìm hiểu kĩ hơn về thông tin này nhé.

Bài kiểm tra MLPerf dựa trên GPT-3, một mô hình trí tuệ nhân tạo được sử dụng để huấn luyện ChatGPT, chatbot nổi tiếng được phát triển bởi OpenAI và được Microsoft hỗ trợ. Tuy nhiên, do mô hình quá lớn, bài kiểm tra chỉ sử dụng một phần đại diện. “Đây là bài kiểm tra đắt nhất cho đến nay của chúng tôi,” Giám đốc điều hành MLCommons, David Kanter, cho biết với Reuters. “Chúng tôi đã sử dụng hơn 600.000 giờ tính toán của bộ xử lý tăng tốc để phát triển nó, cùng với sự đóng góp của một số kỹ sư tài năng.” Kanter từ chối tiết lộ chi phí phát triển, chỉ nói rằng nó ở hàng triệu đô la.

Chỉ có hai công ty chế tạo chip – Nvidia và Habana Labs của Intel (INTC.O) – đã nộp kết quả cho bài kiểm tra, và thời gian nhanh nhất được ghi nhận từ các hệ thống sử dụng chip H100 mới nhất từ Nvidia, nhà lãnh đạo vượt trội trong phần cứng huấn luyện trí tuệ nhân tạo. Hệ thống lớn nhất của Nvidia được nộp kết quả thông qua đối tác CoreWeave, một công ty khởi nghiệp AI đám mây, sử dụng 3.584 chip H100, dẫn đến thời gian huấn luyện là 10,94 phút. Habana Labs, một công ty chip trí tuệ nhân tạo thuộc sở hữu của Intel, thực hiện bài kiểm tra trong 311,945 phút với một hệ thống nhỏ hơn được trang bị 384 chip Gaudi2.