Mỗi chiếc H100 của Nvidia được bán ra sẽ tiêu thụ 700W điện, dự kiến 3,5 triệu chiếc được bán trong năm tới sẽ ngốn 13.091,82 GWh điện.
Hàng tấn GPU AI H100 của Nvidia đã được bán ra và trong tình trạng khan hiếm. Lượng lớn GPU này được bán ra nhằm phục vụ "cuộc cách mạng AI, nên mức tiêu thụ điện năng của các GPU này được dự đoán sẽ cao tương đương với mức tiêu thụ điện năng của một thành phố lớn của Mỹ.
Theo Paul Churnock, kỹ sư điện phụ trách Chiến lược và quản trị kỹ thuật trung tâm dữ liệu tại Microsoft, tin rằng mỗi GPU H100 có công suất lên đến 700W và ước tính sẽ tiêu thụ nhiều điện năng hơn tất cả các hộ gia đình ở Phoenix, Arizona, vào cuối năm 2024 khi hàng triệu GPU này được triển khai. Tuy nhiên, tổng lượng điện tiêu thụ sẽ ít hơn các thành phố lớn hơn như Houston, Texas.
![GPU AI của Nvidia, H100 ngốn điện tương được với một bang của Mỹ]( "GPU AI cua Nvidia, H100 ngon dien tuong duoc voi mot bang cua My")
Churnock giải thích, với mức sử dụng hàng năm là 61%, H100 tương đương với mức tiêu thụ điện năng của một hộ gia đình trung bình ở Mỹ (2,51 người/hộ gia đình). Doanh số bán GPU H100 ước tính của Nvidia là 1,5 đến 2 triệu GPU H100 vào năm 2024. So với mức tiêu thụ của dân cư tính theo thành phố, mức tiêu thụ điện năng của chip H100 sẽ xếp hạng lớn thứ 5, chỉ sau Houston, Texas và trước Phoenix, Arizona.
Mức tiêu thụ hàng năm là 61%, tương đương GPU H100 sẽ tiêu thụ khoảng 3.740 kilowatt giờ (kWh) điện hàng năm. Giả sử, Nvidia bán 1,5 triệu GPU H100 vào năm 2023 và hai triệu GPU H100 vào năm 2024, thì sẽ có 3,5 triệu bộ xử lý như vậy được triển khai vào cuối năm 2024. Tổng cộng, chúng sẽ tiêu thụ một lượng điện khổng lồ là 13.091.820.000 kilowatt giờ (kWh) mỗi năm, hoặc 13.091,82 GWh.
Để so sánh, con số 13.091,82 GWh tương đương với mức tiêu thụ điện hàng năm của một số quốc gia như Georgia, Lithuania hoặc Guatemala.
![GPU AI của Nvidia, H100 ngốn điện tương được với một bang của Mỹ]( "GPU AI cua Nvidia, H100 ngon dien tuong duoc voi mot bang cua My 2")
Trước đó, vào tháng 10 công ty công nghệ Schneider của Pháp ước tính, tổng mức tiêu thụ điện năng của các trung tâm dữ liệu được sử dụng cho các ứng dụng AI ngày nay tương đương với mức tiêu thụ điện của quốc gia Síp.
Trong tương lai, Nvidia sẽ cho ra mắt nhiều mẫu GPU mới như B100 Blackwell có thể sẽ vượt xa mức tiêu thụ điện năng của H100, tuy nhiên các GPU AI sẽ mang lại hiệu suất cao hơn và hoàn thành nhiều công việc hơn.