Lý do dòng tiền lớn đang âm thầm đổ vào thị trường chứng khoán Việt Nam
Investing.com -- Amazon Web Services (NASDAQ:AMZN) vừa giới thiệu phần cứng làm mát tự phát triển mới vào hôm thứ Tư, được thiết kế đặc biệt cho các đơn vị xử lý đồ họa mới nhất của Nvidia (NASDAQ:NVDA) - những chip đang vận hành các hệ thống trí tuệ nhân tạo tạo sinh.
AWS đã phát triển giải pháp cơ sở hạ tầng tự thiết kế - Bộ trao đổi nhiệt trong hàng (In-Row Heat Exchanger - IRHX) - thay vì áp dụng các giải pháp làm mát bằng chất lỏng tiêu chuẩn phổ biến trong ngành. Cách tiếp cận này cho phép AWS đáp ứng nhu cầu của các giá đỡ GPU mật độ cao của Nvidia mà không cần cải tạo lớn các trung tâm dữ liệu.
Các GPU Blackwell của Nvidia, được tạo ra cho việc đào tạo và suy luận AI quy mô lớn, tiêu thụ năng lượng đáng kể và tạo ra nhiệt lượng lớn, đòi hỏi các hệ thống làm mát tiên tiến. Phương pháp làm mát bằng không khí truyền thống đã hoạt động tốt cho các thế hệ chip trước đây không thể đáp ứng nhu cầu nhiệt của các giá đỡ như Nvidia GB200 NVL72, vốn tích hợp 72 GPU trong một giá đỡ duy nhất.
"Chúng sẽ chiếm quá nhiều không gian sàn trung tâm dữ liệu hoặc làm tăng đáng kể lượng nước sử dụng," ông Dave Brown, Phó Chủ tịch phụ trách Dịch vụ Điện toán và Học máy của AWS, cho biết trong một video thuyết trình. "Và mặc dù một số giải pháp này có thể hoạt động với khối lượng thấp hơn ở các nhà cung cấp khác, chúng đơn giản là không đủ công suất làm mát bằng chất lỏng để hỗ trợ quy mô của chúng tôi."
Hệ thống làm mát IRHX kết hợp các thành phần dựa trên chất lỏng và không khí để quản lý nhiệt hiệu quả. Được phát triển hợp tác với Nvidia, hệ thống này lưu thông chất làm mát đến các chip GPU thông qua các tấm lạnh và loại bỏ nhiệt qua các dãy quạt-cuộn dây, đồng thời duy trì bố cục cơ học làm mát bằng không khí của các giá đỡ tiêu chuẩn AWS.
Đổi mới về làm mát này trùng với việc AWS ra mắt các phiên bản điện toán mới: EC2 P6e và P6e Ultra. Các phiên bản này cung cấp cho khách hàng quyền truy cập vào bộ Nvidia HGX B200 và GB200 NVL72 tương ứng, với phiên bản sau là một trong những cấu hình máy chủ mạnh mẽ nhất của AWS cho đến nay, được thiết kế cho việc phát triển và triển khai mô hình tiên tiến.
AWS cũng nhấn mạnh nền tảng cơ sở hạ tầng Nitro của mình, cung cấp khả năng giám sát mạng và hệ thống cho các phiên bản mới này. Hệ thống Nitro cho phép cập nhật firmware mà không gián đoạn dịch vụ và hỗ trợ băng thông mạng lên đến 28,8 terabyte mỗi giây cho mỗi máy chủ Ultra, điều cần thiết cho các khối lượng công việc AI mở rộng trên hàng chục nghìn GPU.
Bài viết này được tạo và dịch với sự hỗ trợ của AI và đã được biên tập viên xem xét. Để biết thêm thông tin, hãy xem Điều Kiện & Điều Khoản của chúng tôi.