OCI của Oracle triển khai hàng nghìn GPU NVIDIA Blackwell

Investing.com — Oracle (NYSE:ORCL) đã thông báo vào hôm thứ Hai về việc triển khai hàng nghìn GPU NVIDIA (NASDAQ:NVDA) Blackwell, đánh dấu một bước nâng cấp đáng kể cho Cơ sở Hạ tầng Đám mây Oracle (OCI). Đợt triển khai đầu tiên của các giá đỡ NVIDIA GB200 NVL72 làm mát bằng chất lỏng đã được thiết lập và tối ưu hóa trong các trung tâm dữ liệu của Oracle, sẵn sàng cho khách hàng sử dụng. Những triển khai này nhằm mục đích phát triển và vận hành các mô hình lập luận nâng cao và các tác nhân AI trên NVIDIA DGX Cloud và OCI.

Việc triển khai GB200 tiên tiến của Oracle bao gồm mạng NVIDIA Quantum-2 InfiniBand tốc độ cao và mạng NVIDIA Spectrum-X Ethernet. Thiết lập này được thiết kế để cho phép hiệu suất độ trễ thấp, có khả năng mở rộng và đi kèm với một bộ đầy đủ các tích hợp phần mềm và cơ sở dữ liệu từ NVIDIA và OCI. Sự tích hợp này hứa hẹn sẽ mang đến cho khách hàng khả năng nâng cao cho các ứng dụng AI.

OCI là một trong những đơn vị đầu tiên triển khai hệ thống NVIDIA GB200 NVL72 và đang lên kế hoạch xây dựng một trong những cụm Blackwell lớn nhất thế giới. Với tham vọng mở rộng OCI Superclusters lên hơn 100.000 GPU NVIDIA Blackwell, OCI nhằm đáp ứng nhu cầu ngày càng tăng về token suy luận và điện toán tăng tốc. Động thái này diễn ra khi đổi mới AI đang tăng tốc, với một số công ty, bao gồm cả OpenAI, đã phát hành các mô hình lập luận mới trong những tuần gần đây.

Các hệ thống NVIDIA Grace Blackwell, bao gồm cả những hệ thống hiện đang hoạt động tại OCI, đang chuyển đổi các trung tâm dữ liệu đám mây thành các nhà máy AI. Những nhà máy này được thiết kế để sản xuất trí tuệ ở quy mô lớn, tận dụng nền tảng NVIDIA GB200 NVL72. Nền tảng này kết hợp CPU NVIDIA Grace và GPU Blackwell, mang lại hiệu suất cao và hiệu quả năng lượng cho AI được cung cấp bởi các mô hình lập luận tiên tiến.

OCI đang cung cấp các tùy chọn triển khai linh hoạt cho GPU Blackwell, phục vụ nhiều loại khách hàng khác nhau bao gồm đám mây công cộng, chính phủ và đám mây chủ quyền, cũng như các trung tâm dữ liệu thuộc sở hữu của khách hàng thông qua OCI Dedicated Region và OCI Alloy.

Một số khách hàng, bao gồm các công ty công nghệ lớn, khách hàng doanh nghiệp, cơ quan chính phủ và nhà thầu, cũng như các nhà cung cấp đám mây khu vực, đang lên kế hoạch triển khai khối lượng công việc ngay lập tức trên hệ thống OCI GB200. Những triển khai này sẽ hỗ trợ nhiều dự án khác nhau, từ đào tạo mô hình lập luận đến đẩy nhanh thiết kế chip.

Các giá đỡ GB200 NVL72 hiện đã hoạt động và sẵn sàng để sử dụng từ NVIDIA DGX Cloud và OCI, cung cấp các nền tảng được tối ưu hóa với phần mềm, dịch vụ và hỗ trợ kỹ thuật cho việc phát triển và triển khai các khối lượng công việc AI.

Bài viết này được tạo và dịch với sự hỗ trợ của AI và đã được biên tập viên xem xét. Để biết thêm thông tin, hãy xem Điều Kiện & Điều Khoản của chúng tôi.