ARMONK, N.Y. - IBM (NYSE:IBM) đã mở rộng các dịch vụ trí tuệ nhân tạo của mình bằng cách tích hợp mô hình ngôn ngữ lớn Mixtral-8x7B (LLM) vào nền tảng dữ liệu và AI watsonx của mình. Mô hình này, được phát triển bởi Mistral AI và hiện được IBM tối ưu hóa, được báo cáo là có khả năng giảm độ trễ 35-75%, tùy thuộc vào kích thước lô và tăng thông lượng xử lý dữ liệu lên 50% so với phiên bản tiêu chuẩn.
Hiệu suất được cải thiện là do lượng tử hóa, một quá trình làm giảm kích thước mô hình và yêu cầu bộ nhớ, có thể tăng tốc độ xử lý. Sự cải tiến này dự kiến sẽ làm giảm chi phí và tiêu thụ năng lượng cho các doanh nghiệp sử dụng mô hình.
Việc tích hợp Mixtral-8x7B của IBM nhấn mạnh cam kết cung cấp một loạt các mô hình AI, bao gồm cả những mô hình được phát triển nội bộ, bởi các bên thứ ba và các tùy chọn nguồn mở. Chiến lược đa mô hình của công ty nhằm đáp ứng các nhu cầu khác nhau của khách hàng, cung cấp cho họ sự linh hoạt để mở rộng các giải pháp AI trên các chức năng kinh doanh khác nhau.
Mixtral-8x7B sử dụng mô hình thưa thớt và kỹ thuật Hỗn hợp chuyên gia để xử lý và phân tích các tập dữ liệu lớn một cách hiệu quả, cung cấp thông tin chi tiết liên quan đến ngữ cảnh. Mô hình này là một phần trong sáng kiến rộng lớn hơn của IBM nhằm cung cấp các mô hình nền tảng sẵn sàng cho doanh nghiệp trao quyền cho khách hàng tận dụng AI tạo ra để đổi mới và cải thiện kết quả kinh doanh.
Kareem Yusuf, Tiến sĩ, Phó Chủ tịch Cấp cao về Quản lý & Tăng trưởng Sản phẩm tại IBM Software, nhấn mạnh tầm quan trọng của sự lựa chọn và tính linh hoạt đối với khách hàng triển khai các mô hình AI phù hợp với yêu cầu kinh doanh cụ thể của họ. Nền tảng watsonx được thiết kế để hỗ trợ một hệ sinh thái mạnh mẽ gồm các nhà phát triển AI và lãnh đạo doanh nghiệp trong các ngành khác nhau.
Ngoài ra, trong tuần này IBM đã công bố sự sẵn có của ELYZA-japanese-Llama-2-7b, một mô hình LLM của Nhật Bản từ ELYZA Corporation, trên watsonx. Nền tảng này cũng lưu trữ các mô hình mã nguồn mở của Meta và các mô hình của bên thứ ba khác, với nhiều dự kiến sẽ được bổ sung trong những tháng tới.
Thông tin trong bài viết này dựa trên một tuyên bố thông cáo báo chí.
Bài viết này được tạo và dịch với sự hỗ trợ của AI và đã được biên tập viên xem xét. Để biết thêm thông tin, hãy xem Điều Kiện & Điều Khoản của chúng tôi.