FTC chống lại IntelliVision về các tuyên bố thiên vị trong AI

Ủy ban Thương mại Liên bang (FTC) đã có hành động chống lại IntelliVision Technologies Corp., một công ty có trụ sở tại San Jose chuyên về phần mềm nhận dạng khuôn mặt được hỗ trợ bởi trí tuệ nhân tạo. FTC cáo buộc rằng IntelliVision đã đưa ra những tuyên bố sai lệch và vô căn cứ về việc không có thành kiến chủng tộc và giới tính trong công nghệ của mình.

Đơn khiếu nại của FTC khẳng định rằng IntelliVision đã quảng cáo sai phần mềm của mình là một trong những phần mềm của họ có tỷ lệ chính xác cao nhất trên thị trường và có khả năng hoạt động mà không có thành kiến về giới tính hoặc chủng tộc. Cơ quan này cho rằng công ty không có đủ bằng chứng để hỗ trợ những tuyên bố này.

Theo FTC, IntelliVision cũng tuyên bố không chính xác rằng đã đào tạo hệ thống nhận dạng khuôn mặt của mình trên hàng triệu khuôn mặt, trong khi trên thực tế, công nghệ này được đào tạo trên một bộ dữ liệu nhỏ hơn đáng kể. Ngoài ra, FTC thách thức những khẳng định của công ty về công nghệ chống giả mạo của mình, được cho là để ngăn hệ thống bị lừa bởi ảnh hoặc hình ảnh video.

Theo lệnh đồng ý được đề xuất, IntelliVision sẽ bị cấm đưa ra bất kỳ trình bày sai lệch nào về tính chính xác, hiệu quả hoặc hiệu suất không thiên vị của phần mềm nhận dạng khuôn mặt của mình. Công ty cũng sẽ được yêu cầu sở hữu và dựa vào bằng chứng có thẩm quyền và đáng tin cậy khi đưa ra tuyên bố về khả năng công nghệ của mình.

Hành động này đại diện cho trường hợp lớn thứ hai của FTC liên quan đến công nghệ nhận dạng khuôn mặt AI trong năm qua. Trước đó, FTC đã đạt được một thỏa thuận với Rite Aid, cấm nhà bán lẻ sử dụng nhận dạng khuôn mặt cho mục đích giám sát trong năm năm do lo ngại về việc thực hiện các thủ tục hợp lý và tác hại tiềm ẩn cho người tiêu dùng.

Quyết định của FTC đưa ra khiếu nại hành chính là nhất trí, với tất cả năm ủy viên bỏ phiếu ủng hộ. Thỏa thuận đồng ý sẽ được mở để lấy ý kiến công chúng trong 30 ngày sau khi được công bố trong Sổ đăng ký Liên bang, sau đó FTC sẽ quyết định hoàn tất lệnh.

Cuộc đàn áp này nhấn mạnh cam kết của FTC trong việc đảm bảo rằng các công ty phát triển và sử dụng hệ thống AI tuân thủ các nguyên tắc quảng cáo trung thực và không đánh lừa người tiêu dùng về khả năng và hạn chế của công nghệ của họ. Thông tin cho bài viết này dựa trên một tuyên bố thông cáo báo chí.

Bài viết này được tạo và dịch với sự hỗ trợ của AI và đã được biên tập viên xem xét. Để biết thêm thông tin, hãy xem Điều Kiện & Điều Khoản của chúng tôi.