Phần mềm nhận dạng khuôn mặt do Amazon phát triển và tiếp thị cho cơ quan thực thi pháp luật địa phương và liên bang như một công cụ chống tội phạm đã gặp khó khăn để vượt qua các bài kiểm tra cơ bản về độ chính xác, chẳng hạn như xác định chính xác giới tính của một người.
Các nhà nghiên cứu với M.I.T. Media Lab cũng cho biết hệ thống Rekognition của Amazon đã hoạt động chính xác hơn khi đánh giá khuôn mặt có làn da sáng hơn, điều này gây lo ngại về việc cách mà các kết quả sai lệch có thể ảnh hưởng đến công nghệ trí tuệ nhân tạo sử dụng bởi cảnh sát và các địa điểm công cộng, bao gồm cả sân bay và trường học.
Các nhà nghiên cứu cho biết, hệ thống Amazon đã thực hiện hoàn hảo trong việc dự đoán giới tính của những người đàn ông có làn da sáng hơn, nhưng đã có khoảng 30% thử nghiệm xác định sai giới tính của những phụ nữ có làn da sẫm màu. Các hệ thống nhận dạng khuôn mặt của Microsoft và các công ty khác hoạt động tốt hơn nhưng cũng dễ bị lỗi, họ nói.
Vấn đề ở đây, theo các nhà nghiên cứu và kỹ sư AI nói, là nguồn ảnh khổng lồ mà các hệ thống đã được đào tạo có rất nhiều đối tượng da trắng. Tuy nhiên, nghiên cứu cho thấy rằng một số hệ thống đã nhanh chóng phát triển chính xác hơn trong năm qua sau khi các công ty xem xét và đầu tư nhiều hơn vào việc cải thiện kết quả.
Amazon đã tranh luận về những phát hiện của nghiên cứu, cho biết nghiên cứu đã thử nghiệm các thuật toán hoạt động khác với các hệ thống nhận dạng khuôn mặt được Cục Điều tra Liên bang thử nghiệm và được triển khai bởi các sở cảnh sát ở bang Florida và Washington. [Người sáng lập và giám đốc điều hành Amazon Jeffrey P. Bezos sở hữu The Washington Post.]
Matt Wood, một giám đốc điều hành của Amazon Web Services, người giám sát AI và machine learning, cho biết trong một tuyên bố rằng các nhà nghiên cứu của họ về các thuật toán phân tích khuôn mặt có thể phát hiện và mô tả các thuộc tính của khuôn mặt trong một hình ảnh, chẳng hạn như người đang cười hoặc đeo kính. Ngược lại, thuật toán nhận diện khuôn mặt được sử dụng để đối chiếu trực tiếp hình ảnh của các khuôn mặt khác nhau và sẽ được sử dụng phổ biến hơn trong các trường hợp như xác định một đứa trẻ chạy trốn hoặc bị mất tích.
“Không thể đưa ra kết luận về tính chính xác của nhận dạng khuôn mặt cho bất kỳ trường hợp sử dụng nào – bao gồm cả thực thi pháp luật – dựa trên kết quả thu được bằng phân tích khuôn mặt,” theo Wood. “Các kết quả đã không thể hiện cách thức khách hàng sử dụng dịch vụ ngày nay.”
Wood cũng nói rằng thử nghiệm đã được thực hiện trên phần mềm lỗi thời và những nỗ lực nội bộ gần đây để sao chép các thử nghiệm cho thấy kết quả chính xác hơn so với kết quả nghiên cứu. Amazon cho biết vào tháng 11 rằng họ đã cập nhật các tính năng phân tích khuôn mặt và nhận dạng khuôn mặt chính xác hơn và có được các thuộc tính về tuổi tác, giới tính và cảm xúc được cải thiện.
Nhưng các nhà nghiên cứu độc lập cho biết những phát hiện này đặt ra những câu hỏi quan trọng về việc triển khai AI của Amazon.
Clare Garvie, một cộng tác viên cao cấp tại Trung tâm luật của trường luật Georgetown trong lĩnh vực Riêng tư và Công nghệ, người đã nghiên cứu vầ phần mềm nhận diện khuôn mặt cho biết, “Việc yêu cầu một hệ thống thực hiện phân loại giới theo nhiều cách là một nhiệm vụ dễ dàng cho machine learning hơn là nhận dạng, trong đó sẽ có nhiều khả năng hơn so với nhị phân và con số có thể lên tới hàng triệu người. Sự bảo thủ và không sẵn sàng xem xét kỹ hơn về vấn đề tiềm ẩn này của Amazon chính là nguyên nhân khiến họ không thành công.”
Đồng tác giả của nghiên cứu Joy Buolamwini, người thực hiện nghiên cứu tương tự năm ngoái, nói với tờ The Washington Post rằng phương pháp nghiên cứu này hợp lý về mặt đạo đức, được nhân rộng và được các công ty như IBM và Microsoft trích dẫn là rất quan trọng để giúp cải thiện tính công bằng và chính xác của hệ thống.
Cô gọi sự bảo thủ của Amazon là một con đường sai lệch và cho biết phân tích khuôn mặt và phân loại giới là những công cụ cơ bản có thể được sử dụng bởi các thuật toán để giúp tăng tốc tìm kiếm nhận dạng khuôn mặt. Một báo cáo của các nhà nghiên cứu của Georgetown Law năm 2016 cho thấy hình ảnh khuôn mặt của một nửa số người Mỹ trưởng thành, hoặc hơn 117 triệu người, có thể truy cập được trong cơ sở dữ liệu nhận dạng khuôn mặt của cơ quan thực thi pháp luật.
“Nhận thức được một vấn đề công nghiệp đã biết và làm việc hướng tới các giải pháp thay vì làm chệch hướng đã tạo cho Microsoft và IBM một nền tảng để định vị mình là nhà phát triển có trách nhiệm của công nghệ AI. Tuy nhiên, Amazon lại quyết định trả lời nghiên cứu của họ đã được thử nghiệm nhiều lần và đã sẵn sàng dẫn đến sự thay đổi trong ngành,” cô nói với tờ The Post.
Viện Tiêu chuẩn và Công nghệ Quốc gia Hoa Kỳ, nơi đánh giá độ chính xác của các hệ thống nhận dạng khuôn mặt, cho biết họ đã thử nghiệm các hệ thống của 39 nhà phát triển và đã thấy độ chính xác ngày càng tăng trong những năm gần đây. Nhưng các thử nghiệm là tự nguyện và các công ty như Amazon và Google đã từ chối tham gia. Buolamwini kêu gọi Amazon gửi các mô hình của mình cho các bài kiểm tra điểm chuẩn công khai.
Bà cũng kêu gọi Amazon cảnh báo khách hàng về sự thiên vị của hệ thống và “ngay lập tức dừng việc sử dụng nó trong các mảng kiến trúc thượng tầng như chính sách và giám sát của chính phủ.”
Lời hứa về công nghệ nhận dạng khuôn mặt có thể xác định chính xác mọi người từ xa đã chạm đến cuộc đua trị giá hàng triệu đô la giữa các công ty công nghệ, cho rằng công nghệ này có thể tăng tốc điều tra của cảnh sát, cải thiện an ninh công cộng và thậm chí là cứu sống. Một quan chức chống khủng bố của FBI, phát biểu vào tháng 11 tại một hội nghị của Amazon Web Services, cho biết văn phòng đã thấy kết quả đáng chú ý khi thử nghiệm phần mềm trên dữ liệu từ vụ bắn súng hàng loạt ở Las Vegas năm 2017.
Nhưng những câu hỏi xung quanh tính chính xác của hệ thống và những lo ngại rằng công nghệ này có thể được sử dụng để giám sát con người là không có căn cứ hay sự đồng ý của họ đã nổi lên trong các cuộc biểu tình công cộng và các cuộc nói chuyện tự do. Điều này khiến những người ủng hộ quyền công dân và quyền riêng tư lên tiếng chống lại công nghệ mà họ lo sợ có khả năng gây ra cái chết cho mình. Ví dụ, một lỗ hổng phần mềm có thể khiến cảnh sát hoặc nhân viên an ninh phản ứng gay gắt với một người bị gắn mác không chính xác là một tội phạm bị truy nã.
Công nghệ này đã thúc đẩy một cuộc tranh luận ngày càng tăng ở Thung lũng Silicon và Washington về cách điều chỉnh chống lại những nguy cơ có thể xảy ra, với một số nhà lập pháp kêu gọi sử dụng luật pháp quốc gia mạnh mẽ hơn về quyền riêng tư. Một số nhân viên và cổ đông của Amazon đã thúc giục công ty không bán phần mềm nhận dạng khuôn mặt cho cảnh sát và các giám đốc điều hành từ các công ty khác đã thúc giục chính phủ kiềm chế trong ngành.
Satya Nadella, giám đốc điều hành của Microsoft, đang phát triển phần mềm nhận dạng khuôn mặt nhưng cũng kêu gọi quy định mạnh mẽ hơn, đã cho biết trong tuần trước rằng doanh nghiệp nhận diện khuôn mặt là một “trò chơi tồi tệ” và “hoàn toàn là một cuộc đua xuống đáy”
“Tất cả đều là sự cạnh tranh. Bất cứ ai giành được thỏa thuận đều có thể làm mọi thứ. Điều đó sẽ không có kết thúc tốt đẹp với chúng tôi cho dù với tư cách là một ngành công nghiệp hay một xã hội,” theo ông Nadella. “Tốt hơn là chúng ta có một số quy tắc trong cuộc chơi này để bảo vệ những gì thực sự quan trọng nhất.”
Việc triển khai công nghệ đã nhanh chóng vượt qua quy định và giờ đây các hệ thống nhận diện khuôn mặt có thể được tìm thấy trong các sân bay, phòng hòa nhạc và nhà hàng. Trẻ em, phụ huynh và du khách của các trường học và trung tâm cộng đồng trên khắp Hoa Kỳ cũng đang được quét bởi các hệ thống chưa được chứng minh về các mối đe dọa an ninh tiềm ẩn.
Các thử nghiệm được thực hiện bởi Liên minh Tự do Dân sự Hoa Kỳ vào mùa hè năm ngoái cho thấy Rekognition đã không khớp với ảnh của 28 thành viên Quốc hội với những bức ảnh chụp miệng của những người đã bị bắt, với tỷ lệ lỗi cao hơn đối với người da màu. Amazon cho biết những thử nghiệm đó được quản lý không chính xác đã dẫn đến sai lệch kết quả.
Các hệ thống nhận dạng khuôn mặt hoạt động bằng cách chia nhỏ hình ảnh thành các mã số phức tạp được gọi là hash có thể được so sánh nhanh chóng trên một cơ sở dữ liệu rộng lớn của các hình ảnh khác. Các công nghệ AI tương tự được sử dụng để đề xuất thẻ ảnh trên Facebook, mở khóa iPhone của Apple hoặc xác nhận danh tính khách du lịch tại các sân bay trên khắp Hoa Kỳ.
Khi các thuật toán nhận dạng khuôn mặt hoặc phân tích khuôn mặt trả về kết quả, chúng bao gồm các xếp hạng về độ tin cậy của chính chúng đối với các phát hiện của chúng: Tỷ lệ một nhận diện trực tiếp có thể là 99%, trong khi một nhận diện mờ hơn hoặc không kết luận sẽ có tỷ lệ thấp hơn. Các giám đốc điều hành tại Amazon và các công ty khác đã thách thức nghiên cứu tương tự bằng cách lập luận rằng việc buộc các thuật toán chọn một câu trả lời nam hay nữ cụ thể có thể cung cấp kết quả sai lệch và chống lại cách cảnh sát, kỹ sư và người dùng khác được đào tạo để sử dụng công nghệ thực sự trong đời sống.
Một nghiên cứu năm ngoái của Buolamwini và nhà khoa học máy tính Timnit Gebru đã tìm thấy các lỗi phân loại giới tính tương tự – và sự chính xác giữa tông màu da sáng hơn và tối hơn có khoảng cách lớn – trong các hệ thống được phát triển bởi IBM, Microsoft và công ty công nghệ Trung Quốc Face ++.
Trong những tháng tiếp theo, IBM và Microsoft tuyên bố họ đã cải thiện thuật toán của mình và đang cho thấy kết quả chính xác hơn giữa các giới tính và tông màu da. Nghiên cứu mới đã xác nhận rằng những công ty này có độ chính xác cao đã được cải thiện nhưng các hệ thống vẫn có nhiều khả năng đưa ra một giới tính không chính xác cho những khuôn mặt có màu da tối hơn.
Các thử nghiệm được tiến hành vào tháng 8 bằng cách sử dụng hình ảnh khuôn mặt của khoảng 1.200 thành viên của quốc hội từ sáu quốc gia trên khắp châu Âu và châu Phi. Tỷ lệ lỗi của Amazon cho tất cả các khuôn mặt là khoảng 8%, so với 4% đối với IBM và dưới 1% đối với Microsoft.
Bên cạnh đó, theo Buolamwini và đồng tác giả nghiên cứu Deborah Raji thì tiềm năng vũ khí hóa và sự lạm dụng các công nghệ phân tích khuôn mặt là không thể bỏ qua.
No comments:
Post a Comment