Các giới hạn thích hợp đối với việc sử dụng nhận dạng khuôn mặt của cảnh sát là gì?

Tháng trước, thành phố San Francisco đã quyết định cấm sử dụng của công nghệ nhận dạng khuôn mặt trong các cơ quan chính phủ khác nhau của nó. Mặc dù lệnh cấm hoàn toàn vĩnh viễn có thể đi quá xa, nhưng nó phản ánh sự căng thẳng thực sự mà cảnh sát sử dụng công nghệ tạo ra. Các thành phố trên khắp Hoa Kỳ sẽ đối mặt với tình thế khó xử tương tự khi họ cố gắng cân bằng giữa lời hứa cải thiện dịch vụ công của công nghệ với sức mạnh to lớn của chính phủ — và khả năng gây hại của nó. Khi xây dựng một chính sách nhất quán để chi phối tính năng nhận dạng khuôn mặt, các nhà hoạch định chính sách nên xem xét cách thức, thời điểm và lý do sử dụng một công cụ mạnh mẽ như vậy: sử dụng ngưỡng tin cậy thích hợp cho các bức ảnh, chỉ sử dụng nhận dạng khuôn mặt sau thực tế thay vì theo thời gian thực và hạn chế sử dụng nó cho những tội phạm nghiêm trọng nhất. Cuối cùng, các chính phủ phải xem xét việc bảo mật dữ liệu để tránh vi phạm thông tin cá nhân nhạy cảm.





Ở cấp độ cơ bản, công nghệ nhận dạng khuôn mặt hoạt động bằng cách quét hình học của khuôn mặt để nhận ra các đặc điểm chính (chẳng hạn như kích thước mũi, hình dạng mắt, độ nổi bật của cằm, v.v.) và khoảng cách giữa chúng. Điều này cho phép máy tính tạo một bản đồ ảo của một khuôn mặt, sau đó nó có thể khớp với các khuôn mặt được quét khác trong cơ sở dữ liệu của nó với một ngưỡng tin cậy tương ứng. Hiện tại, nhận dạng khuôn mặt được sử dụng phổ biến nhất trong các ứng dụng công nghệ tiêu dùng như mở khóa điện thoại thông minh hoặc phân loại ảnh trên Facebook và Google của bạn.



Trong khi các ứng dụng này mang lại sự tiện lợi cho người tiêu dùng, việc chính phủ sử dụng cùng một công nghệ đặt ra một số câu hỏi khó — đặc biệt là trong bối cảnh tư pháp hình sự. Không giống như các tổ chức tư nhân, các cơ quan chính phủ không phải là đối tượng của sự cạnh tranh , và những sai lầm của họ thường gây ra những hậu quả sâu rộng hơn. Nhận dạng khuôn mặt là một điều để xác định sai một người bạn trên Facebook; việc xác định nhầm một nghi can lại là một điều hoàn toàn khác. Hơn nữa, công nghệ vẫn đang phát triển và các chi tiết thực hiện có thể phức tạp. Do đó, rất hợp lý khi yêu cầu mức độ chính xác cao và một số biện pháp bảo vệ thông thường được áp dụng trước khi triển khai các công nghệ này.



Rủi ro sai sót hoặc lạm dụng

Một mối quan tâm đối với việc sử dụng nhận dạng khuôn mặt của chính phủ là, giống như các hệ thống thuật toán khác, công nghệ này chỉ tốt như dữ liệu được sử dụng để đào tạo nó. Phần mềm Rekognition của Amazon — mà cơ quan thực thi pháp luật đã sử dụng ở Oregon và Orlando — có đến dưới lửa để xác định sai người da màu với tỷ lệ cao hơn xác định sai người da trắng. Amazon đã phản bác rằng những chênh lệch này bắt đầu biến mất khi sử dụng đề nghị 99% ngưỡng tin cậy, nhưng các nhà phê bình chỉ ra rằng các sở cảnh sát hiện không bắt buộc phải sử dụng các tiêu chuẩn cao đó (thực tế, các cơ quan thực thi pháp luật đã được biết đến là người cung cấp hình ảnh người nổi tiếng và bản phác thảo pháp y vào phần mềm nhận dạng khuôn mặt để cố gắng có được các trận đấu ).



225 triệu km tính bằng dặm

Chúng tôi biết rằng thiểu số chủng tộc đã tham gia vào hệ thống tư pháp hình sự với tỷ lệ không cân xứng: A nghiên cứu được ủy quyền bởi luật sư quận San Francisco đã phát hiện ra rằng mặc dù những người da đen chiếm 6% dân số thành phố từ năm 2007 đến năm 2014, nhưng họ lại chiếm 41% các vụ bắt giữ. Việc quá tin tưởng vào công nghệ thiếu sót - hoặc việc triển khai kém công nghệ đã nói - có nguy cơ không chỉ làm gia tăng các kết án sai trái mà còn làm trầm trọng thêm sự chênh lệch chủng tộc trong hệ thống.



Điều gây lo ngại hơn nữa cho người dân San Francisco là khả năng cảnh sát sử dụng sai công nghệ nhận dạng khuôn mặt trong phạm vi rộng hơn các vụ lạm dụng quyền lực nhà nước. Ngay cả khi công nghệ có thể nhận dạng chính xác khuôn mặt, những người ủng hộ lo ngại nó có thể tạo ra tình trạng giám sát, gia tăng các vụ bắt giữ tội phạm nhỏ mà không cải thiện an toàn công cộng. Chính phủ Trung Quốc đã sử dụng nhận dạng khuôn mặt để bắt những người đi bộ đường dài và theo dõi các nhóm thiểu số Hồi giáo . Nếu được sử dụng không phù hợp, công nghệ nhận dạng khuôn mặt có thể gây hại cho một xã hội dân chủ, tự do — tạo ra hiệu ứng lạnh có ảnh hưởng tiêu cực đến quyền tụ tập, biểu tình, bỏ phiếu và tự do đi lại các khu vực công cộng.



Công cụ phục vụ công chúng

Mặt khác, chúng ta nên muốn các cơ quan chính phủ của mình đổi mới và áp dụng các công cụ mới nhất cho phép họ phục vụ công chúng một cách tốt nhất. Công nghệ nhận dạng khuôn mặt có tiềm năng thực sự giúp cơ quan thực thi pháp luật bắt tội phạm và cải thiện an toàn công cộng. Ví dụ, công nghệ đã đã giúp xác định Jarrod Ramos, một nghi phạm hiện phải đối mặt với 5 tội danh giết người cấp độ một, khi anh ta từ chối xác định danh tính sau khi cảnh sát bắt giữ anh ta. Hầu hết công dân có thể sẽ cảm thấy thoải mái với việc sử dụng công nghệ nhận dạng khuôn mặt. Và bên ngoài các bối cảnh thực thi pháp luật truyền thống, nhận dạng khuôn mặt cũng có thể được sử dụng để ủy quyền cho nhân viên chính phủ tại các cơ sở an ninh cao, chống buôn bán tình dục trẻ em , và tìm thấy người mất tích .

Vì vậy, mặc dù chắc chắn là có sự thận trọng, nhưng một lệnh cấm hoàn toàn — không có bất kỳ điều khoản nào bắt buộc phải xem lại chính sách — không cần thiết phải khóa chúng tôi sử dụng các công cụ hữu ích có thể hỗ trợ việc thực thi pháp luật trong các trường hợp nghiêm trọng khi các kỹ thuật điều tra truyền thống không thành công.



Điều đó nói lên rằng, việc sử dụng công nghệ này cần có các biện pháp bảo vệ thực sự; một lệnh đình chỉ tạm thời đối với việc sử dụng nó trong khi các biện pháp bảo vệ như vậy được phát triển không nằm ngoài câu hỏi. Sự giám sát phù hợp đối với việc thực thi pháp luật sử dụng công nghệ nhận dạng khuôn mặt trông như thế nào? Matthew Feeney từ Viện Cato đẻ ra một số gợi ý hữu ích, bao gồm cả việc cấm khả năng thời gian thực sẽ hạn chế nhận dạng khuôn mặt trong các cuộc điều tra sau khi thực tế, điều này sẽ ngăn camera cơ thể cảnh sát trở thành máy giám sát không hạn chế, trong số những thứ khác.



Đảm bảo rằng nhận dạng khuôn mặt chỉ được sử dụng sau khi thực tế cũng sẽ cho phép bên thứ ba đánh giá. Ví dụ, các nhà lập pháp có thể yêu cầu thẩm phán hoặc thẩm phán xem xét việc sử dụng nhận dạng khuôn mặt được đề xuất trong từng trường hợp, tương tự như quy trình phê duyệt lệnh khám xét. Ngoài ra, để ngăn chặn việc sử dụng nhận dạng khuôn mặt cho các hành vi vi phạm nhỏ như trộm cắp , các nhà lập pháp có thể xác định những hành vi vi phạm nào tăng đến mức độ nghiêm trọng sẽ đảm bảo sự xâm phạm quyền riêng tư mà công nghệ tạo ra. Những hạn chế mạnh mẽ đối với các cá nhân được đưa vào bộ dữ liệu nhận dạng khuôn mặt cũng có thể ngăn những người có hành vi vi phạm đỗ xe bị cuốn vào lưới kéo của cảnh sát. Tốt nhất, chỉ những người có lệnh bắt đang hoạt động mới được đưa vào tập dữ liệu.

có bao nhiêu ngày trong chín tháng

Bảo mật và trách nhiệm giải trình

Với việc thu thập thông tin sinh trắc học như được sử dụng trong công nghệ nhận dạng khuôn mặt, mối quan tâm liên quan đến cách thông tin đó được bảo vệ và lưu trữ. Chỉ tuần trước, tin tức đã phá vỡ về một vi phạm dữ liệu của một nhà thầu Hải quan và Tuần tra Biên giới, đã phơi bày hàng nghìn bức ảnh của các du khách quốc tế đã được thu thập cho mục đích nhận dạng khuôn mặt. Nguy cơ dữ liệu cá nhân rơi vào tay kẻ xấu là rất thực tế. Để giảm thiểu rủi ro này, các cơ quan chính phủ (và các nhà thầu của họ) phải được yêu cầu đáp ứng các tiêu chuẩn vệ sinh an ninh mạng thích hợp. Các hạn chế về thời lượng thông tin sinh trắc học có thể được lưu trữ sau khi thu thập cũng có thể làm giảm tác hại của việc vi phạm.



Cuối cùng, nếu các thành phố đặt câu hỏi về khả năng tiếp cận hiệu suất kỹ thuật của các công cụ này, thì họ nên xem xét yêu cầu đánh giá bên ngoài thông qua hợp đồng mua sắm ban đầu. Một bước kiểm tra quan trọng để chống lại việc chính phủ lạm dụng hoặc tình cờ sai lệch thuật toán là khả năng của các tổ chức xã hội dân sự kiểm tra các hệ thống này một cách độc lập, xác minh rằng công nghệ hoạt động chính xác và đảm bảo rằng không có nhóm thiểu số nào bị nhắm mục tiêu không công bằng.



Khi các thành phố như Oakland và Somerville, và các bang như Massachusetts, xem xét các quy định tương tự của pháp luật, các câu hỏi cũng nảy sinh là liệu những chính sách này có được thiết lập tốt nhất ở cấp thành phố hay tiểu bang hay không. Đây không phải là lần đầu tiên các thành phố cố gắng đi đầu trong cải cách công lý — ví dụ: Atlanta gần đây cấm gửi tiền mặt (mặc dù các nhà lập pháp Georgia đã cố gắng áp dụng trước chính sách đó trong phiên họp lập pháp này). Tuy nhiên, các hạn chế của địa phương đối với công nghệ cảnh sát phức tạp hơn, vì các vụ việc đôi khi có thể liên quan đến nhiều khu vực pháp lý. Vì vậy, lý tưởng nhất là giữa một tiểu bang nhất định sẽ có sự nhất quán trong việc bảo vệ quyền riêng tư của công dân sao cho quân đội của tiểu bang và cơ quan thực thi pháp luật địa phương được tuân thủ theo các tiêu chuẩn giống nhau.

Mặc dù San Francisco là thành phố đầu tiên cấm chính phủ sử dụng tính năng nhận dạng khuôn mặt, nhưng có thể đây sẽ không phải là thành phố cuối cùng. Các thành phố và tiểu bang có quyền nhấn nút tạm dừng nếu cuối cùng họ quyết định công nghệ chưa sẵn sàng để triển khai công khai. Nhưng họ cũng nên kết hợp bất kỳ sự chậm trễ nào với một kế hoạch phát triển hữu hình.



Lệnh cấm có thể là một công cụ hữu ích để tạo không gian nhằm xem xét cẩn thận các loại hạn chế và biện pháp bảo vệ mà chúng tôi muốn áp dụng. Nhưng mục tiêu cuối cùng của lệnh tạm hoãn phải là sử dụng hợp lý các công cụ này, không tạo điều kiện cho phản ứng đầu gối với một công nghệ mới trông đáng sợ. Sự lo lắng của công chúng xung quanh công nghệ này là điều dễ hiểu, nhưng việc thực hiện một cách tiếp cận cân bằng khi đối mặt với những lo ngại như vậy có thể sẽ trả cổ tức trong tương lai.