Có những lợi ích tiềm năng đáng kể khi sử dụng đánh giá rủi ro dựa trên dữ liệu trong việc tuyên án hình sự. Ví dụ, đánh giá rủi ro đã được xác nhận một cách đúng đắn như một cơ chế cho phép tòa án giảm hoặc miễn án tù cho những người phạm tội rất ít có khả năng tái phạm. Nhiều bang gần đây đã ban hành luật yêu cầu sử dụng các công cụ đánh giá rủi ro. Và trong năm 2017, Viện Luật Hoa Kỳ , một tổ chức được đánh giá cao đã làm việc trong nhiều thập kỷ để làm rõ, hiện đại hóa và cải thiện luật pháp, chấp thuận một dự thảo cuối cùng được đề xuất của Bộ luật Hình sự Mẫu: Tuyên án. Tài liệu đặc biệt ghi nhận giá trị của việc tuyên án dựa trên bằng chứng với đầu vào từ các công cụ tính toán ước tính những rủi ro tương đối mà cá nhân người phạm tội gây ra đối với an toàn công cộng thông qua hành vi phạm tội trong tương lai của họ.
Tuy nhiên, cùng với lợi ích, việc sử dụng ngày càng nhiều các công cụ đánh giá rủi ro dựa trên thuật toán đang làm dấy lên những lo ngại quan trọng về quy trình. Thủ tục tố tụng là quyền hiến định cốt lõi được quy định trong cả Tu chính án thứ năm và thứ mười bốn, cả hai đều bảo vệ mọi người không bị tước đoạt tính mạng, quyền tự do hoặc tài sản mà không cần đến thủ tục pháp lý. Một tiểu loại chính của thủ tục tố tụng là thủ tục tố tụng, nhằm đảm bảo tính công bằng trong các thủ tục pháp lý đặt tính mạng, quyền tự do hoặc tài sản vào tình trạng rủi ro.
Khi các công cụ đánh giá rủi ro dựa trên thuật toán được sử dụng trong tố tụng hình sự, các vấn đề về thủ tục tố tụng có thể phát sinh liên quan đến quyền của người phạm tội để thách thức tính chính xác và mức độ liên quan của thông tin được sử dụng khi tuyên án. Chúng tôi nêu bật hai trong số những thách thức đó. Thứ nhất liên quan đến quyền của phạm nhân được thông tin về thuật toán được sử dụng để tính điểm rủi ro và thứ hai liên quan đến quyền của phạm nhân được biết những điểm đó là gì.
Vào tháng 5 năm 2013, Eric Loomis tuyên tội tại Tòa án Circuit cho hạt La Crosse, Wisconsin với cáo buộc cố gắng chạy trốn một nhân viên giao thông và điều khiển một phương tiện cơ giới mà không có sự đồng ý của chủ sở hữu. Trước phiên tòa tuyên án vào tháng 8 năm 2013 của Loomis, dữ liệu về anh ta đã được nhập vào một công cụ đánh giá rủi ro được gọi là COMPAS (Hồ sơ quản lý người phạm tội cải tạo để trừng phạt thay thế). Mặc dù thuật toán COMPAS được sử dụng để tạo ra điểm rủi ro là độc quyền, nhưng đầu ra thì không. Báo cáo của Loomis 'COMPAS chỉ ra nguy cơ tái phạm cao.
ngày qua đời của nữ hoàng elizabeth
Trong phiên điều trần tháng 8 năm 2013, Loomis bị kết án tù nhiều năm. Tham khảo COMPAS trong quyết định của mình, thẩm phán nói:
Thông qua đánh giá COMPAS, bạn được xác định là một cá nhân có nguy cơ cao đối với cộng đồng. Về việc cân nhắc các yếu tố khác nhau, tôi loại trừ án treo vì mức độ nghiêm trọng của tội phạm và vì tiền sử của bạn, tiền sử giám sát của bạn và các công cụ đánh giá rủi ro đã được sử dụng, cho thấy rằng bạn có nguy cơ cực kỳ cao đối với tái phạm.
Sau khi không thành công trong việc tìm kiếm biện pháp giảm nhẹ sau khi kết án tại tòa án hạt, Loomis đã kháng cáo lên Tòa án Tối cao Wisconsin, cho rằng việc dựa vào COMPAS là vi phạm các quyền theo thủ tục tố tụng của anh ta vì bản chất độc quyền của COMPAS ngăn cản bị cáo thách thức tính hợp lệ khoa học của đánh giá. .
nguyệt thực toàn phần 2019
Năm 2016, Tòa án Tối cao Wisconsin đã ra phán quyết chống lại Loomis, Phát hiện điều đó nếu được sử dụng đúng cách với nhận thức về những hạn chế và lưu ý. . . việc xem xét đánh giá rủi ro COMPAS khi tuyên án không vi phạm quyền của bị cáo đối với thủ tục tố tụng. Và, tòa án đã viết, trong khi thẩm phán tại phiên tòa tuyên án đã đề cập đến việc đánh giá rủi ro COMPAS, nó không mang tính quyết định trong việc quyết định liệu Loomis có nên bị giam giữ hay không, mức độ nghiêm trọng của bản án hay liệu anh ta có thể được giám sát một cách an toàn và hiệu quả trong cộng đồng hay không. . Loomis sau đó đã kháng cáo lên Tòa án tối cao Hoa Kỳ, vào tháng 6 năm 2017 đã từ chối xét xử vụ án của anh ta.
Khi một thuật toán độc quyền được sử dụng để đưa ra đánh giá rủi ro, câu hỏi về thủ tục hợp pháp sẽ không chuyển sang việc liệu đánh giá rủi ro có phải là hay không — để sử dụng thuật ngữ trong phán quyết của Tòa án tối cao Wisconsin — mang tính quyết định, mà là liệu nó được sử dụng như thế nào và như thế nào. Đối với Loomis, đầu ra COMPAS được cho là chỉ được sử dụng để củng cố đánh giá của các yếu tố khác được xem xét. Tòa án tối cao Wisconsin tuyên bố rằng tòa án tuyên án sẽ áp dụng cùng một bản án nếu không có nó. Theo đó, chúng tôi xác định rằng việc tòa án vòng quanh xem xét COMPAS trong trường hợp này không vi phạm các quyền theo thủ tục tố tụng của Loomis.
Logic này dẫn đến một nghịch lý rắc rối. Mặt khác, nếu việc sử dụng công cụ đánh giá rủi ro độc quyền khi tuyên án chỉ thích hợp khi có cùng quyết định tuyên án mà không có nó, thì điều này cho thấy rằng việc đánh giá rủi ro hoàn toàn không đóng vai trò gì trong quyết định quản chế hoặc tuyên án. Nếu đúng như vậy, thì tại sao lại sử dụng nó? Mặt khác, nếu nó có thể có tác động tiềm tàng — mặc dù tòa án Wisconsin khẳng định ngược lại — thì câu hỏi về thủ tục tố tụng không thể bị gạt sang một bên.
Một vấn đề quan trọng khác về thủ tục tố tụng liên quan đến những thông tin mà người phạm tội được cung cấp — hay không — về điểm rủi ro của họ. Trong một gần đây trường hợp ở Kansas, John Walls cam kết không tranh chấp lời buộc tội đe dọa hình sự. Sau đó, anh ta được đánh giá bằng cách sử dụng công cụ đánh giá rủi ro LSI-R (Mức kiểm kê dịch vụ-Đã sửa đổi). Khi anh ta yêu cầu xem kết quả, anh ta chỉ được truy cập vào một trang bìa tóm tắt điểm tổng quát của mình; yêu cầu của anh ấy để xem các câu hỏi và câu trả lời cụ thể và điểm số liên quan đến những câu hỏi đó đã bị từ chối.
Sau khi bị tòa án quận kết án theo hình thức quản chế được giám sát cao thường được sử dụng cho những người phạm tội có nguy cơ trung bình hoặc cao hơn, anh ta đã kháng nghị bản án của mình trước Tòa phúc thẩm Kansas, cho rằng việc từ chối tiết lộ chi tiết về LSI-R của anh ta đánh giá vi phạm quyền của anh ta để đúng thủ tục. Tòa phúc thẩm đã ra phán quyết có lợi cho Walls, lưu ý rằng việc từ chối Walls quyền truy cập vào bản đánh giá LSI-R hoàn chỉnh của anh ta khiến anh ta không thể thách thức tính chính xác của thông tin được sử dụng để xác định các điều kiện quản chế của mình. Bản án gốc đã bị bỏ trống, và vụ án đã được xét xử lại để tuyên án.
Bộ Tư pháp Hoa Kỳ có thừa nhận rằng việc tòa án tuyên án sử dụng các đánh giá rủi ro tính toán đặt ra các câu hỏi hiến pháp mới. Và các câu hỏi không chỉ mang tính hiến pháp mà còn có các vấn đề về chính sách và công nghệ quan trọng. Như hai ví dụ trên minh họa, sự thiếu minh bạch có thể phát sinh liên quan đến cả cách tính điểm rủi ro và liệu người vi phạm có thể truy cập chúng hay không. Một yếu tố phức tạp khác là quyền bí mật thương mại, mà các công ty tạo ra các công cụ đánh giá rủi ro độc quyền sẽ viện dẫn để lập luận rằng các chi tiết của thuật toán của họ không thể được tiết lộ.
mấy giờ bạn có thể nhìn thấy mặt trăng xanh tối nay
Các câu hỏi sẽ phát sinh với tần suất ngày càng tăng trong những năm tới bao gồm: Mức độ chi tiết của thuật toán đánh giá rủi ro và đầu ra của nó mà người vi phạm có quyền tiếp cận? Có cần luật mới để tạo điều kiện cho việc tiếp cận đó không? Quyền bí mật kinh doanh của các công ty làm công cụ đánh giá rủi ro nên được giải quyết như thế nào? Và trong tương lai, khi các đánh giá rủi ro dựa trên trí tuệ nhân tạo trở nên phổ biến, bản chất động của các thuật toán AI sẽ làm phức tạp thêm những câu hỏi này như thế nào?
Đối với rất nhiều vấn đề ở giao điểm của luật pháp, chính sách và công nghệ, không có câu trả lời dễ dàng. Nhưng một giả định cơ bản trong cuộc đối thoại sẽ là quyền được giải quyết đúng thủ tục không thể là thiệt hại thế chấp cho việc áp dụng các công nghệ đánh giá rủi ro thuật toán ngày càng phức tạp.