โปรแกรมคอมพิวเตอร์ทั่วไปทำนายการกระทำผิดซ้ำว่าไม่ดีเท่ามนุษย์

เช่นเดียวกับพ่อครัวมืออาชีพหรือศัลยแพทย์หัวใจอัลกอริทึมการเรียนรู้ด้วยเครื่องจักรนั้นดีพอ ๆ กับการฝึกฝนที่ได้รับ และเมื่ออัลกอริทึมใช้เวลามากขึ้นในการครองราชย์และตัดสินใจสำหรับมนุษย์เราพบว่าพวกเขาส่วนใหญ่ไม่ได้รับการศึกษาที่ดีที่สุดเนื่องจากพวกเขาเลียนแบบเผ่าพันธุ์มนุษย์ - และอคติตามเพศและสร้างปัญหาใหม่

ด้วยเหตุผลเหล่านี้โดยเฉพาะอย่างยิ่งที่เกี่ยวข้องกับหลายรัฐรวมถึงแคลิฟอร์เนียนิวยอร์กและวิสคอนซินให้ใช้อัลกอริทึมในการทำนายว่าผู้คนจะก่ออาชญากรรมอีกครั้งหลังจากที่พวกเขาถูกจองจำ ยิ่งแย่ไปกว่านั้นดูเหมือนว่ามันจะไม่ทำงาน

ในบทความที่ตีพิมพ์ในวันพุธในวารสาร วิทยาศาสตร์ก้าวหน้า นักวิทยาศาสตร์คอมพิวเตอร์คู่หนึ่งที่วิทยาลัยดาร์ทเมาท์พบว่าโปรแกรมคอมพิวเตอร์ที่ใช้กันอย่างแพร่หลายในการทำนายการกระทำผิดซ้ำไม่ได้แม่นยำกว่าพลเรือนที่ไม่ได้รับการฝึกฝนอย่างสมบูรณ์ โปรแกรมนี้เรียกว่าโปรไฟล์การจัดการผู้กระทำผิดราชทัณฑ์เพื่อการลงโทษทางเลือกการวิเคราะห์ 137 ปัจจัยที่แตกต่างเพื่อพิจารณาว่ามีแนวโน้มว่าคนจะกระทำความผิดอีกครั้งหลังจากได้รับการปล่อยตัว COMPAS พิจารณาปัจจัยต่าง ๆ เช่นการใช้สารการแยกทางสังคมและองค์ประกอบอื่น ๆ ที่นักอาชญาวิทยาตั้งทฤษฎีสามารถนำไปสู่การกระทำผิดซ้ำการจัดอันดับคนที่มีความเสี่ยงสูงปานกลางหรือต่ำ

และแน่นอนว่าการประเมินความเสี่ยงดูดีมาก ทำไมไม่มีข้อมูลเพิ่มเติมเพื่อช่วยให้ศาลตัดสินว่าใครมีความเสี่ยงมากกว่า แต่สิ่งที่นักวิทยาศาสตร์คอมพิวเตอร์ของดาร์ทเมาท์ Julia Dressel และ Hany Farid พบก็คือบุคคลที่ไม่ผ่านการฝึกอบรมตัดสินความเสี่ยงจากการกระทำผิดซ้ำอย่างถูกต้องด้วยความถูกต้องเช่นเดียวกับ COMPAS แสดงให้เห็นว่าพลังของอัลกอริทึม

ในการทดลองหนึ่งครั้งซึ่งรวมถึงข้อมูลเพียงเล็กน้อยของ COMPAS (เจ็ดปัจจัยแทน 137 และไม่รวมการแข่งขัน) กลุ่มอาสาสมัครมนุษย์บนอินเทอร์เน็ตโดยไม่มีการฝึกอบรมในการประเมินความเสี่ยงทางอาญา พวกเขาประมาณการกระทำผิดซ้ำของบุคคลอย่างแม่นยำด้วยความแม่นยำร้อยละ 67 เมื่อเปรียบเทียบกับความถูกต้องร้อยละ 65 ของ COMPAS

ใช้เวลาสักครู่เพื่อปล่อยให้สิ่งนั้นจมอยู่คนที่ไม่ได้รับการฝึกฝนบนเว็บนั้นดีกว่าเล็กน้อยในการทำนายว่าจะมีคนกลับไปที่คุกหรือไม่ กว่าเครื่องมือที่ได้รับการออกแบบมาเพื่อคาดการณ์ว่าคนจะกลับไปติดคุก. และมันแย่ลงเรื่อย ๆ เมื่อคุณเพิ่มการแข่งขันของจำเลยอัตราการบวกและลบที่ผิดพลาดของอาสาสมัครจะอยู่ในระยะไม่กี่เปอร์เซ็นต์ของคอมแพค ดังนั้นไม่เพียง แต่ COMPAS จะไม่ได้ยอดเยี่ยมในการทำนายการกระทำผิดซ้ำซาก แต่ก็มีแนวโน้มที่จะมีอคติเกี่ยวกับเผ่าพันธุ์เหมือนมนุษย์ มากสำหรับตรรกะเย็นของคอมพิวเตอร์

จากนั้นนักวิจัยได้สร้างแบบจำลองเชิงเส้นที่ตรงกับอัตราการทำนายของ COMPAS ด้วยสองปัจจัยคืออายุและจำนวนความเชื่อมั่นก่อนหน้านี้ เพียงเพื่อให้ชัดเจนการคาดการณ์นี้ก็ไม่ยุติธรรม แต่มันแสดงให้เห็นว่า COMPAS มีข้อบกพร่องเพียงใด

และในขณะที่การวิจัยนี้เป็นของใหม่ประเด็นใหญ่ที่มันไม่ได้เป็น ในการตรวจสอบปี 2559 ProPublica ผู้สื่อข่าวพบว่าไม่เพียง แต่จะไม่น่าเชื่อถือ COMPAS เท่านั้น แต่ยังลำเอียงอย่างเป็นระบบกับชาวแอฟริกันอเมริกันโดยจัดอันดับคนผิวดำอย่างต่อเนื่องว่ามีความเสี่ยงสูงกว่าคนผิวขาวที่ก่ออาชญากรรมร้ายแรงมากขึ้น หวังว่างานวิจัยใหม่นี้จะช่วยปูทางสำหรับกระบวนการประเมินความเสี่ยงในระบบยุติธรรมทางอาญา

ความจริงที่ว่าคอมแพคนั้นไร้ประโยชน์ที่สุดและลำเอียงที่ลึกที่สุดแสดงให้เห็นว่าการประเมินความเสี่ยงโดยใช้คอมพิวเตอร์อาจทำให้ความอยุติธรรมที่ลึกซึ้งยิ่งขึ้นซึ่งระบบความยุติธรรมควรจะแก้ไขเนื่องจากคะแนนการประเมินความเสี่ยงสามารถนำไปใช้ในขั้นตอนใด ๆ ของกระบวนการยุติธรรมทางอาญารวมถึงในขณะที่กำหนดพันธะของบุคคลการพิจารณาว่าพวกเขาได้รับทัณฑ์บนและในบางรัฐหรือไม่แม้แต่ในการกำหนดประโยคของบุคคล ทบทวนการใช้งาน COMPAS และโปรแกรมอื่น ๆ อีกครั้ง