การศึกษา: อัลกอริทึมที่ "ลำเอียงกับคนผิวดำ" เบื้องหลังการพยากรณ์การกระทำผิดของผู้ต้องขังผู้น่าสงสาร

$config[ads_kvadrat] not found

Faith Evans feat. Stevie J – "A Minute" [Official Music Video]

Faith Evans feat. Stevie J – "A Minute" [Official Music Video]
Anonim

อัลกอริทึมเป็นเพียงลำเอียงเช่นเดียวกับคนที่ทำให้พวกเขา การสอบสวนโดย ProPublica พบว่า Northpointe ผู้สร้างอัลกอริทึมที่พยายามทำนายโอกาสของคนที่ถูกจองจำในการก่ออาชญากรรมอื่นคาดการณ์ว่าคนผิวดำมีแนวโน้มที่จะก่ออาชญากรรมหลังจากออกไปมากกว่าคนผิวขาว

อัลกอริทึมสร้างคะแนน“ การประเมินความเสี่ยง” สำหรับผู้ต้องขัง มันถูกใช้ทั่วประเทศเพื่อเป็นแนวทางในวันที่ปล่อยคุก หลังจากการวิเคราะห์ข้อมูลมากกว่า 7,000 คนใน Broward County, Florida ความเป็นจริงของอัลกอริทึมการเหยียดผิวชัดเจน: จำเลยดำเกือบสองเท่าที่เป็นไปได้มากกว่าจำเลยขาวที่ได้รับการคาดการณ์ของการก่ออาชญากรรมอื่น

การวิเคราะห์ควบคุมตัวแปรเช่นเพศและภูมิหลังทางอาญา ถึงกระนั้นคนผิวดำก็คาดการณ์ว่าจะมีแนวโน้มที่จะก่ออาชญากรรมรุนแรงมากกว่า 77% ในอนาคตและ 45% มีแนวโน้มที่จะก่ออาชญากรรมในอนาคต นอกจากนี้ปัญหาที่น่าเป็นห่วงคือการคาดการณ์ของ Northpointe เพียง 20% ว่าใครจะเป็นผู้ก่ออาชญากรรมรุนแรงในอนาคตนั้นแม่นยำ

Northpointe ใช้คำถาม 137 ข้อเพื่อตัดสินศักยภาพของคนที่ทำอาชญากรรม ในฐานะที่เป็นรายงาน ProPublica คำถามที่หลีกเลี่ยงการถามเกี่ยวกับการแข่งขันทันที อย่างไรก็ตามคำถามบางข้ออาจเกี่ยวข้องกัน

ตัวอย่างของคำถามรวมถึง:“ พ่อแม่ของคุณเคยถูกส่งเข้าคุกหรือไม่?” และ“ คุณทะเลาะกันบ่อยครั้งที่โรงเรียนหรือไม่” นอกจากนี้ยังมีคำถามที่ตอบว่าใช่ / ไม่ใช่เช่น“ ผู้หิวโหยมีสิทธิ์ เพื่อขโมย” ปัจจัยอื่น ๆ รวมถึงระดับการศึกษาและไม่ว่าบุคคลนั้นจะมีงานหรือไม่

ProPublica ให้รายละเอียดวิธีการที่แน่นอนว่าพวกเขาเข้าถึงและวิเคราะห์ข้อมูลของ Northpointe ในโพสต์ที่อธิบายได้อย่างไรและ Northpointe ส่งจดหมายไปยัง ProPublica โดยระบุว่า บริษัท “ ไม่เห็นด้วยว่าผลลัพธ์ของการวิเคราะห์ ของพวกเขา หรือการอ้างสิทธิ์ การวิเคราะห์นั้นถูกต้องหรือว่าพวกเขาสะท้อนให้เห็นถึงผลลัพธ์ที่ถูกต้องจากการประยุกต์ใช้แบบจำลอง”

ผลลัพธ์ของ ProPublica นั้นไม่น่าแปลกใจเลยที่เกี่ยวข้อง การประเมินความเสี่ยงใช้สำหรับการคำนวณทัณฑ์บนและตัดสินใจจำนวนพันธบัตร พวกเขายังคำนึงถึงการพิจารณาคดีทางอาญาในเก้ารัฐ

เทคโนโลยีไม่ใช่ทางออกสุดท้ายสำหรับทุกปัญหาโดยเฉพาะอย่างยิ่งการพิจารณาเทคโนโลยีนั้นมีข้อบกพร่องเหมือนคนที่สร้างมันขึ้นมา

$config[ads_kvadrat] not found