Human Rights Watch: จีนใช้ข้อมูลขนาดใหญ่เพื่อกำหนดเป้าหมายกลุ่มชนกลุ่มน้อย

รัฐบาลจีนกำลังใช้อัลกอริธึมการรักษาเชิงทำนายเพื่อกำหนดเป้าหมายชนกลุ่มน้อยในจังหวัดซินเจียง

จังหวัดทางตะวันตกเฉียงเหนือของจีนเป็นที่ตั้งของ 11 ล้าน Uyghurs ซึ่งเป็นกลุ่มชาติพันธุ์มุสลิมตุรกีที่ถูกรัฐบาลจีนเลือกปฏิบัติในช่วงไม่กี่ปีที่ผ่านมา

ตอนนี้มีรายงานว่าทางการใช้ข้อมูลขนาดใหญ่เพื่อกำหนดเป้าหมายอย่างเป็นระบบสำหรับทุกคนที่สงสัยว่ามีการทุจริตทางการเมือง การผลักดันเป็นส่วนหนึ่งของแคมเปญ“ Strike Hard” โดยมีวัตถุประสงค์เพื่อกำจัดกิจกรรมก่อการร้ายที่อาจเกิดขึ้นในประเทศจีน ในทางปฏิบัติสิ่งนี้นำไปสู่การรักษาสัดส่วนของชาวอุยกูร์อย่างไม่เหมาะสมสัดส่วนองค์กรสิทธิมนุษยชนกล่าว

ระบบตรวจสอบการคาดการณ์หรือที่เรียกว่า IJOP - แพลตฟอร์มการดำเนินงานร่วมแบบบูรณาการ - เป็นข้อมูลที่ป้อนจากเครื่องมือเฝ้าระวังที่หลากหลาย เหล่านี้รวมถึงกล้องวงจรปิดป้ายทะเบียนรถและหมายเลขบัตรประจำตัวประชาชนที่ได้จากจุดตรวจรักษาความปลอดภัยและข้อมูลส่วนบุคคลรวมถึงสุขภาพการธนาคารและบันทึกทางกฎหมาย

นอกเหนือจากการเฝ้าระวังอัตโนมัติเจ้าหน้าที่ของรัฐยังทำการตรวจเยี่ยมบ้านเพื่อรวบรวมข้อมูลเกี่ยวกับประชากร นักธุรกิจชาวจีนแบ่งปันแบบฟอร์มที่เขากรอกสำหรับบันทึกของ IJOP ด้วย Human Rights Watch - เหนือสิ่งอื่นใดแบบสอบถามถามว่านักธุรกิจคือ Uyghur เขาสวดมนต์บ่อยแค่ไหนและไปที่ไหนเพื่อรับบริการทางศาสนา

อินพุตข้อมูลเหล่านี้ทั้งหมดถูกใช้โดย IJOP เพื่อตั้งค่าสถานะผู้คนว่าเป็นภัยคุกคามที่อาจเกิดขึ้น เมื่อมีคนถูกจับธงตำรวจเปิดการสอบสวนเพิ่มเติมและนำพวกเขาไปสู่การควบคุมหากพวกเขาถือว่าน่าสงสัย

“ เป็นครั้งแรกที่เราสามารถแสดงให้เห็นว่าการใช้ข้อมูลขนาดใหญ่ของรัฐบาลจีนและการตรวจสอบเชิงพยากรณ์ไม่เพียง แต่เป็นการละเมิดสิทธิความเป็นส่วนตัวอย่างโจ๋งครึ่มเท่านั้น แต่ยังช่วยให้เจ้าหน้าที่สามารถกักขังคนโดยพลการได้ด้วย” มร. หวังหวง

จากรายงานระบุว่าประชาชนบางส่วนที่ถูกตั้งค่าสถานะถูกส่งไปยังศูนย์การศึกษาทางการเมืองที่ถูกควบคุมตัวโดยไม่มีการพิจารณาคดี

“ ประมาณต้นเดือนเมษายน 2559 องค์กร Human Rights Watch ประมาณการเจ้าหน้าที่ซินเจียงส่งชาวอุยกูร์และชนกลุ่มน้อยอื่น ๆ ให้เป็น“ ศูนย์การศึกษาทางการเมือง” รายงานกล่าว IJOP ให้ความน่าเชื่อถือแก่การถูกกักขังโดยใช้แผ่นไม้อัดของวัตถุประสงค์การวิเคราะห์อัลกอริทึมกับการจับกุมที่เลือกปฏิบัติ

เพื่อให้เรื่องแย่ลงการทำงานภายในของ IJOP ถูกปกคลุมไปด้วยความลับ

“ ผู้คนในซินเจียงไม่สามารถต่อต้านหรือท้าทายการพิจารณากลั่นกรองชีวิตประจำวันของพวกเขาที่เพิ่มมากขึ้นเพราะคนส่วนใหญ่ไม่รู้เกี่ยวกับรายการ 'กล่องดำ' นี้หรือวิธีการทำงาน "Wang กล่าว

มันเป็นปัญหาเดียวกันกับที่ทำให้เกิดภัยพิบัติในระบบการเรียนรู้ของเครื่องจักรที่ซับซ้อนที่สุด: ขั้นตอนการตัดสินใจที่พวกเขาใช้นั้นมีความทึบแม้กับผู้สร้างอัลกอริทึม

การใช้ IJOP ของจีนนั้นควรค่าแก่การให้ความสนใจเนื่องจากการตรวจรักษาแบบคาดการณ์มีแนวโน้มที่จะเพิ่มจำนวนมากขึ้นเมื่อเทคโนโลยีดีขึ้น อย่างที่จอนคริสเตียนชี้ให้เห็น โครงร่าง ระบบตรวจสอบการคาดการณ์ถูกนำไปใช้แล้วในบางสถานที่ในสหรัฐอเมริกา สำนักงานตำรวจของลอสแองเจลิสใช้ซอฟต์แวร์ที่คาดการณ์ว่าจะมีอาชญากรรมเกิดขึ้นที่ไหนและเมื่อไหร่เพื่อให้เจ้าหน้าที่สามารถนำพวกเขาออกไปได้

ในอีกด้านหนึ่งของระบบกระบวนการยุติธรรมทางอาญาบางครั้งห้องพิจารณาคดีใช้อัลกอริธึมที่ให้คะแนน“ การประเมินความเสี่ยง” เพื่อให้ผู้พิพากษาตัดสินท แต่น่าเสียดายที่อัลกอริทึมที่เป็นกลางเหล่านี้ควรจะแยกแยะตามเชื้อชาติ

การจู่โจมของจีนเป็นการรักษาเชิงคาดการณ์เป็นการตอกย้ำความสำคัญของการใช้อัลกอริธึมที่รับผิดชอบเนื่องจากการเรียนรู้ของเครื่องยังคงเข้าสู่ภาครัฐ บางทีอาจถึงเวลาที่รัฐบาลที่มีความเชี่ยวชาญด้านเทคโนโลยีจะนำเอามนต์ใหม่มาใช้: บางครั้งปัญญาประดิษฐ์ก็สร้างปัญหามากกว่าที่จะแก้