Apple iPhone X ไม่สามารถบอกใบหน้าชาวจีนได้คืนเงินให้

เมื่อสัปดาห์ที่แล้วในหนานจิงซึ่งเป็นเมืองใหญ่ทางตะวันออกของจีนผู้หญิงชื่อ Yan ได้รับเงินคืนจาก Apple เป็นสองเท่าจากความผิดพลาดของ iPhoneX ซึ่งเพื่อนร่วมงานของเธอได้ปลดล็อคโดยใช้เทคโนโลยีการจดจำใบหน้า ผู้หญิงทั้งสองเป็นเชื้อชาติจีน

Yan บอกข่าวท้องถิ่นว่าครั้งแรกที่สิ่งนี้เกิดขึ้นเธอเรียกสายด่วน iPhone แต่พวกเขาไม่เชื่อเธอ มันไม่ได้จนกว่าเธอและเพื่อนร่วมงานของเธอจะไปที่ร้าน Apple ในพื้นที่และแสดงให้เจ้าหน้าที่ของร้านทราบว่าพวกเขาเสนอเงินคืนให้เธอและเธอซื้อโทรศัพท์ใหม่โดยคิดว่าอาจเป็นกล้องที่ผิดปกติ

แต่โทรศัพท์เครื่องที่สองมีปัญหาเดียวกันโดยบอกว่ามันไม่ใช่กล้องที่ผิดปกติตามที่คนงานของร้านแนะนำ แต่มีปัญหากับตัวซอฟต์แวร์เอง

นี่ไม่ใช่กรณีแรกที่ซอฟต์แวร์จดจำใบหน้าและ AI ที่อยู่ด้านหลังมีปัญหาในการจดจำใบหน้าที่ไม่ใช่สีขาว

ในปี 2015 Google Photos ติดแท็กภาพถ่ายของชาวแอฟริกัน - อเมริกันสองคนเป็นกอริลลาในขณะที่ในปี 2009 คอมพิวเตอร์ HP http://www.youtube.com/watch?v=t4DT3tQqgRM) มีปัญหาในการจดจำและติดตามใบหน้าสีดำ - แต่ ไม่มีปัญหากับใบหน้าขาว ในปีเดียวกันนั้นซอฟต์แวร์กล้องของ Nikon ถูกจับใบหน้าชาวเอเชียในขณะที่กะพริบ

Google Photos คุณจะต้องเสียสละ เพื่อนของฉันไม่ใช่ลิงกอริลลา pic.twitter.com/SMkMCsNVX4

- Jacky (@jackyalcine) 29 มิถุนายน 2558

“ นี่เป็นปัญหาพื้นฐานของข้อมูล” Kate Crawford นักวิจัยหลักของ Microsoft และประธานร่วมของ Symposium ของ Obama White House on Society และ A.I เขียน “ อัลกอริทึมเรียนรู้ด้วยการป้อนภาพบางภาพซึ่งมักถูกเลือกโดยวิศวกรและระบบจะสร้างแบบจำลองของโลกตามภาพเหล่านั้น หากระบบได้รับการฝึกฝนเกี่ยวกับภาพถ่ายของคนที่มีผิวขาวอย่างท่วมท้นมันจะมีช่วงเวลาที่ยากลำบากในการจดจำใบหน้าที่ไม่ใช่สีขาว”

Jacky Alcine โปรแกรมเมอร์ที่ใช้บรูคลินซึ่งรูปถ่ายติดป้ายกำกับผิดโดย Google จากประสบการณ์ของเขาเขากล่าวว่า“ สิ่งนี้สามารถหลีกเลี่ยงได้ด้วยการจำแนกคนผิวดำที่แม่นยำและสมบูรณ์ยิ่งขึ้น”

แต่การเหยียดสีผิวที่เขียนลงใน AI แม้ว่ามันจะไม่ได้ตั้งใจ แต่ก็มีความหมายมากกว่าแค่การจดจำใบหน้า

การสอบสวน ProPublica ในปี 2559 พบว่าอาชญากรดำมีแนวโน้มที่จะเป็นสองเท่า อย่างผิดพลาด ถูกตั้งค่าสถานะว่ามีแนวโน้มที่จะแนะนำอาชญากรรมมากกว่าอาชญากรสีขาวในขณะที่แนวโน้มที่เพิ่มขึ้นของ“ การตรวจสอบเชิงคาดการณ์ล่วงหน้า” ใช้อัลกอริทึมในการคาดการณ์อาชญากรรมและทรัพยากรตำรวจโดยตรง

แต่ชุมชนชนกลุ่มน้อยได้รับการตรวจสอบทางประวัติศาสตร์มากเกินไปนำไปสู่ความเป็นไปได้ที่“ ซอฟต์แวร์นี้มีความเสี่ยงต่อวงจรที่เลวร้ายอยู่แล้ว” Crawford กล่าว

กลับมาที่หนานจิงประเทศจีนหยานได้รับเงินคืนที่สองจาก iPhoneX เครื่องที่สองของเธอ จากรายงานข่าวในท้องถิ่นก็ไม่มีความชัดเจนว่าเธอซื้อหนึ่งในสามหรือไม่

สิ่งที่เป็นเดิมพันในครั้งนี้อาจเป็นเพียงผู้บริโภครายเดียว แต่กรณีของ Yan เป็นตัวอย่างของความต้องการอย่างต่อเนื่องสำหรับอุตสาหกรรมเทคโนโลยีในการออกแบบที่มีความหลากหลายและความรอบรู้ในใจ