หุ่นยนต์แบบตายตัวของ Georgia Tech คืออนาคตของ AI ไม่ใช่การเหยียดเชื้อชาติ

สำหรับหูที่ไวต่อการรับฟังหลังเรียนพิเศษและการสัมมนาที่หลากหลายสิ่งนี้จะฟังดูไม่ดี แต่เราต้องการให้หุ่นยนต์ทำการตัดสินใจอย่างรวดเร็วตามลักษณะที่ปรากฏ การเอาชนะความอยุติธรรมนั้นเป็นสิ่งที่ดี แต่การไร้ความสามารถที่จะทำให้สติปัญญาลดน้อยลง Alan Wagner, Ph.D., roboticist จาก Georgia Tech เป็นผู้สนับสนุนหลักของเทคโนโลยี stereotyping เขาระบุว่าตรรกะประเภทนี้ไม่จำเป็นต้องใช้กับเชื้อชาติหรือเพศเพียงแค่สถานการณ์และพฤติกรรม

ในการทดสอบขั้นต้นของอัลกอริธึมต้นของเขาแว็กเนอร์ได้ฝึกฝนหุ่นยนต์ไร้เดียงสาเพื่อหาข้อสรุปจากสิ่งที่เห็น หุ่นยนต์เรียนรู้และเข้าใจซึ่งทำให้แว็กเนอร์เริ่มคิดอย่างมีวิจารณญาณเกี่ยวกับจริยธรรมของสมมติฐานของหุ่นยนต์โดยเฉพาะอย่างยิ่งคนที่ตั้งโปรแกรมไว้ล่วงหน้า เขาพูดกับ ผกผัน เกี่ยวกับงานและการแตกสาขาของเขา

แนะนำการทดลองให้ฉันฟัง

หุ่นยนต์โต้ตอบกับบุคคลประเภทต่าง ๆ - เจ้าหน้าที่ดับเพลิง EMT หรืออะไรก็ตาม - แต่มันไม่เคยมีประสบการณ์ใด ๆ มาก่อนกับบุคคลประเภทใดประเภทหนึ่งเหล่านี้ โดยพื้นฐานแล้วมันคือการเรียนรู้จากประสบการณ์

แนวคิดก็คือแสดงให้เห็นว่าหุ่นยนต์สามารถใช้คุณสมบัติการรับรู้จากบุคคลเพื่อทำนายความต้องการของพวกเขาในแง่ของการใช้เครื่องมือ วิธีการทำงานของอัลกอริทึมกล้องของหุ่นยนต์จะรับรู้มุมมองที่แตกต่างกันของสิ่งที่แต่ละคนมีลักษณะ - สีสม่ำเสมอของพวกเขาตัวอย่างเช่นพวกเขามีเคราและสีผมหรือไม่

มันจะถามคำถามพวกเขาเกี่ยวกับสิ่งที่พวกเขาดูเหมือน แน่นอนการถามคำถามไม่ใช่สิ่งที่คุณต้องการทำในสนาม แต่การรับรู้ของหุ่นยนต์มี จำกัด ในขณะนี้ เราต้องการวิธีในการเริ่มต้นกระบวนการเกี่ยวกับการเรียนรู้เกี่ยวกับบุคคล บุคคลนั้นจะเลือกเครื่องมือจากนั้นหุ่นยนต์จะเลือกเครื่องมือและเมื่อเวลาผ่านไปหุ่นยนต์จะเรียนรู้ว่าเครื่องมือชนิดใดที่แต่ละคนต้องการ

คุณคาดหวังว่าหุ่นยนต์จะเรียนรู้ว่าตราสัญลักษณ์หมายถึงเจ้าหน้าที่ตำรวจหรือเสื้อโค้ทสะท้อนแสงขนาดใหญ่หมายถึงเจ้าหน้าที่ดับเพลิงหรือไม่?

เราคาดหวังไว้ แต่ก็มีบางสิ่งที่น่าประหลาดใจเช่นกันตัวอย่างเช่นหุ่นยนต์ยอมรับอย่างผิด ๆ ว่ามีการคาดคะเนเคราด้วยนักดับเพลิงซึ่งแปลก แต่เมื่อคุณดูข้อมูลมันไม่น่าแปลกใจเลย หลายคนแรกที่โต้ตอบกับมันเป็นนักดับเพลิงที่มีเครา ดังนั้นเราจึงต้องการความหลากหลายในการรับรู้ความคิดที่ว่าถ้าหุ่นยนต์สามารถมองเห็นบุคคลที่มีขนาดใหญ่และแตกต่างกันในหมวดหมู่มันจะพัฒนาและเข้าใจหมวดหมู่ได้ดีขึ้น

คุณจะบอกว่าหุ่นยนต์อิสระควรได้รับการฝึกฝนให้รีดออกนิสัยเหล่านี้ดังนั้นหุ่นยนต์จะไม่คิดว่าถ้าคนนี้มีเคราเขาจะเป็นนักผจญเพลิงหรือไม่?

อย่างแน่นอน เป็นสิ่งสำคัญที่เราจะรีดสิ่งเหล่านี้ เป็นสิ่งสำคัญที่เราต้องมีหุ่นยนต์เหล่านี้ที่ทำงานจากชุดบุคคลที่หลากหลาย

การเรียนรู้นั้นอาจมีลักษณะอย่างไร

มันจะช่วยให้หุ่นยนต์ให้ความสำคัญกับสิ่งต่าง ๆ ที่เป็นลักษณะของนักดับเพลิง ตัวอย่างเช่นเจ้าหน้าที่ดับเพลิงอาจไม่ใส่แจ็คเก็ต หุ่นยนต์จะสังเกตเห็นด้านอื่น ๆ ของการดับเพลิงบางทีรองเท้าบูทถุงมือบางทีหมวกกันน็อก มันจะพูดว่า“ โอเคคนนี้จริงๆ คือ เจ้าหน้าที่ดับเพลิงในสภาพแวดล้อมนี้”

หากคุณมีคนมากพอมันอาจสามารถจดจำนักดับเพลิงที่ไฟกับนักผจญเพลิงในปาร์ตี้ฮัลโลวีนได้ เป็นรายละเอียดการรับรู้ที่ละเอียดอ่อนเช่นความแตกต่างระหว่างคุณภาพของประเภทเครื่องแบบหรือสภาพแวดล้อมตามบริบท

นอกจากการเชื่อมโยงเครากับนักดับเพลิงแล้วอัลกอริทึมนี้ประสบความสำเร็จแค่ไหน?

มีสองสิ่งที่เราต้องการดู: หนึ่งคุณสามารถทำอะไรกับมันได้บ้าง หากหุ่นยนต์สามารถจำนักผจญเพลิงได้นั่นช่วยได้บ้างไหม? กระดาษแสดงให้เห็นว่ามันช่วยให้คุณสามารถ จำกัด การค้นหาของคุณ แทนที่จะมองเคราสีผมมองหาสีตาหรืออะไรก็ตามที่คุณอาจมองหาคุณสามารถมุ่งเน้นไปที่คุณสมบัติที่สำคัญจริงๆ บุคคลนั้นสวมเสื้อโค้ตนักผจญเพลิงหรือไม่? ที่สามารถเพิ่มความเร็วในกระบวนการ

อีกสิ่งที่สำคัญจริง ๆ ที่เราดูคือถ้าหมวดหมู่ที่หุ่นยนต์ทำนายผิด สิ่งนั้นส่งผลกระทบต่อคุณอย่างไร คุณสามารถจินตนาการสภาพแวดล้อมการค้นหาและกู้ภัยอาจวุ่นวาย: คุณอาจทำงานในสภาพที่เต็มไปด้วยควันหุ่นยนต์อาจไม่สามารถรับรู้ทุกอย่างได้ดีอาจมีข้อผิดพลาด คุณอาจจินตนาการถึงกรณีที่แย่กว่านั้นซึ่งหุ่นยนต์คิดว่าบุคคลนั้นเป็นเหยื่อเมื่ออยู่ในสภาพจริงพวกเขาเป็นนักดับเพลิง ดังนั้นจึงพยายามช่วยนักผจญเพลิงไว้ นั่นคงจะแย่มาก เราต้องการที่จะดูว่ามันแตกสลายแตกหักคุณลักษณะใดที่ส่งผลกระทบมากที่สุดและข้อผิดพลาดประเภทต่าง ๆ

คุณสามารถใช้วิธีการนี้ในวิธีที่ต่างกัน - หากพวกเขาไม่เห็นคนเลย แต่สามารถเห็นการกระทำที่พวกเขากำลังทำอยู่ ถ้าฉันเห็นคนเลือกขวานฉันก็คาดเดาได้ว่าพวกเขามีหมวกกันน็อค

คุณเข้าใกล้หุ่นยนต์เพื่อประเมินบริบทและทำนายอย่างไร

เราพยายามที่จะดูสภาพแวดล้อมที่แตกต่างกันสองประเภท - ร้านอาหารโรงเรียนและบ้านพักคนชรา เราพยายามที่จะรวบรวมฟีเจอร์เกี่ยวกับสภาพแวดล้อมและสิ่งที่วัตถุอยู่ในสภาพแวดล้อมการกระทำของบุคคลที่เลือกและสิ่งที่ผู้คนในสภาพแวดล้อมมีลักษณะเหมือนและพยายามที่จะใช้การคาดการณ์ทางสังคมจำนวนมาก ตัวอย่างเช่นในสภาพแวดล้อมของโรงเรียนผู้คนยกมือก่อนพูด ดังนั้นหากฉันเห็นการกระทำที่ผู้คนยกมือขึ้นวัตถุประเภทใดที่ฉันคาดว่าจะเห็นในสิ่งแวดล้อม ฉันคาดหวังที่จะเห็นกระดานดำหรือไม่ ฉันคาดหวังว่าจะได้เห็นโต๊ะทำงานไหม? ฉันคาดว่าจะเห็นเด็ก ๆ

หวังว่าจะมีการใช้ข้อมูลนี้ หากหุ่นยนต์กำลังทำขั้นตอนการอพยพมันจะเห็นว่ามีคนประเภทไหนและพวกเขาอยู่ที่ไหน

สมมติว่ามีหุ่นยนต์ที่มาที่ประตูของคุณและพูดว่า "โปรดตามฉันไปที่ทางออก" บางอย่างดูเรียบง่ายเหมือนจริง ๆ แล้วซับซ้อนมาก หากหุ่นยนต์เคาะประตูในอาคารอพาร์ตเมนต์คุณไม่ทราบว่าคุณกำลังจะโต้ตอบกับใคร อาจเป็นเด็กสี่ขวบก็อาจเป็นคนอายุ 95 ปีก็ได้ เราชอบที่หุ่นยนต์จะปรับพฤติกรรมการโต้ตอบให้เหมาะกับประเภทของบุคคลที่เห็นเพื่อช่วยเหลือพวกเขา เรากำลังเรียนรู้บริบทเหล่านี้บางส่วนและพยายามพัฒนาแอปพลิเคชันนั้น

คุณใช้คำนิยาม“ stereotype” ที่คล้ายคลึงกันสำหรับหุ่นยนต์และมนุษย์หรือมีสิ่งอื่นเกิดขึ้นอีกหรือไม่?

คำที่ตายตัวมีบริบทเชิงลบ วิธีที่เราใช้เป็นเพียงการพัฒนาหมวดหมู่ของผู้คนและใช้ข้อมูลที่เป็นหมวดหมู่เพื่อทำนายลักษณะของบุคคล ฉันรู้ในด้านจิตวิทยางานจำนวนมากมุ่งเน้นไปที่แบบแผนใบหน้าและแบบแผนทางเพศ เราไม่ได้ทำอะไรแบบนั้น กระบวนการนี้เหมือนกันหรือไม่? ฉันไม่รู้ ไม่มีความเห็น.

คุณเป็นห่วงคนที่อาจมีความเข้าใจผิดเกี่ยวกับงานของคุณ?

สองสามปีก่อนเราพัฒนาความคิดเรื่องหุ่นยนต์ที่อาจหลอกลวงผู้คน ในสื่อมีความเข้าใจผิดเล็กน้อยว่าเรื่องนี้จะนำไปสู่หุ่นยนต์ขโมยกระเป๋าเงินของผู้คน

ฉันต้องการใช้สถานการณ์การอพยพฉุกเฉิน: คุณไม่ต้องการซื่อสัตย์กับบุคคลในการอพยพใช่ไหม? ตัวอย่างเช่นถ้ามีคนถามคุณว่า“ ครอบครัวของฉันถูกต้องหรือไม่” อาจเป็นเรื่องที่แย่มากถ้าหุ่นยนต์พูดว่า“ ไม่พวกเขาทั้งหมดเสียชีวิต โปรดเดินตามฉันไปที่ทางออก” มีบางสถานการณ์ที่หุ่นยนต์ไม่จำเป็นต้องเสียสละเวลาสั้น ๆ แต่ประสบการณ์ของฉันคือการที่ผู้คนรู้สึกเหมือนเรากำลังพยายามนำไปสู่จุดสิ้นสุดของโลก

เราสนใจในแง่มุมทางสังคมของเทคนิคหุ่นยนต์มนุษย์เหล่านี้อยู่เสมอ เรากำลังพยายามช่วยเหลือผู้คนไม่ใช่เรื่องเลวร้าย